Hola
No hay manera de escribirlo bien con LATEX, y eso que ya había hecho matrices de 5x5 y más con LATEX. He utilizado también matriz mxn pero también me sale el mismo error...
Tenemos un problema con el LaTeX que estamos intentando solucionar. De momento te he colocado las matrices como imágenes adjuntas generadas de manera externa al foro.
En cuanto a tu problema:
1) No indicas exactamente que pide el enunciado. Uno intuye que se refiere a escalonar la matriz por filas.
2) Ten en cuenta que
no hay una única forma de escalonar por filas es decir esa solución no es única.
3) Con las operaciones que tu indicas de momento sólo haces ceros en la primera columna. La tercera fila de momento quedaría:
0 2 m-1 m-1 2-2mSaludos.