¿Qué es lo que no entiendes exactamente? ¿Tienes bien claro qué es la matriz de transición? Una vez tienes claro eso, el ejercicio debería resultar sencillo.
Recuerda que la matriz de transición es una matriz \[ P \] tal que \[ P_{ij} \] (el número en la fila \[ i \] y la columna \[ j \]) es la probabilidad de que, estando en el estado i, en el siguiente instante de tiempo (en tu caso, al siguiente minuto) esté en el estado \[ j \].
Una observación útil de cara a comprobar que lo has hecho bien es que las filas de la matriz siempre deben sumar \[ 1 \]. Esto es porque si estás en un estado \[ i \], en el siguiente instante de tiempo necesariamente estarás en algún estado.
Con esto claro, vamos a tu ejercicio. Aquí los estados corresponden a la habitación en la que esté el ratón. Si el ratón está en la habitación \[ 1 \], se quedará ahí para siempre. Por tanto, \[ P_{11}=1 \] y \[ P_{1j}=0 \] para \[ j=2,3,4,5 \]. Con esto tenemos la primera fila de la matriz.
Vamos a la segunda fila. En este caso, empezamos en la habitación \[ 2 \]. De ahí se puede llegar a las habitaciones \[ 1,4,5 \], y el enunciado dice que con igual probabilidad. Luego, \[ P_{21}=P_{24}=P_{25}=1/3 \] y \[ P_{22}=P_{23}=0 \]. Con esto ya tienes la segunda fila.
Intenta tú las filas que quedan y poner la matriz entera. Si tienes alguna dificultad pregunta de nuevo.