Hola
Observa el dibujo.

En el triángulo rectángulo \( AMB \) tienes:
\( AM^2=m^2-n^2 \)
Pero entonces:
\( AD=AM=\sqrt{m^2-n^2} \)
y en el triángulo rectángulo \( BDE \):
\( 5^2+(m+AD)^2=(5+n)^2 \)
Usando además que \( m+n=12 \) puedes conculir.
Me sale:
\( m=\dfrac{51}{8},\qquad n=\dfrac{45}{8} \)
Revisa.
Saludos.