Lagrange dice que los puntos críticos en este caso cumplen
\( \nabla f=\lambda \nabla g \)
Es decir, los gradientes evaluados en esos puntos son paralelos.
\( f(x,y)=x^2-y^2 \Rightarrow \nabla f=(2x,-2y) \)
\( g(x,y)=x-2y+6 \Rightarrow \nabla g=(1,-2) \)
Entonces:
\( (2x,-2y)=\lambda(1,-2) \)
\( 2x=\lambda \)
\( -2y=-2\lambda=-2(2x)=-4x \Rightarrow y=2x \)
Estos puntos cumplen la condición de Lagrange, ...resta ver cuales cumplen la ligadura:
\( x-2y+6=0=x-4x+6=0 \Rightarrow x=2 \Rightarrow y=4 \)
El punto buscado es (2,4)
Saludos.