Hola:
Estimado foro, un problema que se ubica en los temas de puntos estacionarios, matriz Hessiana y máximos y mínimos, lo voy a enunciar y presentaré avances; espero sus aportes o soluciones. Cuando vean mi solución completa, se darán cuenta de la verdadera interrogante y la formularé.
Enunciado
Considerando la sección cónica \( Ax^2+2Bxy+Cy^2=1 \), con A>0 y \( B^2<AC \) determinar los puntos que están a la mínima y máxima distancia del origen y hallar estas distancias también, en términos de A,B,C.
SOLUCIÓN
Spoiler
Existe el campo escalar cuadrado de la distancia al origen :
\( f:R^2\rightarrow{R} \)
\( (x,y)\rightarrow{f(x,y)=x^2+y^2} \)
Existe el campo escalar :
\( g: R^2\rightarrow{R} \)
\( (x,y)\rightarrow{g(x,y)=Ax^2+2Bxy+Cy^2} \)
De tal manera que lo se busca son el máximo y mínimo del conjunto de nivel \( L_g(1) \) y los puntos donde se presentan.
La línea que sigo en este punto es particular, por eso estoy atento a sus ideas y desarrollos, considerando la temática revelada.
Existe siempre una transformación lineal simétrica \( T:R^2\rightarrow{R^2} \) tal que su forma cuadrática \( Q_T(x,y)=Ax^2+2Bxy+Cy^2=<T(x,y),(x,y)> \) Ec 1
Se puede determinar \( m_E(T)=\begin{pmatrix}{a_{11}}&{a_{12}}\\{a_{12}}&{a_{22}}\end{pmatrix} \) donde E es la base ortonormal canónica. Para ello se considera la Ec 1
\( Ax^2+2Bxy+Cy^2=(x,y) \ \begin{pmatrix}{a_{11}}&{a_{12}}\\{a_{12}}&{a_{22}}\end{pmatrix} \ \begin{pmatrix}{x}\\{y}\end{pmatrix}\Leftrightarrow{a_{11}=A, \ a_{22}=C, \ a_{12}=B} \)
Por ser T una transformación lineal simétrica, existe una base ortonormal de autovectores de T denominando \( U=\left\{{u_1, u_2}\right\} \) a esa base, sus autovalores correspondientes son \( \lambda_1, \lambda_2 \in{R} \)
\( g(x,y)=Q_T(x,y)=Q_T(x',y')=(x',y') \ \begin{pmatrix}{\lambda_1}&{0}\\{0}&{\lambda_2}\end{pmatrix} \ \begin{pmatrix}{x'}\\{y'}\end{pmatrix}=\lambda_1 \ x'^2+\lambda_2 \ y'^2 \)
Evidentemente cuando (x,y) y (x',y') representan las coordenadas del mismo punto en la base E y U respectivamente.
El problema se reduce a encontrar la mínima y máxima distancia del conjunto de nivel \( L_g(1)=\left\{{\lambda_1x'^2+\lambda_2y'^2=1}\right\} \) y los puntos en los que se presenta.
Es conveniente notar que en las nuevas coordenadas se tiene que \( f(x',y')=x'^2+y'^2 \)
Determinación de los autovalores
Los autovalores son los reales que cumplen :
\( det \ \begin{pmatrix}{\lambda-A}&{-B}\\{-B}&{\lambda-C}\end{pmatrix}=0 \)
\( \lambda=\displaystyle\frac{(A+C)\pm{\sqrt[ ]{(A+C)^2-4(AC-B^2)}}}{2} \)
Considerando \( \lambda_1 \) la raíz positiva se tiene \( \lambda_1>\lambda_2>0 \) esto se puede demostrar. En estas circunstancias estamos ante una elipse centrada en el origen y se sabe que la mayor distancia M es el semieje mayor y la menor m el semieje menor. Luego :
\( m=\displaystyle\frac{1}{\sqrt[ ]{\lambda_1}}, \ M=\displaystyle\frac{1}{\sqrt[ ]{\lambda_2}} \)
Los puntos correspondientes al mínimo son \( (\displaystyle\frac{1}{\sqrt[ ]{\lambda_1}},0) \wedge (-\displaystyle\frac{1}{\sqrt[ ]{\lambda_1}},0) \)
Y al máximo \( (0,\displaystyle\frac{1}{\sqrt[ ]{\lambda_2}}) \wedge (0,-\displaystyle\frac{1}{\sqrt[ ]{\lambda_2}}) \)
Ya después se determina las coordenadas respecto a E, lo haré mañana y haré una interrogante complementaria.
Gracias de antemano, espero sus soluciones, comentarios y observaciones.
...
Si algo de lo que sigue está errado... ya me corregirá
Luis Fuentes 
Parece claro, en efecto, que el lugar geométrico de los puntos del plano que verifican la ecuación \( Ax^2+2Bxy+Cy^2=1 \) es una elipse, ya que, como no hay términos lineales, mediante un giro de ejes coordenados, la ecuación se transforma en la
ecuación reducida \( \lambda_1(x')^2+\lambda_2(y')^2=1 \), donde \( \lambda_1,\lambda_2 \) son los valores propios de la matriz \( \left(\begin{array}{cc}A&B\\B&C\end{array}\right) \), es decir, \( \lambda_1=\dfrac{A+C+\sqrt{(A+C)^2-4(AC-B^2)}}{2},\lambda_2=\dfrac{A+C-\sqrt{(A+C)^2-4(AC-B^2)}}{2} \) .
Así, como es \( \lambda_1>\lambda_2>0 \) se tendría que los puntos donde la distancia al origen es mínima serían \( \left(\sqrt{\frac{1}{\lambda_1}},0\right),\left(-\sqrt{\frac{1}{\lambda_1}},0\right) \) y los puntos donde la distancia al origen es máxima serían \( \left(0,\sqrt{\frac{1}{\lambda_2}}\right),\left(0,-\sqrt{\frac{1}{\lambda_2}}\right) \), cuyas coordenadas habría que transformar, deshaciendo el giro realizado, para hallar las coordenadas de dichos puntos en la base canónica inicial.
Spoiler
Ahora bien, para ello, habría que hallar una base de vectores propios \( v_1=(a,b),v_2=(c,d) \) asociados a \( \lambda_1,\lambda_2 \), de forma que el cambio de coordenadas quedaría así \( \left(\begin{array}{c}x\\y\end{array}\right)=\left(\begin{array}{cc}a&c\\b&d\end{array}\right)\left(\begin{array}{c}x'\\y'\end{array}\right) \), es decir, \( x=ax'+cy', y=bx'+dy' \).
Puede verse, si no me equivoco, que pueden tomarse \( v_1=(a,b)=(B,\lambda_1-A),v_2=(c,d)=(B,\lambda_2-A) \), de donde las coordenadas de los puntos pedidos serían:
Puntos donde la distancia al origen es mínima:
\( \left(a\sqrt{\frac{1}{\lambda_1}},b\sqrt{\frac{1}{\lambda_1}}\right),\left(-a\sqrt{\frac{1}{\lambda_1}},-b\sqrt{\frac{1}{\lambda_1}}\right) \).
Puntos donde la distancia al origen es máxima:
\( \left(c\sqrt{\frac{1}{\lambda_2}},d\sqrt{\frac{1}{\lambda_2}}\right),\left(-c\sqrt{\frac{1}{\lambda_2}},-d\sqrt{\frac{1}{\lambda_2}}\right) \).
Saludos