Hola
Dejo una forma algo fea de resolver, para comparar la respuesta dada.
La idea es trasladar la elipse para que su centro coincida con el origen del plano y luego rotar los puntos para que la elipse esté en posición normal. Luego al encontrar la elipse en posición normal revertir la rotación y el traslado de puntos.
Tenemos los puntos \( O'(3,-2),\quad F_1'(-1,1),\quad P'(8,-2) \)
Al trasladar los puntos nos resulta
\( O(0,0),\quad F_1''(-4,3),\quad P''(5,0) \)
Dado \( {\color{red}F''_1} \) utilizamos la matriz \( \begin{pmatrix}{\frac{4}{5}}&{-\frac{3}{5}}\\{\frac{3}{5}}&{\frac{4}{5}}\end{pmatrix} \) para rotar los puntos resultando
\( O(0,0),\quad F_1(-5,0),\quad P(4,3) \)
Calculamos la suma de distancias desde cada foco hasta el punto P, esto da como resultado \( 4\sqrt{10} \)
por lo que \( a=2\sqrt{10} \) y \( b=\sqrt{a^2-5^2}=\sqrt{15} \)
Por lo que la elipse queda
\[ \dfrac{x^2}{40}+\dfrac{y^2}{15}=1 \]
Invirtiendo la rotación realizada nos queda la elipse rotada
\[ 24x^2+24xy+31y^2-600=0 \]
Y reubicando la elipse (haciendo x'=x-3, y'=y+2) para ponerla en su posición original nos resulta
\[ \bf 24x'^2+24x'y'+31y'^2-96x'+52y'-404=0 \]
Saludos
