La desigualdad que propones al principio no te ayuda para hallar el límite porque fijate que en el último valor absoluto que te queda, \( |5x-8| \), cuando \( x \) "esté cerca" de \( 2 \), el valor absoluto estará cerca de \( 2 \), luego si tomas un \( \varepsilon \) muy pequeño, tu valor absoluto estará por encima de dicho \( \varepsilon \).
Una forma de hacerlo es la siguiente:
Fijado un \( \varepsilon>0 \) buscamos un \( \delta>0 \) tal que si \( \left\|{(x,y)-(2,4)}\right\| < \delta \) entonces \( \left |{(xy-1)-7}\right | < \varepsilon \).
Por tanto, vamos a intentar acotar los valores de \( x \) e \( y \) para un cierto \( \delta>0 \) y veamos si esto nos ayuda.
Consideremos pues un \( \delta>0 \) y los puntos \( (x,y) \) tales que \( \left |{x-2}\right |<\delta \) e \( \left |{y-4}\right |<\delta \), es decir tales que
\( 2-\delta < x < 2+\delta \)
\( 4-\delta < y < 4+\delta \)
Como queremos multiplicar \( x \) e \( y \) en las desigualdades anteriores, imponemos además que sea \( \delta <2 \) para que todos los términos de la desigualdad sean positivos. Multiplicando entonces las desigualdades tenemos que:
\( 8-6\delta -\delta^2<8-6\delta+\delta^2 < xy < 8+6\delta + \delta^2 \)
Luego que
\( -\delta(6+\delta) < xy -8 < \delta(6+\delta) \)
es decir, que
\( \left |{xy-8}\right |<\delta(6+\delta) \)
Como hemos impuesto que \( 0<\delta<2 \), de lo anterior obtenemos que
\( \left |{xy-8}\right |<\delta(6+\delta) < 8\delta \)
Es decir, hemos probado que si \( 0<\delta<2 \) y \( \left |{x-2}\right |<\delta \), \( \left |{y-4}\right |<\delta \), entonces \( \left |{xy-8}\right |<8\delta \).
Ahora, observa que si tomamos un \( 0 < \delta <2 \) tal que \( 8\delta < \varepsilon \), entonces por lo anterior tenemos que
\( \left |{xy-8}\right | < 8\delta < \varepsilon \)
como queríamos obtener. Pero esto es ya muy fácil, porque
\( 8\delta < \varepsilon \Longleftrightarrow{} \delta < \dfrac{1}{8} \varepsilon \).
En resumen, si tomamos \( 0 < \delta < \min\{2, \varepsilon/8\} \), para cualquier punto \( (x,y) \) que cumpla que \( \left |{x-2}\right |<\delta \) e \( \left |{y-4}\right |<\delta \), se cumple que \( \left |{(xy-1)-7}\right | < \varepsilon \).
Ahora solo queda un detalle y es que, en la definición que tendrás de límite se nos pide que \( \left\|{(x,y) - (2,4)}\right\| \) sea menor que \( \delta \) y no que cada variable lo sea por separado, pero esto no supone ningún problema como ahora veremos.
Observa que en general
\( \max\{|x|, |y|\} \leq \sqrt{x^2 + y^2} = \left\|{(x,y)}\right\| \)
Por tanto, en nuestro caso
\( \max\{|x-2|, |y-2|\} \leq \left\|{(x-2,y-4)}\right\| = \left\|{(x,y) - (2,4)}\right\| \)
Así, podemos ya terminar el ejercicio.
Dado \( \varepsilon > 0 \) si tomamos \( 0<\delta < \min\{2,\varepsilon/8\} \) se cumple que si \( \left\|{(x,y) - (2,4)}\right\| < \delta \), entonces \( \left |{x-2}\right | < \delta \) e \( \left |{y-4}\right | < \delta \), con lo que por lo que ya hemos visto \( \left |{(xy-1)-7}\right |<\varepsilon \).