Ok, gracias. ¿Y cómo describo cómo transforma los puntos del disco unitario?
No es la solución más elegante, pero por lo menos resuelve el problema en forma rápida y casi mecánica: escribir \( z=re^{i\theta} \) con \( 0\leq r\leq 1 \) y probar que \( |M(z)|\leq 1 \).
Haciendo cuentas resulta que
\( \displaystyle M(z)=\left(-\frac{5r\cos\theta-2(r^2+1)}{4r\cos\theta-r^2-4}\right)+i\left(-\frac{3r\sen\theta}{4r\cos\theta-r^2-4}\right) \)
Luego,
\( \begin{align*}
|M(z)|^2&=\left(-\frac{5r\cos\theta-2(r^2+1)}{4r\cos\theta-r^2-4}\right)^2+\left(-\frac{3r\sen\theta}{4r\cos\theta-r^2-4}\right)^2\\
&=\frac{4r\cos\theta-4r^2-1}{4r\cos\theta-r^2-4}
\end{align*} \)
Observa que si sustituyes \( r=1 \), lo anterior da 1 (lo que prueba que \( M \) manda la circunferencia unitaria en la circunferencia unitaria). A su vez \( |M(z)|^2\leq 1 \) si y sólo si
\( \displaystyle \frac{4r\cos\theta-4r^2-1}{4r\cos\theta-r^2-4}-1\leq 0\quad \Leftrightarrow\quad \frac{r^2-1}{4r\cos\theta-r^2-4}\geq 0 \)
y esto pasa si y sólo si
\( r^2-1\leq 0 \)
pues el denominador es negativo.