El integrando me parece que tiene una singularidad esencial en el cero, es decir, la serie de Laurent alrededor del cero tiene infinitos términos de potencia negativa, o al menos eso parece al escribir el integrando como serie de potencias utilizando la definición del seno. De momento no tengo idea de cómo resolverla pero imagino que debe haber un cambio de variable o un camino.
Habría que comprobar si es posible escribir la integral como una suma de integrales, escribiendo el integrando como una serie de potencias. Con comprobar me refiero a utilizar un teorema que permita el cambio de orden de integral y sumatoria.
Los temas de integración compleja los tengo algo olvidados, no me saques de cosas elementales como el teorema de residuos o cosas así.
EDICIÓN: efectivamente se puede resolver de esa manera, ya que el integrando expresado como serie, al ser una función holomorfa en \( \Bbb C\setminus\{0\} \), converge uniformemente en cualquier subconjunto compacto de su dominio. Entonces podemos hacer lo siguiente
\( \displaystyle \oint z^2\sin(1/z)\, dz=\oint \sum_{k=0}^\infty\frac{(-1)^kz^{2-2k-1}}{(2k+1)!}\,dz=\sum_{k=0}^\infty\oint\frac{(-1)^kz^{1-2k}}{(2k+1)!}\,dz \)
Ahora sólo queda hacer las integrales de la derecha y sumar.
AÑADIDO: también se puede hacer el cambio de variable propuesto por vicentebarba, ya que el camino que queda es el mismo cambiado de dirección, ya que \( 1/z=\bar z/|z|^2=\bar z \) ya que si \( z\in\partial\Bbb D \) entonces \( |z|=1 \).
CORRECCIÓN: tenía algún error en la expresión de la serie del seno, que ya he corregido
