Hola
Lamento mi falta de rigurosidad, soy estudiante de ingeniería y estaba ultimando detalles para un examen.
Somos dos

.
Yo lo que he intentado ha sido calcular la integral de superficie:
\( \displaystyle\int_{}^{}\displaystyle\int_{}^{} n*rot(F) dS \) siendo n un vector normal a la superficie apuntando hacia el exterior (escogí el vector \( (-2,-4,1) \), y procediendo al cálculo de la integral de superficie con la proyección en XY de esa intersección (\( (x+1)^2 + (y+2)^2 =\color{red} 8^2 \)).
¡Está muy bien salvo el radio de la circunferencia (marcada en
rojo)! Debería ser \( 4^2 \). Quizás por eso no salía bien

.
En primer lugar encontremos la curva:
\( C\equiv\begin{cases}z=11-x^2-y^2\\z=2x+4y\end{cases}\equiv\begin{cases}2x+4y=11-x^2-y^2\\z=2x+4y\end{cases}\equiv\begin{cases}(x+1)^2+(y+2)^2=\color{red}16\\z=2x+4y\text,\end{cases}\quad\vec N=(-2,-4,1)\text. \)
El rotor del campo es
\( \operatorname{rot}{(\vec F)}=\begin{vmatrix}\check i&\check j&\check k\\\partial/\partial x&\partial/\partial y&\partial/\partial z\\0&0&x^2\end{vmatrix}=(0,-2x,0)\text. \)
Ahora bien, aplicando el teorema del rotor tenemos
\( \displaystyle\iint\limits_S{\left.\nabla\times\vec F\right|_S\;\text d\vec\sigma}=\displaystyle\iint\limits_{P_{xy}}{(0,-2x,0)\cdot(-2,-4,1)\;\text dx\text dy}=8\displaystyle\iint\limits_{P_{xy}}{x\;\text dx\text dy}\underbrace=_{\text{Usando}\\\text{Polares}}8\displaystyle\int_0^{2\pi}{\text d\theta}\displaystyle\int_0^4{(\rho\cos\theta-1)\cdot\rho\;\text d\rho}\text, \)
y esta última integral,
según WolframAlpha, es \( \boxed{-128\pi} \), cuatro veces más que tu resultado. ¡Por muy poquito!

.
Saludos
P.D.: diría que esta pregunta se adecúa mejor si está en el subforo
Cálculo varias variables.