Vamos con el 5. Primero como tipo I, si lo entendí bien en el orden dydx:
\( I = \displaystyle\int_{0}^{\frac{3}{2}} \displaystyle\int_{0}^{x}(x^2 + y^2) dydx + \displaystyle\int_{\frac{3}{2}}^{3}\displaystyle\int_{0}^{3-x}(x^2+y^2)dydx \)
\( \; = \displaystyle\int_{0}^{\frac{3}{2}}\left ( x^3+ \frac{x^3}{3}\right )dx + \displaystyle\int_{\frac{3}{2}}^{3}\left (x^2(3-x)+\displaystyle\frac{(3-x)^3}{3}\right )dx \)
\( \; = \displaystyle\frac{1}{3}\left ( \displaystyle\int_{0}^{\frac{3}{2}} 4x^3 dx + \displaystyle\int_{\frac{3}{2}}^{3}\left(-4x^3+18x^2-27x+27\right) dx \right) \)
\( \; = \displaystyle\frac{1}{3}\left ( \left |{x^4}\right |_0^\frac{3}{2} +\left |{-x^4 +6x^3 -\frac{27x^2}{2}+27x}\right |_{^\frac{3}{2}}^3 \right) \)
\( \; = \displaystyle\frac{1}{3}\left ( \displaystyle\frac{81}{16} + \left(-81 + 162 -\displaystyle\frac{243}{2} + 81 \right) - \left(-\displaystyle\frac{81}{16}+ \displaystyle\frac{81}{4}-\displaystyle\frac{243}{8}+\displaystyle\frac{81}{2} \right) \right) \)
\( \; = \displaystyle\frac{1}{3}\left (\displaystyle\frac{81}{16}+\displaystyle\frac{81}{2}-\displaystyle\frac{405}{16}\right) = \displaystyle\frac{27}{4} \)
Ahora en orden inverso:
\( I = \displaystyle\int_{0}^{\frac{3}{2}}\displaystyle\int_{y}^{3-y}\left(x^2 + y^2 \right) dxdy = \displaystyle\int_{0}^{\frac{3}{2}}\left( \left |{\displaystyle\frac{x^3}{3} + y^2 x} \right |_{y}^{3-y} \right ) dy \)
\( \; = -\displaystyle\frac{1}{3}\displaystyle\int_{0}^{\frac{3}{2}}\left( 8y^3 -18y^2+27y-27\right)dy = \displaystyle\frac{27}{4} \)
Gracias por tomarte el tiempo de ayudarme esto es algo tedioso. Pero me di cuenta de una cosa, tus límites de integración no son los correctos. Cuando iguale funciones, la intersección fue de (1,30; 1,70). No es 3/2 en "x". La intersección no está en el medio. Y vi la primera integral doble en tipo I y pusiste de límite superior "x"... cuando es \( x^2 \)... ya que es una parábola y una recta la que se intersectan.
Los límites eran los correctos si la primera línea que limita el recinto era \( y = x \). Si es \( y = x^2 \), el punto de intersección es realmente \( \left( \frac{\sqrt[ ]{13}-1}{2}, \frac{7 - \sqrt[ ]{13}}{2}\right) = (a, b) \).
Para el primer procedimiento queda así:
\( I = \displaystyle\int_{0}^{a} \displaystyle\int_{0}^{x^2}(x^2 + y^2) dydx + \displaystyle\int_{a}^{3}\displaystyle\int_{0}^{3-x}(x^2+y^2)dydx \)
En la segunda integral solo cambia el límite de integración de la x, lo que solo hace más tedioso el cálculo, pero sin cambiar nada sustancial. Su valor es \( \frac{587-148\sqrt[ ]{13}}{12}\approx{5.950513967} \).
En cuanto a la primera,
\( \displaystyle\int_{0}^{a} \displaystyle\int_{0}^{x^2}(x^2 + y^2) dydx = \displaystyle\int_{0}^{a} (x^4 + \frac{x^6}{3}) dx \)
Aquí ya he integrado con respecto a \( y \), por eso ya no aparece \( dy \). Y la evaluación es inmediata al ser \( 0 \) el límite inferior, y valer \( 0 \) la primitiva \( x^2y + \frac{y^3}{3} \) para \( y = 0 \).
Integrando ahora respecto de \( x \):
\( \; = \left |{\frac{x^5}{5} + \frac{x^7}{21}}\right |_0^a = \frac{a^5}{5} + \frac{a^7}{21} = \frac{442\sqrt[ ]{13}-1483}{105}\approx{1.053844416} \)
Eso da un total de \( \frac{4871 - 1079\sqrt[ ]{13}}{140}\approx{7.004358384} \)
En orden inverso sería
\( I = \displaystyle\int_{0}^{b}\displaystyle\int_{\sqrt[ ]{y}}^{3-y}\left(x^2 + y^2 \right) dxdy = \displaystyle\int_{0}^{b}\left( \left |{\displaystyle\frac{x^3}{3} + y^2 x} \right |_{\sqrt[ ]{y}}^{3-y} \right ) dy \)
\( \; = -\displaystyle\frac{1}{3}\displaystyle\int_{0}^{b}\left( 4y^3 +3y^{\frac{5}{2}}-18y^2+y^{\frac{3}{2}} +27y-27\right)dy \)
\( \; = -\displaystyle\frac{1}{3} \left |{\frac{ 70y^4 +60y^{\frac{7}{2}}-420y^3+28y^{\frac{5}{2}} +945y^2-1890y}{70}}\right |_0^b \)
\( \; = -\displaystyle\frac{1}{210} \left |{ 70b^4 +60b^{\frac{7}{2}}-420b^3+28b^{\frac{5}{2}} +945b^2-1890b}\right |_0^b \)
donde sustituyendo \( b = \frac{7 - \sqrt[ ]{13}}{2} \) da el mismo resultado que antes, \( \frac{4871 - 1079\sqrt[ ]{13}}{140}\approx{7.004358384} \).