Que cambio de variable realizas? Siento que no veo lo de inmediata 
Fijate que la integral respecto de \( x \) es inmediata: \( \displaystyle\int_{0}^{y}x\displaystyle\sqrt{x^2+y^2}dx = \left. \frac{1}{3}\left(x^2+y^2\right)^{\frac{3}{2}}\right|_0^y = \frac{1}{3}( 2^{\frac{3}{2}}-1)y^3 \)
\( u = x^2\;\;\longrightarrow\;\;du = 2x\,dx \)
\( \displaystyle\int \displaystyle\sqrt{x^2+y^2}\; x\,dx = \frac{1}{2}\displaystyle\int \displaystyle\sqrt{u+y^2}\,du = \frac{1}{3}(u+y^2 )^{\frac{3}{2}} \)
\( \therefore\quad\frac{1}{3}(x^2+y^2 )^{\frac{3}{2}} \)
Lo de "inmediata" pasa por ver que tenés una expresión del tipo \( g'(t)F(g(t)) \) teniendo \( F(u) \) una integral inmediata
