A ver si puedo con la primera...
Sea (X,Y) variable aleatoria bidimensional continua con funcion de densidad conjunta \( f(x,y) \)
Por la definición de función de distribución
\( F_{XY}(a,b)=\displaystyle\int_{-\infty}^{a}\displaystyle\int_{-\infty}^{b}f(x,y)dydx \)
Tomando límites cuando b tiende a infinito, tenemos
\( \displaystyle\lim_{b \to{+}\infty}F_{XY}(a,b)=\displaystyle\lim_{b \to{+}\infty}\displaystyle\int_{-\infty}^{a}\displaystyle\int_{-\infty}^{b}f(x,y)dydx=\displaystyle\int_{-\infty}^{a}\displaystyle\int_{-\infty}^{\infty}f(x,y)dydx \)
Ahora si tenemos en cuenta la definición de la densidad marginal de X,
\( f_{1}(x)=\displaystyle\int_{-\infty}^{\infty}f(x,y)dy \)
tenemos que
\( \displaystyle\lim_{b \to{+}\infty}F_{XY}(a,b)=\displaystyle\int_{-\infty}^{a}f_{1}(x)dx=F_{X}(a) \)
Salio!!!

.
La solución que da el libro es incompleta (puesto que la función solución no cumple que \( \displaystyle\lim_{a \to{-}\infty}{F_{X}(a)=0 \)), debería de decir:
\( F_X(a)= \displaystyle\lim_{b \to{+}\infty}{F_{XY}(a,b)}=\begin{Bmatrix}0 & \mbox{ si }& a<0\\ a^2 & \mbox{ si }& 0\leq{a}\leq{1}\\1 & \mbox{si}& a>1\end{matrix} \)
Saludos.