Hola
Es conveniente muestres que has hecho por resolver el problema.
1)
\( f(x)=0, \ si \ x\in{R-Q} \)
\( f(x)=x \ si \ x\in{Q} \)
Considera la función
\( h(x)=x, \ si \ x\in{R} \) esta es una función continua y se tiene \( \displaystyle\lim_{x \to{}0}{h(x)}=0 \), la definición de límite implica :
\( \forall{\epsilon>0}, \ \exists{\delta}>0, \ / \ si \ 0<\left |{x}\right |<\delta\Rightarrow{\left |{h(x)}\right |<\epsilon} \)
Esto es válido particularmente para los racionales, es decir para los \( x\in{Q} \) entonces considerando que en esos puntos \( h(x)=f(x) \) se puede afirmar :
\( \forall{\epsilon>0}, \ \exists{\delta}>0, \ / \ si\ x\in{Q} \wedge 0<\left |{x}\right |<\delta\Rightarrow{\left |{f(x)}\right |<\epsilon} \)[/tex]
Pero para los puntos irracionales \( x\in{R-Q}\wedge 0<\left |{x}\right |<\delta \) se tiene que \( f(x)=0\Rightarrow{\left |{f(x)}\right |<\epsilon} \)
Por lo tanto se puede afirmar :
\( \forall{\epsilon>0}, \ \exists{\delta}>0, \ / \ si \ 0<\left |{x}\right |<\delta\Rightarrow{\left |{f(x)}\right |<\epsilon} \) y esto significa por definición \( \displaystyle\lim_{x \to{}0}{f(x)}=0 \)
2) Considera la función \( h(x)=0 \ x\in{R} \) es continua y se tiene \( \displaystyle\lim_{x \to{}0}{h(x)}=0 \)
La definición de límite implica :
\( \forall{\epsilon>0}, \ \exists{\delta}>0, \ / \ si \ 0<\left |{x}\right |<\delta\Rightarrow{\left |{h(x)}\right |<\epsilon} \)
Observa que si \( 0<\left |{x}\right |<\delta\Rightarrow{h(x)=g(x)=0} \) entonces se puede poner :
\( \forall{\epsilon>0}, \ \exists{\delta}>0, \ / \ si \ 0<\left |{x}\right |<\delta\Rightarrow{\left |{g(x)}\right |<\epsilon} \)
Por definición de límite ....
3) Hay que obtener la compuesta denominándola \( h(x)=g(f(x)) \)
Si \( x\in{Q}, \ h(x)=g(f(x))=g(x)=\begin{cases}{0}&\text{si}& x\neq 0\\ 1 & \text{si}& x=0\end{cases} \)
Si \( x\in{R-Q}, \ h(x)=g(f(x))=g(0)=1 \)
Observa que en todo entorno de 0 (sin considerar el cero) hay números racionales e irracionales y la compuesta los haría corresponder con 0 y 1 respectivamente.
En este punto en caso exista un límite L se tiene que todas las posibilidades llevan a un absurdo :
\( L<0 \) considera \( 0<\epsilon<\left |{L}\right | \) lleva a un absurdo
\( L=0 \) considera \( 0<\epsilon<\left |{1}\right | \) lleva a un absurdo
\( 0<L<1 \) a ver que \( \epsilon \) tomas
\( L=1 \) semejante al segundo caso
\( L>1 \) que \( \epsilon \) tomas
Todas llevan a un absurdo entonces ....
Saludos