Hola
Observa que para cualquier punto \( x_0\in R \) existe una sucesión de puntos irracionales \( \{x_n\} \) tales que \( x_n\to x_0 \). Si la función es continua en \( x_0 \) tiene que cumplirse que:
\( f(x_0)=\displaystyle\lim_{n \to{+}\infty}{}f(x_n)=\displaystyle\lim_{n \to{+}\infty}{}0=0 \)
Por tanto en los racionales NO es continua.
Veamos que es continua en \( x_0 \) irracional. Dado \( \epsilon>0 \) existe un \( n \) tal que \( \dfrac{1}{n}<\epsilon \).
Ahora sea:
\( A_n=\{p/q\in (x_0-1,x_0+1)\textsf{ fracci\'on irreducible}|q\leq n\} \)
comprueba que \( A_n \) es finito y deduce que tomando \( \delta=min\{|x-x_0|,x\in A_n\}/2\neq 0 \) se tiene que:
\( |x-x_0|<\delta \quad \Rightarrow{}\quad |f(x)-f(x_0)|<\epsilon \)
Saludos.
P.D. Este problema ha salido más de una vez en el foro; aunque ahora no lo encuentro.