Por hipótesis se que \( f \) y \( g \) no se anulan en \( B(0,R) \), entonces \( |f(z)|=|g(z)| \) es lo mismo que \( |f/g|=1 \).
Cierto. Pero ten presente que la letra dice que el módulo de \( f \) y el módulo de \( g \) coinciden en el borde del disco de radio \( R \). En el interior,
a priori, no sabes.
Ahora, defino una función \( h \) tal que \( h=f/g \) que por lo mencionado antes cumple que \( |h(z)|=1,\;\forall z \in B(0,R) \).
No. Eso es lo que terminaremos probando aplicando el principio del módulo máximo conjuntamente a \( h=f/g \) y a \( \hat{h}=g/f \). En principio, lo que puedes garantizar es que \( h(z)=1 \)
en el borde del disco de radio \( R \), es decir, en los \( z \) tales que \( |z|=R \). En el interior, como dije, no sabes si se cumple o no. Pero ahora entra en juego el principio del módulo máximo: \( h \) alcanza su máximo en la frontera del disco (donde vale 1) por tanto \( |h(z)|\leq 1,\;\forall z\in B(0,R) \). Y esto es equivalente a \( |f(z)|\leq |g(z)|,\forall z\in B(0,R) \).
Ahora aplica el mismo argumento con \( \hat{h}=g/f \) para concluir que \( |g(z)|\leq |f(z)|,\forall z\in B(0,R) \).
En definitiva, tienes que \( |f(z)| = |g(z)|,\forall z\in \overline{B(0,R)} \) (ahora sí sabes que se cumple la igualdad no sólo en el borde). A partir de esto, intenta concluir el ejercicio.
Saludos.