Hola
Es tarde espera a una revisión.
Editado
No creo que está bien lo pongo en spoiler.
Spoiler
Si existiera tal \( f \) como \( f \) es biyectiva tenemos que \( f^{-1}(]0,1[) = S^1 \) pero \( S^1 \) es cerrado y \( f^{-1}(]0,1[) \) es abierto, por ser \( f \) continua.
No, no está bien. Ser cerrado no es lo contrario de ser abierto. \( f^{-1}[(0,1)]=S^1 \) es abierto en \( S^1 \).
Una idea. Si existe un homemorfismo \( f:S^1\to (0,1) \) lo componemos con la aplicación continua y biyectiva \( g:[0,1)\to S^1 \), \( g(t)=(cos(t),sin(t) \) de manera que \( h=f\circ g:[0,1)\to (0,1) \) sería una función biyectiva y continua.
Veamos que es estrictamente monótona (creciente o decreciente): en caso contrario existen \( x<y<z\in [0,1) \) tales que \( h(x),h(z)<h(y) \) (o \( h(x),h(z)>h(y) \) y sería análogo).
Pero entonces en \( (x,y) \) la función toma todos los valores en \( (h(x),h(y)) \) y en \( (y,z) \) todos los valores en \( (h(z),h(y) \). Pero entonces los valores en \( (max(h(x),h(z)),h(y)) \) se tomarían dos veces, contradiciendo la biyectividad.
Ahora una vez que sabemos que es monótona casi hemos terminado. Sea \( c=h(0)\in (0,1) \):
Si es creciente \( h[0,1)\subset (c,1) \) ó si es decreciente \( h[0,1)\subset (0,c) \); en cualquier caso no podría ser sobreyectiva.
Saludos.