Hola
Las sucesión \( y_n \) debe estar en el compacto \( [a,b] \) por que nos los dicen. Es una de las hipótesis del enunciado. "Sea \( f:[a,b]\rightarrow{\mathbb{R}} \) continua..."
No, no nos lo dicen en el enunciado porque en el enunciado no hablan de ninguna sucesión. El enunciado es este:
Sea \( f:[a,b]\longrightarrow{\mathbb{R}} \) continua. Supongamos que para cada \( x\in{[a,b]} \) hay algún \( \boxed{y\in{[a,b]}} \) tal que
\( \Big|f(y)\Big|\leq{\displaystyle\frac{2}{10}\Big|f(x)\Big|} \). Prueba que \( f \) se anula en algún punto de \( [a,b] \).
Entonces la sucesión \( \{y_n\} \) la construimos nosotros. En su construcción se usa lo que ha marcado en azul del enunciado; en particular y al respecto de tu duda lo que he metido en un cuadrado. Cada \( y_n\in [a,b] \) se construye a partir del \( y_{n-1}\in [a,b] \) anterior por la condición en azul del enunciado. De manera precisa se construye como tu mismo describiste aquí:
Fijamos un \( x_0\in{[a,b]} \) y lo llamamos \( y_1 \).
Para \( y_1\in{[a,b]} \) existe \( y_2\in{[a,b]} \) tal que \( \big|f(y_2)\big|\leq{\dfrac{2}{10}\big|f(y_1)\big|} \).
Para \( y_2\in{[a,b]} \) existe \( y_3\in{[a,b]} \) tal que \( \big|f(y_3)\big|\leq{\dfrac{2}{10}\big|f(y_2)\big|} \).
Para \( y_3\in{[a,b]} \) existe \( y_4\in{[a,b]} \) tal que \( \big|f(y_4)\big|\leq{\dfrac{2}{10}\big|f(y_3)\big|} \).
¿Estás de acuerdo entonces que la sucesión \( y_n \) que usaremos a lo largo de lo que queda de demostración construída como se indica cumple \( y_n\in [a,b] \)?.
La sucesión \( y_n \) no tiene por que estar necesariamente en el compacto \( [a,b] \) si se construye a partir de la expresión \( \big|f(y_n)\big|\leq{\frac{\big|f(y_k)\big|}{5^n}} \) para algún \( k=1,2,3\ldots \)
Esto (la afirmación en rojo) no tiene sentido. Cuando dices que "se construye a partir de la expresión \( \big|f(y_n)\big|\leq{\frac{\big|f(y_k)\big|}{5^n}} \) para algún \( k=1,2,3\ldots \)"... una vez más diría que está bien si no viese que por algún motivo que no entiendo te confunde. De manera precisa se construye como te acabo de recordar arriba; y por construcción está en el compacto \( [a,b] \). Y esa desigualdad es consecuencia de como ha sido construída.
Cualquier función convergente a cero podría verificar la desigualdad, incluidas las definidas en \( \mathbb{R} \).
¿Y ...? Si... bueno... quizá si la función que manejamos está definida en los reales, existan OTRAS sucesiones no definidas en el compacto que cumplan una desigualdad parecida igual. ¿Y qué?. Nosotros no estamos manejando OTRAS sucesiones, o CUALQUIER sucesión. Estamos manejando una sucesión muy concreta la \( \{y_n\} \) construída de una manera muy concreta que nos garantiza que está contenida en \( [a,b] \).
Saludos.