Buenas, tengo un problema con el último apartado del siguiente ejercicio:
Sean \( \mathbf{A} \) una matriz de dimensión \( m \times n \), con \( m > n \) y rango \( n \), y \( \mathbf{b} \in \mathbb{R}^m \). Se define la función \( f : \mathbb{R}^n \to \mathbb{R} \) mediante
\[
f(\mathbf{x}) = \| \mathbf{A}\mathbf{x} - \mathbf{b} \|_2^2.
\]
Dado \( \alpha = \frac{1}{2 \|\mathbf{A}^t \mathbf{A}\|_2} \), donde \( \mathbf{A}^t \) denota la traspuesta de \( \mathbf{A} \) y \( \|\cdot\|_2 \) la norma matricial asociada a la norma euclidiana, se define iterativamente la sucesión \( (\mathbf{x}_m)_{m=0}^\infty \) mediante
\[
\mathbf{x}_{m+1} = \mathbf{x}_m - \alpha \nabla f(\mathbf{x}_m),
\]
asegurándonos de que \( \|\mathbf{A}^t \mathbf{A}\|_2 \neq 0 \).
Usando el desarrollo de Taylor de orden 2 de \( f \) en el punto \( \mathbf{x}_m \), demostrar que:
1. \( f(\mathbf{x}_{m+1}) - f(\mathbf{x}_m) \leq -\frac{\alpha}{2} \|\nabla f(\mathbf{x}_m)\|_2^2 \) para cada \( m \).
2. La sucesión \( (f(\mathbf{x}_m))_{m=0}^\infty \) es convergente.
3. Concluir que \( \mathbf{x}_m \to \mathbf{u} \) cuando \( m \to \infty \), siendo \( \mathbf{u} \) el mínimo absoluto de \( f \).
El problema lo tengo en el apartado 3 porque, usando 1 y 2 soy capaz de demostrar que el gradiente tiende a 0 cuando n tiende al infinito, y por tanto, por la definición de \( \mathbf{x}_m \) tenemos que esto implica que \( \mathbf{x}_m \) - \( \mathbf{x}_{m+1} \) tiende a 0 cuando n tiende a infinito, pero la verdad que desde aquí no se como demostrar que tiene la sucesión converge.
Se me había ocurrido tratar de demostrar que es de Cauchy, pero véase que la serie armónica cumple las hipótesis pero no converge (diverge a infinito).
Saludos