Hola
Supón que:
\( (\sqrt{2}-1)^n=a_n\sqrt{2}+b_n \)
Para n=1, \( a_1=1 \) y \( b_1=-1 \) y, \( |2a_1^2-b_1^2|=1 \)
Probaremos que
si \( |2a_n^2-b_n^2|=1 \) entonces \( |2a_{n+1}^2-b_{n+1}^2|=1 \) (I)
con lo cual tienes tu resultado.
Pero basta tener en cuenta que:
\( a_{n+1}\sqrt{2}+b_{n+1}=(\sqrt{2}-1)^{n+1}=(a_n\sqrt{2}+b_n)(\sqrt{2}-1) \)
De aquí obtienes \( (a_{n+1},b_{n+1}) \) en función de \( (a_n,b_n) \) y puedes verificar fácilmente (I).
Saludos.