Hola
A partir de aquí está mal:
\( x_0=1= \alpha + \beta + \gamma \)
\( x_1=0= \alpha - \beta + 2\gamma \)
\( x_1=3= \alpha + \beta + 4\gamma \)
\( \alpha =-1/2; \)\( \beta =5/6; \)\( \gamma =2/3 \)
Con lo que has calculado hasta ahora, por tener una raíz múltiple, sabemos que la solución de la homogénea asociada es:
\( y_n=\alpha (-2)^n+\beta n(-2)^n+\gamma n^2(-2)^n \)
Pero no puedes aplicar todavía las condiciones iniciales para hallar los coeficientes; necesitas sumarle una solución particular de la ecuación no homogénea. Por ser el término independiente un polinomio de grado uno, podemos intentar buscar una solución con un polinomio del mismo grado:
\( z_n=an+b \)
Sustituye en tu ecuación inicial y trata de hallar \( a,b \).
Luego la solución general de tu ecuación será:
\( x_n=y_n+z_n \)
y finalmente impón las condiciones iniciales para hallar los coeficientes \( \alpha,\beta,\gamma \).
Saludos.
P.D. Todo eso está explicado por aquí:
http://www.matap.uma.es/~fermat/HECACEJ/archivos/340_23_enlace11176722853.pdf