Hola:
Dado el sistema lineal:
\( x_1-x_2+ax_3= -1 \)
\( -x_1-2x_2-ax_3=3 \)
\( ax_1+x_2+x_3=8 \)
...
Por añadir algo a lo expuesto por
Masacroso...
Puedes empezar calculando el determinante de la matriz de coeficientes del sistema:
\( \left|\begin{array}{rrr}1&-1&\alpha\\-1&-2&-\alpha\\\alpha&1&1\end{array}\right|=\cdots =3\alpha^2-3 \), que se anula si y solo si \( \alpha=\pm 1 \). Así pues, si \( \alpha\neq \pm 1 \) el sistema es compatible determinado, es decir, tiene solución única, que depende de \( \alpha \). Los casos \( \alpha=1 \) y \( \alpha=-1 \), los puedes estudiar aparte, por ejemplo, con el métodos de Gauss.
Caso \( \alpha=1 \)
\( \left(\begin{array}{rrr|r}1&-1&1&-1\\-1&-2&-1&3\\1&1&1&8\end{array}\right)\stackrel{f_2+f_1,f_3-f_1}{\sim }\left(\begin{array}{rrr|r}1&-1&1&-1\\0&-3&0&2\\0&2&0&9\end{array}\right)\stackrel{3f_3+2f_2}{\sim } \left(\begin{array}{rrr|r}1&-1&1&-1\\0&-3&0&2\\0&0&0&31\end{array}\right) \) luego el sistema es incompatible, es decir, no tiene solución.
Dejo para ti el caso \( \alpha=-1 \)

Saludos