Hola sofia.
Para próximas preguntas cuéntanos qué has intentado para responder a las las dudas específicas que tengas.
\( \alpha(1,0,2)+\beta(-1,4,k)+\gamma(-1,1,0)=(0,0,0) \)
\( \Leftrightarrow \begin{cases}\alpha-\beta-\gamma&=&0\\ 4\beta+\gamma&=&0\\ 2\alpha+k\beta&=&0\end{cases} \)
\( \Leftrightarrow \begin{bmatrix}1&-1&-1\\ 0&4&1\\ 2&k&0\end{bmatrix}\begin{pmatrix}\alpha\\ \beta\\ \gamma\end{pmatrix}=\begin{pmatrix}0\\ 0\\ 0\end{pmatrix} \)
Caso 1:
Si el determinante de la matriz es distinto de cero, entonces el sistema tiene como única solución la nula, esto es \( \alpha=\beta=\gamma=0 \), y por tanto los vectores formarán una base de \( \mathbb{R}^3 \).
Caso 2:
Y si el determinante es distinto de cero igual a cero, entonces el sistema tendrá infinitas soluciones, y por tanto los vectores no serán una base de \( \mathbb{R}^3 \).
Entonces debes calcular el determinante y ver para qué valores de \( k \) es distinto de igual a cero. Nota que luego de calcular el valor de \( k \) puedes verificar que efectivamente los 3 vectores son linealmente independiente, y con eso estar segura que llegaste a la solución correcta.
Si quieres escribes el desarrollo y acá lo revisamos.
P.D. En rojo una edición posterior al envío del mensaje (gracias franma por advertirlo).