Hay un teorema que te dice:
Sean \( V \) un espacio vectorial de dimensión finita \( n \), y \( B = \left\{{\alpha_1,\alpha_2, \dots, \alpha_n}\right\} \) una base de \( V \).
Sean \( \left\{{\beta_1,\beta_2,\dots,\beta_n}\right\} \) elementos arbitrarios de un espacio vectorial \( W \)
Entonces existe una única Transformación Lineal \( T:V\rightarrow{}W \) tal que
\( T(\alpha_1)=\beta_1 \)
\( T(\alpha_2)=\beta_2 \)
\( \dots \)
\( T(\alpha_n)=\beta_n \)
Ahora pasando a tu ejercicio:
\( \left\{{(-1,1),(1,1)}\right\} \) es una base de \( \mathbb{R^2} \)
Luego, por el teorema que te mencioné, exite una única Transformación Lineal tal que:
\( T(-1,1)=(2,1) \)
\( T(1,1)=(1,-4) \)
Notemos que:
\( (5,-1)=-3(-1,1)+2(1,1) \), entonces
\( T(5,-1)=-3(2,1)+2(1,-4) = (-4,-11) \)
Por lo tanto, la si existe una transformación lineal que satisfaga las condiciones que quieres.
De hecho, la transformación lineal de manera explícita es esta:
\( T(x,y) = (-\frac{1}{2}x+\frac{3}{2}y,-\frac{3}{2}x-\frac{5}{2}y) \)