mmm. Es que para el 2) solo tienes que aplicar las propiedades básicas del producto punto (o interno, o escalar, como lo conozcas). Las dos que tienes que aplicar son las siguientes (de las cuales algunas solo son aplicables en tu caso en que tu conjunto es \( \mathbb{R}^2 \)):
El producto interno es conmutativo
\( \vec{a}\cdot{(\vec{b}+\vec{c})}=\vec{a}\cdot{\vec{b}}+\vec{a}\cdot{\vec{c}}} \),
\( \vec{a}\cdot{(m\vec{b})}=m(\vec{a}\cdot{\vec{b}}) \) para cualquier escalar m
\( \vec{a}\cdot{\vec{a}}= \sqrt[ ]{ \left\|{\vec{a}}\right\|} \).
A partir de eso intenta resolver el 2.}
Spoiler
\( 17=(u+v)\cdot{(u-v)}=u\cdot{u}-u\cdot{v}+v\cdot{u}-v\cdot{v} \)
\( =\sqrt[ ]{ \left\|{u}\right\|}-u\cdot{v}+u\cdot{v}-\sqrt[ ]{ \left\|{v}\right\|} \)
\( =3+\sqrt[ ]{ \left\|{v}\right\|} \), de donde basta que despejes
