Hola
1) Utiliza que una diagonal corresponde al vector \( \vec a+\vec b \) y la otra \( \vec a-\vec b \). Para que sean perpendiculares su producto escalar ha de ser cero.
2) Parece que se trata de un triángulo rectángulo (no por el dibujo, sino porque pones que uno de los ángulos es de 90 grados).
Sea como sea, no se muy bien a que se refiere con "verificar la ley de los cosenos".
Saludos.