Hola
Veamos. Tampoco es tan difícil. Te comenté lo de las matrices porque era un enfoque que, si lo conoces, aceleraba las cosas.
Trato de hacerte un resumen de lo esencial. Puede haber una cierta incoherencia en como ordeno las cosas; pero es porque intento partir de lo intuitivo que se formaliza con lo que explico después.
1- Una base ortonormal es una base formada por vectores perpendiculares (ortogonales, es lo mismo) entre si y de longitud (módulo, norma, es lo mismo) \( 1 \).
2- Si \( (x^1,x^2,x^3) \) e \( (y^1,y^2,y^3) \) son las coordenadas de un par de vectores \( \vec x \) y \( \vec y \) respecto a una base ortonormal, su producto punto o producto escalar se define como:
\( \vec x\cdot \vec y=x^1y^1+x^2y^2+x^3y^3 \)
El producto escalar es conmutativo (\( \vec x\cdot \vec y=\vec y\cdot \vec x \)) y bilineal:
\( (a\vec x+b\vec y)\cdot \vec z=a(\vec x\cdot \vec z)+b(\vec y\cdot \vec z) \)
siendo \( a,b \) escalares.
3- Dos vectores son perpendiculares si y sólo si su producto escalar es cero.
4- La norma (longitud, módulo) de un vector es la ráiz cuadrada del producto escalar de un vector por si mismo. Por tanto si un vector \( \vec v \) tiene norma \( 1 \) cumple \( \vec v\cdot \vec v=1 \).
5- Como consecuencia de 1,3,4 si \( \{\vec i,\vec j,\vec k\} \) es una base ortonormal:
\( \vec i\cdot \vec i=\vec j\cdot \vec j=\vec k\cdot \vec k=1 \)
\( \vec i\cdot \vec j=\vec j\cdot \vec i=\vec k\cdot \vec i=\vec i\cdot \vec k=\vec j\cdot \vec k=\vec k\cdot \vec j=0 \)
6- Si \( \{\vec i,\vec j,\vec k\} \) es una base ortonormal las coordenadas \( (x^1,x^2,x^3) \) de un vector \( \vec v \) respecto a tal base cumplen:
\( x^1=\vec v\cdot \vec i,\quad x^2=\vec v\cdot \vec j,\quad x^3=\vec v\cdot \vec k \)
Spoiler
Que \( (x^1,x^2,x^3) \) sean las coordenadas de \( \vec v \) respecto a la base \( \{\vec i,\vec j,\vec k\} \) significa que:
\( \vec v=x^1\vec i+x^2\vec j+x^3\vec k \)
Si hacemos el producto escalar y usando 5:
\( \vec v\cdot \vec i=x^1(\underbrace{\vec i\cdot \vec i}_1)+x^2(\underbrace{\vec j\cdot \vec i}_0)+x^3(\underbrace{\vec k\cdot \vec i}_0)=x^1 \)
\( \vec v\cdot \vec j=x^1(\underbrace{\vec i\cdot \vec j}_0)+x^2(\underbrace{\vec j\cdot \vec j}_1)+x^3(\underbrace{\vec k\cdot \vec j}_0)=x^2 \)
\( \vec v\cdot \vec k=x^1(\underbrace{\vec i\cdot \vec k}_0)+x^2(\underbrace{\vec j\cdot \vec k}_0)+x^3(\underbrace{\vec k\cdot \vec k}_1)=x^3 \)
7. Sean \( B=\{\vec i,\vec j,\vec k\} \) y \( B'=\{\vec i',\vec j',\vec k'\} \) dos bases ortonormales. Se pueden poner unos vectores en función dos otros:
\( \vec i'=a_1^1\vec i+a_1^2\vec j+a_1^3\vec k \)
\( \vec j'=a_2^1\vec i+a_2^2\vec j+a_2^3\vec k \) (7A)
\( \vec k'=a_3^1\vec i+a_3^2\vec j+a_3^3\vec k \)
y
\( \vec i=A_1^1\vec i'+A_1^2\vec j'+A_1^3\vec k' \)
\( \vec j=A_2^1\vec i'+A_2^2\vec j'+A_2^3\vec k' \) (7B)
\( \vec k=A_3^1\vec i'+A_3^2\vec j'+A_3^3\vec k' \)
y a su vez cualquier vector \( \vec v \) se puede escribir en coordenadas respecto a una u otra base.
\( \vec v=x^1\vec i+x^2\vec j+x^3\vec k=\bar x^1\vec i'+\bar x^2\vec j'+\bar x^3\vec k' \)
Usando las relaciones entre los vectores, encontramos las relaciones entre las coordenadas. De (7A):
\( x^1=a_1^1\bar x^1+a_2^1\bar x^2+a_3^1\bar x^3=\displaystyle\sum_{\beta=1}^3{}a_\beta^1\bar x^\beta \)
\( x^2=a_1^2\bar x^1+a_2^2\bar x^2+a_3^2\bar x^3=\displaystyle\sum_{\beta=1}^3{}a_\beta^2\bar x^\beta \)
\( x^3=a_1^3\bar x^1+a_2^3\bar x^2+a_3^3\bar x^3=\displaystyle\sum_{\beta=1}^3{}a_\beta^3\bar x^\beta \)
y de (7B):
\( \bar x^1=A_1^1 x^1+A_2^1 x^2+A_3^1 x^3=\displaystyle\sum_{\beta=1}^3{}A_\beta^1 x^\beta \)
\( \bar x^2=A_1^2 x^1+A_2^2 x^2+A_3^2 x^3=\displaystyle\sum_{\beta=1}^3{}A_\beta^2 x^\beta \)
\( \bar x^3=A_1^3 x^1+A_2^3 x^2+A_3^3 x^3=\displaystyle\sum_{\beta=1}^3{}A_\beta^3 x^\beta \)
(8) Lo que te piden que compruebes es que \( A_\beta^\alpha=a_\alpha^\beta \).
Pero por (7A) y (6):
\( a_1^1=\vec i'\cdot \vec i,\quad a_1^2=\vec i'\cdot \vec j,\quad a_1^3=\vec i'\cdot \vec k \)
\( a_2^1=\vec j'\cdot \vec i,\quad a_2^2=\vec j'\cdot \vec j,\quad a_2^3=\vec j'\cdot \vec k \)
\( a_3^1=\vec k'\cdot \vec i,\quad a_3^2=\vec k'\cdot \vec j,\quad a_3^3=\vec k'\cdot \vec k \)
y por (7B) y (6):
\( A_1^1=\vec i\cdot \vec i',\quad A_1^2=\vec i\cdot \vec j',\quad A_1^3=\vec i\cdot \vec k' \)
\( A_2^1=\vec j\cdot \vec i',\quad A_2^2=\vec j\cdot \vec j',\quad A_2^3=\vec j\cdot \vec k' \)
\( A_3^1=\vec k\cdot \vec i',\quad A_3^2=\vec k\cdot \vec j',\quad A_3^3=\vec k\cdot \vec k' \)
Y ya lo tienes

Saludos.