Hola Isamu.
Veamos que \( f(A,B)=f(B,A) \) (recordemos que estamos en \( \mathbb{R} \)).
Dado que la traza de una matriz y su traspuesta es la misma, se tiene:
\( f(A,B)=tr(B^tA)=tr((B^tA)^t)=tr(A^tB)=f(B,A) \)
Por simetría, bastará ver que es lineal en el primer factor.
\( f(\alpha A+\beta B,C)=tr(C^t(\alpha A+\beta B))=\alpha tr(C^tA)+\beta tr(C^tB)=\alpha f(A,C)+\beta f(B,C) \)
Por último, veamos que \( f(A,A)\ge0 \) y \( f(A,A)=0\iff A=0 \)
En este caso, \( f(A,A)=tr(A^tA), \) y como \( M=A^tA \) es la matriz cuyos elementos de la diagonal son \( m_{ii}=\displaystyle \sum_{j=1}^n}a_{ji}^2,i=1,\dots,n, \) se tiene que \( m_{ii}\ge0. \) Además, \( m_{ii}=0\iff a_{ji}=0, \forall i, j=1,\dots,n, \) es decir, cuando \( A=0 \)
Recuerda que debes editar y corregir tu mensaje como te han indicado.Un saludo