Supongamos \( n=2 \) (después veremos si la idea se puede generalizar); hay que demostrar que la matriz
\( \Sigma=\begin{bmatrix}{\mathbb{COV}(X_1,X_1)}&{\mathbb{COV}(X_1,X_2)}\\{\mathbb{COV}(X_2,X_1)}&{\mathbb{COV}(X_2,X_2)}\end{bmatrix} \)
es semidefinida positiva, o lo que es equivalente \( \mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}\geq 0\ \forall \mathbf{x}\in \mathbb{R}^2 \). Sea \( \mathbf{x}=\left[\begin{array}{ccc}{x_1}\\{x_2}\end{array}\right] \) entonces
\( \begin{align*}
\mathbf{x}^T\cdot \Sigma&=\left[\begin{array}{ccc}{x_1}&{x_2}\end{array}\right]\cdot \begin{bmatrix}{\mathbb{COV}(X_1,X_1)}&{\mathbb{COV}(X_1,X_2)}\\{\mathbb{COV}(X_2,X_1)}&{\mathbb{COV}(X_2,X_2)}\end{bmatrix}\\
&=\left[\begin{array}{ccc}{x_1\cdot \mathbb{COV}(X_1,X_1)+x_2\cdot \mathbb{COV}(X_2,X_1)}&{x_1\cdot \mathbb{COV}(X_1,X_2)+x_2\cdot \mathbb{COV}(X_2,X_2)}\end{array}\right]
\end{align*} \)
y por lo tanto
\( \begin{align*}
\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x} &=\left[\begin{array}{ccc}{x_1\cdot \mathbb{COV}(X_1,X_1)+x_2\cdot \mathbb{COV}(X_2,X_1)}&{x_1\cdot \mathbb{COV}(X_1,X_2)+x_2\cdot \mathbb{COV}(X_2,X_2)}\end{array}\right]\left[\begin{array}{ccc}{x_1}\\{x_2}\end{array}\right]\\
&=x_1\Big(x_1\cdot \mathbb{COV}(X_1,X_1)+x_2\cdot \mathbb{COV}(X_2,X_1)\Big)+x_2\Big(x_1\cdot \mathbb{COV}(X_1,X_2)+x_2\cdot \mathbb{COV}(X_2,X_2)\Big)
\end{align*} \)
\( \Longrightarrow{}\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}=x_1^2\cdot \mathbb{COV}(X_1,X_1)+2x_1x_2\cdot \mathbb{COV}(X_1,X_2)+x_2^2\cdot \mathbb{COV}(X_2,X_2) \)
\( \mathbb{COV}(X_1,X_1)=\mathbb{VAR}(X_1)=\mathbb{E}(X_1^2)-\mathbb{E}(X_1)^2 \)
\( \mathbb{COV}(X_1,X_2)=\mathbb{E}(X_1X_2)-\mathbb{E}(X_1)\mathbb{E}(X_2) \)
\( \mathbb{COV}(X_2,X_2)=\mathbb{VAR}(X_2)=\mathbb{E}(X_2^2)-\mathbb{E}(X_2)^2 \)
\( \begin{align*}
\Longrightarrow{}\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}&=x_1^2\cdot\Big(\mathbb{E}(X_1^2)-\mathbb{E}(X_1)^2\Big)+2x_1x_2\cdot\Big(\mathbb{E}(X_1X_2)-\mathbb{E}(X_1)\mathbb{E}(X_2)\Big)+x_2^2\cdot\Big(\mathbb{E}(X_2^2)-\mathbb{E}(X_2)^2\Big)\\
&=x_1^2\cdot \mathbb{E}(X_1^2)+2x_1x_2\cdot \mathbb{E}(X_1X_2)+x_2^2\cdot \mathbb{E}(X_2^2)-x_1^2\cdot \mathbb{E}(X_1)^2-2x_1x_2\cdot \mathbb{E}(X_1)\mathbb{E}(X_2)-x_2^2\cdot \mathbb{E}(X_2)^2
\end{align*} \)
\( \begin{align*}
\Longrightarrow{}\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}&=\mathbb{E}\big((x_1X_1+x_2X_2)^2\big)-\mathbb{E}(x_1X_1+x_2X_2)^2\\
&=\mathbb{VAR}(x_1X_1+x_2X_2)\geq 0
\end{align*} \)
pues \( \mathbb{VAR}(Z)\geq 0 \) para cualquier \( Z \) variable aleatoria.
No hice las cuentas pero intenta generalizar esta idea suponiendo que \( \mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}=\mathbb{VAR}(x_1X_1+x_2X_2+\cdots x_nX_n) \). No sé si cumple. Yo hice el desarrollo para \( n=2 \) nada más, aunque mi intuición me dice que sí se verifica.
Después nos dices a ver qué obtienes.
Saludos