Autor Tema: Matriz simétrica semidefinida positiva

0 Usuarios y 1 Visitante están viendo este tema.

02 Febrero, 2012, 09:58 pm
Leído 2399 veces

sanmath

  • $$\Large \color{#c88359}\pi\,\pi\,\pi\,\pi$$
  • Mensajes: 630
  • Karma: +0/-0
  • Sexo: Masculino
Hola, necesito saber cómo puedo mostrar que la matriz de varianzas y covarianzas es simétrica semi definida positiva, bueno la simetría sóolo basta con ver la matriz, pero que es semi definida positiva no se me ocurre de la forma usual.

Saludos.
1301215

03 Febrero, 2012, 12:04 pm
Respuesta #1

pierrot

  • pabloN
  • Moderador Global
  • Mensajes: 3,447
  • País: uy
  • Karma: +0/-0
  • Sexo: Masculino
Supongamos \( n=2 \) (después veremos si la idea se puede generalizar); hay que demostrar que la matriz

\( \Sigma=\begin{bmatrix}{\mathbb{COV}(X_1,X_1)}&{\mathbb{COV}(X_1,X_2)}\\{\mathbb{COV}(X_2,X_1)}&{\mathbb{COV}(X_2,X_2)}\end{bmatrix} \)

es semidefinida positiva, o lo que es equivalente \( \mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}\geq 0\ \forall \mathbf{x}\in \mathbb{R}^2 \). Sea \( \mathbf{x}=\left[\begin{array}{ccc}{x_1}\\{x_2}\end{array}\right] \) entonces

\( \begin{align*}
\mathbf{x}^T\cdot \Sigma&=\left[\begin{array}{ccc}{x_1}&{x_2}\end{array}\right]\cdot \begin{bmatrix}{\mathbb{COV}(X_1,X_1)}&{\mathbb{COV}(X_1,X_2)}\\{\mathbb{COV}(X_2,X_1)}&{\mathbb{COV}(X_2,X_2)}\end{bmatrix}\\
&=\left[\begin{array}{ccc}{x_1\cdot \mathbb{COV}(X_1,X_1)+x_2\cdot \mathbb{COV}(X_2,X_1)}&{x_1\cdot \mathbb{COV}(X_1,X_2)+x_2\cdot \mathbb{COV}(X_2,X_2)}\end{array}\right]
\end{align*} \)

y por lo tanto

\( \begin{align*}
\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x} &=\left[\begin{array}{ccc}{x_1\cdot \mathbb{COV}(X_1,X_1)+x_2\cdot \mathbb{COV}(X_2,X_1)}&{x_1\cdot \mathbb{COV}(X_1,X_2)+x_2\cdot \mathbb{COV}(X_2,X_2)}\end{array}\right]\left[\begin{array}{ccc}{x_1}\\{x_2}\end{array}\right]\\
&=x_1\Big(x_1\cdot \mathbb{COV}(X_1,X_1)+x_2\cdot \mathbb{COV}(X_2,X_1)\Big)+x_2\Big(x_1\cdot \mathbb{COV}(X_1,X_2)+x_2\cdot \mathbb{COV}(X_2,X_2)\Big)
\end{align*} \)

\( \Longrightarrow{}\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}=x_1^2\cdot \mathbb{COV}(X_1,X_1)+2x_1x_2\cdot \mathbb{COV}(X_1,X_2)+x_2^2\cdot \mathbb{COV}(X_2,X_2) \)

\( \mathbb{COV}(X_1,X_1)=\mathbb{VAR}(X_1)=\mathbb{E}(X_1^2)-\mathbb{E}(X_1)^2 \)

\( \mathbb{COV}(X_1,X_2)=\mathbb{E}(X_1X_2)-\mathbb{E}(X_1)\mathbb{E}(X_2) \)

\( \mathbb{COV}(X_2,X_2)=\mathbb{VAR}(X_2)=\mathbb{E}(X_2^2)-\mathbb{E}(X_2)^2 \)

\( \begin{align*}
\Longrightarrow{}\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}&=x_1^2\cdot\Big(\mathbb{E}(X_1^2)-\mathbb{E}(X_1)^2\Big)+2x_1x_2\cdot\Big(\mathbb{E}(X_1X_2)-\mathbb{E}(X_1)\mathbb{E}(X_2)\Big)+x_2^2\cdot\Big(\mathbb{E}(X_2^2)-\mathbb{E}(X_2)^2\Big)\\
&=x_1^2\cdot \mathbb{E}(X_1^2)+2x_1x_2\cdot \mathbb{E}(X_1X_2)+x_2^2\cdot \mathbb{E}(X_2^2)-x_1^2\cdot \mathbb{E}(X_1)^2-2x_1x_2\cdot \mathbb{E}(X_1)\mathbb{E}(X_2)-x_2^2\cdot \mathbb{E}(X_2)^2
\end{align*} \)

\( \begin{align*}
\Longrightarrow{}\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}&=\mathbb{E}\big((x_1X_1+x_2X_2)^2\big)-\mathbb{E}(x_1X_1+x_2X_2)^2\\
&=\mathbb{VAR}(x_1X_1+x_2X_2)\geq 0
\end{align*} \)

pues \( \mathbb{VAR}(Z)\geq 0 \) para cualquier \( Z \) variable aleatoria.

No hice las cuentas pero intenta generalizar esta idea suponiendo que \( \mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}=\mathbb{VAR}(x_1X_1+x_2X_2+\cdots x_nX_n) \). No sé si cumple. Yo hice el desarrollo para \( n=2 \) nada más, aunque mi intuición me dice que sí se verifica.

Después nos dices a ver qué obtienes.

Saludos
$_="loe  hnachaPkr erttes,urJ";$j=0;for($i=0;s/(.)(.{$j})$//;$i++){$_=$2.$_,$j+=1-$i%2,print$1}print

03 Febrero, 2012, 02:34 pm
Respuesta #2

pierrot

  • pabloN
  • Moderador Global
  • Mensajes: 3,447
  • País: uy
  • Karma: +0/-0
  • Sexo: Masculino
Bueno, si \( n=3 \) tenemos lo siguiente:

\( {\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}=x_1^2\cdot \mathbb{COV}(X_1,X_1)+x_2^2\cdot \mathbb{COV}(X_2,X_2)+x_3^2\cdot \mathbb{COV}(X_3,X_3)+2x_1x_2\cdot \mathbb{COV}(X_1,X_2)+2x_1x_3\cdot\mathbb{COV}(X_1,X_3)+2x_2x_3\cdot\mathbb{COV}(X_2,X_3)} \)

Extrapolando al caso general, es decir, si \( \mathbf{x}\in \mathbb{R}^n \) se tendría:

\( {\mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}=\displaystyle \sum_{i=1}^n x_i^2\cdot \mathbb{COV}(X_i,X_i)+\sum_{i,j=1,i<j}^n 2x_ix_j\cdot \mathbb{COV}(X_i,X_j)=\sum_{i=1}^n x_i^2\cdot \big(\mathbb{E}(X_i^2)-\mathbb{E}(X_i)^2\big)+\sum_{i,j=1,i<j}^n 2x_ix_j\cdot \big(\mathbb{E}(X_iX_j)-\mathbb{E}(X_i)\mathbb{E}(X_j)\big)} \)

Ahora veamos cuánto es \( \mathbb{VAR}(x_1X_1+x_2X_2+\cdots x_nX_n) \).

\( { \mathbb{VAR}(x_1X_1+x_2X_2+\cdots x_nX_n)=\underbrace{\mathbb{E}\big((x_1X_1+x_2X_2+\cdots x_nX_n)^2\big)}_{\mathbf{(A)}}-\underbrace{\mathbb{E}(x_1X_1+x_2X_2+\cdots x_nX_n)^2}_{\mathbf{(B)}} } \)

Calculemos por separado las expresiones de \( \mathbf{(A)} \) y \( \mathbf{(B)} \)

(A)
\( {  \mathbb{E}\big((x_1X_1+x_2X_2+\cdots x_nX_n)^2\big)=\mathbb{E}\left(\displaystyle \sum_{i=1}^nx_i^2X_i^2+\sum_{i,j=1,i<j}^n2x_ix_jX_iX_j\right)=\displaystyle \sum_{i=1}^nx_i^2\cdot \mathbb{E}(X_i^2)+\sum_{i,j=1,i<j}^n2x_ix_j\cdot \mathbb{E}(X_iX_j)  } \)

(B)
\( {  \big(\mathbb{E}(x_1X_1+x_2X_2+\cdots x_nX_n)\big)^2=\big(x_1\cdot \mathbb{E}(X_1)+x_2\cdot \mathbb{E}(X_2)+\cdots+x_n\cdot \mathbb{E}(X_n)\big)^2=\displaystyle \sum_{i=1}^n x_i^2\cdot \mathbb{E}(X_i)^2+\sum_{i,j=1,i<j}^n 2x_ix_j\cdot \mathbb{E}(X_i)\mathbb{E}(X_j)  } \)

Ahora restando \( \mathbf{(B)} \) a \( \mathbf{(A)} \) se tiene que:

\( {\displaystyle \mathbb{VAR}(x_1X_1+x_2X_2+\cdots x_nX_n)=\sum_{i=1}^nx_i^2\cdot \mathbb{E}(X_i^2)+\sum_{i,j=1,i<j}^n2x_ix_j\cdot \mathbb{E}(X_iX_j) -\left(\sum_{i=1}^n x_i^2\cdot \mathbb{E}(X_i)^2+\sum_{i,j=1,i<j}^n 2x_ix_j\cdot \mathbb{E}(X_i)\mathbb{E}(X_j)\right)} \)

Entonces para todo \( \mathbf{x}\in \mathbb{R}^n \) se tiene que \( \mathbf{x}^T\cdot \Sigma\cdot \mathbf{x}=\mathbb{VAR}(x_1X_1+x_2X_2+\cdots x_nX_n)\geq 0 \). Por lo tanto \( \Sigma \) es semidefinida positiva.

Saludos

PD. La idea la extraje del pdf que adjunto. Este pdf lo encontré mientras buscaba información sobre la matriz de covarianzas (ya que en mi curso de probabilidad no recuerdo que la hayan definido). A menos que yo esté mal, la sugerencia que dan ahí en el ejercicio 20 está equivocada. Donde dice \( E(u_1X+u_2Y)^2=\vec{u}'\Sigma\vec{u} \) debió ser: \( E(u_1X+u_2Y)^2=-\vec{u}'\Sigma\vec{u}+E\big((u_1X+u_2Y)^2\big) \). Es raro igual, porque no es una errata, es un error.
$_="loe  hnachaPkr erttes,urJ";$j=0;for($i=0;s/(.)(.{$j})$//;$i++){$_=$2.$_,$j+=1-$i%2,print$1}print