共分散行列
📂数理統計学共分散行列
定義
p次元のランダムベクターX=(X1,⋯,Xp)に対して以下のように定義されるCov(X)を共分散行列covariance matrixという。
(Cov(X))ij:=Cov(Xi,Xj)
- Covは共分散である。
説明
定義をもっと簡単に書いてみると以下の通り。
Cov(X):=Var(X1)Cov(X2,X1)⋮Cov(Xp,X1)Cov(X1,X2)Var(X2)⋮Cov(Xp,X2)⋯⋯⋱⋯Cov(X1,Xp)Cov(X2,Xp)⋮Var(Xp)
すべての共分散行列は正の半定値行列である。つまり、すべてのベクターx∈Rpに対して以下が成り立つ。
0≤xTCov(X)x
定理
- [1]: μ∈Rpがμ:=(EX1,⋯,EXp)として与えられた場合、
Cov(X)=E[XXT]−μμT
- [2]: 定数の行列A∈Rk×pが(A)ij:=aijとして与えられた場合、
Cov(AX)=ACov(X)AT
証明
[1]
Cov(X)====E[(X−μ)(X−μ)T]E[XXT−μXT−XμT+μμT]E[XXT]−μE[XT]−E[X]μT+E[μμT]E[XXT]−μμT
■
[2]
Cov(AX)====E[(AX−Aμ)(AX−Aμ)T]E[A(X−μ)(X−μ)TAT]AE[(X−μ)(X−μ)T]ATACov(X)AT
■