多変量正規分布
📂確率分布論多変量正規分布
定義
平均ベクトル μ∈Rp および共分散行列 Σ∈Rp×p に基づく以下のような確率密度関数を持つ多変量分布 Np(μ,Σ) を多変量正規分布と呼ぶ。
f(x)=((2π)pdetΣ)−1/2exp[−21(x−μ)TΣ−1(x−μ)],x∈Rp
- xT は x の転置を意味する。
定理
X=μ=Σ=[X1X2][μ1μ2][Σ11Σ21Σ12Σ22]:Ω→Rn∈Rn∈Rn×n
以下の定理の記述で、特に説明がない限り、X、μ、Σ は同じブロック行列を指す。
行列 A∈Rm×n とベクトル b∈Rm に対して多変量正規分布に従うランダムベクトル X∼Nn(μ,Σ) の線形変換 Y=AX+b もやはり多変量正規分布 Nm(Aμ+b,AΣAT) に従う。
多変量正規分布に従うランダムベクトル X∼Nn(μ,Σ) があるとする。すると、以下が成立する。
X1⊥X2⟺Σ12=Σ21=O
多変量正規分布に従うランダムベクトル X∼Nn(μ,Σ) があるとする。その場合、条件付き確率ベクトル X1∣X2:Ω→Rm もやはり多変量正規分布に従い、具体的には以下のような平均ベクトルと共分散行列を持つ。
X1∣X2∼Nm(μ1+Σ12Σ22−1(X2−μ2),Σ11−Σ12Σ22−1Σ21)
回帰係数の推定量 β^ は以下のような多変量正規分布に従う。
β^∼N1+p(β,σ2(XTX)−1)
積率生成関数
X∼Np(μ,Σ) の積率生成関数は以下のとおりである。
MX(t)=exp(tTμ+21tTΣt),t∈Rp
多変量正規分布 Np(μ,Σ) のエントロピーは以下のとおりである。
H=21ln[(2πe)p∣Σ∣]=21ln(det(2πeΣ))
∣Σ∣ は共分散行列の行列式である。
参照
- 一変量正規分布: p=1 に続いて μ∈R1 があり、そして Σ∈R1×1 の時、上記の確率密度関数は正確に一変量正規分布の確率密度関数となる。