logo

多変量正規分布の線形変換 📂確率分布論

多変量正規分布の線形変換

定理 1

線形変換の正規性

行列 ARm×nA \in \mathbb{R}^{m \times n}ベクトル bRm\mathbf{b} \in \mathbb{R}^{m} について、多変量正規分布に従う ランダムベクトル XNn(μ,Σ)\mathbf{X} \sim N_{n} \left( \mu , \Sigma \right)線形変換 Y=AX+b\mathbf{Y} = A \mathbf{X} + \mathbf{b} は、引き続き多変量正規分布 Nm(Aμ+b,AΣAT)N_{m} \left( A \mu + \mathbf{b} , A \Sigma A^{T} \right) に従う。

周辺分布の正規性

X=[X1X2]:ΩRnμ=[μ1μ2]RnΣ=[Σ11Σ12Σ21Σ22]Rn×n \begin{align*} \mathbf{X} =& \begin{bmatrix} \mathbf{X}_{1} \\ \mathbf{X}_{2} \end{bmatrix} & : \Omega \to \mathbb{R}^{n} \\ \mu =& \begin{bmatrix} \mu_{1} \\ \mu_{2} \end{bmatrix} & \in \mathbb{R}^{n} \\ \Sigma =& \begin{bmatrix} \Sigma_{11} & \Sigma_{12} \\ \Sigma_{21} & \Sigma_{22} \end{bmatrix} & \in \mathbb{R}^{n \times n} \end{align*} こうして、X\mathbf{X}μ\muΣ\Sigmaジョルダン標準形 で示したとする。もし、XNn(μ,Σ)\mathbf{X} \sim N_{n} \left( \mu, \Sigma \right) ならば、その周辺ランダムベクトル の一つ、X1X_{1} は多変量正規分布 Nm(μ1,Σ11)N_{m} \left( \mu_{1} , \Sigma_{11} \right) に従う。

証明

線形変換

多変量正規分布のモーメント生成関数XNp(μ,Σ)X \sim N_{p} \left( \mu , \Sigma \right) のモーメント生成関数は以下の通りである。 MX(t)=exp(tTμ+12tTΣt),tRp M_{X} \left( \mathbf{t} \right) = \exp \left( \mathbf{t}^{T} \mu + {{ 1 } \over { 2 }} \mathbf{t}^{T} \Sigma \mathbf{t} \right) \qquad , \mathbf{t} \in \mathbb{R}^{p}

多変量正規分布のモーメント生成関数から直接導出される。Y\mathbf{Y} のモーメント生成関数は以下の通り。 MY(t)=E[exp(tTY)]=E[exp(tT(AX+b))]=E[exp(tTb)]E[exp(tTAX)]=exp(tTb)E[exp((ATt)TX)]=exp(tTb)exp((ATt)T(μ+12ΣATt))=exp(tTb)exp((ATt)Tμ+12(tTAΣATt))=exp(tT(b+Aμ)+12(tTAΣATt)) \begin{align*} M_{\mathbf{Y}} \left( \mathbf{t} \right) =& E \left[ \exp \left( \mathbf{t}^{T} \mathbf{Y} \right) \right] \\ =& E \left[ \exp \left( \mathbf{t}^{T} \left( A \mathbf{X} + \mathbf{b} \right) \right) \right] \\ =& E \left[ \exp \left( \mathbf{t}^{T} \mathbf{b} \right) \right] E \left[ \exp \left( \mathbf{t}^{T} A \mathbf{X} \right) \right] \\ =& \exp \left( \mathbf{t}^{T} \mathbf{b} \right) E \left[ \exp \left( \left( A^{T} \mathbf{t} \right) ^{T} \mathbf{X} \right) \right] \\ =& \exp \left( \mathbf{t}^{T} \mathbf{b} \right) \exp \left( \left( A^{T} \mathbf{t} \right) ^{T} \left( \mu + {{ 1 } \over { 2 }} \Sigma A^{T} \mathbf{t} \right) \right) \\ =& \exp \left( \mathbf{t}^{T} \mathbf{b} \right) \exp \left( \left( A^{T} \mathbf{t} \right) ^{T} \mu + {{ 1 } \over { 2 }} \left( \mathbf{t}^{T} A \Sigma A^{T} \mathbf{t} \right) \right) \\ =& \exp \left( \mathbf{t}^{T} \left( \mathbf{b} + A \mu \right) + {{ 1 } \over { 2 }} \left( \mathbf{t}^{T} A \Sigma A^{T} \mathbf{t} \right) \right) \end{align*}

これはNm(Aμ+b,AΣAT)N_{m} \left( A \mu + \mathbf{b} , A \Sigma A^{T} \right) のモーメント生成関数と同一である。

周辺分布

上記の定理の自明な帰結である。単位行列 ImRm×mI_{m} \in \mathbb{R}^{m \times m} および 零行列 Om(nm)Rm×(nm)O_{m(n-m)} \in \mathbb{R}^{m \times (n-m)} に関して、行列 ARm×nA \in \mathbb{R}^{m \times n}A=[ImOm(nm)] A = \begin{bmatrix} I_{m} & O_{m(n-m)} \end{bmatrix} のように定義すると自然に X1=AX \mathbf{X}_{1} = A \mathbf{X} となる。このベクトルの一部成分を省略するマッピングは 自然射影 とも呼ばれる。


  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p183. ↩︎