정규분포를 따르는 두 확률 변수가 독립인 것과 공분산이 0인 것은 동치다

정규분포를 따르는 두 확률 변수가 독립인 것과 공분산이 0인 것은 동치다

Two normal distributions are independent iff their covariance is equal to zero

정리

$$ X_{1} \sim N ( \mu_{1} , \sigma_{1} ) \\ X_{2} \sim N ( \mu_{2} , \sigma_{2} ) $$ 면 $$ X_{1} \perp X_{2} \iff \text{cov} (X_{1} , X_{2} ) = 0 $$

설명

일반적으로 상관관계가 없다고 독립인 것은 아니다. 하지만 분포들이 정규분포를 따른다는 가정이 있다면 공분산이 $0$ 인 것이 독립임을 보장해준다.

증명

$( \Rightarrow )$

$$ M_{X_{1}} (t_{1} ) = \exp \left[ \mu_{1} t_{1} + {{1} \over {2}} \sigma_{1} t_{1}^{2} \right] M_{X_{2}} (t_{2} ) = \exp \left[ \mu_{2} t_{2} + {{1} \over {2}} \sigma_{2} t_{2}^{2} \right] $$ $\sigma_{12} : = \text{cov} (X_{1} , X_{2} )$ 그리고 $\sigma_{21} : = \text{cov} (X_{2} , X_{1} )$ 이라고 하면 $$ M_{X_{1} , X_{2}} (t_{1} , t_{2} ) = \exp \left[ \mu_{1} t_{1} + \mu_{2} t_{2} + {{1} \over {2}} \left( \sigma_{1} t_{1}^{2} + \sigma_{12} t_{1} t_{2} + \sigma_{21} t_{2} t_{1} + \sigma_{2} t_{2}^{2} \right) \right] $$ $X_{1} \perp X_{2}$ 이므로 $M_{X_{1} , X_{2}} (t_{1} , t_{2} ) = M_{X_{1}} (t_{1} ) M_{X_{2}} ( t_{2} ) $ 이다. 따라서 $$ \begin{align*} & \exp \left[ \mu_{1} t_{1} + \mu_{2} t_{2} + {{1} \over {2}} \left( \sigma_{1} t_{1}^{2} + \sigma_{12} t_{1} t_{2} + \sigma_{21} t_{2} t_{1} + \sigma_{2} t_{2}^{2} \right) \right] \\ =& \exp \left[ \mu_{1} t_{1} + \mu_{2} t_{2} + {{1} \over {2}} \left( \sigma_{1} t_{1}^{2} + \sigma_{2} t_{2}^{2} \right) \right] \end{align*} $$ 인데, 정리하면 $\sigma_{12} + \sigma_{21} = 0$ 을 얻는다. 한편 $\text{cov} (X_{1}, X_{2}) = \text{cov} (X_{2}, X_{1})$ 이므로 $\sigma_{12} = \sigma_{21}$ 이고, 연립방정식 $\begin{cases} \sigma_{12} + \sigma_{21} = 0 \\ \sigma_{12} - \sigma_{21} = 0 \end{cases}$ 를 만족시키는 해는 $\sigma_{12} = \sigma_{21} = 0$ 뿐이다.


$( \Leftarrow )$

$\sigma_{12} = \sigma_{21} = 0$ 이므로 $$ \sigma_{12} t_{1} t_{2} = \sigma_{21} t_{2} t_{1} = 0 $$ 따라서 $$ M_{X_{1} , X_{2}} (t_{1} , t_{2} ) = M_{X_{1}} (t_{1} ) M_{X_{2}} ( t_{2} ) $$ 이고, 조인트 적률 생성 함수가 분리될 수 있다는 것은 독립이라는 것과 동치이므로 $X_{1} \perp X_{2}$ 이다.

댓글