数理統計学における確率変数の独立
定義 1
二つの確率変数 $X_{1}, X_{2}$ の結合確率密度関数 $f$ または確率質量関数 $p$ が、$X_{1}, X_{2}$ の確率密度関数 $f_{1}, f_{2}$ または確率質量関数 $p_{1}, p_{2}$ で以下を満たす場合、$X_{1}, X_{2}$ は独立であると言い、$X_{1} \perp X_{2}$ と表記される。 $$ f(x_{1} , x_{2} ) \equiv f_{1}(x_{1})f_{2}(x_{2}) \\ p(x_{1} , x_{2} ) \equiv p_{1}(x_{1})p_{2}(x_{2}) $$
定理
以下は、連続確率変数について言及されるが、便宜上離散確率変数についても同様である。
以下は全て等価である。
- [1]: $X_{1} \perp X_{2}$
- [2] 確率密度関数: $$ f (x_{1} , x_{2}) \equiv f_{1}(x_{1}) f_{2}(x_{2}) $$
- [3] 累積分布関数:全ての $(x_{1} ,x_{2}) \in \mathbb{R}^{2}$ について $$ F (x_{1} , x_{2}) = F_{1}(x_{1}) F_{2}(x_{2}) $$
- [4] 確率:全ての定数 $a<b$ および $c < d$ について $$ P(a < X_{1} \le b, c < X_{2} \le d) = P(a < X_{1} \le b) P ( c < X_{2} \le d) $$
- [5] 期待値:$E \left[ u (X_{1}) \right]$ および $E \left[ u (X_{2}) \right]$ が存在する場合 $$ E \left[ u(X_{1}) u(X_{2}) \right] = E \left[ u (X_{1}) \right] E \left[ u (X_{2}) \right] $$
- [6] モーメント生成関数:結合モーメント生成関数 $M(t_{1} , t_{2})$ が存在する場合 $$ M(t_{1} , t_{2}) = M (t_{1} , 0 ) M( 0, t_{2} ) $$
説明
上記の等価条件の形から見て分かる通り、独立とは絡み合った(結合)関数を乗算形に分けることができる条件を言う。これは、確率を $$ P(A \mid B) = {{ P(A B) } \over { P(B) }} \overset{\text{ind}}{\implies} P(AB) = P(A \mid B) P(B) = P(A) P(B) $$ のように分けることができるイベントの独立を抽象化したものと見ることができる。独立を直感的に理解することも重要だが、数理統計学を学ぶ上でその数式的な形にもっと注意を払う必要がある。
参照
Hogg et al. (2013). Introduction to Mathematical Statistcs(第7版): p112. ↩︎