確率変数の独立性とiid
定義1
- 確率変数が次を満たすとき、はペアワイズ独立と言われる。
- 連続確率変数の結合確率密度関数が、それぞれの確率密度関数に対して次を満たす場合、は相互独立であると言う。
- 離散確率変数の結合確率質量関数が、それぞれの確率密度関数に対して次を満たす場合、は相互独立であると言う。
- 確率変数が相互に独立であり、同じ分布を持つとき、iid(独立同分布)と呼ぶ。
説明
- ペアワイズ独立の概念はそれ自体が重要であるというよりも、相互独立という望ましい条件を満たさない、より良くない条件というニュアンスを強く持つものである。自然と相互独立であればペアワイズにも独立であるが、その逆は成立しない。これをよく示す反例がベルンスタイン分布である。
- iidは相互独立が数学的に扱いやすく、各々が同一という点で、数理統計学において重要な仮定として好まれる。例えば、その分布がである場合、を分布に従うiid確率変数と言い、次のように表すこともできる。
定理
- [1] 期待値: が相互に独立である場合、それぞれに適用されるある関数について
- [2] モーメント生成関数: が相互に独立であり、それぞれのモーメント生成関数がである場合、その線形組み合わせのモーメント生成関数は
Hogg et al. (2013). Mathematical Statistics の導入 (第7版): p122~125. ↩︎