📂確率分布論

標準正規分布の二乗が自由度1のカイ二乗分布に従うことの証明

定理

$X \sim N(\mu,\sigma ^2)$ならば $$ V=\left( { X - \mu \over \sigma} \right) ^2 \sim \chi ^2 (1) $$

---

• $N \left( \mu , \sigma^{2} \right)$は平均が$\mu$で分散が$\sigma^{2}$の正規分布である。
• $\chi^{2} \left( 1 \right)$は自由度$1$のカイ二乗分布である。

説明

定理としては、これを一般化したスチューデントの定理がよく使われる。

統計学を学ぶ者であれば、標準正規分布の二乗がカイ二乗分布に従うということは、事実として常に当然のように知っておくべきである。あるデータが正規分布に従うと仮定できるとき、標準化されたデータの分散が過度に大きかったり小さかったりすれば、何か問題があることをすぐに察することができる。当然ながら多くの統計的検定に応用され、それに対する理論的な直観があるかないかは天と地の差である。

一方で逆に考えてみると、カイ二乗分布の定義を先に思い浮かべてその性質を探究するよりも、そもそも標準正規分布に従うデータの二乗、おそらくは残差の二乗がどのような分布に従うのかを研究しているうちにカイ二乗分布を発見する方がより常識的である。

証明¹

$\displaystyle W := {(X-\mu) \over \sigma }$とすると$W \sim N(0,1)$である。

標準正規分布の定義：次のような確率密度関数を持つ正規分布$N \left( 0,1^{2} \right)$を標準正規分布という。 $$ f(z) = {{ 1 } \over { \sqrt{2 \pi} }} \exp \left[ - {{ z^{2} } \over { 2 }} \right] $$

$V$の累積分布関数を$F$とすると $$ \begin{align*} F(v) =& P(V \le v) \\ =& P \left( W^2 \le v \right) \\ =& P \left( \sqrt{v} \le W \le \sqrt{v} \right) \\ =& \int_{-\sqrt{v}}^{\sqrt{v}} { 1 \over \sqrt{ 2 \pi } } e^{-{{w^2} \over 2}} dw \\ =& 2 \int_{0}^{\sqrt{v}} { 1 \over \sqrt{ 2 \pi } } e^{-{{w^2} \over 2}} dw \end{align*} $$ $w := \sqrt{x}$のように置換すると $$ F(v) = 2\int_{0}^{v} { 1 \over \sqrt{ 2 \pi } } e^{-{{x} \over 2}} {1 \over {2 \sqrt{x} } } dx $$ 微分積分学の基本定理により、$v$の確率密度関数$f$は $$ f(v) = F ' (v) = { 1 \over {\sqrt{ 2 \pi } } } e^{-{{v} \over 2}}{ 1 \over {v^{1 \over 2}} } $$

オイラーの反射公式： $$ {\Gamma (1-x) \Gamma ( x )} = { {\pi} \over {\sin \pi x } } $$

反射公式により$\displaystyle \sqrt{\pi} = \Gamma \left( {{ 1 } \over { 2 }} \right)$なので $$ f(v) = { 1 \over { \Gamma ({1 \over 2}) 2^{1 \over 2} } } v^{ - {1 \over 2} } e^{-{{v} \over 2}} $$

ガンマ分布の定義：$k, \theta > 0$に対して、次のような確率密度関数を持つ連続確率分布$\Gamma ( k , \theta )$をガンマ分布という。 $$ f(x) = {{ 1 } \over { \Gamma ( k ) \theta^{k} }} x^{k - 1} e^{ - x / \theta} \qquad , x > 0 $$

まとめると、$V$はガンマ分布$\displaystyle \Gamma \left( {{ 1 } \over { 2 }} , 2 \right)$の確率密度関数を持つ。

ガンマ分布とカイ二乗分布の関係： $$ \Gamma \left( { r \over 2 } , 2 \right) \iff \chi ^2 (r) $$

したがって$\displaystyle \Gamma \left( {1 \over 2}, 2 \right) \sim \chi^2 (1)$であり $$ \left( { X - \mu \over \sigma} \right) ^2 \sim \chi ^2 (1) $$

■