📂数理統計学

弱い大数の法則の証明

法則

$\left\{ X_{k} \right\}_{k=1}^{n}$がiidの確率変数であり、分布 $\left( \mu, \sigma^2 \right) $に従うとき、$n \to \infty$であるならば $$ \overline{X}_n \overset{P}{\to} \mu $$

---

• $\overset{P}{\to}$は確率収束を意味する。

説明

中心極限定理と並んで、統計学で最も重要な定理とされる。

この定理は、どんな分布であっても「標本平均は母平均に収束する」という事実を意味している。考えてみれば当然かもしれないが、自然科学において「当然」という言葉がこれほど重要なことは珍しい。その使用を超えて、学問を追求する人々にとっては「法則」という言葉がふさわしい命題である。

幸いにも、重要性に比べて証明自体は簡単で、確率収束の定義とチェビシェフの不等式だけを知っていれば十分である。

証明¹

チェビシェフの不等式を使用するためのトリックを用いる。

全ての$\epsilon > 0$に対して $$ P(|\overline{X}_n - \mu | \ge \epsilon) = P\left(|\overline{X}_n - \mu | \ge \left( \epsilon \sqrt{n} \over \sigma \right) \left( \sigma \over \sqrt{n} \right) \right) $$

ここで、$\overline{X}_n$の母平均と分散はそれぞれ$\mu$と$\displaystyle \sigma^2 / n $である。 既にチェビシェフの不等式を使用する条件を満たしている。

チェビシェフの不等式 $$ P(| X - \mu | \ge k\sigma ) \le {1 \over k^2} $$

従って、$n \to \infty$の時 $$ P(|\overline{X}_n - \mu | \ge \epsilon) = P\left(|\overline{X}_n - \mu | \ge \left( \epsilon \sqrt{n} \over \sigma \right) {\sigma \over \sqrt{n}} \right) \le {{\sigma^2} \over {n \epsilon^2}} \to 0 $$

■