積率母関数とは何か?
定義 1
確率変数$X$とある正の数$h>0$に対して、$E(e^{tX})$が$-h< t < h$で存在するならば、$M(t) = E( e^{tX} )$を$X$のモーメント生成関数と定義する。
説明
モーメント生成関数(mgf)は、数理統計学で比較的早い段階に出会う概念だが、その見慣れない定義と文脈のない導入は、時としてこの分野を嫌いにさせる要因となる。mgfを理解する難しさは、教科書がその定義と応用に直行し、読者が何であるかは知っているが、その形式や目的はまったくわからないままになるからだ。基本的に、「モーメント生成関数」という語は、‘モーメント’と’生成関数’を組み合わせて作られる。忙しい読者のためにポイントをまとめると以下の通り:
- モーメントが何かを理解する必要はない:基本的にモーメントは平均や分散などを包含する抽象的な概念である。モーメントは、次数に応じて適切な操作を加えることで意味のある統計量になることができるが、それ自体では統計的な意味を持たない。無理に何かの統計量と結びつけることなく、モーメントそのものとして十分に理解できる。
- モーメント生成関数は単なる生成関数の一種である:生成関数は、多項式関数を一般的な形で表したものに過ぎない。モーメント生成関数がモーメントを生成する関数であるという説明も悪くないが、モーメント生成関数が生成関数の一つとして、その係数がモーメントであることを知っておけば、その性質をより正確に理解できる。
モーメント生成関数をマクローリン展開で解くと次のようになる。[ 注意: 定義で$-h<t<h$を収束半径として設定する理由がここにある。] $$ \begin{align*} M(t) =& E(e^{tX}) \\ =& 1 + E(tX) + {{E(t^2 X^2)} \over {2!}} + \cdots \end{align*} $$ 期待値は線形性を持つので、以下のように$t$に対する生成関数として表現できる。 $$ M(t) = 1 + E(X) t+ {{E( X^2) t^2 } \over {2!}} + \cdots $$ $t^k$項の係数は、$k$次モーメントの定数倍である$\displaystyle {{E(X^{k})} \over {k!}} $であることに注意しよう。これで、両辺を$t$に対して$n$回微分し、$t=0$を代入すると $$ M^{(n)} (0) = E(X^{n}) $$ したがって、関数$M$はモーメントを生成すると言え、このためにモーメント生成関数と呼ばれると見なしても問題ない。$M$が定義で直接与えられていなかったり、生成関数に対する言及のみがあった場合、理解するのがずっと簡単だったであろう。
一方、確率変数$X$と$Y$に関するモーメント生成関数$M_{X}$と$M_{Y}$がそれぞれ存在するとしよう。モーメントは、統計学で我々が究極的に知りたい統計量を得るために考案された概念である。そして、すべての項のモーメントが同じであれば、その$X$と$Y$は同じ分布に従うと言えるだろう。この定理に従えば、モーメント生成関数が存在する分布同士であれば、モーメント生成関数自体を分布と同じ概念として比較することが許される。実際、分布関数は確率を表すのには便利だが、分布自体を扱うのにはそれほど良くない。その代わりに、モーメント生成関数がこのような性質を持つため、どのような確率変数がどのような分布に従うかを数式的に議論する際に最も頻繁に使用される。
定理
$X$と$Y$を、それぞれモーメント生成関数$M_{X}$、$M_{Y}$および累積分布関数$F_{X}$、$F_{Y}$を持つ確率変数としよう。すべての$ z \in \mathbb{R}$に対して$F_{X} (z) = F_{Y}(z)$が真であることと、ある$h>0$とすべての$t \in (-h,h)$に対して$M_{X}(t) = M_{Y}(t)$が真であることは同等である。
- $\mathbb{R}$は実数集合を意味する。
Hogg et al. (2013). Introduction to Mathematical Statistics(7th Edition): p59. ↩︎