📂数理統計学

数理統計学における統計量と推定量

定義 ^{1 2}

1. 確率変数 $X$ のサンプル $X_{1} , \cdots , X_{n}$ の関数 $T$ を統計量^statisticと言う。 $$ T := T \left( X_{1} , \cdots , X_{n} \right) $$
2. $X$ の分布関数が $f(x; \theta)$ あるいは $p(x; \theta)$ のように表される時、$T$ が $\theta$ を把握するための統計量であれば、$T$ を$\theta$ の推定量^estimatorと言う。
3. 統計量の確率分布をサンプリング分布^{sampling distribution}と言う。

説明

推定量(Estimator)の実現を推定値^estimateと言う。パラメータは通常スカラー $\theta \in \mathbb{R}$ の場合が多く、この場合は$T$を$\theta$の点推定量^{point Estimator}とも言う。例えば、正規分布 $N \left( \mu, \sigma^{2} \right)$ に従うランダムサンプルがあるとき、母平均 $\mu$ の推定量は次の通りである。 $$ \overline{X} := {{ 1 } \over { n }} \sum_{k = 1}^{n} X_{k} $$ 実際のデータ $x_{1} , \cdots , x_{n}$ がある場合、$\mu$ の推定値は次の通りである。 $$ \overline{x} := {{ 1 } \over { n }} \sum_{k = 1}^{n} x_{k} $$

参考文献

基礎統計学での統計量

基礎統計学ではサンプルの関数とは言わずもっと直感的に「計算されたもの」という表現を使って定義している。本質的には同じ意味だが、数学に馴染みのない新入生や人にとってより良い定義かもしれない。

統計量の例

平均や分散などを除外して、「統計量」と名前についている統計量には以下のような例がある:

• 十分統計量: 分布内のパラメータに関するすべての情報を持つ統計量である。
  • 最小十分統計量: 特定の条件を満たす十分統計量である。
• 補助統計量: 十分統計量とは反対に、パラメータに関するどんな情報も持たない統計量である。
• 完全統計量: 統計量としてこのような性質を持っているべきだと言われる時、実際にその性質を持つ統計量である。

推定量の例

推定量には以下のような例がある:

• 不偏推定量: 偏りを持たない推定量である。
• 一致推定量: 極限概念でパラメータを的確に推定する推定量である。
• 最尤推定量: 尤度^likelihoodを最大化する推定量である。
• 効率的推定量: 統計量の分散と関連した推定量である。