レマン-シェップの定理の証明
定理 1 2
完備 十分 統計量に従属する不偏推定量は一意的である。つまり、$\theta$ の完備十分統計量 $T$ について、もし $E \left[ \phi (T) \right] = \tau (\theta)$ ならば $\phi (T)$ は $\tau (\theta)$ の一意的な不偏推定量、即ち 最良不偏推定量である。
説明
レーマン-シェフェの定理は不偏推定量の一意性を保証する強力な定理であり、統計量の完備性と十分性が重要である理由そのものになり得る。この定理に従って、十分統計量を見つけることが意味を持ち、これ以上良い不偏推定量を探す必要がなくなる。
証明
ラオ-ブラックウェル定理: 母数 $\theta$ が与えられたとする。$T$ が $\theta$ の十分統計量であり、$W$ が $\tau \left( \theta \right)$ の不偏推定量であるとする。$\phi \left( T \right) := E \left( W | T \right)$ を定義すると、すべての $\theta$ に対して次が成り立つ。 $$ \begin{align*} E_{\theta} \phi (T) =& \tau (\theta) \\ \operatorname{Var}_{\theta} \phi (T) \le& \operatorname{Var}_{\theta} W \end{align*} $$ 言い換えると、$\phi (T)$ は $\tau (\theta)$ に対して $W$ よりより良い不偏推定量uniformly Better Unbiased estimatorである。
ラオ-ブラックウェル定理により、$\phi (T)$ は不偏推定量であり、$\phi (T)$ の分散は $\tau (\theta)$ の不偏推定量 $W$ の分散よりも大きくはない。$\tau (\theta)$ に対する別の不偏推定量 $w '$ について $\psi \left( T \right) := E \left( W’ | T \right)$ と定義すると $$ E_{\theta} \left[ \phi \left( T \right) - \psi \left( T \right) \right] = \tau (\theta) - \tau (\theta) = 0 $$ であり、$T$ の完備性により、すべての $\theta$ に対して $$ E_{\theta} \left[ \phi \left( T \right) - \psi \left( T \right) \right] = 0 \implies P_{\theta} \left( \phi \left( T \right) = \psi \left( T \right) \right) = 100 \% $$ である。つまり $\phi (T)$ は一意的な不偏推定量であり、それが最良不偏推定量となり証明が完了する。
■