logo

レマン-シェップの定理の証明 📂数理統計学

レマン-シェップの定理の証明

定理 1 2

完備 十分 統計量に従属する不偏推定量は一意的である。つまり、θ\theta の完備十分統計量 TT について、もし E[ϕ(T)]=τ(θ)E \left[ \phi (T) \right] = \tau (\theta) ならば ϕ(T)\phi (T)τ(θ)\tau (\theta) の一意的な不偏推定量、即ち 最良不偏推定量である。

説明

レーマン-シェフェの定理は不偏推定量の一意性を保証する強力な定理であり、統計量の完備性と十分性が重要である理由そのものになり得る。この定理に従って、十分統計量を見つけることが意味を持ち、これ以上良い不偏推定量を探す必要がなくなる。

証明

ラオ-ブラックウェル定理: 母数 θ\theta が与えられたとする。TTθ\theta十分統計量であり、WWτ(θ)\tau \left( \theta \right)不偏推定量であるとする。ϕ(T):=E(WT)\phi \left( T \right) := E \left( W | T \right) を定義すると、すべての θ\theta に対して次が成り立つ。 Eθϕ(T)=τ(θ)Varθϕ(T)VarθW \begin{align*} E_{\theta} \phi (T) =& \tau (\theta) \\ \operatorname{Var}_{\theta} \phi (T) \le& \operatorname{Var}_{\theta} W \end{align*} 言い換えると、ϕ(T)\phi (T)τ(θ)\tau (\theta) に対して WW よりより良い不偏推定量uniformly Better Unbiased estimatorである。

ラオ-ブラックウェル定理により、ϕ(T)\phi (T) は不偏推定量であり、ϕ(T)\phi (T) の分散は τ(θ)\tau (\theta) の不偏推定量 WW の分散よりも大きくはない。τ(θ)\tau (\theta) に対する別の不偏推定量 ww ' について ψ(T):=E(WT)\psi \left( T \right) := E \left( W’ | T \right) と定義すると Eθ[ϕ(T)ψ(T)]=τ(θ)τ(θ)=0 E_{\theta} \left[ \phi \left( T \right) - \psi \left( T \right) \right] = \tau (\theta) - \tau (\theta) = 0 であり、TT完備性により、すべての θ\theta に対して Eθ[ϕ(T)ψ(T)]=0    Pθ(ϕ(T)=ψ(T))=100% E_{\theta} \left[ \phi \left( T \right) - \psi \left( T \right) \right] = 0 \implies P_{\theta} \left( \phi \left( T \right) = \psi \left( T \right) \right) = 100 \% である。つまり ϕ(T)\phi (T)一意的な不偏推定量であり、それが最良不偏推定量となり証明が完了する。


  1. Casella. (2001). Statistical Inference(2nd Edition): p369. ↩︎

  2. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p402. ↩︎