레만-셰페 정리 증명

레만-셰페 정리 증명

Proof of Lehmann-Scheffé Theorem

정리 1 2

완비 충분 통계량에 종속된 불편추정량은 유일하다. 다시 말해, $\theta$ 의 완비충분통계량 $T$ 에 대해 만약 $E \left[ \phi (T) \right] = \tau (\theta)$ 면 $\phi (T)$ 는 $\tau (\theta)$ 의 유일한 불편추정량, 즉 최선불편추정량이다.

설명

레만-셰페 정리는 불편추정량의 유일성을 보존하는 강력한 정리로써, 통계량의 완비성과 충분성이 중요한 이유 자체가 될 수 있다. 이 정리에 따라 충분통계량을 찾는 일이 의미를 가지며 더 이상 좋은 불편추정량을 찾을 이유가 없다.

증명

라오-블랙웰 정리: 모수 $\theta$ 가 주어져 있다고 하자. $T$ 가 $\theta$ 의 충분통계량이고 $W$ 가 $\tau \left( \theta \right)$ 의 불편추정량이라고 할 때 $\phi \left( T \right) := E \left( W | T \right)$ 를 정의하면 모든 $\theta$ 에 대해 다음이 성립한다. $$ \begin{align*} E_{\theta} \phi (T) =& \tau (\theta) \\ \text{Var}_{\theta} \phi (T) \le& \text{Var}_{\theta} W \end{align*} $$ 다시 말해, $\phi (T)$ 는 $\tau (\theta)$ 에 대해 $W$ 보다 더 나은 불편추정량Uniformly Better Unbiased Estimator이다.

라오-블랙웰 정리에 따라 $\phi (T)$ 는 불편추정량이며, $\phi (T)$ 의 분산은 $\tau(\theta)$ 의 불편추정량 $W$ 의 분산보다 크지는 않다. 이에 $\tau (\theta)$ 에 대한 또 다른 불편추정량 $W'$ 에 대해 $\psi \left( T \right) := E \left( W' | T \right)$ 라 정의하면 $$ E_{\theta} \left[ \phi \left( T \right) - \psi \left( T \right) \right] = \tau (\theta) - \tau (\theta) = 0 $$ 인데, $T$ 의 완비성에 따라 모든 $\theta$ 에 대해 $$ E_{\theta} \left[ \phi \left( T \right) - \psi \left( T \right) \right] = 0 \implies P_{\theta} \left( \phi \left( T \right) = \psi \left( T \right) \right) = 100 \% $$ 이다. 즉 $\phi(T)$ 는 유일한 불편추정량이므로 최선불편추정량이 되어 증명이 끝난다.


  1. Casella. (2001). statistiical Inference(2nd Edition): p369. ↩︎

  2. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p402. ↩︎

댓글