📂수리통계학

최소분산불편추정량의 유일성

정리 ¹

만약 $W$ 가 $\tau (\theta)$ 의 최선불편추정량이라면, $W$ 는 유일하다.

증명

코시-슈바르츠 부등식: 확률변수 $X, Y$ 에 대해 다음이 성립한다. $$ \operatorname{Cov} (X,Y) \le \operatorname{Var} X \operatorname{Var} Y $$ 등호가 성립하는 필요충분조건은 다음과 같다. $$ \exist a \ne 0 , b \in \mathbb{R} : a X + b = Y $$

---

$w '$ 가 $W$ 와 또 다른 최선불편추정량이라고 하고, $W^{\ast} := \left( W + W’ \right) / 2$ 를 생각해보면 그 기대값은 $$ E_{\theta} W^{\ast} = \left( \tau (\theta) + \tau (\theta) \right) / 2 = \tau (\theta) $$ 이고 분산은 $$ \begin{align*} \operatorname{Var}_{\theta} W^{\ast} =& \operatorname{Var}_{\theta} \left( {{ 1 } \over { 2 }} W + {{ 1 } \over { 2 }} W’ \right) \\ =& {{ 1 } \over { 4 }} \operatorname{Var}_{\theta} W + {{ 1 } \over { 4 }} \operatorname{Var}_{\theta} W’ + {{ 1 } \over { 2 }} \operatorname{Cov}_{\theta} \left( W, W’ \right) \\ \le& {{ 1 } \over { 4 }} \operatorname{Var}_{\theta} W + {{ 1 } \over { 4 }} \operatorname{Var}_{\theta} W’ + {{ 1 } \over { 2 }} \sqrt{\operatorname{Var}_{\theta} W \cdot \operatorname{Var}_{\theta} W’} \\ =& \operatorname{Var}_{\theta} W \end{align*} $$

위에서 부등식 $<$ 이 성립한다면 $W$ 가 최선불편추정량이라는 전제에 모순이므로 등식 $=$ 만 모든 $\theta$ 에 대해 성립하는 것을 보이면 된다. 등호만 성립하는 필요충분조건은 어떤 $a (\theta) \ne 0$ 와 $b(\theta) \in \mathbb{R}$ 에 대해 $a (\theta) W + b(\theta) = w '$ 가 성립하는 것이고, 직접 계산해보면 공분산의 성질에 따라 $$ \begin{align*} \operatorname{Cov}_{\theta} \left( W, W’ \right) =& \operatorname{Cov}_{\theta} \left( W, W’ \right) \\ =& \operatorname{Cov}_{\theta} \left( W, a (\theta) W + b(\theta) \right) \\ =& \operatorname{Cov}_{\theta} \left( W, a (\theta) W \right) \\ =& a (\theta) \operatorname{Var}_{\theta} W \end{align*} $$ 이미 위에서 $\operatorname{Cov}_{\theta} \left( W, W’ \right) = \operatorname{Var}_{\theta} W$ 이었으므로 $a(\theta) = 1$ 이고, $E_{\theta} \tau (\theta)$ 이므로 $b(\theta) = 0$ 여서 $W = w '$ 다.

■