불편추정량의 라오-크래머 하한

불편추정량의 라오-크래머 하한

Rao-Cramér Lower Bound of Unbiased Estimator

정리

정칙조건:

  • (R0): 확률밀도함수 $f$ 는 $\theta$ 에 대해 단사다. 수식으로는 다음을 만족시킨다. $$ \theta \ne \theta' \implies f \left( x_{k} ; \theta \right) \ne f \left( x_{k} ; \theta' \right) $$
  • (R1): 확률밀도함수 $f$ 는 모든 $\theta$ 에 대해 같은 서포트를 가진다.
  • (R2): 참값 $\theta_{0}$ 는 $\Omega$ 의 내점Interior Point이다.
  • (R3): 확률밀도함수 $f$ 는 $\theta$ 에 대해 두 번 미분가능하다.
  • (R4): 적분 $\int f (x; \theta) dx$ 은 적분 기호를 넘나들며 $\theta$ 에 대해 두 번 미분가능하다.

랜덤샘플 $X_{1} , \cdots , X_{n}$ 가 정칙조건 (R0)~(R4)를 만족하는 $f (x|\theta)$ 에서 나왔다고 하고 우도함수 $L (\theta | \mathbf{X} ) := \prod_{k=1}^{n} f \left( x_{k} | \theta \right)$ 를 정의하자. 만약 $W \left( \mathbf{X} \right) = W \left( X_{1} , \cdots , X_{n} \right)$ 가 $\tau \left( \theta \right)$ 의 불편추정량이라면, $W \left( \mathbf{X} \right)$ 이 라오-크래머 하한 $\text{RC}$ 를 가지는 것은 어떤 함수 $a(\theta)$ 에 대해 다음이 성립하는 것과 동치다. $$ a \left( \theta \right) \left[ W \left( \mathbf{X} \right) - \tau (\theta) \right] = {{ \partial \log L (\theta | \mathbf{X}) } \over { \partial \theta }} $$

설명

요약하자면 $W \left( \mathbf{X} \right) - \tau (\theta)$ 가 ${{ \partial \log L (\theta | \mathbf{X}) } \over { \partial \theta }}$ 에 비례할 때 $\text{Var} W \left( \mathbf{X} \right) = \text{RC}$ 라는 것이다. 정리의 증명1 자체는 별로 어렵지 않지만 해당 교재에서만 편하게 쓰는 논리가 꽤 많아 생략한다.


  1. Casella. (2001). statistiical Inference(2nd Edition): p336~341. ↩︎

댓글