유일한 최대우도추정량은 충분통계량에 종속된다 📂수리통계학

유일한 최대우도추정량은 충분통계량에 종속된다

Unique MLE Depends on Sufficient statistiic

정리

만약 모수 $\theta$ 에 대한 충분통계량 $T$ 가 존재하고 $\theta$ 의 최대우도추정량 $\hat{\theta}$ 가 유일하게 존재한다면, $\hat{\theta}$ 는 $T$ 에 대한 함수로 나타난다.

증명 1

확률밀도함수 $f \left( x ; \theta \right)$ 를 가지는 랜덤샘플 $X_{1} , \cdots , X_{n}$ 에 대한 충분통계량 $T := T \left( X_{1} , \cdots , X_{n} \right)$ 과 그 확률밀도함수 $f_{t}$ 를 생각해보자. 충분통계량의 정의에 따라 그 우도함수 $L$ 은 $\theta$ 에 종속되지 않은 어떤 함수 $H$ 에 대해 $$ \begin{align*} & L \left( \theta ; x_{1} , \cdots , x_{n} \right) \\ =& f \left( x_{1} ; \theta \right) \cdots f \left( x_{n} ; \theta \right) \\ =& f_{T} \left( t \left( x_{1} , \cdots , x_{n} \right) ; \theta \right) \cdot H \left( x_{1} , \cdots , x_{n} \right) \end{align*} $$ 과 같이 나타낼 수 있다. $L$ 과 $f_{T}$ 모두 $\theta$ 에 종속되어 있으므로 최대화된다면 동시에 최대화된다. 그런데 가정에서 이들을 최대화하는 $\theta$ 가 유일하다고 했으므로, $\theta$ 의 최대우도추정량 $\hat{\theta}$ 는 $T$ 에 종속되어 있어야 하는 것과 다름 없다.

설명

예로써 일양분포 $U (0, \theta)$ 를 따르는 랜덤 샘플을 생각해보면 그 충분통계량은 $\max X_{k}$ 고, 최대우도추정량 역시 $\max X_{k}$ 이어서 이 정리에 따르게 된다.


  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p397. ↩︎

댓글