logo

지수분포의 충분통계량과 최대우도추정량 📂확률분포론

지수분포의 충분통계량과 최대우도추정량

정리

지수분포를 따르는 랜덤샘플 X:=(X1,⋯ ,Xn)∼exp⁡(λ)\mathbf{X} := \left( X_{1} , \cdots , X_{n} \right) \sim \exp \left( \lambda \right) 이 주어져 있다고 하자.

λ\lambda 에 대한 충분통계량 TT 와 최대우도추정량 λ^\hat{\lambda} 는 다음과 같다. T=∑k=1nXkλ^=n∑k=1nXk \begin{align*} T =& \sum_{k=1}^{n} X_{k} \\ \hat{\lambda} =& {{ n } \over { \sum_{k=1}^{n} X_{k} }} \end{align*}

증명

충분통계량

f(x;λ)=∏k=1nf(xk;λ)=∏k=1nλe−λxk=λne−λ∑kxk=λne−λ∑kxk⋅1 \begin{align*} f \left( \mathbf{x} ; \lambda \right) =& \prod_{k=1}^{n} f \left( x_{k} ; \lambda \right) \\ =& \prod_{k=1}^{n} \lambda e^{-\lambda x_{k}} \\ =& \lambda^{n} e^{-\lambda \sum_{k} x_{k}} \\ =& \lambda^{n} e^{-\lambda \sum_{k} x_{k}} \cdot 1 \end{align*}

네이만 인수분해 정리: 랜덤 샘플 X1,⋯ ,XnX_{1} , \cdots , X_{n} 이 모수 θ∈Θ\theta \in \Theta 에 대해 같은 확률질량/밀도함수 f(x;θ)f \left( x ; \theta \right) 를 가진다고 하자. 통계량 Y=u1(X1,⋯ ,Xn)Y = u_{1} \left( X_{1} , \cdots , X_{n} \right) 이 θ\theta 의 충분통계량인 것은 다음을 만족하는 음이 아닌 두 함수 k1,k2≥0k_{1} , k_{2} \ge 0 이 존재하는 것이다. f(x1;θ)⋯f(xn;θ)=k1[u1(x1,⋯ ,xn);θ]k2(x1,⋯ ,xn) f \left( x_{1} ; \theta \right) \cdots f \left( x_{n} ; \theta \right) = k_{1} \left[ u_{1} \left( x_{1} , \cdots , x_{n} \right) ; \theta \right] k_{2} \left( x_{1} , \cdots , x_{n} \right) 단, k2k_{2} 는 θ\theta 에 종속되지 않아야한다.

네이만 인수분해 정리에 따라 T:=∑kXkT := \sum_{k} X_{k} 는 λ\lambda 에 대한 충분통계량이다.

최대우도추정량

log⁡L(λ;x)=log⁡f(x;λ)=log⁡λne−λ∑kxk=nlog⁡λ−λ∑k=1nxk \begin{align*} \log L \left( \lambda ; \mathbf{x} \right) =& \log f \left( \mathbf{x} ; \lambda \right) \\ =& \log \lambda^{n} e^{-\lambda \sum_{k} x_{k}} \\ =& n \log \lambda - \lambda \sum_{k=1}^{n} x_{k} \end{align*}

랜덤샘플의 로그우도함수는 위와 같고, 우도함수가 최대값이 되려면 λ\lambda 에 대한 편미분이 00 이 되는 것이므로 0=n1λ−∑k=1nxk  ⟹  λ=n∑k=1nxk \begin{align*} & 0 = n {{ 1 } \over { \lambda }} - \sum_{k=1}^{n} x_{k} \\ \implies & \lambda = {{ n } \over { \sum_{k=1}^{n} x_{k} }} \end{align*}

따라서 λ\lambda 의 최대우도추정량 λ^\hat{\lambda} 는 다음과 같다. λ^=n∑k=1nXk \hat{\lambda} = {{ n } \over { \sum_{k=1}^{n} X_{k} }}

■