logo

칼린-루빈 정리 증명 📂수리통계학

칼린-루빈 정리 증명

정리

가설검정: H0:θθ0H1:θ>θ0 \begin{align*} H_{0} :& \theta \le \theta_{0} \\ H_{1} :& \theta > \theta_{0} \end{align*}

위와 같은 가설검정에서 TTθ\theta충분통계량이라 하고, tt확률밀도함수 혹은 확률질량함수의 패밀리 {g(tθ):θΘ}\left\{ g(t | \theta) : \theta \in \Theta \right\}단조우도비 MLR을 갖는다고 하자. 그러면 t0\forall t_{0} 에 대해 H0 is rejected if and only if T>t0 H_{0} \text{ is rejected if and only if } T > t_{0} 인 가설검정은 레벨 α=Pθ0(T>t0)\alpha = P_{\theta_{0}} \left( T > t_{0} \right) 최강력검정이다.


  • 모수 θ\theta 에 대해 기각역RR 인 함수 β(θ):=Pθ(XR)\beta (\theta) := P_{\theta} \left( \mathbf{X} \in \mathbb{R} \right)검정력 함수power function라 한다. supθΘ0β(θ)α\sup_{\theta \in \Theta_{0}} \beta (\theta) \le \alpha 면 주어진 가설검정을 레벨level α\alpha 가설검정이라 한다.

설명

가정에서 주어진 가설검정은 H0:θθ0H_{0} : \theta \le \theta_{0}, 즉 단측 검정one-sided test임에 주의하자. 가령 z-검정을 한다고 치면 Zzα/2|Z| \ge z_{\alpha/2} 와 같은 조건에서 귀무가설을 기각하게 될텐데, 이는 양측 검정two-sided test이므로 칼린-루빈 정리를 무턱대고 사용할 수 없다. 보통 어느 한 쪽에서는 최강력검정인데 다른 한 쪽에서 최강력검정이 아니게 되는 식으로 문제가 생기며, 이러한 상황을 극복하기 위해 불편 검정려감수 등을 생각하게 된다.

충분통계량의 확률밀도함수 혹은 확률질량함수의 패밀리가 단조우도비을 가지는 것을 보임으로써 단반향 검정이 최강력검정임을 보장할 수 있는 정리다.

증명 1

Part 1.

θ>θ0\theta > \theta_{0} 일 때 귀무가설이 기각되므로 검정력 함수는 β(θ)=Pθ(T>t0)\beta (\theta) = P_{\theta} \left( T > t_{0} \right) 다. 가정에서 θ\theta 의 충분통계량 TT 의 확률밀도함수 혹은 확률질량함수의 패밀리가 단조우도비를 가지므로 β(θ)\beta \left( \theta \right)단조증가함수(감소하지않는)supθθ0β(θ)=β(θ0)=α \sup_{\theta \le \theta_{0}} \beta \left( \theta \right) = \beta \left( \theta_{0} \right) = \alpha 이고, 레벨 α\alpha 테스트다.


Part 2.

단조우도비의 정의: 모수 θR\theta \in \mathbb{R}일변량 확률변수 TT 에 대한 확률질량함수 혹은 확률밀도함수의 패밀리를 G:={g(tθ):θΘ}G := \left\{ g ( t | \theta) : \theta \in \Theta \right\} 라 하자. 모든 θ2>θ1\theta_{2} > \theta_{1} 에 대해 g(tθ2)g(tθ1) {{ g \left( t | \theta_{2} \right) } \over { g \left( t | \theta_{1} \right) }} {t:g(tθ1)>0g(tθ2)>0}\left\{ t : g \left( t | \theta_{1} \right) > 0 \lor g \left( t | \theta_{2} \right) > 0 \right\} 에서 단조함수GG단조우도비monotone Llikelihood Ratio, MLR을 가진다고 한다.

이제 θ>θ0\theta ' >\theta_{0} 하나를 픽스하고 다음과 같이 또다른 가설검정을 생각해보자. H0:θ=θ0H1:θ=θ \begin{align*} H'_{0} :& \theta = \theta_{0} \\ H'_{1} :& \theta = \theta ' \end{align*} 이 새로운 가설검정은 네이만-피어슨 보조정리의 따름정리를 사용하기 위한 세팅인 동시에 원래 가설검정의 기각역에 속하는 θΘ0c\theta ' \in \Theta_{0}^{c} 에 대한 임의의 가설검정이다. 집합 T:={t>t0:g(tθ)g(tθ0)}\mathcal{T} := \left\{ t > t_{0} : g \left( t | \theta ' \right) \lor g \left( t | \theta_{0} \right) \right\} 에서 k:=inftTg(tθ)g(tθ0) k ' := \inf_{t \in \mathcal{T}} {{ g \left( t | \theta ' \right) } \over { g \left( t | \theta_{0} \right) }} 을 생각해보면, 그 정의에 따라 다음을 얻는다. T>t0    g(tθ)g(tθ0)>k    g(tθ)>kg(tθ0) T > t_{0} \iff {{ g \left( t | \theta ' \right) } \over { g \left( t | \theta_{0} \right) }} > k’ \iff g \left( t | \theta ' \right) > k’ g \left( t | \theta_{0} \right)


Part 3.

충분통계량이 포함된 최강력검정: H0:θ=θ0H1:θ=θ1 \begin{align*} H_{0} :& \theta = \theta_{0} \\ H_{1} :& \theta = \theta_{1} \end{align*}

위와 같은 가설검정에서 θ\theta 에 대한 충분통계량 TTθ0,θ1\theta_{0}, \theta_{1} 에 대한 확률밀도함수 혹은 확률질량함수g(tθ0),g(tθ1)g \left( t | \theta_{0} \right), g \left( t | \theta_{1} \right) 라고 하자. 그러면 기각역 SS 와 어떤 상수 k0k \ge 0 에 대해, 다음 세 조건을 만족하면서 TT 에 종속된 모든 가설 검정은 레벨 α\alpha최강력검정이다.

  • (i): g(tθ1)>kg(tθ0)g \left( t | \theta_{1} \right) > k g \left( t | \theta_{0} \right) 이면 tSt \in S
  • (ii): g(tθ1)<kg(tθ0)g \left( t | \theta_{1} \right) < k g \left( t | \theta_{0} \right) 이면 tSct \in S^{c}
  • (iii): α=Pθ0(TS)\alpha = P_{\theta_{0}} \left( T \in S \right)

충분통계량이 포함된 최강력검정의 조건 (i), (ii)는 Part 2에 의해서, 조건 (iii)는 Part 1에 의해서 만족되므로 H0 vs H1H'_{0} \text{ vs } H'_{1}최강력검정이다. 다시 말해, 모든 레벨 α\alphaH0H'_{0} 의 다른 모든 검정력함수 β\beta^{\ast} 에 대해 β(θ)β(θ) \beta^{\ast} \left( \theta ' \right) \le \beta \left( \theta ' \right) 이 성립한다는 것이고, Part 1에서 β\beta 가 단조증가함수였고 Part 2에서 θ>θ0\theta ' >\theta_{0} 라 픽스했으므로 모든 가설검정에 대해 β(θ0)α\beta \left( \theta_{0} \right) \le \alpha 임을 알 수 있다. 한편 H0H_{0} 의 모든 레벨 α\alpha 가설검정은 β(θ0)supθΘ0β(θ)α \beta^{\ast} \left( \theta_{0} \right) \le \sup_{\theta \in \Theta_{0}} \beta^{\ast} \left( \theta \right) \le \alpha 을 만족시킨다. 증명과정에서 레벨 α\alpha 의 가설검정이라면 θ\theta ' 는 무엇이든 상관 없었으므로, 원래 가설검정의 어떤 θΘ0c\theta ' \in \Theta_{0}^{c} 를 대입하더라도 H0H'_{0} 뿐만 아니라 H0H_{0} 의 모든 레벨 α\alpha 가설검정에서도 β(θ)β(θ)\beta^{\ast} \left( \theta ' \right) \le \beta \left( \theta ' \right) 가 성립한다. 다시 말해, 정리에서 주어진 H0H_{0} 의 가설검정은 레벨 α\alpha 최강력검정이다.


  1. Casella. (2001). Statistical Inference(2nd Edition): p391~392. ↩︎