칼린-루빈 정리 증명

칼린-루빈 정리 증명

Proof of Karlin-Rubin Theorem

정리

가설검정: $$ \begin{align*} H_{0} :& \theta \le \theta_{0} \\ H_{1} :& \theta > \theta_{0} \end{align*} $$

위와 같은 가설검정에서 $T$ 를 $\theta$ 의 충분통계량이라 하고, $t$ 의 확률밀도함수 혹은 확률질량함수의 패밀리 $\left\{ g(t | \theta) : \theta \in \Theta \right\}$ 가 단조우도비 MLR을 갖는다고 하자. 그러면 $\forall t_{0}$ 에 대해 $$ H_{0} \text{ is rejected if and only if } T > t_{0} $$ 인 가설검정은 레벨 $\alpha = P_{\theta_{0}} \left( T > t_{0} \right)$ 최강력검정이다.


  • 모수 $\theta$ 에 대해 기각역이 $R$ 인 함수 $\beta (\theta) := P_{\theta} \left( \mathbf{X} \in \mathbb{R} \right)$ 을 검정력 함수Power Function라 한다. $\sup_{\theta \in \Theta_{0}} \beta (\theta) \le \alpha$ 면 주어진 가설검정을 레벨Level $\alpha$ 가설검정이라 한다.

설명

가정에서 주어진 가설검정은 $H_{0} : \theta \le \theta_{0}$, 즉 단측 검정One-sided Test임에 주의하자. 가령 z-검정을 한다고 치면 $|Z| \ge z_{\alpha/2}$ 와 같은 조건에서 귀무가설을 기각하게 될텐데, 이는 양측 검정Two-sided Test이므로 칼린-루빈 정리를 무턱대고 사용할 수 없다. 보통 어느 한 쪽에서는 최강력검정인데 다른 한 쪽에서 최강력검정이 아니게 되는 식으로 문제가 생기며, 이러한 상황을 극복하기 위해 불편 검정려감수 등을 생각하게 된다.

충분통계량의 확률밀도함수 혹은 확률질량함수의 패밀리가 단조우도비을 가지는 것을 보임으로써 단반향 검정이 최강력검정임을 보장할 수 있는 정리다.

증명 1

Part 1.

$\theta > \theta_{0}$ 일 때 귀무가설이 기각되므로 검정력 함수는 $\beta (\theta) = P_{\theta} \left( T > t_{0} \right)$ 다. 가정에서 $\theta$ 의 충분통계량 $T$ 의 확률밀도함수 혹은 확률질량함수의 패밀리가 단조우도비를 가지므로 $\beta \left( \theta \right)$ 은 단조증가함수(감소하지않는)며 $$ \sup_{\theta \le \theta_{0}} \beta \left( \theta \right) = \beta \left( \theta_{0} \right) = \alpha $$ 이고, 레벨 $\alpha$ 테스트다.


Part 2.

단조우도비의 정의: 모수 $\theta \in \mathbb{R}$ 와 일변량 확률변수 $T$ 에 대한 확률질량함수 혹은 확률밀도함수의 패밀리를 $G := \left\{ g ( t | \theta) : \theta \in \Theta \right\}$ 라 하자. 모든 $\theta_{2} > \theta_{1}$ 에 대해 $$ {{ g \left( t | \theta_{2} \right) } \over { g \left( t | \theta_{1} \right) }} $$ 가 $\left\{ t : g \left( t | \theta_{1} \right) > 0 \lor g \left( t | \theta_{2} \right) > 0 \right\}$ 에서 단조함수면 $G$ 가 단조우도비Monotone Llikelihood Ratio, MLR을 가진다고 한다.

이제 $\theta' >\theta_{0}$ 하나를 픽스하고 다음과 같이 또다른 가설검정을 생각해보자. $$ \begin{align*} H'_{0} :& \theta = \theta_{0} \\ H'_{1} :& \theta = \theta' \end{align*} $$ 이 새로운 가설검정은 네이만-피어슨 보조정리의 따름정리를 사용하기 위한 세팅인 동시에 원래 가설검정의 기각역에 속하는 $\theta' \in \Theta_{0}^{c}$ 에 대한 임의의 가설검정이다. 집합 $\mathcal{T} := \left\{ t > t_{0} : g \left( t | \theta' \right) \lor g \left( t | \theta_{0} \right) \right\}$ 에서 $$ k' := \inf_{t \in \mathcal{T}} {{ g \left( t | \theta' \right) } \over { g \left( t | \theta_{0} \right) }} $$ 을 생각해보면, 그 정의에 따라 다음을 얻는다. $$ T > t_{0} \iff {{ g \left( t | \theta' \right) } \over { g \left( t | \theta_{0} \right) }} > k' \iff g \left( t | \theta' \right) > k' g \left( t | \theta_{0} \right) $$


Part 3.

충분통계량이 포함된 최강력검정: $$ \begin{align*} H_{0} :& \theta = \theta_{0} \\ H_{1} :& \theta = \theta_{1} \end{align*} $$

위와 같은 가설검정에서 $\theta$ 에 대한 충분통계량 $T$ 의 $\theta_{0}, \theta_{1}$ 에 대한 확률밀도함수 혹은 확률질량함수를 $g \left( t | \theta_{0} \right), g \left( t | \theta_{1} \right)$ 라고 하자. 그러면 기각역 $S$ 와 어떤 상수 $k \ge 0$ 에 대해, 다음 세 조건을 만족하면서 $T$ 에 종속된 모든 가설 검정은 레벨 $\alpha$최강력검정이다.

  • (i): $g \left( t | \theta_{1} \right) > k g \left( t | \theta_{0} \right)$ 이면 $t \in S$
  • (ii): $g \left( t | \theta_{1} \right) < k g \left( t | \theta_{0} \right)$ 이면 $t \in S^{c}$
  • (iii): $\alpha = P_{\theta_{0}} \left( T \in S \right)$

충분통계량이 포함된 최강력검정의 조건 (i), (ii)는 Part 2에 의해서, 조건 (iii)는 Part 1에 의해서 만족되므로 $H'_{0} \text{ vs } H'_{1}$ 는 최강력검정이다. 다시 말해, 모든 레벨 $\alpha$ 와 $H'_{0}$ 의 다른 모든 검정력함수 $\beta^{\ast}$ 에 대해 $$ \beta^{\ast} \left( \theta' \right) \le \beta \left( \theta' \right) $$ 이 성립한다는 것이고, Part 1에서 $\beta$ 가 단조증가함수였고 Part 2에서 $\theta' >\theta_{0}$ 라 픽스했으므로 모든 가설검정에 대해 $\beta \left( \theta_{0} \right) \le \alpha$ 임을 알 수 있다. 한편 $H_{0}$ 의 모든 레벨 $\alpha$ 가설검정은 $$ \beta^{\ast} \left( \theta_{0} \right) \le \sup_{\theta \in \Theta_{0}} \beta^{\ast} \left( \theta \right) \le \alpha $$ 을 만족시킨다. 증명과정에서 레벨 $\alpha$ 의 가설검정이라면 $\theta'$ 는 무엇이든 상관 없었으므로, 원래 가설검정의 어떤 $\theta' \in \Theta_{0}^{c}$ 를 대입하더라도 $H'_{0}$ 뿐만 아니라 $H_{0}$ 의 모든 레벨 $\alpha$ 가설검정에서도 $\beta^{\ast} \left( \theta' \right) \le \beta \left( \theta' \right)$ 가 성립한다. 다시 말해, 정리에서 주어진 $H_{0}$ 의 가설검정은 레벨 $\alpha$ 최강력검정이다.


  1. Casella. (2001). Statistical Inference(2nd Edition): p391~392. ↩︎

댓글