logo

カリン-ルビン定理の証明 📂数理統計学

カリン-ルビン定理の証明

定理

仮説検定:
H0:θθ0H1:θ>θ0 \begin{align*} H_{0} :& \theta \le \theta_{0} \\ H_{1} :& \theta > \theta_{0} \end{align*}

このような仮説検定では、TTθ\theta十分統計量と言い、tt確率密度関数または確率質量関数のファミリー{g(tθ):θΘ}\left\{ g(t | \theta) : \theta \in \Theta \right\}単調尤度比 MLR を持つとする。そうするとt0\forall t_{0} に対して H0 is rejected if and only if T>t0 H_{0} \text{ is rejected if and only if } T > t_{0} の仮説検定はレベル α=Pθ0(T>t0)\alpha = P_{\theta_{0}} \left( T > t_{0} \right) 最強力検定だ。


  • パラメーターθ\theta に対して、棄却域がRR である関数β(θ):=Pθ(XR)\beta (\theta) := P_{\theta} \left( \mathbf{X} \in \mathbb{R} \right)検出力関数power functionと言う。supθΘ0β(θ)α\sup_{\theta \in \Theta_{0}} \beta (\theta) \le \alpha なら、与えられた仮説検定を レベルlevel α\alpha 仮説検定と言う。

説明

与えられた仮説検定はH0:θθ0H_{0} : \theta \le \theta_{0}、つまり片側検定one-sided testに注意しよう。例えば、z-検定を行う場面でZzα/2|Z| \ge z_{\alpha/2} という条件下では帰無仮説を棄却することになるが、これは両側検定two-sided testであり、カーリン-ルービンの定理を無闇に使うことはできない。通常、片側で最強力検定であるが、他方でそうではなくなるという問題が発生し、この状況を克服するために偏りのない検定効率などを考えるようになる。

十分統計量の確率密度関数または確率質量関数のファミリーが単調尤度比を持つことを示すことで、片方向検定が最強力検定であることが保証される定理である。

証明 1

Part 1.

θ>θ0\theta > \theta_{0} の時、帰無仮説は棄却されるため、検出力関数はβ(θ)=Pθ(T>t0)\beta (\theta) = P_{\theta} \left( T > t_{0} \right) となる。θ\theta の十分統計量TT の確率密度関数または確率質量関数のファミリーが単調尤度比を持つという仮定より、β(θ)\beta \left( \theta \right)単調増加関数(減少しない)であり supθθ0β(θ)=β(θ0)=α \sup_{\theta \le \theta_{0}} \beta \left( \theta \right) = \beta \left( \theta_{0} \right) = \alpha であり、レベルα\alphaのテストだ。


Part 2.

単調尤度比の定義: パラメーターθR\theta \in \mathbb{R}単変量確率変数TT に対する確率質量関数または確率密度関数のファミリーをG:={g(tθ):θΘ}G := \left\{ g ( t | \theta) : \theta \in \Theta \right\} とする。全てのθ2>θ1\theta_{2} > \theta_{1} に対して g(tθ2)g(tθ1) {{ g \left( t | \theta_{2} \right) } \over { g \left( t | \theta_{1} \right) }} {t:g(tθ1)>0g(tθ2)>0}\left\{ t : g \left( t | \theta_{1} \right) > 0 \lor g \left( t | \theta_{2} \right) > 0 \right\}単調関数ならばGG単調尤度比monotone Llikelihood Ratio, MLRを持つと言われる。

θ>θ0\theta ' >\theta_{0} を固定し、以下のように別の仮説検定を考える。 H0:θ=θ0H1:θ=θ \begin{align*} H'_{0} :& \theta = \theta_{0} \\ H'_{1} :& \theta = \theta ' \end{align*} この新しい仮説検定はNeyman-Pearson補題の従題を適用するためのセッティングであり、同時に元の仮説検定の棄却域に属するθΘ0c\theta ' \in \Theta_{0}^{c} に関する任意の仮説検定である。集合T:={t>t0:g(tθ)g(tθ0)}\mathcal{T} := \left\{ t > t_{0} : g \left( t | \theta ' \right) \lor g \left( t | \theta_{0} \right) \right\}k:=inftTg(tθ)g(tθ0) k ' := \inf_{t \in \mathcal{T}} {{ g \left( t | \theta ' \right) } \over { g \left( t | \theta_{0} \right) }} を考えると、その定義に従って、以下を得る。 T>t0    g(tθ)g(tθ0)>k    g(tθ)>kg(tθ0) T > t_{0} \iff {{ g \left( t | \theta ' \right) } \over { g \left( t | \theta_{0} \right) }} > k’ \iff g \left( t | \theta ' \right) > k’ g \left( t | \theta_{0} \right)


Part 3.

十分統計量を含む最強力検定: H0:θ=θ0H1:θ=θ1 \begin{align*} H_{0} :& \theta = \theta_{0} \\ H_{1} :& \theta = \theta_{1} \end{align*}

このような仮説検定で、パラメーターθ\theta に対する十分統計量TTθ0,θ1\theta_{0}, \theta_{1} に対する確率密度関数または確率質量関数g(tθ0),g(tθ1)g \left( t | \theta_{0} \right), g \left( t | \theta_{1} \right) と言おう。すると、棄却域SS とある定数k0k \ge 0 に対して、以下の三つの条件を満たしながらTT に依存する全ての仮説検定はレベル α\alpha最強力検定である。

  • (i): g(tθ1)>kg(tθ0)g \left( t | \theta_{1} \right) > k g \left( t | \theta_{0} \right) ならば tSt \in S
  • (ii): g(tθ1)<kg(tθ0)g \left( t | \theta_{1} \right) < k g \left( t | \theta_{0} \right) ならば tSct \in S^{c}
  • (iii): α=Pθ0(TS)\alpha = P_{\theta_{0}} \left( T \in S \right)

Part 2での条件 (i)、(ii)と、Part 1での条件 (iii)が満たされるので、H0 vs H1H'_{0} \text{ vs } H'_{1}最強力検定である。言い換えると、全てのレベルα\alphaH0H'_{0} と比較した他の全ての検出力関数β\beta^{\ast} に対して β(θ)β(θ) \beta^{\ast} \left( \theta ' \right) \le \beta \left( \theta ' \right) が成り立つということであり、Part 1でβ\beta が単調増加関数であったことと、Part 2でθ>θ0\theta ' >\theta_{0} を固定したので、全ての仮説検定に対してβ(θ0)α\beta \left( \theta_{0} \right) \le \alpha が適用されることがわかる。一方で、H0H_{0} の全てのレベルα\alpha 仮説検定は β(θ0)supθΘ0β(θ)α \beta^{\ast} \left( \theta_{0} \right) \le \sup_{\theta \in \Theta_{0}} \beta^{\ast} \left( \theta \right) \le \alpha を満たす。証明過程で、θ\theta ' がレベルα\alpha の仮説検定であれば何でも良かったので、元の仮説検定のいかなるθΘ0c\theta ' \in \Theta_{0}^{c} を代入しても、H0H'_{0} だけでなく、H0H_{0} の全てのレベルα\alpha 仮説検定でβ(θ)β(θ)\beta^{\ast} \left( \theta ' \right) \le \beta \left( \theta ' \right) が成り立つ。つまり、定理で与えられたH0H_{0} の仮説検定はレベルα\alpha 最強力検定である。


  1. Casella. (2001). Statistical Inference(2nd Edition): p391~392. ↩︎