📂数理統計学

ベイズ因子による仮説検定

ビルドアップ

古典的な仮説検定を使えるようになるには、棄却域、有意確率といった概念に対する数学的な理解を含め、これを直観的に受け入れられる程度の統計学的センスまで備えなければならない。学部一年の教養レベルでも何時間も割いて教え、それでも仮説検定をきちんと受け入れられない学生が山ほどいるのも当然のことである。高校で学ぶ統計が、問題を解くのは易しくてもその真の意味まで理解した学生は多くないのと似ている。

仮説検定 ¹

一方でベイジアン統計は、ベイズ因子^{Bayes Factor}というものを通して仮説検定を非常に簡単に行える。

帰無仮説と対立仮説が$H_{0}$ vs $H_{1}$として与えられているとする。

1. $\pi_{0}, \pi_{1}$をそれぞれ帰無仮説、対立仮説に対する事前情報とする。
2. $\alpha_{0}, \alpha_{1}$をそれぞれ帰無仮説、対立仮説に対する事後情報とする。
3. $\displaystyle B_{01} := {{ \alpha_{0 } / \alpha_{1} } \over { \pi_{0 } / \pi_{1} }} = {{ \alpha_{0 } / \pi_{0} } \over { \alpha_{1 } / \pi_{1} }}$を**$H_{0}$を支持するベイズ因子**とする。

ここでベイズ因子をよく見てみると $$ B_{01} = {{ \displaystyle {{ \alpha_{0} } \over { \cdot }} } \over { \displaystyle {{ \cdot } \over { \pi_{1} }} }} $$ の$\cdot$には$\alpha_{1}$と$\pi_{0}$が各位置に自由に入っても構わない。したがって数式を複雑に覚える必要はなく、ただ一番上には$\alpha_{0}$が、一番下には$\pi_{1}$が入るということだけ把握すればよい。

ベイジアン分析における仮説検定は、$B_{01}$が$1$より大きければ帰無仮説を支持し、$1$より小さければ対立仮説を支持する、というのがすべてである。特に $$ B_{01} = {{ \alpha_{0 } / \pi_{0} } \over { \alpha_{1 } / \pi_{1} }} = {{ \text{귀무} } \over { \text{대립} }} $$ と考えれば理解がずっと簡単になる。簡単に言えば、データで実際に計算してみて帰無仮説である確率が高ければ、帰無仮説を支持するのである。棄却域だの有意確率だのを考える必要がない。

もし$B_{01} = 3$だとすれば、それは事後情報が$H_{0}$を支持する程度が$H_{1}$を支持する程度の$3$倍だという意味である。

ジェフリーズの解釈

このように帰無仮説を支持する程度について、ジェフリーズは以下のような解釈を提案した。$H_{0}$を支持する観点からベイズ因子の値は次のように解釈される。

• $1 \le B_{01} \le 3$: 弱い証拠
• $3 < B_{01} \le 12$: 肯定的な証拠
• $12 < B_{01} \le 150$: 強い証拠
• $150 \le B_{01}$: 非常に強い証拠

この解釈の利点は、フリークエンティスト仮説検定の「有意確率が有意水準を超えるか超えないか」といった極端な二分法に比べてはるかに柔軟だという点である。回帰分析をよく使う人であれば、有意水準を$\alpha = 0.05$に取りたいのに有意確率が$p = 0.069925$のように出て回帰係数を捨てなければならなかった経験があるだろう。正直なところ、分析者も人間である以上こういうことに遭えば悔しがるほかない。そこで八方手を尽くして解決法を探すが、ほとんどは徒労に終わってしまう。

それに比べてベイジアン仮説検定は、十分なら十分なりに、不足なら不足なりに、資料をありのまま受け入れればそれで済む。

例

$Y \sim B (10, \theta )$のとき、$\displaystyle H_{0} : \theta = {{1} \over {2}}$ vs $\displaystyle H_{1} : \theta \ne {{1} \over {2}}$についてベイズ検定を行おうとする。$H_{0}$と$H_{1}$の事前確率が同一で、$H_{1}$のもとで$\theta \sim \text{Beta} (1,1)$であり、観測値が$Y=7$である。ベイズ因子$B_{01}$を求めよ。

解答

$$ \begin{align*} B_{01} =& {{ \alpha_{0 } / \pi_{0} } \over { \alpha_{1 } / \pi_{1} }} = {{ p ( y \mid \theta_{0} ) } \over { \int_{\Theta_{1}} p ( y \mid \theta ) g ( \theta ) d \theta }} = {{ p ( Y = 7 \mid \theta = {{1} \over {2}} ) } \over { \int_{\Theta_{1}} p ( y \mid \theta ) d \theta }} \\ =& {{ \binom{10}{7} \left( {{1} \over {2}} \right)^{7} \left( 1- {{1} \over {2}} \right)^{3} } \over { \int_{0}^{1} \binom{10}{7} \theta^{7} \left( 1 - \theta \right)^{3} d \theta }} = {{1} \over {2^{10}}} {{1} \over { \int_{0}^{1} \theta^{8-1} (1 - \theta)^{4-1} d \theta }} = {{1} \over {2^{10}}} {{ \Gamma ( 8 + 4 ) } \over { \Gamma ( 8 ) \Gamma ( 4 ) }} \\ =& {{1} \over {2^{10}}} {{ 11! } \over { 7! \cdot 3! }} = {{1} \over {2^{10}}} {{ 8 \cdot 9 \cdot 10 \cdot 11 } \over { 2 \cdot 3 }} = {{ 2^4 \cdot 3^2 \cdot 5 \cdot 11 } \over { 2^{11} \cdot 3 }} = {{ 165 } \over { 2^{7} }} = 1.2890625 \end{align*} $$ したがって$B_{01}$は帰無仮説を支持する弱い証拠となる。