集団の独立性検定

仮説検定 ¹

多項実験において、データが二つの特性$X$、$Y$を持ち、$X$のカテゴリが$R$個、$Y$のカテゴリが$C$個であるカテゴリカルデータを$n$回の独立な試行で得たと仮定しよう。ピアソンのカイ二乗検定統計量を用いた次の仮説検定を独立性検定^{test of independence}という。

$H_{0}$: 二つのカテゴリは独立である。
$H_{1}$: 二つのカテゴリは従属である。

検定統計量

検定統計量はピアソンのカイ二乗検定統計量を用いる。 $$ \mathcal{X}^{2} = \sum_{i=1}^{R} \sum_{j=1}^{C} {{ \left( O_{ij} - E_{ij} \right)^{2} } \over { E_{ij} }} $$ ここで、$X$が$i$番目のカテゴリに属し、かつ$Y$が$j$番目のカテゴリに属するデータの度数$O_{ij}$を観測度数、$X$が$i$番目のカテゴリに属する標本の数$r_{i}$と$Y$が$j$番目のカテゴリに属する標本の数$c_{j}$の積$r_{i} c_{j}$とサンプルサイズ$n$の比$E := r_{i} c_{j} / n$を期待度数という。この検定統計量はカイ二乗分布に従うが、その自由度は$X$と$Y$の各カテゴリの数$R$と$C$から$1$ずつ引いた値の積である$(R-1)(C-1)$である。

説明

自由度

単純に、$X$が$i$番目のカテゴリに属し、かつ$Y$が$j$番目のカテゴリに属するデータの度数$O_{ij}$を$n$で割った比率を$p_{ij}$とおこう。 $$ \begin{align*} p_{i} = \sum_{j1=1}^{C} p_{ij} = {\frac{ r_{i} }{ n }} \implies & \sum_{i=1}^{R} p_{i} = 1 \\ p_{j} = \sum_{i=1}^{R} p_{ij} = {\frac{ c_{j} }{ n }} \implies & \sum_{j=1}^{C} p_{j} = 1 \end{align*} $$ 各々の周辺確率を考えてみると上のような制約条件が従うので、各々のカテゴリで$R-1$個、$C - 1$個の確率が分かれば残りの一つは決まるも同然である。したがって自由度はその積である$(R - 1) (C - 1)$でなければならない。

X\Y	y1	y2
x1	0000	0000
x2	0000	0000
x3	0000	0000

例えば上のような分割表は$X$が$R = 3$個、$Y$が$C = 2$個のカテゴリを持つデータを表し、その自由度は$(3-1)(2-1) = 2$となる。

独立性

分割表とか確率の積のような説明が多くて難しく見えるが、本質的に独立性検定は適合度検定の延長である。適合度検定の帰無仮説は「与えられたデータが理論的な確率に合致するようにサンプリングされた」であり、独立性検定ではまさにその理論的な確率が各々のカテゴリに対する周辺確率の積として現れるだけだからである。

事象の独立: 確率空間$(\Omega , \mathcal{F} , P)$が与えられているとしよう。
$P(B)>0$に対して$\displaystyle P (A | B) = {{P(A \cap B)} \over {P(B)}}$を$B$に対する$A$の条件付き確率^{conditional Probability}という。
もし$P(A | B) = P(A)$、すなわち$P( A \cap B) = P(A) \cdot P(B)$ならば$A, B$が互いに独立^independentであるという。

実際に事象の独立は、二つの事象が同時に起こる確率が各々起こる確率の積に等しいということで定義される。独立性検定の文脈で、もし帰無仮説が真ならば、$p_{ij} = p_{i} p_{j}$なので次のような関係が成り立たなければならない。 $$ \begin{align*} & {\frac{ O_{ij} }{ n }} = p_{ij} = p_{i} p_{j} \\ \implies & O_{ij} = n p_{i} p_{j} = n {\frac{ r_{i} }{ n }} {\frac{ c_{j} }{ n }} = {\frac{ r_{i} c_{j} }{ n }} = E_{ij} \end{align*} $$ 観測度数$O_{ij}$と期待度数$E_{ij}$の差が大きいということはカイ二乗検定統計量の値が大きくなるということ―言い換えれば、理論上本当に二つの特性が独立ならば小さかったはずの$\mathcal{X}^{2}$の値が大きいということなので、$p_{ij} = p_{i} p_{j}$という帰無仮説自体を疑うべきである。

例

メンデルの遺伝法則

(集団の適合度検定ポストに続いて)

メンデルの遺伝法則によれば、上のように色に関しては黄色が優性、緑色が劣性であり、丸いものが優性、しわのあるものが劣性であるとき、黄色で丸い純血種と緑色でしわのある純血種を交配させて得た第一世代の表現型は優性に従って黄色で丸いが、第二世代では黄色と緑が3:1、丸いものとしわのあるものが3:1の比率で現れ、全体的には9:3:3:1の比率が現れるという²。

	黄丸	黄しわ	緑丸	緑しわ
観測度数	773	231	238	59

このように得た第二世代の豆の観測度数が上のようだとすると ³、全標本の数は$n = 1301$であり、カテゴリの数は$k = 4$であるが、独立性検定では以下のように分割表を作らなければならない。

色\形	丸	しわ
黄色	773	231
緑色	238	59

では有意水準$\alpha = 0.05$で、二つの特性である色と形が互いに独立かどうかを確認してみよう。仮説検定においてカイ二乗分布の自由度は$k-1 = 3$ではなく、$R = 2$かつ$C = 2$なので$(2-1)(2-1) = 1$であることに注意しなければならない。

$H_{0}$: 実験の結果上、色と形は互いに独立である。
$H_{1}$: 実験の結果上、色と形は互いに従属である。

まず帰無仮説と対立仮説は上のようであり、そのピアソンのカイ二乗検定統計量は $$ \begin{align*} E_{11} =& {\frac{ (773 + 231) \cdot (773 + 238) }{ 1301 }} \approx 780.2029 \\ E_{12} =& {\frac{ (773 + 231) \cdot (231 + 59) }{ 1301 }} \approx 223.7971 \\ E_{21} =& {\frac{ (238 + 59) \cdot (773 + 238) }{ 1301 }} \approx 230.7971 \\ E_{22} =& {\frac{ (238 + 59) \cdot (231 + 59) }{ 1301 }} \approx 66.2029 \\ \mathcal{X}^{2} =& \sum_{i=1}^{R} \sum_{j=1}^{C} {{ \left( O_{ij} - E_{ij} \right)^{2} } \over { E_{ij} }} \\ \approx & {\frac{ \left( 773 - 780.2029 \right)^{2} }{ 780.2029 }} + {\frac{ \left( 231 - 223.7971 \right)^{2} }{ 223.7971 }} \\ & + {\frac{ \left( 238 - 230.7971 \right)^{2} }{ 230.7971 }} + {\frac{ \left( 59 - 66.2029 \right)^{2} }{ 66.2029 }} \\ \approx & 1.31 \end{align*} $$ のように計算される。与えられた有意水準$\alpha = 0.05$に対して自由度$1$のカイ二乗分布に従う棄却域の上限は$\chi_{1 - \alpha}^{2} (1) \approx 3.84$であるが、$\chi_{1 - \alpha}^{2} > \mathcal{X}^{2}$なので帰無仮説を棄却できない。適合度検定によればこのデータを通じてメンデルの遺伝法則を支持することはできなかったが、二つの形質が独立であるということは主張できるようになったのである。