ホッグ・クレイグ定理の証明
📂数理統計学ホッグ・クレイグ定理の証明
定理
サンプル X=(X1,⋯,Xn) が X1,⋯,Xn∼iidN(0,σ2) のように iid より 正規分布 に従うとしよう。対称行列 A1,⋯,Ak∈Rn×n に対して 確率変数 Q1,⋯,Qk が ランダムベクトル二次形式 のように現れるとし、対称行列 A と確率変数 Q を次のように定義しよう。
A=Q=A1+⋯+AkQ1+⋯+Qk
もし Q/σ2 が カイ二乗分布 χ2(r) に従い、i=1,⋯,k−1 に対して Qi/σ2∼χ2(ri) で、Qk≥0 ならば Q1,⋯,Qk は 独立 であり、Qk/σ2 は自由度が rk=r−r1−⋯−rk−1 のカイ二乗分布 χ2(rk) に従う。
説明
ステートメントで Q/nσ2 ではなく Q/σ2 がカイ二乗分布に従うということは一見奇異に見えるが、実際に足し算がされるのはサンプルの合計ではなく、次のように行列のため、Q/σ2 を論じるのが正確だ。
Q====Q1+⋯+QkXTA1X+⋯+XTAkXXT(A1+⋯+Ak)XXTAX
この定理は コクランの定理の証明に使われる。
証明
数学的帰納法で証明する。まず k=2 としよう。
正規分布ランダムベクトル二次形式のカイ二乗性の同値条件: サンプル X=(X1,⋯,Xn) が X1,⋯,Xn∼iidN(0,σ2) のように iid より 正規分布 に従うとしよう。ランク が r≤n の 対称行列 A∈Rn×n に対して ランダムベクトル二次形式 を Q=σ−2XTAX と置くならば、次が成立する。
Q∼χ2(r)⟺A2=A
Q/σ2 がカイ二乗分布に従うので、A は 冪等行列 だ。
冪等行列の固有値: 冪等行列 の 固有値 は 0 または 1 のみだ。
A は対称行列で実数行列であるから 対角化可能 で、A の固有値は 0 と 1 のみなので、サイズが 単位行列 Ir∈Rr×r と 零行列 O に対して次を満たす 直交行列 Γ が存在する。
ΓTAΓ=[IrOOO]
A=A1+A2 を解くと次のようになる。
[IrOOO]=ΓTA1Γ+ΓTA2Γ
二次形式と固有値: A が正の二次形式であるための必要十分条件は、A のすべての固有値が正の値であることだ。
Q2≥0 を仮定したので行列 A2 は 正の半定値 であり、A と A1 は冪等行列なので固有値が 0 と 1 だけであることから、半定値の同値条件により同じく正の半定値である。当然ながら、これらに直交行列が前後に掛かる ΓTAΓ、ΓTA1Γ、ΓTA2Γ もまた正の半定値である。
正の行列主対角成分の性質: 正の行列 A=(aij)∈Cn×n が与えられているとしよう。A の 主対角成分 aii の符号は A の符号と同じである。実数 で構成された半定値行列 A∈Rn×n が 対称行列 だとしよう。A の主対角成分 aii が 0 であれば i 番目の行と列は 零ベクトル になる。
正の半定値行列が実数で構成され、対称性がある場合、その主対角成分の中に 0 があれば、その行と列がすべて 0 の性質を持つ。これにより、ある Gr∈Rr×r と Hr∈Rr×r に対して次のような表現が可能だ。
ΓTAΓ=⟹[IrOOO]=ΓTA1Γ+ΓTA2Γ[GrOOO]+[HrOOO]
Q1/σ2∼χ2(r1) だから A1 も冪等行列であり、次を得る。
(ΓTA1Γ)2=ΓTA1Γ=[GrOOO]
ΓTAΓ=ΓTA1Γ+ΓTA2Γ の両辺に ΓTA1Γ を掛けると次のようになる。
[IrOOO]=⟹[IrOOO]ΓTA1Γ=⟹[IrOOO][GrOOO]=⟹[GrOOO]=⟹[OOOO]=⟹GrHr=⟹ΓTA1ΓΓTA2Γ=⟹A1A2=[GrOOO]+[HrOOO]ΓTA1Γ⋅ΓTA1Γ+[HrOOO]ΓTA1ΓΓTA1Γ+[HrOOO][GrOOO][GrOOO]+[GrHrOOO][GrHrOOO]OOO
クレイグの定理: サンプル X=(X1,⋯,Xn) が X1,⋯,Xn∼iidN(0,σ2) のように iid より 正規分布 に従うとしよう。対称行列 A,B∈Rn×n に対して 確率変数 Q1 と Q2 が ランダムベクトル二次形式 Q1:=σ−2XTAX および Q2:=σ−2XTBX によって定義されているとするなら、次が成立する。
Q1⊥Q2⟺AB=On
確率変数の加法: Xi∼χ2(ri) が成り立つなら
i=1∑nXi∼χ2(i=1∑nri)
クレイグの定理により、Q1 と Q2 は独立であり、Q2 は自由度が (r−r1) のカイ二乗分布に従う。
k=3 の場合でも成り立つことを示すだけで十分だ。A3 は次を満たす正の半定値行列だとしよう。
A=A1+(A2+A3)=A1+B1
B1:=A2+A3 で纏めると B1 は依然として正の半定値行列であり、A=A1+B1 に k=2 の場合の結果を適用すると A1B1=O だから次のように B12=B1 を得る。
A=A2===⟹B12=(A1+B1)2A12+A1B1+B1A1+B12A1+O+B12A−A1=B1
一方で、B1=A2+A3 そのものに k=2 の場合の結果を適用して A2A3=O と A32=A3 を得ることができる。このようにして B1 で纏める過程を A=A2+(A1+A3) に適用すると A1A3=O を得ることができ、繰り返すことで証明が完結する。
■