ベズーの定理の証明
📂数理統計学ベズーの定理の証明
定理
もしT(X)が完結統計量であり、最小十分統計量でもあるなら、T(X)は全ての補助統計量と独立である。
説明
バスの定理は、十分統計量に関する定理の中で最も重要なものの一つであり、ある二つの統計量が独立であることを示すことができる非常に強力な結果を導出することができる。直感的に、十分統計量はパラメータθについての全ての情報を持っており、補助統計量はθに依存していないため、当然独立しているように思えるが、統計量は独立を保証するためには最小性に加えて‘常識的な’性質である完結性を持たなければならない。
典型的な結果としては、正規分布からのランダムサンプルの標本平均Xと標本分散S2が独立であることが挙げられる。もちろん、これらが独立であることは、学生の定理など、バスの定理なしで示すこともできるが、やや一般的な証明法と言えるだろう。
証明
戦略:離散確率分布の場合のみを証明してみよう。S(X)がパラメータθについての補助統計量だとすると、P(S(X)=s)はθに依存せず、十分統計量の定義により条件付き確率
P(S(X)=s∣T(X)=t)=P(X∈{x:S(x)=s}∣T(X)=t)
もθに依存しない。従って、以下を示せば十分である。
P(S(X)=s∣T(X)=t)=P(S(X)=s),∀t
確率の加法定理により、
P(S(X)=s)=t∑P(S(X)=s∣T(X)=t)Pθ(T(X)=t)
である。一方で、1=∑tPθ(T(X)=t)の両辺にP(S(X)=s)を掛けると、
P(S(X)=s)⋅1==P(S(X)=s)⋅t∑Pθ(T(X)=t)t∑P(S(X)=s)Pθ(T(X)=t)
である。以下のような統計量を定義してみると、全てのθに対して、
Eθg(T)===t∑g(t)Pθ(T(X)=t)P(S(X)=s)−P(S(X)=s)0
である。
完結統計量の定義:
∀θ,Eθg(T)=0⟹∀θ,Pθ(g(T)=0)=1
T(X)は完結統計量と仮定したので、可能な全てのtと全てのθに対して、以下が従う。
Pθ(g(T)=0)=1
言い換えると、以下が成り立つ。
P(S(X)=s∣T(X)=t)=P(S(X)=s),∀t
■