📂数理統計学

数理統計学における正則性条件

概要

数学を使用する科目では、正則性^{regularity conditions}とは、一般的に応用の範囲が広く、理論的な展開を容易にする条件を指します。数理統計学では、以下のようになります。

前提 ¹

パラメーター$\theta \in \Theta$に対する確率密度関数が$f \left( x ; \theta \right)$である確率変数$X$を考える。$X$と同じ分布からiidで抽出されたランダムサンプル$X_{1} , \cdots , X_{n}$は、同じ確率密度関数$f(x ; \theta)$と実現$\mathbf{x} := \left( x_{1} , \cdots , x_{n} \right)$を持つ。以下の関数$L$は尤度関数^{likelihood function}と呼ばれる。 $$ L ( \theta ; \mathbf{x} ) := \prod_{k=1}^{n} f \left( x_{k} ; \theta \right) $$ 最後に、$\theta_{0}$を$\theta$の真の値としましょう。

• (R0): 確率密度関数$f$は$\theta$に対して単射です。式では、以下を満たします。 $$ \theta \ne \theta’ \implies f \left( x_{k} ; \theta \right) \ne f \left( x_{k} ; \theta’ \right) $$
• (R1): 確率密度関数$f$は、すべての$\theta$に対して同じサポートを持つ。
• (R2): 真の値$\theta_{0}$は$\Omega$の内点です。
• (R3): 確率密度関数$f$は$\theta$に対して二回微分可能です。
• (R4): 積分$\int f (x; \theta) dx$は$\theta$に対して二回微分可能であり、微分は積分記号との交換が可能です。
• (R5): 確率密度関数$f$は$\theta$に対して三回微分可能です。さらに、すべての$\theta \in \Theta$に対して、$E_{\theta_{0}} \left[ M ( X ) \right] < \infty$を満たしつつ、以下を満たす定数$c> 0$と関数$M(x)$が存在します。 $$ \left| {{ \partial^{3} } \over { \partial \theta ^{3} }} \log f (x ; \theta) \right| \le M (x) \qquad , \forall x \in \mathcal{S}_{X} , \forall \theta \in \left( \theta_{0} - c , \theta_{0} + c \right) $$