logo

数理統計学における正則性条件 📂数理統計学

数理統計学における正則性条件

概要

数学を使用する科目では、正則性regularity conditionsとは、一般的に応用の範囲が広く、理論的な展開を容易にする条件を指します。数理統計学では、以下のようになります。

前提 1

パラメーターθΘ\theta \in \Thetaに対する確率密度関数f(x;θ)f \left( x ; \theta \right)である確率変数XXを考える。XXと同じ分布からiidで抽出されたランダムサンプルX1,,XnX_{1} , \cdots , X_{n}は、同じ確率密度関数f(x;θ)f(x ; \theta)実現x:=(x1,,xn)\mathbf{x} := \left( x_{1} , \cdots , x_{n} \right)を持つ。以下の関数LL尤度関数likelihood functionと呼ばれる。 L(θ;x):=k=1nf(xk;θ) L ( \theta ; \mathbf{x} ) := \prod_{k=1}^{n} f \left( x_{k} ; \theta \right) 最後に、θ0\theta_{0}θ\thetaの真の値としましょう。

  • (R0): 確率密度関数ffθ\thetaに対して単射です。式では、以下を満たします。 θθ    f(xk;θ)f(xk;θ) \theta \ne \theta ' \implies f \left( x_{k} ; \theta \right) \ne f \left( x_{k} ; \theta ' \right)
  • (R1): 確率密度関数ffは、すべてのθ\thetaに対して同じサポートを持つ。
  • (R2): 真の値θ0\theta_{0}Ω\Omega内点です。
  • (R3): 確率密度関数ffθ\thetaに対して二回微分可能です。
  • (R4): 積分f(x;θ)dx\int f (x; \theta) dxθ\thetaに対して二回微分可能であり、微分は積分記号との交換が可能です。
  • (R5): 確率密度関数ffθ\thetaに対して三回微分可能です。さらに、すべてのθΘ\theta \in \Thetaに対して、Eθ0[M(X)]<E_{\theta_{0}} \left[ M ( X ) \right] < \inftyを満たしつつ、以下を満たす定数c>0c> 0と関数M(x)M(x)が存在します。 3θ3logf(x;θ)M(x),xSX,θ(θ0c,θ0+c) \left| {{ \partial^{3} } \over { \partial \theta ^{3} }} \log f (x ; \theta) \right| \le M (x) \qquad , \forall x \in \mathcal{S}_{X} , \forall \theta \in \left( \theta_{0} - c , \theta_{0} + c \right)

  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p328, 334. ↩︎