📂수리통계학

수리통계학에서의 정칙성 조건

개요

수학을 사용하는 과목에서 대개 정칙성^{regularity conditions}이란 대개 응용될 구석이 많으면서 이론적인 전개가 편해지는 조건들을 말하며, 수리통계학에서는 다음과 같다.

가정 ¹

모수 $\theta \in \Theta$ 에 대해 확률밀도함수가 $f \left( x ; \theta \right)$ 인 확률변수 $X$ 를 생각해보자. $X$ 와 같은 분포로 iid하게 뽑은 랜덤샘플 $X_{1} , \cdots , X_{n}$ 는 같은 확률밀도함수 $f(x ; \theta)$ 와 실현 $\mathbf{x} := \left( x_{1} , \cdots , x_{n} \right)$ 을 가진다. 이에 대해 다음과 같은 함수 $L$ 을 우도함수^{likelihood function}라 한다. $$ L ( \theta ; \mathbf{x} ) := \prod_{k=1}^{n} f \left( x_{k} ; \theta \right) $$ 마지막으로, $\theta_{0}$ 를 $\theta$ 의 참값이라고 하자.

• (R0): 확률밀도함수 $f$ 는 $\theta$ 에 대해 단사다. 수식으로는 다음을 만족시킨다. $$ \theta \ne \theta’ \implies f \left( x_{k} ; \theta \right) \ne f \left( x_{k} ; \theta’ \right) $$
• (R1): 확률밀도함수 $f$ 는 모든 $\theta$ 에 대해 같은 서포트를 가진다.
• (R2): 참값 $\theta_{0}$ 는 $\Omega$ 의 내점^{interior point}이다.
• (R3): 확률밀도함수 $f$ 는 $\theta$ 에 대해 두 번 미분가능하다.
• (R4): 적분 $\int f (x; \theta) dx$ 은 적분 기호를 넘나들며 $\theta$ 에 대해 두 번 미분가능하다.
• (R5): 확률밀도함수 $f$ 는 $\theta$ 에 대해 세 번 미분가능하다. 거기에 모든 $\theta \in \Theta$ 에 대해 $E_{\theta_{0}} \left[ M ( X ) \right] < \infty$ 이면서 다음을 만족하는 상수 $c> 0$ 와 함수 $M(x)$ 가 존재한다. $$ \left| {{ \partial^{3} } \over { \partial \theta ^{3} }} \log f (x ; \theta) \right| \le M (x) \qquad , \forall x \in \mathcal{S}_{X} , \forall \theta \in \left( \theta_{0} - c , \theta_{0} + c \right) $$