수리통계학에서의 정칙성 조건

수리통계학에서의 정칙성 조건

Regularity Conditions in mathematical statistiics

개요

수학을 사용하는 과목에서 대개 정칙성Regularity Conditions이란 대개 응용될 구석이 많으면서 이론적인 전개가 편해지는 조건들을 말하며, 수리통계학에서는 다음과 같다.

가정 1

모수 $\theta \in \Theta$ 에 대해 확률밀도함수가 $f \left( x ; \theta \right)$ 인 확률변수 $X$ 를 생각해보자. $X$ 와 같은 분포로 iid하게 뽑은 랜덤샘플 $X_{1} , \cdots , X_{n}$ 는 같은 확률밀도함수 $f(x ; \theta)$ 와 실현 $\mathbf{x} := \left( x_{1} , \cdots , x_{n} \right)$ 을 가진다. 이에 대해 다음과 같은 함수 $L$ 을 우도함수Likelihood Function라 한다. $$ L ( \theta ; \mathbf{x} ) := \prod_{k=1}^{n} f \left( x_{k} ; \theta \right) $$ 마지막으로, $\theta_{0}$ 를 $\theta$ 의 참값이라고 하자.

  • (R0): 확률밀도함수 $f$ 는 $\theta$ 에 대해 단사다. 수식으로는 다음을 만족시킨다. $$ \theta \ne \theta’ \implies f \left( x_{k} ; \theta \right) \ne f \left( x_{k} ; \theta’ \right) $$
  • (R1): 확률밀도함수 $f$ 는 모든 $\theta$ 에 대해 같은 서포트를 가진다.
  • (R2): 참값 $\theta_{0}$ 는 $\Omega$ 의 내점Interior Point이다.
  • (R3): 확률밀도함수 $f$ 는 $\theta$ 에 대해 두 번 미분가능하다.
  • (R4): 적분 $\int f (x; \theta) dx$ 은 적분 기호를 넘나들며 $\theta$ 에 대해 두 번 미분가능하다.
  • (R5): 확률밀도함수 $f$ 는 $\theta$ 에 대해 세 번 미분가능하다. 거기에 모든 $\theta \in \Theta$ 에 대해 $E_{\theta_{0}} \left[ M ( X ) \right] < \infty$ 이면서 다음을 만족하는 상수 $c> 0$ 와 함수 $M(x)$ 가 존재한다. $$ \left| {{ \partial^{3} } \over { \partial \theta ^{3} }} \log f (x ; \theta) \right| \le M (x) \qquad , \forall x \in \mathcal{S}_{X} , \forall \theta \in \left( \theta_{0} - c , \theta_{0} + c \right) $$

  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p328, 334. ↩︎

댓글