스털링 공식의 수리통계적 증명

스털링 공식의 수리통계적 증명

Mathematical statistiical Proof of Stirling Approximation

정리

$$ \lim_{n \to \infty} {{n!} \over {e^{n \ln n - n} \sqrt{ 2 \pi n} }} = 1 $$

설명

스털링 근사 혹은 스털링 공식Stirling Formula은 통계학이나 물리학 등 여러 곳에서 유용하게 쓰인다. 수리통계적인 증명은 분포이론에 빠삭하다면야 오히려 다른 증명에 비해 직관적이고 이해하기 쉽다.

같이보기

증명

$X_{1} , \cdots , X_{n} \overset{\text{iid}}{\sim} \exp (1)$ 이라고 하자.

지수 분포와 감마분포의 관계: $$ \displaystyle \Gamma \left(1, { 1 \over \lambda } \right) \iff \text{exp} (\lambda) $$

감마 분포의 합: $X_i \sim \Gamma( k_{i}, \theta)$ 이면 $$ \displaystyle \sum_{i=1}^{n} X_{i} \sim \Gamma \left( \sum_{i=1}^{n} k_{i} , \theta \right) $$

$X_{1} , \cdots , X_{n}$ iid이므로 $Y = \sum_{k=1}^{n} X_{k}$ 는 자유도가 $n,1$ 인 감마분포 $\Gamma (n,1)$ 를 따른다. 한편 $E X_{k} = \text{Var} X_{k} = 1$ 이므로, 중심극한정리에 따르면 $n \to \infty$ 일 때 $$ {{ \sum_{k=1}^{n} X_{k}/n - 1 } \over { 1 / \sqrt{n} }} \overset{D}{\to} N (0,1) $$ 이다. 다시 말해, $Z$ 가 표준정규분포를 따르는 확률변수라 할 때 모든 $x \in \mathbb{R}$ 에 대해 $$ \begin{align*} & P \left( {{ Y/n - 1 } \over { 1 / \sqrt{n} }} \le x \right) \to P \left( Z \le x \right) \\ \implies & P \left( Y/n \le {{ x } \over { \sqrt{n} }} + 1 \right) \to P \left( Z \le x \right) \\ \implies & P \left( Y \le \sqrt{n} x + n \right) \to P \left( Z \le x \right) \end{align*} $$ 이다. 충분히 큰 $n \in \mathbb{N}$ 에 대해 근사식으로 나타내보면 누적분포함수 $F_{\square}$ 에 대해 $$ F_{Y} \left( \sqrt{n} x + n \right) \approx F_{Z} (x) $$ 와 같이 나타낼 수 있다.

감마분포의 확률밀도함수 $$ f(x) = {{ 1 } \over { \Gamma ( k ) \theta^{k} }} x^{k - 1} e^{ - x / \theta} \qquad , x > 0 $$

표준정규분포의 확률밀도함수 $$ f(z) = {{ 1 } \over { \sqrt{2 \pi} }} \exp \left[ - {{ z^{2} } \over { 2 }} \right] $$

양변을 $x$ 로 미분하면 미적분학의 기본정리에 따라 $$ \sqrt{n} \cdot {{ 1 } \over { \Gamma ( n ) 1^{n} }} \left( \sqrt{n} x + n \right)^{n - 1} e^{ - \left( \sqrt{n} x + n \right) / 1} \approx {{ 1 } \over { \sqrt{2 \pi} }} \exp \left[ - {{ x^{2} } \over { 2 }} \right] $$ 여기서 $x = 0$ 이면 다음을 얻는다. $$ \sqrt{n} \cdot {{ 1 } \over { \Gamma ( n ) }} \left( n \right)^{n - 1} e^{ - n } \approx {{ 1 } \over { \sqrt{2 \pi} }} $$ 감마함수는 팩토리얼의 일반화기도 하므로 $\Gamma(n) = (n-1)!$ 이고, 양변에 $(n-1)!\sqrt{2\pi}$ 를 곱하면 $$ \sqrt{2 \pi n} e^{(n-1) \log n} e^{-n} \approx (n-1)! $$ 정리하면 $$ \begin{align*} & e^{n\log n - n} e^{-\log n} \sqrt{2 \pi n} \approx (n-1)! \\ \implies & e^{n\log n - n} {{ 1 } \over { n }} \sqrt{2 \pi n} \approx (n-1)! \\ \implies & e^{n\log n - n} \sqrt{2 \pi n} \approx n! \end{align*} $$

댓글