확률수렴하면 분포수렴한다

확률수렴하면 분포수렴한다

If Convergence in probability then convergence in Distribution

정리1

확률변수 $X$ 와 확률변수의 시퀀스 $\left\{ X_{n} \right\}$ 에 대해 $$ X_{n} \overset{P}{\to} X \implies X_{n} \overset{D}{\to} X $$


설명

직관적인 단어로 다시 말하자면, 분포만 수렴하는 것이 정확히 수렴하는 것보다는 훨씬 쉽다는 말이다. 확률변수라는 것 자체를 함수로써 정확하게 이해하고 있다면 받아들이기 어렵지 않을 것이다.

증명

전략: 사건을 둘로 쪼개서 부등식을 세우는 트릭이 사용하는데, 이쪽 공부를 한다면 자주 보게 될테니 어려워도 익숙해지려고 노력해보는 걸 추천한다. 처음 보면 원래 어려운 게 맞으니까 이해가 안 가더라도 좌절하지 말고 여러번 읽어가면서 이해하도록 하자.


임의의 양수 $\epsilon > 0$ 에 대해 $$ \begin{align*} F_{X_{n}}(x) =& P[X_{n} \le x] \\ =& P[ \left\{ X_{n} \le x \right\} \cap \left\{ | X_{n} - X | < \epsilon \right\} ] +P[ \left\{ X_{n} \le x \right\} \cap \left\{ | X_{n} - X | \ge \epsilon \right\} ] \end{align*} $$ 여기서 첫번째 항 $P[ \left\{ X_{n} \le x \right\} \cap \left\{ | X_{n} - X | < \epsilon \right\} ]$ 을 잘 살펴보면 $$ \begin{align*} & |X_{n}-X|<\epsilon \\ \implies& X<X_{n} + \epsilon \\ \implies& X<X_{n} + \epsilon \le x+ \epsilon \\ \implies& X< x+ \epsilon \end{align*} $$ 한편 두번째 항에 대해서는 $$ P[ \left\{ X_{n} \le x \right\} \cap \left\{ | X_{n} - X | \ge \epsilon \right\} ] \le P[\left\{ | X_{n} - X | \ge \epsilon \right\} ] $$ 이므로 정돈하면 $$ \begin{align*} F_{X_{n}}(x) \le & P[X \le x + \epsilon] + P[\left\{ | X_{n} - X | \ge \epsilon \right\} ] \\ =& F_{X}(x+\epsilon) + P[\left\{ | X_{n} - X | \ge \epsilon \right\} ] \end{align*} $$ 양변에 극한 $\displaystyle \lim_{n \to \infty}$ 을 취하면 $\displaystyle \lim_{n \to \infty} P[\left\{ | X_{n} - X | \ge \epsilon \right\}=0$ 이므로 $$ \limsup _{n \to \infty} F_{X_{n}}(x) \le F_{X}(x+\epsilon) $$ 이렇게 상계(upper bound)를 구했으니 같은 방법으로 하계(lower bound)를 구하면 $$ F_{X}(x-\epsilon) \le \liminf _{n \to \infty} F_{X_{n}}(x) \le \limsup _{n \to \infty} F_{X_{n}}(x) \le F_{X}(x+\epsilon) $$ $\epsilon$ 은 임의의 양수로 두었으므로 $\epsilon \to 0$ 일 때 $F_{X}$ 가 연속인 모든 점 $x \in C_{F_{X}}$ 에서 $$ \lim _{n \to \infty} F_{X_{n}}(x) = F_{X}(x) $$ 와 같이 점별수렴하고, 따라서 $X_{n}$ 은 $X$ 로 분포수렴한다.


  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p304. ↩︎

댓글