옌센 부등식의 기댓값 폼 증명

옌센 부등식의 기댓값 폼 증명

Proof of expectation form of jensens inequality

정리 1

개구간 $I$ 에서 함수 $\phi$ 가 컨벡스하고 두 번 미분가능, 확률변수 $X$ 의 기댓값 $\mu$ 가 존재하며 $X \subset I $ 면 $$ \phi [ E(X) ] \le E [ \phi(X)] $$

다른 형태

적분 폼과는 상당히 유사한 형태를 가지고 있다. 잘 생각해보면 유한 폼 역시 항이 무한하지는 않지만 가중평균의 부등식이라는 센스에서 기댓값이라고 볼 수 있겠다.

증명

전략: 본래의 일반적인 증명에서는 $\phi$ 는 이계도함수를 가질 필요가 없고 컨벡스하기만 해도 충분하다. 편의를 위해 이계도함수임을 가정하겠다.


테일러 정리에 의해 $$ \phi(x) = \phi(\mu) + \phi ’ (\mu) (x - \mu) + \phi ’’ (\xi) {{(x - \mu)^2} \over {2}} $$ 를 만족하는 $\xi$ 가 $x$와 $\mu$ 사이에 존재한다. $\phi$ 는 컨벡스하므로 $\phi ’’ (\xi) > 0$ 이고 $$ \phi ’’ (\xi) {{(x - \mu)^2} \over {2}} > 0 $$ 정리하면 $$ \phi(x) \ge \phi(\mu) + \phi ’ (\mu) (x - \mu) $$ 양변에 기댓값 $E$ 를 취하면 $E(X-\mu) = 0$ 이므로 $$ E( \phi( X ) ) \ge \phi ( E (X) ) $$


  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p70. ↩︎

댓글