📂보조정리

옌센 부등식의 기댓값 폼 증명

정리 ¹

개구간 $I$ 에서 함수 $\phi$ 가 컨벡스하고 두 번 미분가능, 확률변수 $X$ 의 기댓값 $\mu$ 가 존재하며 $X \subset I$ 면

$$\phi [ E(X) ] \le E [ \phi (X)]$$

$\phi$가 오목^concave하면 부등호는 반대로 성립한다.

$$\phi [ E(X) ] \ge E [ \phi (X)]$$

다른 형태

• 옌센 부등식의 유한 폼
• 옌센 부등식의 적분 폼
• 조건부 옌센 부등식

적분 폼과는 상당히 유사한 형태를 가지고 있다. 잘 생각해보면 유한 폼 역시 항이 무한하지는 않지만 가중평균의 부등식이라는 센스에서 기댓값이라고 볼 수 있겠다.

증명

전략: 본래의 일반적인 증명에서는 $\phi$ 는 이계도함수를 가질 필요가 없고 컨벡스하기만 해도 충분하다. 편의를 위해 이계도함수임을 가정하겠다.

---

테일러 정리에 의해 $$\phi (x) = \phi (\mu) + \phi^{\prime} (\mu) (x - \mu) + \phi^{\prime \prime} (\xi) {{(x - \mu)^2} \over {2}}$$ 를 만족하는 $\xi$ 가 $x$와 $\mu$ 사이에 존재한다. $\phi$ 는 컨벡스하므로 $\phi^{\prime \prime} (\xi) > 0$ 이고 $$\phi^{\prime \prime} (\xi) {{(x - \mu)^2} \over {2}} > 0$$ 정리하면 $$\phi (x) \ge \phi (\mu) + \phi^{\prime} (\mu) (x - \mu)$$ 양변에 기댓값 $E$ 를 취하면 $E(X-\mu) = 0$ 이므로 $$E( \phi ( X ) ) \ge \phi ( E (X) )$$

■