logo

イェンセンの不等式の期待値形式の証明 📂レンマ

イェンセンの不等式の期待値形式の証明

定理 1

開区間$I$で関数$\phi$が凸かつ二回微分可能であり、確率変数$X$の期待値$\mu$が存在し$X \subset I $ならば

$$ \phi [ E(X) ] \le E [ \phi (X)] $$

$\phi$が凹concaveであれば不等号は逆向きに成立する。

$$ \phi [ E(X) ] \ge E [ \phi (X)] $$

別の形式

積分形式とはかなり類似した形をしている。よく考えてみると有限形式も、項が無限ではないものの加重平均の不等式であるというセンスで期待値と見なせるだろう。

証明

戦略: 本来の一般的な証明では$\phi$は二階導関数を持つ必要がなく、でありさえすれば十分である。便宜のため二階導関数を持つと仮定する。


テイラーの定理により $$ \phi (x) = \phi (\mu) + \phi^{\prime} (\mu) (x - \mu) + \phi^{\prime \prime} (\xi) {{(x - \mu)^2} \over {2}} $$ を満たす$\xi$が$x$と$\mu$の間に存在する。$\phi$は凸であるから$\phi^{\prime \prime} (\xi) > 0$であり $$ \phi^{\prime \prime} (\xi) {{(x - \mu)^2} \over {2}} > 0 $$ 整理すると $$ \phi (x) \ge \phi (\mu) + \phi^{\prime} (\mu) (x - \mu) $$ 両辺に期待値$E$を取ると$E(X-\mu) = 0$であるから $$ E( \phi ( X ) ) \ge \phi ( E (X) ) $$


  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p70. ↩︎