logo

イェンセンの不等式の期待値形の証明 📂レンマ

イェンセンの不等式の期待値形の証明

定理 1

開区間IIで関数ϕ\phiが凸であり二回微分可能で、確率変数XXの期待値μ\muが存在し、XIX \subset I のとき ϕ[E(X)]E[ϕ(X)] \phi [ E(X) ] \le E [ \phi (X)]

他の形

積分形と非常に似ている形をしている。よく見れば、有限形も項が無限ではないが加重平均の不等式というセンスで期待値と見ることができるだろう。

証明

戦略:一般的な証明ではϕ\phiは二階導関数を持つ必要はなく、であるだけで十分である。便宜上二階導関数であると仮定する。


テイラーの定理によると ϕ(x)=ϕ(μ)+ϕ(μ)(xμ)+ϕ’’(ξ)(xμ)22 \phi (x) = \phi (\mu) + \phi ’ (\mu) (x - \mu) + \phi ’’ (\xi) {{(x - \mu)^2} \over {2}} ξ\xixxμ\muの間に存在する。ϕ\phi凸であるのでϕ’’(ξ)>0\phi ’’ (\xi) > 0ϕ’’(ξ)(xμ)22>0 \phi ’’ (\xi) {{(x - \mu)^2} \over {2}} > 0 まとめると ϕ(x)ϕ(μ)+ϕ(μ)(xμ) \phi (x) \ge \phi (\mu) + \phi ’ (\mu) (x - \mu) 両辺に期待値EEを取るとE(Xμ)=0E(X-\mu) = 0であるため、 E(ϕ(X))ϕ(E(X)) E( \phi ( X ) ) \ge \phi ( E (X) )


  1. Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition): p70. ↩︎