条件付き期待値の性質
定理
確率空間 $( \Omega , \mathcal{F} , P)$ が与えられているとする。
- [1] 測度論での定理: 可測関数 $f$, $g$ が $\mathcal{F}$-可測であれば、$g = h (f)$ を満たすボレル関数 $h : \mathbb{R} \to \mathbb{R}$ が存在する。
- [2] 確率論での応用: 確率変数 $X$, $Y$ が $\sigma (X)$-可測であれば、$E(Y | X) = h(X)$ を満たすボレル関数 $h : \mathbb{R} \to \mathbb{R}$ が存在する。
- [3]: $X$ が $\mathcal{F}$-可測であれば $$E(X|\mathcal{F}) =X \text{ a.s.}$$
- [4]: シグマ場 $\mathcal{G} = \left\{ \emptyset , \Omega \right\}$ に対して $$E(X|\mathcal{G}) = E(X) \text{ a.s.}$$
- [5]: 定数 $c$ と全てのシグマ場 $\mathcal{G}$ に対して $$E(c|\mathcal{F}) = c \text{ a.s.}$$
- [6]: 定数 $c$ に対して $$E(cX | \mathcal{G}) = c E(X | \mathcal{G}) \text{ a.s.}$$
- [7]: $$E(X+Y | \mathcal{G}) = E(X | \mathcal{G}) + E(Y| \mathcal{G}) \text{ a.s.}$$
- [8]: $X \ge 0 \text{ a.s.}$ であれば $$E(X | \mathcal{G}) \ge 0 \text{ a.s.}$$
- [9]: $X \ge Y \text{ a.s.}$ であれば $$E(X | \mathcal{G}) \ge E(Y | \mathcal{G}) \text{ a.s.}$$
- [10]: $$\left| E( X | \mathcal{G} ) \right| \le E ( | X | | \mathcal{G} ) \text{ a.s.}$$
- [11]: 全てのシグマ場 $\mathcal{G}$ に対して $$E \left[ E ( X | \mathcal{G} ) \right] = E(X)$$
- $\sigma (X) = \left\{ X^{-1} (B) : B \in \mathcal{B}(\mathbb{R}) \right\}$ は確率変数 $X$ によって生成される $\Omega$ の最小のシグマ場を表す。これについて $E(Y|\sigma (X)) = E(Y|X)$ のように表記できる。
- $Z$ が $\mathcal{F}$-可測関数であることは、全てのボレル集合 $B \in \mathcal{B}(\mathbb{R})$ に対して $Z^{-1} (B) \in \mathcal{F}$ という意味である。
- ボレル関数とは、全てのボレル集合 $B \in \mathcal{B}(\mathbb{R})$ に対して $f^{-1} (B)$ もボレル集合である関数 $f : \mathbb{R} \to \mathbb{R}$ を指す。
説明
- [1],[2]: これらの二つの定理は、$X$ に関する $Y$ の条件付き期待値が $X$ に依存するある関数として表されることを示している。特に、$X$ の値が与えられた場合は、$E(Y | X = a) = h(a)$ のように表される。[2]は[1]の系として、これにより、基本的な確率論でも日常的に使用される期待値の性質がほとんど確実に保証される。
線形性
- [5]～[7]: $E(aX + b | \mathcal{G}) = aE(X | \mathcal{G}) + b$: 期待値の線形性は、条件付きであっても保持される。
シグマ場は情報である
- [3] $E(X | \mathcal{F}) = X$: 式の意味を考えると、確率変数 $X$ が $\mathcal{F}$-可測であることは、シグマ場 $\mathcal{F}$ が $X$ の全ての情報を持っていることを意味する。逆に考えると、そのために可測と呼ぶのである。したがって、$E(X|\mathcal{F})$ はいかなる妨害もなく $X$ をそのまま把握できる。$\mathcal{F}$ 上で全ての情報が与えられた $X$ は、わざわざ $E$ で計算する必要はない。次の例を考えてみよう：
- 6面のサイコロを振って、目ごとに1ドルもらうゲームをするとき、もらえるお金の期待値は3.5ドルである。これを計算する理由は、実際にサイコロの目が何になるかわからないからである。しかし、サイコロを振る前に私の頭の中にシグマ場 $\mathcal{F}$ が正確に与えられるならば、サイコロの目 $X$ を正確に測定できるため、正確に何ドルもらえるかがわかる。毎回3.5ドルを支払うとしても、勝つゲームはして、負けるゲームはしなければそれでよい。この意味で、乱数ハッキングは、シグマ場（乱数表）を盗んで、本来ランダムであるべきものを決定的にする攻撃技術に相当する。これが成功すれば、銀行のセキュリティカードやOTPなど、乱数に依存する暗号システムが破られる。
一方、$\sigma (X)$ は $X$ の全ての情報を持ちながら最小のシグマ場として定義されているので、当
然 $E(X| \sigma (X)) = X$ である。これは上で紹介した表記に従って、$E(X|X) = X$ のようである。
- [4] $E(X|\mathcal{G}) = E(X)$: 式の意味を考えると、トリビアルなシグマ場 $\mathcal{G} = \left\{ \emptyset , \Omega \right\}$ は $X$ に関してどのような情報も与えないため、途方に暮れて確率空間 $\Omega$ 全体を探して $\displaystyle \int_{\Omega} X d P$ を計算するしかない。
- [10] $\left| E( X | \mathcal{G} ) \right| \le E ( | X | | \mathcal{G} )$: 絶対値の性質により $$ - E ( | X | | \mathcal{G} ) \le E( X | \mathcal{G} ) \le E ( | X | | \mathcal{G} ) $$
- [11] $E \left[ E ( X | \mathcal{G} ) \right] = E(X)$: 確率論の様々な証明で有用に使用される等式で、主に $E(X)$ は直接計算が難しいが、何らかの $\mathcal{G}$ が与えられると $E(X|\mathcal{G})$ が計算しやすくなる場合にトリックとして使用される。
証明
[1]
$h : \mathbb{R} \to \mathbb{R}$ を $z \in \mathbb{R}$ に対して $h(z) := \left( g \circ f^{-1} ( \left\{ z \right\} ) \right)$ のように定義する。
$\left\{ z \right\} \in \mathcal{B}(\mathbb{R})$ の場合、$f$ は $\mathcal{F}$-可測なので、$f^{-1}(\left\{ z \right\}) \in \mathcal{F}$ であり、$g$ も $\mathcal{F}$-可測なので、$h$ はよく定義され、$g (\omega) = ( h \circ f ) ( \omega )$ を満たす。
全てのボレル集合 $B \in \mathcal{B}(\mathbb{R})$ に対して $$ h^{-1}(B) = (f \circ g^{-1})(B) = f \left( g^{-1} (B) \right) $$ を考えると、$g^{-1} (B) \in \mathcal{F}$ なので $f(g^{-1} (B) ) \in \mathcal{B}(\mathbb{R})$ である。全ての $B \in \mathcal{B}(\mathbb{R})$ に対して $h^{-1}(B) \in \mathcal{B}(\mathbb{R})$ なので、$h$ はボレル関数である。
■
[2]
$E ( Y | X ) = E ( Y | \sigma (X) )$ は条件付き期待値の定義により $\sigma (X)$-可測な確率変数であり、$X$ も $\sigma (X)$ の定義に従って明らかに $\sigma (X)$-可測な確率変数である。したがって、[1]により $\mathcal{F} = \sigma (X)$ とし、 $$ f = X \\ g = E ( Y | X ) $$ とすると、$E(Y|X) = h(X)$ を満たすボレル関数 $h : \mathbb{R} \to \mathbb{R}$ が存在する。
■
戦略 [3]～[7]: 積分形に変換して展開し、定積分が同じであることを示した後、次の定理を適用する。元々特別な名前はないが、この投稿でのみルベーグ積分の補題と命名することにする。
ルベーグ積分の性質 $$ \forall A \in \mathcal{F}, \int_{A} f dm = 0 \iff f = 0 \text{ a.e.} $$
[3]
全ての $A \in \mathcal{F}$ に対して $\displaystyle \int_{A} X dP = \int_{A} X dP$ を満たす $X$ が一意に存在するので、条件付き期待値の定義により、$X = E(X| \mathcal{F})$ は $\mathcal{F}$ に対する $X$ の条件付き期待値である。したがって、全ての $A \in \mathcal{F}$ に対して $$ \int_{A} E(X |\mathcal{F}) dP = \int_{A} X dP $$ となり、ルベーグ積分の補題により $X = E(X |\mathcal{F}) \text{ a.s.}$
■
[4]
条件付き期待値の定義により、$\displaystyle \int_{A} E(X |\mathcal{G}) dP = \int_{A} X dP$ である。
ケース 1. $A = \emptyset$
$$ 0 = \int_{\emptyset} E(X |\mathcal{G}) dP = \int_{\emptyset} X dP = 0 $$
ケース 2. $A = \Omega$
$$ \int_{\Omega} E(X |\mathcal{G}) dP = \int_{\Omega} X dP = E(X) = E(X) P(\Omega) = E(X) \int_{\Omega} 1 dP = \int_{\Omega} E(X) dP $$
したがって、どちらの場合も、ルベーグ積分の補題により $X = E(X |\mathcal{G}) \text{ a.s.}$
■
[5]
$c \in \mathcal{G}$ であり、$E(c | \mathcal{G}) \in \mathcal{G}$ なので、条件付き期待値の定義により、全ての $A \in \mathcal{G}$ に対して $$ \int_{A} E(c |\mathcal{G}) dP = \int_{A} X dP $$ となり、したがってルベーグ積分の補題により $c = E(c | \mathcal{G}) \text{ a.s.}$
■
[6]
条件付き期待値の定義とルベーグ積分の線形性により、全ての $A \in \mathcal{G}$ に対して $$ \begin{align*} \int_{A} E( cX |\mathcal{G}) dP =& \int_{A} cX dP \\ =& c \int_{A} X dP \\ =& c \int_{A} E(X|\mathcal{G}) dP \\ =& \int_{A} c E(X|\mathcal{G}) dP \end{align*} $$ となり、ルベーグ積分の補題により $E( cX |\mathcal{G}) = c E(X|\mathcal{G}) dP \text{ a.s.}$
■
[7]
条件付き期待値の定義とルベーグ積分の線形性により、全ての $A \in \mathcal{G}$ に対して $$ \begin{align*} \int_{A} E( X+Y |\mathcal{G}) dP =& \int_{A} (X+Y) dP \\ =& \int_{A} X dP +\int_{A} Y dP \\ =& \int_{A} E(X|\mathcal{G}) dP + \int_{A} E(Y|\mathcal{G}) dP \\ =& \int_{A} \left[ E(X|\mathcal{G}) + E(Y|\mathcal{G}) \right] dP \end{align*} $$ となり、ルベーグ積分の補題により $$ E( X +Y |\mathcal{G}) = E(X|\mathcal{G}) + E(Y|\mathcal{G}) dP \text{ a.s.} $$
■
[8]
$E( X |\mathcal{G}) < 0$ と仮定すると $$ \begin{align*} \int_{A} E( X |\mathcal{G}) dP =& \int_{A} X dP \\ \ge& \int_{A} 0 dP \\ =& 0 \end{align*} $$ となるため、矛盾が生じる。したがって、$E( X |\mathcal{G}) \ge 0 \text{ a.s.}$ でなければならない。
■
[9]
$Z := X - Y \ge 0$ とすると、[8] により $$ E(X-Y | \mathcal{G}) \ge 0 $$ となり、条件付き期待値の線形性により $$ E(X| \mathcal{G}) - E(Y | \mathcal{G}) \ge 0 \text{ a.s.} $$
■
[10]
パート 1. $X \ge 0$
$X \ge 0$ の場合、$|X| = X$ となるため $$ E( |X| |\mathcal{G}) = E(X|\mathcal{G}) $$
[8]により $E(X|\mathcal{G}) \ge 0$ となるため、同様に $E(X|\mathcal{G}) = \left| E(X|\mathcal{G}) \right|$ となり $$ E( |X| |\mathcal{G}) = E(X|\mathcal{G}) = \left| E(X|\mathcal{G}) \right| $$
パート 2. $X < 0$
[6]により $$ E( |X| |\mathcal{G}) = E( -X |\mathcal{G}) = - E(X |\mathcal{G}) = \left| E(X|\mathcal{G}) \right| $$
パート 3. $X = X^{+} - X^{-}$
三角不等式により $$ \left| E(X|\mathcal{G}) \right| \le \left| E( X^{+} |\mathcal{G}) \right| + \left| E( X^{-} |\mathcal{G}) \right| $$ $X^{+} , X^{-} \ge 0$ であるため、パート 1により $$ \left| E(X|\mathcal{G}) \right| \le E( \left| X^{+} \right| |\mathcal{G}) + E( \left| X^{-} \right| | \mathcal{G}) $$
[7]と絶対値の表示 $|f| = |f^{+}| + |f^{-}|$ により $$ \begin{align*} \left| E(X|\mathcal{G}) \right| \le & E( \left| X^{+} \right| + \left| X^{-} \right| | \mathcal{G}) \\ =& E( \left| X \right| | \mathcal{G}) \text{ a.s.} \end{align*} $$
■
[11]
$$ \begin{align*} E \left[ E( X | \mathcal{G} ) \right] =& \int_{\Omega} E ( X | \mathcal{G} ) d P \\ =& \int_{\Omega} X d P \\ =& E(X) \end{align*} $$
■