平均と分散の性質들

定理

平均 $E ( X ) = \mu_{X}$ と分散 $\operatorname{Var} (X) = E [ ( X - \mu_{X} )^2 ]$ は以下の性質を持っている。

[1]: $E(X + Y) = E(X) + E(Y)$
[2]: $E(aX + b) = a E(X) + b$
[3]: $\operatorname{Var} (X) \ge 0$
[4]: $\operatorname{Var} ( X ) = E(X^2) - \mu_{X}^2$
[5]: $\operatorname{Var} (aX + b) = a^2 \operatorname{Var} (X)$

説明

平均と分散に関するものなので、非常に重要な性質だ。特に[1]と[2]はいわゆる線形性^linearityと呼ばれる性質で、式を扱う時にとても便利にしてくれる。

証明

[1]

離散的な場合 $$ \begin{align*} E ( X + Y ) =& \sum (xp(x) + yp(y) ) \\ =& \sum xp(x) + \sum yp(y) \\ =& E(X) + E(Y) \end{align*} $$ 連続的な場合 $$ \begin{align*} E ( X + Y ) =& \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (x + y) f(x,y) dx dy \\ =& \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} x f(x,y) dx dy + \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} y f(x,y) dx dy \\ =& E(X) + E(Y) \end{align*} $$

■

[2]

離散的な場合 $$ \begin{align*} E ( aX + b ) =& \sum \left( a x p(x) + b p(x) \right) \\ =& a \sum x p(x) + b \sum p(y) \\ =& a E(X) + b \end{align*} $$ 連続的な場合 $$ \begin{align*} E ( aX + b ) =& \int_{-\infty}^{\infty} (ax+b) f(x) dx \\ =& \int_{-\infty}^{\infty} a xf(x) dx + \int_{-\infty}^{\infty} b f(x) dx \\ =& a \int_{-\infty}^{\infty} xf(x) dx + b \int_{-\infty}^{\infty} f(x) dx \\ =& a E(X) + b \end{align*} $$

■

[3]

$( X - \mu_{X} )^2 \ge 0$ であるから $\operatorname{Var} (X) = E [ ( X - \mu_{X} )^2 ] \ge 0$

■

[4]

$$ \begin{align*} \operatorname{Var} (X) =& E [ ( X - \mu_{X} )^2 ] \\ =& E (X^2 - 2 \mu_{X} X + \mu_{X}^2 ) \\ =& E (X^2) - 2 \mu_{X} E(X) + \mu_{X}^2 \\ =& E(X^2) - \mu_{X}^2 \end{align*} $$

■

[5]

定理 [2] によると $Y = a X + b$ だったら $\mu_{Y} = a \mu_{X} + b$ で $$ \begin{align*} \operatorname{Var} (Y) =& E [ ( Y - \mu_{Y} )^2 ] \\ =& E [ ( aX + b - a \mu_{X} - b )^2 ] \\ =& E [ a^2 ( X - \mu_{X} )^2 ] \\ =& a^2 \operatorname{Var} (X) \end{align*} $$

■