📂数理統計学

ランダムベクトルの期待値

定義 ¹

$$ E \left( X \right) := \begin{bmatrix} E \left( X_{1} \right) \\ \vdots \\ E \left( X_{n} \right) \end{bmatrix} $$ ランダムベクトル $X = \left( X_{1} , \cdots , X_{n} \right)$ の期待値^expectationは、上記のように各成分の期待値のベクトルで定義される。同様に、サイズが$m \times n$の確率変数の行列 $\mathbf{X} = \left[ X_{ij} \right]$ も、各成分の期待値を成分として持つ行列 $E \left( \mathbf{X} \right) := \left[ E \left( X_{ij} \right) \right]$ として定義される。

性質

• [1] 線形性: $\mathbf{X}_{1}$ と $\mathbf{X}_{2}$ が$m \times n$サイズのランダム行列であり、定数行列 $A_{1}, A_{2} \in \mathbb{R}^{k \times m}$ と $B \in \mathbb{R}^{n \times l}$ が与えられたとすると、以下が成立する。 $$ \begin{align*} E \left( A_{1} \mathbf{X}_{1} + A_{2} \mathbf{X}_{2} \right) =& A_{1} E \left( \mathbf{X}_{1} \right) + A_{2} E \left( \mathbf{X}_{2} \right) \\ E \left( A_{1} \mathbf{X}_{1} B \right) =& A_{1} E \left( X_{1} \right) B \end{align*} $$
• [2] トレース: $E(\tr(\mathbf{X})) = \tr(E(\mathbf{X}))$

証明

[1]

$E \left( A \mathbf{X} \right) = A E \left( \mathbf{X} \right)$ のみを示し、残りは省略する。

$A = \begin{bmatrix} a_{ik}\end{bmatrix}$を$m \times p$行列、$\mathbf{X} = \begin{bmatrix} X_{kj}\end{bmatrix}$を$p \times n$行列とする。すると、行列の乗算と行列の期待値の定義により、

$$ \begin{align*} E(A \mathbf{X}) &= E \left( \begin{bmatrix} \sum\limits_{k=1}^{p} a_{ik}X_{kj} \end{bmatrix} \right) \\ &= \begin{bmatrix} E \left( \sum\limits_{k=1}^{p} a_{ik}X_{kj} \right) \end{bmatrix} \\ &= \begin{bmatrix} \sum\limits_{k=1}^{p} a_{ik} E \left( X_{kj} \right) \end{bmatrix} & \text{by linearity of $E$} \\ &= A E(\mathbf{X}) \end{align*} $$

■

[2]

$\mathbf{X} = \begin{bmatrix} X_{ij} \end{bmatrix}$를 $n \times n$ 행렬이라고 하자.

$$ \begin{align*} E(\tr(A)) &= E \left( \sum\limits_{i=1}^{n} X_{ii} \right) \\ &= \sum\limits_{i=1}^{n} E(X_{ii}) & \text{by linearity of $E$} \\ &= \tr \begin{bmatrix} E(X_{11}) & \cdots & E(X_{1n}) \\ \vdots & \ddots & \vdots \\ E(X_{n1}) & \cdots & E(X_{nn}) \end{bmatrix} & \text{by definition of trace} \\ &= \tr\left( E(\mathbf{X}) \right) \end{align*} $$

■