📂수리통계학

랜덤벡터 이차형식의 기대값

공식

모평균 벡터 $\mu \in \mathbb{R}^{n}$ 와 공분산행렬 $\Sigma \in \mathbb{R}^{n \times n}$ 에 대해 랜덤벡터 $\mathbf{X}$ 가 $\mathbf{X} \sim \left( \mu , \Sigma \right)$ 라 하자. 대칭행렬 $A$ 에 대해 랜덤벡터 이차형식 $Q = \mathbf{X}^{T} A \mathbf{X}$ 의 기대값은 다음과 같다. $$ E (Q) = \operatorname{tr} A \Sigma + \mu^{T} A \mu $$ 여기서 $\mu^{T}$ 는 $\mu$ 의 전치행렬이고, $\operatorname{tr}$ 은 트레이스다.

따름정리

$\mathbf{X} \sim N(\mu, \Sigma)$이면,

$$ \begin{align*} E((\mathbf{X} - \mu)^{\mathsf{T}}A (\mathbf{X} - \mu)) &= \tr (A \Sigma) \\ E((\mathbf{X} - \mu_{1})^{\mathsf{T}}A (\mathbf{X} - \mu_{1})) &= \tr (A \Sigma) + (\mu - \mu_{1})^{\mathsf{T}} A (\mu - \mu_{1}) \end{align*} $$

증명

$\mathbf{Z} = \mathbf{X} - \mu$ 라고 하면 $\mathbf{Z} \sim N(\mathbf{0}, \Sigma)$ 이므로,

$$ E(\mathbf{Z}^{\mathsf{T}} A \mathbf{Z}) = \tr(A\Sigma) $$

$\mathbf{Z} = \mathbf{X} - \mu_{1}$ 라고 하면, $\mathbf{Z} \sim N(\mu - \mu_{1}, \Sigma)$ 이므로,

$$ E(\mathbf{Z}^{\mathsf{T}} A \mathbf{Z}) = \tr(A\Sigma) + (\mu - \mu_{1})^{\mathsf{T}} A (\mu - \mu_{1}) $$

■

유도 ¹

대각합의 순환 성질: $$ \operatorname{tr} (ABC) = \operatorname{tr} (BCA) = \operatorname{tr} (CAB) $$

랜덤벡터의 기대값과 트레이스: $E(\tr(\mathbf{X})) = \tr(E(\mathbf{X}))$

공분산행렬: $\mathbf{\mu} \in \mathbb{R}^{p}$ 가 $\mathbf{\mu} := \left( EX_{1} , \cdots , EX_{p} \right)$ 와 같이 주어져 있다고 하면 $$ \operatorname{Cov} (\mathbf{X}) = E \left[ \mathbf{X} \mathbf{X}^{T} \right] - \mathbf{\mu} \mathbf{\mu}^{T} $$

$$ \begin{align*} & E (Q) \\ =& E \left( \operatorname{tr} \mathbf{X}^{T} A \mathbf{X} \right) \\ =& E \left( \operatorname{tr} A \mathbf{X} \mathbf{X}^{T} \right) \\ =& \operatorname{tr} A E \left( \mathbf{X} \mathbf{X}^{T} \right) \\ =& \operatorname{tr} A \left( \Sigma + \mu \mu^{T} \right) \\ =& \operatorname{tr} A \Sigma + \operatorname{tr} A \mu \mu^{T} \\ =& \operatorname{tr} A \Sigma + \operatorname{tr} \mu^{T} A \mu \\ =& \operatorname{tr} A \Sigma + \mu^{T} A \mu \end{align*} $$

■