📂行列代数

スペクトラル分解

定義 ¹

スペクトル理論では、$A$がエルミート行列であることと、ユニタリ対角化可能なことは同値である： $$ A = A^{\ast} \iff A = Q \Lambda Q^{\ast} $$

スペクトル理論で言及される$A = Q \Lambda Q^{\ast}$を固有対$\left\{ \left( \lambda_{k} , e_{k} \right) \right\}_{k=1}^{n}$の級数型で表されるものをスペクトル分解^{spectral Decomposition}と呼ぶ。 $$ A = \sum_{k=1}^{n} \lambda_{k} e_{k} e_{k}^{\ast} $$

説明

特に統計学において、共分散行列は正定符号行列であることが多く、正定符号行列はエルミート行列である。共分散行列だけでなくデザインマトリックス$X$についても、$X^{T} X$は対称行列になり、特に$X \in \mathbb{R}^{m \times n}$の場合は再びエルミート行列になる。これらの条件の下で、$A$はスペクトル理論により、正規直交固有ベクター$e_{1} , \cdots , e_{n}$で構成される$Q$を得ることができ、以下のように書き直すことができる。 $$ \begin{align*} & A \\ = & Q \Lambda Q^{\ast} \\ = & Q \begin{bmatrix} \lambda_{1} & 0 & \cdots & 0 \\ 0 & \lambda_{2} & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \lambda_{n} \end{bmatrix} \begin{bmatrix} e_{1}^{\ast} \\ e_{2}^{\ast} \\ \vdots \\ e_{n}^{\ast} \end{bmatrix} \\ = & \begin{bmatrix} e_{1} & e_{2} & \cdots & e_{n} \end{bmatrix} \begin{bmatrix} \lambda_{1} e_{1}^{\ast} \\ \lambda_{2} e_{2}^{\ast} \\ \vdots \\ \lambda_{n} e_{n}^{\ast} \end{bmatrix} \\ = & \lambda_{1} e_{1} e_{1}^{\ast} + \lambda_{2} e_{2} e_{2}^{\ast} + \cdots + \lambda_{n} e_{n} e_{n}^{\ast} \\ = & \sum_{k=1}^{n} \lambda_{k} e_{k} e_{k}^{\ast} \end{align*} $$