行列分解
定義
与えられた行列を、単純で特徴的な他の行列たちの積として表すことを行列分解matrix decomposition/factorizationという。
説明
定義では積といったが、和に分解する場合もある。与えられた対象を単純な形に分けて考えることは、数学だけでなく様々な分野で有用なアプローチである。特に行列については、与えられた行列をそのまま扱うよりも特定の分解された形で扱う方が計算上の利点が多い。
以下では、分解に現れる中心的な行列が三角行列であるか対角行列であるかによって分類した。
三角分解
三角化
行列$A$が三角行列$U$と相似であれば、三角化可能であるという。
$$ A = P^{-1} U P $$
三角化それ自体が一種の行列分解である。すべての正方行列は三角化可能であり、つまり上のような形に分解できる。特に冪零行列は対角成分がすべて$0$である上三角行列と相似である。
シュール分解
三角化において$P$をユニタリ行列に選ぶことができる。すなわち、すべての正方行列$A \in M_{n}(\mathbb{C})$は、ユニタリ行列$Q$と上三角行列$T$に対して次のように分解できる。これをシュール分解という。
$$ A = Q T Q^{\ast} $$
ユニタリ行列は$Q^{-1} = Q^{\ast}$であるため、逆行列を別途求める必要がないことが一般的な三角化に比べた利点である。
LU分解
可逆行列$A \in M_{n}$が行交換なしにガウス消去できるならば、対角成分がすべて$1$である下三角行列$L$と上三角行列$U$に対して次のように分解できる。これをLU分解という。
$$ A = LU $$
$L$には消去の過程で掛けた倍数が、$U$には消去を終えた結果が収められる。
PLU分解
消去の途中でピボットが$0$になり行交換が必要となる場合でも、すべての可逆行列$A$は置換行列$P$、下三角行列$L$、上三角行列$U$に対して次のように分解できる。これをPLU分解という。
$$ A = PLU $$
LDU分解
LU分解を持つ対称可逆行列$A$は、対角成分がすべて$1$である下三角行列$L$と対角行列$D$に対して次のように分解できる。これをLDU分解という。
$$ A = L D L^{\mathsf{T}} $$
LU分解の$U$から対角成分を$D$として取り出すと、残った上三角行列が$L^{\mathsf{T}}$になるのである。
コレスキー分解
正定値実対称行列$A$は、下三角行列$L$に対して次のように分解できる。これをコレスキー分解という。
$$ A = L L^{\mathsf{T}} $$
LDU分解において$D$の対角成分がすべて正になるため、$D^{1/2}$を$L$に吸収させた形と見ることができる。
QR分解
任意の行列$A \in \mathbb{C}^{m \times n}$は、ユニタリ行列$Q \in \mathbb{C}^{m \times m}$と上三角行列$R \in \mathbb{C}^{m \times n}$に対して次のように分解できる。これをQR分解という。
$$ A = QR $$
$A$の列ベクトルにグラム・シュミットの直交化を適用して得られた正規直交ベクトルが$Q$の列ベクトルになる。正方行列である必要がないことが特徴である。
対角化
固有値分解
正方行列$A$が対角行列$D$と相似であれば、対角化可能であるという。
$$ A = P^{-1} D P $$
$n \times n$行列$A$が対角化可能であることと、$n$個の線形独立な固有ベクトルを持つことは同値である。このとき$D$の対角成分は$A$の固有値であるため、この分解を固有値分解eigenvalue decompositionともいう。
直交対角化
実正方行列$A$が直交行列$P$に対して対角行列$D$と相似であれば、直交対角化可能であるという。
$$ A = P^{\mathsf{T}} D P $$
実正方行列$A$が直交対角化可能であることと対称行列であることは同値である。これを二次形式に適用したものが主軸定理である。
ユニタリ対角化
複素正方行列$A$がユニタリ行列$Q$に対して対角行列$\Lambda$と相似であれば、ユニタリ対角化可能であるという。
$$ A = Q \Lambda Q^{\ast} $$
$A$がユニタリ対角化可能であることと正規行列であることは同値である。これをスペクトル定理という。特にエルミート行列はユニタリ対角化可能であり、このとき$\Lambda$の対角成分はすべて実数である。
スペクトル分解
ユニタリ対角化を固有値$\lambda_{k}$と正規直交固有ベクトル$\mathbf{e}_{k}$の和として書き下したものをスペクトル分解という。
$$ A = \sum_{k=1}^{n} \lambda_{k} \mathbf{e}_{k} \mathbf{e}_{k}^{\ast} $$
特異値分解
任意の行列$A \in \mathbb{C}^{m \times n}$は、ユニタリ行列$U \in \mathbb{C}^{m \times m}$、$V \in \mathbb{C}^{n \times n}$と、対角成分が非負の実数である$m \times n$対角行列$\Sigma$に対して次のように分解できる。これを特異値分解singular value decomposition, SVDという。
$$ A = U \Sigma V^{\ast} $$
$\Sigma$の対角成分を$A$の特異値という。対角化が正方行列に対してのみ可能であるのとは異なり、特異値分解はすべての行列に対して存在する。両側に互いに異なるユニタリ行列を許すことで、対角化を長方行列にまで一般化したものである。
その他
SN分解
複素正方行列$A \in M_{n}(\mathbb{C})$は、対角化可能な行列$S$と冪零行列$N$に対して次のように分解できる。これをSN分解という。
$$ A = S + N, \qquad SN = NS $$
このような$S$と$N$は一意である。和に分解する代表的な例である。
