行列代数

線形代数の内容の中でも、行列に関する内容を中心に連立方程式、行列の対角化、行列分解、固有値問題、行列変換などを扱います。一般的なベクトル空間、線形変換などについては線形代数カテゴリーで見つけることができます。同じ内容であっても、線形代数カテゴリーの記事がより抽象的で難しい可能性があります

基礎行列代数

• ベクトルと行列の演算/表記法テーブル

行列の形式

• ベクトルの定義
• 行列の定義
• 行列の演算: 定数倍、加算、乗算
  • 行列の内積 $\mathbf{u}^{T} \mathbf{v}$
  • 直和 $B_{1} \oplus B_{2} := \diag \begin{bmatrix} B_{1} \\ B_{2} \end{bmatrix}$
  • クロネッカー積 $A \otimes B$
  • アダマール積 $A \odot B$
• 単位行列 $I, E$
• 零行列 $O$
  • 冪零行列 $A^{k} = O$
• $1$ 行列
• 正方行列
• 三角行列
  • 正方順三角行列は冪零である
  • 🔒 (23/11/30) 三角行列の行列式
• 対角行列 $\diag$
  • 対角行列積による行列の行毎、列毎のスカラー積
  • 対角和 $\tr A$
• ブロック行列
  • シュトラッセンアルゴリズム証明
• 🔒 (24/01/25) スパース行列
  • 置換行列 $P$

行列の性質

• 逆行列 $A^{-1}$, 可逆行列
  • 可逆行列である同値条件
  • 行列の類似
  • 擬似逆行列 $A^{\dagger}$
• 転置行列 $A^{T}$
  • 対称行列 $A^{T} = A$, 反対称行列 $A^{T} = -A$
• 共役転置行列 $A^{\ast}$
  • エルミート行列 $A^{\ast} = A$
  • エルミート行列の固有値は常に実数である
  • エルミート行列の異なる固有値の固有ベクトルは互いに直交する
• 直交行列 $A^{T} = A^{-1}$
  • 直交行列の性質
  • 直交行列である同値条件
  • ユニタリ行列 $A^{\ast} = A^{-1}$
• 射影行列 $P^{2} = P$
  • 正射影
• 正定値行列 $\mathbf{x}^{\ast} A \mathbf{x} \ne 0$
  • 🔒 (24/06/23) 正定値行列はエルミート行列である
  • 🔒 (24/07/01) 正定値行列の逆行列と平方根行列
  • 🔒 (24/07/25) 正定値行列と拡張コーシー・シュワルツの不等式証明
• 🔒 (24/01/29) 平方根行列 $\sqrt{A}$
• 🔒 (24/04/30) ハンケル行列 $H$

連立方程式

• 連立一次方程式
• 過剰決定系と過少決定系
• 拡大行列と基本行操作
• ガウス・ジョルダン消去法
  • 🔒 (24/02/02) ガウス消去法で逆行列を求めるアルゴリズム
• 同次連立一次方程式
• 基本行列
• 逆行列と連立一次方程式

行列式

• 行列式 $\det$
  • 行列式の性質
• 🔒 (23/11/26) 余因子と古典的随伴行列 $\text{adj} A = C^{T}$
  • ラプラス展開
• クレーマーの公式証明
• ヴァンデルモンド行列の行列式導出
• 三重対角行列の行列式導出
• 🔒 (23/11/18) シャーマン・モリソン公式導出 $\left( A + \mathbf{u} \mathbf{v}^{T} \right)^{-1}$
  • 🔒 (23/11/18) 行列式の補助定理証明

固有値問題

• 固有値と固有ベクトル
  • 類似した行列は同じ固有値を持つ
• 固有値の代数的重複度と幾何学的重複度
  • 固有値の代数的重複度は幾何学的重複度以上である
• スペクトル
  • スペクトル半径 $\rho (A)$
    • ペロン・フロベニウスの定理
• 楕円の一般化：楕円体

線形変換

• 行列変換
• 回転変換
  • 🔒 (24/04/22) 3次元回転変換行列：ロール、ピッチ、ヨー

行列空間

• 行空間、列空間、零空間
  • 行空間、列空間、零空間に対する基底
  • 行列の基本空間
• ランク、無効次元
  • 連立方程式で理解するランクと無効次元
  • フルランク行列の性質 = $X^T X$ の逆行列が存在する必要十分条件

数値行列代数

行列分解

• 可逆行列の固有値対角化 $A = Q^{\ast} \Lambda Q$
  • エルミート行列の固有値対角化：スペクトル理論証明
  • 🔒 (24/06/27) スペクトル分解 $A = \sum \lambda e e^{T}$
• 正の定値行列のコレスキー分解
  • コレスキー分解の一意性証明
• 可逆行列のLU分解 $A = LU$
  • PLU分解 $A = PLU$
• 対称行列のLDU分解 $A = LDL^{T}$
• 正方行列のシュア分解 $A = QTQ^{\ast}$
• 行列の特異値分解 SVD
  • 全特異値分解の存在証明
• 行列のQR分解

最小二乗法

• フロベニウスノルム $\left\| \cdot \right\|_{F}$
• 最小二乗法
  • 特異値分解を通じた最小二乗法
  • コレスキー分解を通じた最小二乗法
  • QR分解を通じた最小二乗法

主要参考文献

• Stephen H. Friedberg, Linear Algebra (4th Edition, 2002)
• 김상동. (2012). 数値行列解析
• Howard Anton, Elementary Linear Algebra: Applications Version (12th Edition, 2019)