직교군
정의
$n \times n$ 직교행렬들의 집합을 $\operatorname{O}(n)$이라 표기하고 $n$차원 직교군orthogonal group이라 한다.
$$ \operatorname{O}(n) := {\left\{ Q \in M_{n \times n}(\mathbb{R}) : Q^{\mathsf{T}}Q = I \right\}} $$
설명
| 종류 \ 조건 | 가역행렬 | 행렬식=1 | 직교성 | 공간 |
|---|---|---|---|---|
| 일반선형군 $\operatorname{GL}(n, \mathbb{R})$ | ✅ | ❌ | ❌ | $\mathbb{R}$ |
| 특수선형군 $\operatorname{SL}(n, \mathbb{R})$ | ✅ | ✅ | ❌ | $\mathbb{R}$ |
| 직교군 $\operatorname{O}(n)$ | ✅ | ❌ | ✅ | $\mathbb{R}$ |
| 특수직교군 $\operatorname{SO}(n)$ | ✅ | ✅ | ✅ | $\mathbb{R}$ |
| 유니터리군 $\operatorname{U}(n)$ | ✅ | ❌ | ✅ | $\mathbb{C}$ |
| 특수유니터리군 $\operatorname{SU}(n)$ | ✅ | ✅ | ✅ | $\mathbb{C}$ |
직교행렬은 회전행렬과 반사행렬로 구분되므로, 직교군이란 회전행렬과 반사행렬들의 집합이다.
부분 군
두 직교행렬의 곱은 직교행렬이므로, $\operatorname{O}(n)$은 행렬곱에 대해서 닫혀있다. 부분군 판정법에 의해서 $\operatorname{O}(n)$은 일반선형군 $\operatorname{GL}(n, \mathbb{R})$의 부분군이다.
$$ A, B \in \operatorname{O}(n), \quad AB^{-1} = AB^{\mathsf{T}} \text{ is orthogonal} $$
$$ \implies \operatorname{O}(n) \le \operatorname{GL}(n, \mathbb{R}) $$
행렬 리 군
$\operatorname{GL}(n, \mathbb{R})$의 닫힌 부분군을 행렬 리 군이라 한다. $\operatorname{O}(n)$의 수열 $\left\{ A_{n} \right\}$이 $A$로 수렴한다고 하자. 전치는 연속이므로 $\left\{ (A_{n})^{\mathsf{T}} \right\}$는 $A^{\mathsf{T}}$로 수렴한다.
$$ \lim\limits_{n \to \infty} (A_{n})^{\mathsf{T}} = \left( \lim\limits_{n \to \infty} A_{n} \right)^{\mathsf{T}} = A^{\mathsf{T}} $$
행렬 극한의 성질에 의해 다음이 성립한다.
$$ A^{\mathsf{T}}A = \left( \lim_{n \to \infty} (A_{n})^{\mathsf{T}} \right) \cdot \left( \lim_{n \to \infty} A_{n} \right) = \lim_{n \to \infty} ((A_{n})^{\mathsf{T}}A_{n}) = \lim_{n \to \infty} I = I $$
따라서 $A \in \operatorname{O}(n)$이고, $\operatorname{O}(n)$은 $\operatorname{GL}(n, \mathbb{R})$의 닫힌 부분군이므로 행렬 리 군이다.
컴팩트 리 군
직교군의 정의에 의해 다음이 성립한다.
$$ A \in \operatorname{O}(n) \implies A^{\mathsf{T}}A = I \implies \sum\limits_{i}^{n}a_{ij}^{2} = 1, \quad \forall 1 \le j \le n $$
따라서 어떤 $a_{ij}$의 절댓값도 $1$보다 클 수 없다.
$$ |a_{ij}| \le 1 $$
그러므로 $A \in \operatorname{O}(n)$은 유계이다. $\operatorname{O}(n)$이 닫혀있고 유계이므로 컴팩트 리 군이다.