직교행렬의 성질
정의
다음을 만족하는 정사각 실수 행렬 $A$를 직교행렬orthogonal matrix이라 한다.
$$ A^{-1} = A^{\mathsf{T}} $$
혹은
$$ AA^{\mathsf{T}} = A^{\mathsf{T}}A =I $$
성질1
직교행렬은 다음과 같은 성질을 갖는다.
(a) 직교행렬의 전치도 직교행렬이다.
(b) 직교행렬의 역행렬은 직교행렬이다.
(c) 두 직교행렬의 곱은 직교행렬이다.
(d) 직교행렬의 행렬식은 $1$이거나 $-1$이다.
$$ \det(A)=\pm 1 $$
설명
위의 성질은 유니터리 행렬에 대해서도 그대로 성립한다.
(a) 유니터리 행렬의 켤레전치도 유니터리행렬이다.
(b) 유니터리행렬의 역행렬은 유니터리행렬이다.
(c) 두 유니터리행렬의 곱은 유니터리행렬이다.
(d) 유니터리행렬의 행렬식은 절댓값이 $1$이다.
$$ |\det(U)| = 1 \quad (\det U \in \left\{ e^{i\theta} : \theta \in \mathbb{R} \right\}) $$
(d) 의 역은 성립하지 않는다. 간단한 반례로 $A = \begin{bmatrix} 2 & 0 \\ 0 & \frac{1}{2} \end{bmatrix}$를 보면,
$$ \det A = 2 \cdot \dfrac{1}{2} = 1 $$
$$ A^{\mathsf{T}}A = \begin{bmatrix} 2 & 0 \\ 0 & \frac{1}{2} \end{bmatrix} \begin{bmatrix} 2 & 0 \\ 0 & \frac{1}{2} \end{bmatrix} = \begin{bmatrix} 4 & 0 \\ 0 & \frac{1}{4} \end{bmatrix} \neq I $$
증명
(a)
$A$를 직교행렬이라고 하자. $B$를 $A$의 전치라고 하자.
$$ B=A^{\mathsf{T}} $$
그러면 다음의 식이 성립한다.
$$ B^{-1} = (A^{\mathsf{T}})^{-1} = (A^{-1})^{-1} = A = B^{\mathsf{T}} $$
■
(b)
$A$를 직교행렬이라고 하자. $B$를 $A$의 역행렬이라고 하자.
$$ B = A^{-1} $$
그러면 $A$가 직교행렬이고, $(A^{-1})^{\mathsf{T}} = (A^{\mathsf{T}})^{-1}$이므로 다음의 식이 성립한다.
$$ B^{-1} = (A^{-1})^{-1} = (A^{\mathsf{T}})^{-1} = (A^{-1})^{\mathsf{T}} = B^{\mathsf{T}} $$
■
(c)
$A$, $B$를 크기가 $n \times n$인 직교행렬이라고 하자. 그러면 $(AB) (AB)^{\mathsf{T}}$임을 보이면 증명이 끝난다. $(AB)^{\mathsf{T}}=B^{\mathsf{T}}A^{\mathsf{T}}$이므로 다음의 식이 성립한다.
$$ \begin{align*} (AB)(AB)^{\mathsf{T}} &= (AB) (B^{\mathsf{T}}A^{\mathsf{T}}) \\ &= (AB)(B^{-1}A^{-1}) \\ &= AA^{-1} \\ &= I \end{align*} $$
■
(d)
$A$를 직교행렬이라고 하자. 그러면 곱의 행렬식과 행렬식의 곱이 같으므로 다음의 식을 얻는다.
$$ \begin{align*} \det(I) &= \det(AA^{\mathsf{T}}) \\ &= \det(A) \det(A^{\mathsf{T}}) \end{align*} $$
또한 전치의 행렬식과 행렬식의 전치가 같으므로 다음의 식을 얻는다.
$$ 1 = \det(I) = \left( \det(A) \right)^2 $$
따라서
$$ \det(A) = \pm 1 $$
Howard Anton, Elementary Linear Algebra: Aplications Version (12th Edition, 2019), p401 ↩︎

저희들의 저서 「줄리아 프로그래밍」이 2024 세종도서 학술부문에 선정되었습니다!

