직교 변환
정의
유한차원 실내적공간 $V$ 위의 선형변환 $T : V \to V$가 모든 $\mathbf{x}, \mathbf{y} \in V$에 대해서 다음을 만족하면 직교 변환orthogonal transformation이라 한다.
$$ \braket{T\mathbf{x}, T\mathbf{y}} = \braket{\mathbf{x}, \mathbf{y}} $$
설명
직교 변환은 한 마디로 내적을 보존하는 선형변환이다. 정의에 행렬이 등장하지 않는다는 점에 주목하자. 직교 변환은 어떤 좌표계에서 어떻게 계산되느냐와 무관하게, 오직 $V$의 내적 구조를 그대로 두고 벡터들을 옮긴다는 성질만으로 규정된다.
이름에 '직교'가 붙은 이유는 이 조건이 직교성을 보존하기 때문이다. 두 벡터가 직교한다는 것은 $\braket{\mathbf{u}, \mathbf{v}} = 0$이라는 뜻이므로, 내적이 보존되면 다음이 성립한다.
$$ \braket{\mathbf{u}, \mathbf{v}} = 0 \implies \braket{T\mathbf{u}, T\mathbf{v}} = \braket{\mathbf{u}, \mathbf{v}} = 0 $$
다시 말해 수직인 것은 수직인 채로 남는다. 한 걸음 더 나아가 정규직교기저 $\left\{ \mathbf{e}_{1}, \cdots, \mathbf{e}_{n} \right\}$를 생각해보면 다음을 얻는다.
$$ \braket{T\mathbf{e}_{i}, T\mathbf{e}_{j}} = \braket{\mathbf{e}_{i}, \mathbf{e}_{j}} = \delta_{ij} $$
즉 직교 변환은 정규직교기저를 정규직교기저로 옮긴다. 서로 수직인 단위벡터들로 이루어진 좌표축을, 여전히 서로 수직인 단위벡터들로 이루어진 좌표축으로 통째로 옮기는 것이다. 아래 정리에서 이 사실이 직교행렬과의 동치로 이어진다.
한편 '직교성만 보존하는 것'과 '직교 변환인 것'은 같은 말이 아니므로 주의해야 한다. 예를 들어 $T = 2I$를 생각해보면, $\braket{\mathbf{u}, \mathbf{v}} = 0$일 때 $\braket{2\mathbf{u}, 2\mathbf{v}} = 4\braket{\mathbf{u}, \mathbf{v}} = 0$이므로 모든 직각은 직각으로 보내진다. 그러나 이는 직교 변환이 아니다.
$$ \braket{2\mathbf{x}, 2\mathbf{y}} = 4 \braket{\mathbf{x}, \mathbf{y}} \ne \braket{\mathbf{x}, \mathbf{y}} $$
모든 길이가 두 배로 늘어나기 때문이다. 직교 변환이 되려면 각도뿐 아니라 길이까지 함께 보존되어야 하고, 내적 보존이라는 조건이 바로 그 둘을 한꺼번에 요구한다. 실제로 $\mathbf{y} = \mathbf{x}$를 대입하면 놈이 보존됨을 바로 알 수 있다.
$$ \left\| T\mathbf{x} \right\|^{2} = \braket{T\mathbf{x}, T\mathbf{x}} = \braket{\mathbf{x}, \mathbf{x}} = \left\| \mathbf{x} \right\|^{2} $$
거꾸로 놈만 보존해도 내적이 자동으로 보존되는데, 이는 아래 정리에서 다룬다.
정리의 **(d)**에서 '임의의' 정규직교기저라는 말도 눈여겨볼 만하다. 정규직교기저 하나를 잘 골라야 행렬표현이 직교행렬이 되는 것이 아니라, 어떤 정규직교기저를 골라도 행렬표현이 직교행렬이 된다. 직교성이 좌표계에 딸린 성질이 아니라 변환 그 자체의 성질이라는 뜻이며, 이것이 행렬이 아니라 변환으로 정의해서 얻는 이득이다. 물론 실제로 계산할 때는 $\mathbb{R}^{n}$의 표준기저를 잡아 $A^{\mathsf{T}}A = I$를 확인하면 그만이다.
덧붙이자면 정의에서 선형성조차 가정할 필요가 없다. 원점을 고정하는 등거리 사상은 자동으로 선형이 되어 직교 변환이 되기 때문이다.
정리
$V$를 $n$차원 실내적공간, $T : V \to V$를 선형변환이라고 하자. 그러면 다음의 명제들은 모두 동치이다.
(a) $T$는 직교 변환이다. 즉, 모든 $\mathbf{x}, \mathbf{y} \in V$에 대해서 $\braket{T\mathbf{x}, T\mathbf{y}} = \braket{\mathbf{x}, \mathbf{y}}$이다.
(b) $T$는 놈을 보존한다. 즉, 모든 $\mathbf{x} \in V$에 대해서 $\left\| T\mathbf{x} \right\| = \left\| \mathbf{x} \right\|$이다.
(c) $T$는 정규직교기저를 정규직교기저로 옮긴다. 즉, $\beta$가 $V$의 정규직교기저이면 $T(\beta)$도 $V$의 정규직교기저이다.
(d) 임의의 정규직교기저 $\beta$에 대한 $T$의 행렬표현 $A = [T]_{\beta}$가 직교행렬이다. 즉, $A^{\mathsf{T}}A = I$이다.
증명
(a) $\implies$ (b) $\implies$ **(a)**와 (a) $\implies$ (c) $\implies$ (d) $\implies$ **(a)**를 보인다.
먼저 뒤의 두 고리에서 반복해서 쓰일 사실을 짚어두자. $\beta = \left\{ \mathbf{e}_{1}, \cdots, \mathbf{e}_{n} \right\}$가 정규직교기저이고 $\mathbf{u} = \sum_{i} a_{i} \mathbf{e}_{i}$, $\mathbf{v} = \sum_{j} b_{j} \mathbf{e}_{j}$이면 좌표벡터 $[\mathbf{u}]_{\beta} = (a_{1}, \cdots, a_{n})^{\mathsf{T}}$, $[\mathbf{v}]_{\beta} = (b_{1}, \cdots, b_{n})^{\mathsf{T}}$에 대해서 다음이 성립한다.
$$ \braket{\mathbf{u}, \mathbf{v}} = \sum_{i=1}^{n} \sum_{j=1}^{n} a_{i} b_{j} \braket{\mathbf{e}_{i}, \mathbf{e}_{j}} = \sum_{i=1}^{n} a_{i}b_{i} = [\mathbf{u}]_{\beta}^{\mathsf{T}} [\mathbf{v}]_{\beta} \tag{1} $$
즉 정규직교기저에 대한 좌표벡터를 취하는 것은 $V$의 내적을 $\mathbb{R}^{n}$의 내적으로 그대로 옮긴다.
(a) $\implies$ (b)
$\mathbf{y} = \mathbf{x}$를 대입하면 다음을 얻는다.
$$ \left\| T\mathbf{x} \right\|^{2} = \braket{T\mathbf{x}, T\mathbf{x}} = \braket{\mathbf{x}, \mathbf{x}} = \left\| \mathbf{x} \right\|^{2} $$
놈은 음이 아니므로 $\left\| T\mathbf{x} \right\| = \left\| \mathbf{x} \right\|$이다.
■
(b) $\implies$ (a)
$T$가 선형이므로 $T\mathbf{x} \pm T\mathbf{y} = T(\mathbf{x} \pm \mathbf{y})$이다. 여기에 실내적공간의 편극 항등식을 적용하면 다음을 얻는다.
$$ \begin{align*} \braket{T\mathbf{x}, T\mathbf{y}} &= \frac{1}{4} \left( \left\| T\mathbf{x} + T\mathbf{y} \right\|^{2} - \left\| T\mathbf{x} - T\mathbf{y} \right\|^{2} \right) \\ &= \frac{1}{4} \left( \left\| T(\mathbf{x} + \mathbf{y}) \right\|^{2} - \left\| T(\mathbf{x} - \mathbf{y}) \right\|^{2} \right) \\ &= \frac{1}{4} \left( \left\| \mathbf{x} + \mathbf{y} \right\|^{2} - \left\| \mathbf{x} - \mathbf{y} \right\|^{2} \right) \\ &= \braket{\mathbf{x}, \mathbf{y}} \end{align*} $$
■
(a) $\implies$ (c)
$\beta = \left\{ \mathbf{e}_{1}, \cdots, \mathbf{e}_{n} \right\}$를 $V$의 정규직교기저라고 하자. 내적이 보존되므로 다음이 성립한다.
$$ \braket{T\mathbf{e}_{i}, T\mathbf{e}_{j}} = \braket{\mathbf{e}_{i}, \mathbf{e}_{j}} = \delta_{ij} $$
따라서 $T(\beta) = \left\{ T\mathbf{e}_{1}, \cdots, T\mathbf{e}_{n} \right\}$은 정규직교집합이다. 정규직교집합은 영벡터를 포함하지 않는 직교집합이므로 선형독립이고, $n$개의 선형독립인 벡터는 $n$차원 공간 $V$의 기저가 된다. 그러므로 $T(\beta)$는 $V$의 정규직교기저이다.
■
(c) $\implies$ (d)
$\beta = \left\{ \mathbf{e}_{1}, \cdots, \mathbf{e}_{n} \right\}$를 $V$의 임의의 정규직교기저라 하고 $A = [T]_{\beta}$라고 하자. 행렬표현의 정의에 의해 $A$의 $j$번째 열은 좌표벡터 $[T\mathbf{e}_{j}]_{\beta}$이다. 이를 $\mathbf{a}_{j}$라고 쓰면, $(1)$과 가정 **(c)**에 의해 다음을 얻는다.
$$ \mathbf{a}_{i}^{\mathsf{T}} \mathbf{a}_{j} = [T\mathbf{e}_{i}]_{\beta}^{\mathsf{T}} [T\mathbf{e}_{j}]_{\beta} = \braket{T\mathbf{e}_{i}, T\mathbf{e}_{j}} = \delta_{ij} $$
$A^{\mathsf{T}}A$의 $(i, j)$성분이 정확히 $\mathbf{a}_{i}^{\mathsf{T}} \mathbf{a}_{j}$이므로 $A^{\mathsf{T}}A = I$이고, $A$는 직교행렬이다.
■
(d) $\implies$ (a)
$V$의 정규직교기저 $\beta$를 하나 잡고 $A = [T]_{\beta}$라고 하자. 가정에 의해 $A^{\mathsf{T}}A = I$이고, 행렬표현의 정의에 의해 모든 $\mathbf{x} \in V$에 대해서 $[T\mathbf{x}]_{\beta} = A[\mathbf{x}]_{\beta}$이다. 따라서 $(1)$에 의해 다음이 성립한다.
$$ \begin{align*} \braket{T\mathbf{x}, T\mathbf{y}} &= [T\mathbf{x}]_{\beta}^{\mathsf{T}} [T\mathbf{y}]_{\beta} \\ &= \left( A[\mathbf{x}]_{\beta} \right)^{\mathsf{T}} \left( A[\mathbf{y}]_{\beta} \right) \\ &= [\mathbf{x}]_{\beta}^{\mathsf{T}} A^{\mathsf{T}} A [\mathbf{y}]_{\beta} \\ &= [\mathbf{x}]_{\beta}^{\mathsf{T}} [\mathbf{y}]_{\beta} \\ &= \braket{\mathbf{x}, \mathbf{y}} \end{align*} $$
■