행렬식

행렬식

determinant

정의

$A$를 다음과 같은 $2 \times 2$ 행렬이라고 하자.

$$ A = \begin{bmatrix} a & b \\ c & d \end{bmatrix} $$

$A$의 행렬식determinant을 다음과 같이 정의하고 $\det(A)$로 나타낸다.

$$ \det(A) := ad - bc $$

설명

행렬식 이야기를 하기 위해선 선형 대수학의 목적 자체를 이야기하지 않을 수 없다. 대부분의 수학에서 말하는 문제는 기본적으로 ‘방정식을 풀 수 있는가’로 요약될 수 있다고 해도 과언이 아니다. 간단한 방정식인

$$ ax = b $$

를 생각해보면, $ a = 0$이 아닌 이상 이 방정식은 해를 가진다는 것을 쉽게 알 수 있다. 이차방정식

$$ a x^2 + b x + c = 0 $$

역시 근의 공식을 통해 쉽게 풀어낼 수 있다. 이에 수학자들은 $x$의 차수를 올려가며 더더욱 어려운 문제에 도전했다. 하지만 불운의 천재 아벨에 의해 ‘5차 이상의 대수방정식은 일반해를 갖지 않음‘이 증명되어버린다.

한편 차수 대신 미지수나 아예 방정식의 수를 늘려가며 연구하는 길이 남아있었다. 여기에서 행렬식이 나왔다. 한국말로 보자면 행렬이 생긴 뒤 행렬식이라는게 생겼을 것 같지만 사실은 그렇지 않다. 역사적으로 행렬식은 행렬이 등장하기 전에 먼저 등장했고1, 실제로 영단어를 보면 determinant와 matrix는 딱히 관련이 없다. determinant라는 이름은 다음과 같이 미지수가 2개인 연립 일차 방정식의 해가 존재하는지, 존재하지 않는지를 판별해주는 공식이라서 붙여진 이름이다.

$$ \left\{ \begin{align*} ax + by &= 0 \\ cx + dy &= 0 \end{align*} \right. $$

위와 같은 연립 방정식이 주어졋을 때 $ad-bc = 0$이면 오직 $x=y=0$인 자명해만 존재하고, $ad-bc \ne 0$이면 자명하지 않은 유일한 해를 갖게 된다. 따라서 $ad-bc$가 주어진 연립 방정식의 해가 있는지 없는지 판별해주는 공식이 되므로 판별식이라는 이름이 붙은 것이다.

그런데 알다시피 연립방정식은 행렬의 모양으로 표현할 수 있다. ‘간단한’ 연립방정식은 다음과 같이 나타낼 수 있다.

$$ A \mathbf{x} = \mathbf{b} $$

여기서 $ax = b$의 해가 $x = \dfrac{b}{a}$였던 걸 잘 생각해보자. $\dfrac{1}{a}$는 $a$의 역원이기 때문에 양변에 곱하는 것만으로 $x$만 남길 수 있었다. 해가 존재할 조건과 결부시켜 말하자면, $a= 0$은 역원이 존재하지 않으므로 $ax = b$의 해도 존재하지 않는 것이다. 마찬가지로 $A \mathbf{x} = \mathbf{b}$ 역시 $A$의 역원을 구할 수 있는가의 문제로 귀결된다. $A$의 역행렬 존재성 자체가 $A$로 표현되는 선형 시스템의 해의 존재성이고, 이 역원을 구하는 것이 해를 구하는 것이 된다. 이때 $A$의 역행렬이 존재할 조건과 $A$로 표현되는 선형 시스템이 유일한 해를 가질 조건이 같다는 것을 알 수 있다.

$A = \begin{bmatrix} a & b \\ c & d\end{bmatrix}$의 역행렬은 다음과 같다.

$$ A^{-1} = \dfrac{1}{ad-bc} \begin{bmatrix} d & -b \\ -c & a \end{bmatrix} $$

이를 증명하는 방법은 단순히 $A$와 $A^{-1}$ 을 직접 곱하는 것이다.만약 $\det (A) = ad - bc = 0$ 이라면 행렬의 모양이 어찌됐든 $A^{-1}$ 앞의 상수가 $\dfrac{1}{0}$이므로 역행렬이 존재할 수 없다. 가역성invertibility을 종종 비특이성nonsingularity으로 부르는 것도 이 때문이다. singular라는 말은 ‘특이한’으로 번역되는데 한국어의 어감을 죽이고 수학답게 말하자면 ‘0으로 나누는’ 정도의 느낌이 된다.

한편 행렬식을 $n\times n$개의 실수를 $1$개의 실수로 매핑하는 함수의 관점으로 바라보면 다음과 같이 정의할 수 있다.

정의

함수 $ \det : \mathbb{R}^{n \times n } \to \mathbb{R} $ 이 다음과 같은 조건들을 만족하면 행렬식이라고 정의한다.

  • 항등행렬 $I_{n}$에 대해, $\det(I_{n}) = 1$
  • $1 \le i,j \le n$에 대해, $\det \begin{bmatrix} \mathbb{r_{1}} \\ \vdots \\ \mathbb{r_{i}} \\ \vdots \\ \mathbb{r_{j}} \\ \vdots \\ \mathbb{r_{n}} \end{bmatrix} = - \det \begin{bmatrix} \mathbb{r_{1}} \\ \vdots \\ \mathbb{r_{j}} \\ \vdots \\ \mathbb{r_{i}} \\ \vdots \\ \mathbb{r_{n}} \end{bmatrix}$
  • $\det \begin{bmatrix} k \mathbb{r_{1}} + l \mathbb{r_{1}}’ \\ \vdots \\ \mathbb{r_{n}} \end{bmatrix} = k \det \begin{bmatrix} \mathbb{r_{1}} \\ \vdots \\ \mathbb{r_{n}} \end{bmatrix} + l \det \begin{bmatrix} \mathbb{r_{1}}’ \\ \vdots \\ \mathbb{r_{n}} \end{bmatrix}$

설명

이렇듯 행렬식을 일반화하면 연립방정식의 해가 존재하는지 존재하지 않는지 이야기하기가 한결 편해질 것이다. 그리고 이러한 논의가 한줄로 완성된 것이 바로 아래의 정리다.

$$ \forall A \in \mathbb{C}^{n \times n},\quad \exists A^{-1} \iff \det{A} \ne 0 $$

정리라기보단 거의 정의 수준으로 받아들여질만큼 당연한 사실이다. 하지만 왜 이런 정리가 남는지, 정말 당연한 것인지 제대로 설명할 수 없다면 행렬식을 이해하지 못한 것이나 마찬가지다. 특히 행렬식의 경우엔 정의보다 개념이 앞질러가기 때문에 이해가 안 간다면 오랜 시간을 들여서라도 알고 넘어가도록 하자.


  1. https://en.wikipedia.org/wiki/Determinant#History ↩︎

댓글