군의 기약표현
정의
군 $G$와 유한차원 벡터공간 $V$가 주어졌다고 하자. $\operatorname{GL}(V)$를 일반선형군이라 하자. 아래와 같은 준동형사상 $\rho$를 $V$위에서의 $G$의 표현representation of $G$ on $V$이라 한다.
$$ \rho : G \to \operatorname{GL}(V) $$
$\rho$-불변
$V$의 부분공간 $W$가 다음을 만족하면 $\rho$-불변invariant under $\rho$ 혹은 $G$-불변invariant under $G$이라고 한다.
$$ \rho (g) (W) \subset W, \qquad \forall g \in G $$
부분 표현
$\rho$-불변인 $W$에 대해서, 다음을 만족하는 $\sigma : G \to \operatorname{GL}(W)$는 자명하게도 $G$의 표현이다. 이러한 $\sigma$를 $\rho$의 부분 표현subrepresentation이라고 한다.
$$ \sigma (g) = \rho (g)|_{W}, \qquad \forall g \in G, $$
기약표현, 가약표현
$V$의 자명한 부분공간 $V$, $\varnothing$은 항상 불변이다. $V$가 자명하지 않은 불변 부분공간을 가지면, $V$를 약분가능reducible하다고 한다. 그렇지 않으면, 즉 자명하지 않은 불변 부분공간을 가지지 않으면 $V$를 기약(약분불가능)irreducible이라 한다.
설명
어째 선형대수학에서 배운 선형변환의 특성다항식이 불변공간위의 축소사상들의 특성다항식으로 나눌 수 있다는 것과 비슷해보인다. 실제로 같은 내용이라고 보면 된다. 유한차원 벡터공간 $V$ 위의 선형변화 $T : V \to V$에 대해서, $V$가 $T$-불변 부분공간 $W_{i}$들의 직합으로 나타난다고 하자.
$$ V = W_{1} \oplus W_{2} \oplus \cdots \oplus W_{k} $$
그러면 $T$의 행렬표현은 $T|_{W_{i}}$들의 행렬표현의 블록 대각행렬 꼴로 나타난다
$$ [T] = \begin{bmatrix} [T|_{W_{1}}] & O & \cdots & O \\ O & [T|_{W_{2}}] & \cdots & O \\ \vdots & \vdots & \ddots & \vdots \\ O & O & \cdots & [T|_{W_{k}}] \end{bmatrix} $$
이와 마찬가지로, 표현이 약분가능하다는 것은 블록대각행렬로 나타낼 수 있다는 것이다. 가령 $W_{1}, W_{2}$가 표현 $\rho : G \to \operatorname{GL}(n, \mathbb{R})$에 대해서 불변이고, $\mathbb{R}^{n} = W_{1} \oplus W_{2}$이면, $\rho(g)$는 다음과 같은 블록대각행렬로 나타낼 수 있다. (선형변환과 이의 행렬표현에 대해 같은 표기법을 사용하자)
$$ \rho(g) = \begin{bmatrix} \rho(g)|_{W_{1}} & O \\ O & \rho(g)|_{W_{2}} \end{bmatrix} $$
다시말해 표현 $\rho$를 두 표현 $\rho|_{W_{1}}$과 $\rho|_{W_{2}}$의 직합으로 나타낼 수 있다.