n×nn \times nn×n 直交行列の集合をO(n)\mathrm{O}(n)O(n)と表記し、nnn次元直交群orthogonal group in dimension nnnという。
O(n):={A∈Mn×n(R):AAT=I} \mathrm{O}(n) := {\left\{ A \in M_{n \times n}(\mathbb{R}) : AA^{T} = I \right\}} O(n):={A∈Mn×n(R):AAT=I}
直交行列の集合だから、可逆行列しか存在しない。したがって、行列の積において群を作り、一般線形群 GL(n,R)\mathrm{GL}(n, \mathbb{R})GL(n,R)の部分群である。
微分可能な構造を持っているので、リー群である。