📂行列代数

ベクトルの内積

定義¹

大きさが$n \times 1$の二つの列ベクトル$\mathbf{u}$、$\mathbf{v}$ $\in \mathbb{R}^{n}$の内積^{inner product}を以下のように定義する。

$$\begin{equation} \mathbf{u} \cdot \mathbf{v} := \mathbf{u}^{T}\mathbf{v}=u_{1}v_{1} + u_{2}v_{2} + \cdots + u_{n}v_{n} \label{EuclideanIP} \end{equation}$$

$\mathbf{u}$、$\mathbf{v}$ $\in \mathbb{C}^{n}$の場合は、以下のようになる。

$$\mathbf{u} \cdot \mathbf{v} := \mathbf{u}^{\ast}\mathbf{v}=u^{\ast}_{1}v_{1}^{\ } + u_{2}^{\ast}v_{2}^{\ } + \cdots + u_{n}^{\ast}v_{n}^{\ }$$

ここで、$\mathbf{u}$は$\mathbf{u}$の共役転置である。二つのベクトル$\mathbf{u}$、$\mathbf{v}$が次の方程式を満たす時、$\mathbf{u}$と$\mathbf{v}$が直交^orthogonalすると言い、$\mathbf{u} \perp \mathbf{v}$と表される。

$$\mathbf{u} \cdot \mathbf{v} = 0$$

列ベクトル$\mathbf{v}$のノルム^normまたは長さ^lengthを以下のように定義する。

$$\left\| \mathbf{v} \right\| := \sqrt{\mathbf{v} \cdot \mathbf{v}}$$

ノルムが$1$のベクトルを単位ベクトル^{unit vecter}と呼ぶ。二つのベクトル$\mathbf{u}$、$\mathbf{v}$の距離を$d(\mathbf{u}. \mathbf{v})$として表し、以下のように定義する。

$$d(\mathbf{u}, \mathbf{v}) := \left\| \mathbf{u} - \mathbf{v} \right\| = \sqrt{(\mathbf{u}-\mathbf{v}) \cdot (\mathbf{u}-\mathbf{v})} = \sqrt{(\mathbf{u}-\mathbf{v})^{\ast} (\mathbf{u}-\mathbf{v})}$$

説明

座標空間で二つのベクトルの内積は行列の積として再表現されたものと、複素数まで拡張したものに過ぎない。したがって、$\eqref{EuclideanIP}$をユークリッド内積^{Euclidean inner product}または標準内積^{standard inner product}と呼ぶ。だから、内積の記法には$\cdot$を使うこともあるが、一般的な内積の記法は以下のようである。

$$\left\langle \mathbf{u}, \mathbf{v} \right\rangle$$

定義により、実数行列の場合は$\mathbf{u} \cdot \mathbf{v} = \mathbf{v} \cdot \mathbf{u}$が成立し、複素数行列の場合は$\mathbf{u} \cdot \mathbf{v} = \overline{\mathbf{v} \cdot \mathbf{u}}$が成立する。

内積の核心的な概念は「同じ成分同士を掛け合わせて全てを足す」であり、これを$n\times n$行列に対して一般化すると以下のようになる。

性質

$A$を$n\times n$実数行列、$\mathbf{u},\mathbf{v}$を$n\times 1$実数行列とする。すると、次の式が成立する。

$$\begin{align*} A \mathbf{u} \cdot \mathbf{v} &= \mathbf{u} \cdot A^{T} \mathbf{v} \\ \mathbf{u} \cdot A \mathbf{v} &= A^{T} \mathbf{u} \cdot \mathbf{v} \end{align*}$$

複素数行列の場合、次の式が成立する。

$$\begin{align*} A \mathbf{u} \cdot \mathbf{v} &= \mathbf{u} \cdot A^{\ast} \mathbf{v} \\ \mathbf{u} \cdot A \mathbf{v} &= A^{\ast} \mathbf{u} \cdot \mathbf{v} \end{align*}$$

証明

四つの式の証明方法は同じだから、最初の式の証明だけ紹介する。

転置行列の性質により、以下が成立する。

$$\begin{align*} A \mathbf{u} \cdot \mathbf{v} &= \left( A \mathbf{u} \right)^{T} \mathbf{v} \\ &= \left( \mathbf{u}^{T} A^{T} \right) \mathbf{v} \\ &= \mathbf{u}^{T} \left( A^{T} \mathbf{v} \right) \\ &= \mathbf{u} \cdot A^{T} \mathbf{v} \end{align*}$$

■

参照

内積の一般的な定義

ノルムの一般的な定義

距離の一般的な定義

内積とノルムと距離の関係