ヘシアン行列とは何か？
定義
$D \subset \mathbb{R}^{n}$ で定義された多変数スカラ関数 $f : D \to \mathbb{R}$ に対して、次のような行列 $H \in \mathbb{R}^{n \times n}$ を $f$ のヘッセ行列と呼ぶ。
$$ H := \begin{bmatrix} {{\partial^2 f } \over {\partial x_{1}^2 }} & \cdots & {{\partial^2 f } \over { \partial x_{1} \partial x_{n} }} \\ \vdots & \ddots & \vdots \\ {{\partial^2 f } \over {\partial x_{n} \partial x_{1} }} & \cdots & {{\partial^2 f_{m} } \over {\partial x_{n}^2 }} \end{bmatrix} $$
説明
$f$のヘッシアンについて、次のような表記が使われる。
$$ H,\quad H(f),\quad H_{f},\quad \mathbf{H},\quad \nabla^{2}f $$
このとき、$\nabla^{2}$はラプラシアンとしてもよく使われる表記なので注意しよう。
ヤコビ行列が関数の高次元的な微分に該当するなら、ヘッセ行列は高次元的な二階微分とみなすことができる。もちろんヤコビ行列ほど頻繁に現れないが、数理統計学のように思わぬところにたまに登場する。また、ヘッセ行列はスカラ関数に対してのみ定義されることに注意が必要だ。