最適値：最大値と最小値 📂最適化理論

最適値：最大値と最小値

簡単な定義

最大値^maximumと最小値^minimumを合わせて最適値^optimumと言う。

集合 $X$ で最も大きい要素を最大値 $\max X$ 、最も小さい要素を最小値 $\min X$ と示す。
関数 $f : X \to \mathbb{R}$ の最も大きい関数値を $\max_{X} f$ 、最も小さい関数値を $\min_{X} f$ と示す。

$\mathbb{R}$ は実数全体の集合を示す。
最大、最小は漢字で、値は純粋な韓国語だから、実は2021年基準で最大値、最小値が正しいが、検索エンジンにあまりフレンドリーではないためにㅅを省略した。同様に値を使って最大値、最小値とも書けるが、現在の言語習慣で最も馴染みがある言葉を選んだ。

説明

数学者の視点から、大きいものを探すか、小さいものを探すかは実際にはあまり意味がない。特に最適化問題では、アルゴリズム全般を説明する際に最大化をするか最小化をするかは区別せずに、ただ最適化すると言う。

Maximumの複数形はMaxima、Minimumの複数形はMinima、Optimumの複数形はOptimaだ。最適値が複数あるのはおかしいから、これらの表現が使われた場合は、文脈上、最適値^valueではなく最適点^pointと見なさなければならない。

最適値と極値を対比すると、最適値はこのポストの文脈で言えば、全域^global最適値、極値は局所^local最適値と見ることもできる。普通、この文脈で全域と言う言葉はあまり意味がない。

文脈上、値と集合自体が重要ではない場合は、集合、要素、関数の表現が適当な場合が多いから、注意が必要だ。

このポストの意義は、実は子供の頃から親しみやすく使ってきた最大値と最小値を関数の形で明確に定義することにある。上の簡単な定義に直感的に同意できれば、次の難しい定義も見てみよう。

難しい定義

集合の最適値

全順序集合 $\left( Y, \le \right)$ が与えられているとする。

$\max, \min : 2^{Y} \to Y$ は $Y$ の各部分集合 $A \in 2^{Y}$ に対して $B$ の最も小さい要素か最も大きい要素である $y_{\ast} \in B$ に対応させる関数だ。 $\max : B \mapsto y_{\ast} \ge b \qquad , \forall b \in B \\ \min : B \mapsto y_{\ast} \le b \qquad , \forall b \in B$

関数の最適値

集合 $X$ が定義域で、 $Y$ が値域である関数の集合 $Y^{X}$ が与えられているとする。

$A \subset X$ に対して、 $\max_{A}, \min_{A} : Y^{X} \to Y$ は関数 $f : X \to Y$ 、すなわち $f \in Y^{X}$ について次のように定義される。 $\max_{A} f = \max f(A) \\ \min_{A} f = \min f(A)$

$f(A)$ は $A$ に対する $f$ のイメージとして、次のように定義される。 $f(A) := \left\{ f(a) : \forall a \in A \right\}$

例

集合 $[0,1)$ について、最大値は存在せず、最小値は $\min [0, 1) = 0$ だ。

二次関数 $f(x) := 2x^{2} + 1$ の最小値は $\min_{\mathbb{R}} f = f(0) = 1$ だ。別に $A = [2,3] \subset \mathbb{R}$ 内で最大値を考えると、 $\max_{a \in A} f(a) = f(2) = 9$ だ。

上記の例でも表記が乱れがちだが、説明したように、普通は大体見逃しても問題ない。