최적해: 최대인수와 최소인수
어려운 정의
임의의 집합 $X$ 과 전순서집합 $\left( Y, \le \right)$ 가 주어져 있다고 하자.
$X$ 의 부분집합 $S \subset X$ 에 대해 함수 $f : X \to Y$ 의 최대인수argument of Maxima $\argmax_{S} : Y^{X} \to 2^{X}$ 와 최소인수argument of Minima $\argmin_{S} : Y^{X} \to 2^{X}$ 는 다음과 같이 정의된다. $$ \argmax_{S} f := \left\{ x_{\ast} \in S : f \left( x_{\ast} \right) \ge f(x) , \forall x \in X \right\} \\ \argmin_{S} f := \left\{ x_{\ast} \in S : f \left( x_{\ast} \right) \le f(x) , \forall x \in X \right\} $$
- $2^{X}$ 은 $X$ 의 멱집합, $Y^{X}$ 은 정의역이 $X$ 고 공역이 $Y$ 인 함수들의 집합이다.
- ‘최대인수’라는 표현은 전혀 오피셜이 아니며, 적절한 순화가 없어 필자가 마음대로 붙인 것이다.
설명
통계학을 공부하고 있다면 최대우도추정법에서 처음 접하게 될 것이다.
최대인수와 최소인수를 통틀어서 그냥 최적해optimizer라고도 부르겠다. 이는 함수의 최대값이나 최소값을 구하는 최적화 문제에서 최대인수와 최소인수가 해집합이 되기 때문이다.
일단 함수가 알파벳을 여섯글자나 쓰기 때문에 처음 보면 무서운 인상을 준다. 위의 정의는 적을 수 있는 한 가장 일반적이고 어려운 말로 적혀있는데, 쉽게 쉽게 설명하자면 그냥 함수값이 가장 크거나 작게 하는 점들에 불과하다.
소개된 정의는 위키백과를 찾아봐도 비슷한데, 사실 이렇듯 멱집합, 함수집합, 전순서집합 운운해가며 지나치게 어렵게 정의할 필요는 없다. 적는 사람 마음은 편해도 읽는 사람에겐 전혀 도움이 되지 않으니 바로 예시를 보고 이해해보자.
간단한 예시
가령 $f(x) := \left| (x-a)(x-b) \right|$ 라고 하면 $f : \mathbb{R} \to \mathbb{R}$ 는 $a,b$ 에서 최소값 $f(a) = f(b) = 0$ 을 가진다. 모든 실수 $x \in \mathbb{R}$ 에 대해서 부등식 $f(a) = f(b) \le f(x)$ 가 성립되므로, $f$ 의 최소인수는 다음과 같이 나타낼 수 있다. $$ \argmin_{\mathbb{R}} f = \left\{ a, b \right\} $$
공역이 멱집합인 이유
위의 예시에서 보았듯 함수의 최소값은 있을지 없을지 몰라도 일단 존재한다면 유일하지만, 단사 함수가 아니라면 같은 값에 대응되는 인수argument가 여럿 있을 수 있기 때문이다.