대학교 수학에서 수열의 극한을 새롭게 정의하는 이유
정의1 2
$\mathbb{N}$ 은 자연수의 집합, $\mathbb{R}$ 은 실수의 집합을 의미한다.
정의역이 $\mathbb{N}$ 인 함수를 수열이라고 한다.
자연수의 수열 $\left\{ n_{k} \right\}_{ k \in \mathbb{N}}$ 에 대해 $\left\{ x_{n_{k}} \right\}_{ k \in \mathbb{N}}$ 를 $\left\{ x_{n} \right\}_{ n \in \mathbb{N}}$ 의 부분수열subsequence이라 한다.
모든 $x \in \left\{ x_{n} \right\}_{ n \in \mathbb{N}}$ 에 대해 $x \le M$ 을 만족하는 $M \in \mathbb{R}$ 이 존재하면 $\left\{ x_{n} \right\}_{ n \in \mathbb{N}}$ 가 위로 유계 , $m \le x$ 를 만족하는 $m \in \mathbb{R}$ 이 존재하면 아래로 유계 , 위로 유계면서 아래로 유계면 유계bounded라 한다.
$\left\{ x_{n } \right\}_{n = 1}^{\infty}$ 이 실수열이라고 하자. 모든 $\varepsilon > 0$ 에 대해 $$n \ge N \implies | x_{n} - a | < \varepsilon$$ 을 만족하는 $N \in \mathbb{N}$ 이 존재하면 $\left\{ x_{n } \right\}$ 이 $a \in \mathbb{R}$ 로 수렴한다converge고 하고 $\lim \limits_{n\to \ \infty}x_{n}=a$로 표기한다.
$\left\{ x_{n } \right\}$이 수렴하지 않으면, 발산한다diverge고 한다.
모든 $M \in \mathbb{R}$ 에 대해 $n \ge N \implies x_{n} > M$을 만족하는 $N \in \mathbb{N}$ 이 존재하면 $$ \lim \limits_{n\to \infty} x_{n} = +\infty \quad \text{ or } \quad x_{n} \to +\infty $$ 로 표기한다.
모든 $M \in \mathbb{R}$ 에 대해 $n \ge N \implies x_{n} < M$을 만족하는 $N \in \mathbb{N}$ 이 존재하면 $$ \lim \limits_{n\to \infty} x_{n} = -\infty \quad \text{ or } \quad x_{n} \to -\infty $$ 로 표기한다.
설명
대학교에서 처음으로 수렴과 발산의 정의를 접하면 도대체 화살표는 어디로 가고 알아보기도 어려운 $\varepsilon$, $M$, $N$ 이 등장한다. 솔직히 배우기 싫을 것이다. 학부생 입장에서는 새로운 극한의 정의를 모른다고 극한의 개념 자체를 모르는 것도 아니거니와, 미적분학 중간고사만 어떻게 넘기면 다신 안 볼 것 같은 기분이 들기 때문이다. 물론 어리석은 생각이다.
고등학교 시절을 돌이켜보면 선생님들도 $n \to \infty$ 를 말할 때 ‘무한히 커진다’ 혹은 ‘무한대로 보낸다’라는 표현을 쓰기는 하지만 어째선지 수열을 ‘움직이는 무언가’로 취급하는 것을 지나치게 경계했던 것 같은 기억이 있을 것이다. 그건 선생님들이 배운 사람들이기 때문이다.
직관이 아니라 엄밀한 정의를 사용하는 이유는 사실 엄밀한 정의가 더 쉽기 때문이다. 수능에서나 등장하는 ‘간단한 수열’들은 직관이 빠르지만, 애초에 ‘복잡한 수열’을 다루는데에 있어서 부족함이 있기 때문에 엄밀한 정의가 도입된 것으로 봐야한다. 역사적으로도 영국 수학은 뉴턴을 기점으로 대륙 수학을 크게 앞섰음에도 불구하고 직관주의를 고집하다가 학계의 주도권을 대륙으로 빼앗긴 바 있다.
수열의 수렴을 새로 익힘에 있어서 가장 걸림돌이 되는 것은 사실 그 자체의 난해함보다는 쉽게 할 수 있는 걸 ‘굳이’ ‘어렵게’ ‘다시’ 배우는데서 오는 띠꺼움이 크다. 가령 $\displaystyle \lim_{n \to \infty} {{n + 3} \over {2n}} = {{1} \over {2}}$ 같이 쉬운 문제를 억지로 빙 빙 돌아 풀 때가 그러하다.
배우는 게 어렵다기보다도 배우고 싶지 않은 게 문제점인데, 아쉽게도 수열의 수렴도 어려워하는 학생들한테 그만큼 어려울 가치가 있는 수열을 가르치는 것은 몹시 어려운 일이다. 그나마 이해와 공감을 돕기 위해 다음의 두가지 정리를 소개한다.
정리
$\left\{ w_{n} \right\}, \left\{ x_{n} \right\}, \left\{ y_{n} \right\}$ 가 실수열이고 $a \in \mathbb{R}$ 이라고 하자.
(a) 샌드위치 정리:
$$ \displaystyle \lim_{n \to \infty} x_{n} = \lim_{n \to \infty} y_{n} = a $$
이 성립하고
$$ n \ge N_{0} \implies x_{n} \le w_{n} \le y_{n} $$
를 만족하는 $N_{0} \in \mathbb{N}$ 이 존재하면
$$ \displaystyle \lim_{n \to \infty} w_{n} = a $$
(b) 비교 정리:
$$ n \ge N_{0} \implies x_{n} \le y_{n} $$
를 만족하는 $N_{0} \in \mathbb{N}$ 이 존재하면
$$ \displaystyle \lim_{n \to \infty} x_{n} \le \lim_{n \to \infty} y_{n} $$
물론 샌드위치 정리나 비교 정리나 직관적으로 봤을 때 당연히 성립하는 게 맞다. 딱히 어려운 사실도 아니다. 근데 수렴의 새로운 정의를 거부하는 당신은 도대체 어떻게 그 사실을 증명할 것인가?
위의 두 정리는 고등학교 수준에서 이미 증명 없이 당당하게 사용했지만, 사실 논리적인 추론이 아니라 상식적인 추측을 통해서 받아들인 가설에 지나지 않았다. 인간의 상식이 얼마나 자주 틀리는지를 생각해본다면 엄밀한 증명이 왜 필요한지, 적어도 이공학도라면 따지고 들어야함을 납득할 수 있을 것이다.
수렴의 정의에 따르면 두 정리의 증명은 어렵지 않으나, 독자가 이러한 논법을 처음 접했다는 가정하에 가능한 한 생략없이 보이도록 하겠다. 증명을 읽어보면 일관되게 $N$ 의 존재성에 집착한다는 느낌이 들 수 있고, 실제로도 그러하다. 수렴성을 보일 땐 $| x_{n} - a |$ 가 $\varepsilon$ 보다 작아지도록 하는 부등식을 세우는 것이 중요한 게 아니라 식을 만족시키는 $N$ 이 존재한다는 것을 보이는 것이 우선이다.
까놓고 말해서 수열의 수렴성을 보일 때 $\varepsilon$ 을 어떻게 구했는지는 알 바가 아니다. 정의에 따르면 $N$ 이 존재하기만하면 수렴하기 때문에 먼저 $N$ 의 존재성부터 신경쓰는 게 맞다. 이를 이해하지 못하면 문제에서 뻔히 주어지는 $N_{1}$, $N_{2}$ 을 안 쓰고 그럴싸한 부등식만 늘어놓다가 논리적으로 붕괴된 주장만 내놓게 된다.
증명
(a)
Strategy: 막연하게 무한대로 보내는 것이 아니라 부등식으로 찢어서 구체적으로 $n \ge N \implies| w_{n} - a | < \varepsilon$ 를 만족하는 $N$ 이 존재함을 보인다.
$\varepsilon > 0$ 이라고 하자.
$\displaystyle \lim_{n \to \infty} x_{n} = \lim_{n \to \infty} y_{n} = a$ 이므로
$$ n \ge N_{1} \implies | x_{n} - a | < \varepsilon $$
$$ n \ge N_{2} \implies | y_{n} - a | < \varepsilon $$
를 만족하는 $N_{1} , N_{2} \in \mathbb{N}$ 이 존재한다. 필요한 부분만 간추려내면
$$ n \ge N_{1} \implies a - \varepsilon < x_{n} $$
$$ n \ge N_{2} \implies y_{n} < a + \varepsilon $$
한편 $n \ge N_{0} \implies x_{n} \le w_{n} \le y_{n}$ 를 만족하는 $N_{0} \in \mathbb{N}$ 이 존재한다고 가정했다. 보기 좋게 정리해보면
$$ n \ge N_{1} \implies a - \varepsilon < x_{n} $$
$$ n \ge N_{0} \implies x_{n} \le w_{n} \le y_{n} $$
$$ n \ge N_{2} \implies y_{n} < a + \varepsilon $$
이미 존재하는 $N_{0}$, $N_{1}$, $N_{2}$ 에 대해서 $N := \max \left\{ N_{0} , N_{1} , N_{2} \right\}$ 이 존재한다는 것은 단언할 수 있다. 그러면 그러한 $N$ 에 대해서는 $n \ge N$ 일 때
$$ a - \varepsilon < x_{n} \le w_{n} \le y_{n} < a + \varepsilon $$
다시 말해, 앞서 존재성을 보인 $N$ 에 대해
$$ n \ge N \implies | w_{n} - a | < \varepsilon $$ 수렴의 정의에 따르면 $\displaystyle \lim_{n \to \infty} w_{n} = a$ 을 얻을 수 있다.
■
(b)
Strategy: 결과를 부정하고 부등식이 성립하지 않음을 보인다. 이러한 논리 전개는 수열을 ‘움직이는 무언가’로 보아서는 사용하기 힘든 방법이다. 무한히 커져가는 $n$ 을 붙잡아서 고정 시키고 그 위에서 수학적인 기교를 쓴다고 보면 좋다.
$$ x := \lim_{n \to \infty} x_{n} $$
$$ y := \lim_{n \to \infty} y_{n} $$
이라고 두고 $x > y$ 라 가정해보자. 다시 말해
$$ n \ge N_{1} \implies | x_{n} - x | < \varepsilon $$
$$ n \ge N_{2} \implies | y_{n} - y | < \varepsilon $$
을 만족하는 자연수 $N_{1}$, $N_{2}$ 가 존재하고, 절대값을 풀면
$$ n \ge N_{3} \implies \begin{cases} - \varepsilon + x< x_{n} \\ y_{n} < y + \varepsilon \end{cases} $$
$$ N_{3} > N_{0} $$
을 만족하는 $N_{3} : = \max \left\{ N_{0} +1 , N_{1} , N_{2} \right\}$ 역시 존재할 것이다. 이제 $\displaystyle \varepsilon := {{ x - y} \over {2}}$ 이라고 두면 $\varepsilon > 0$ 이고, 가정에 따라 모든 $n \ge N_{3}$ 에 대해
$$ \begin{align*} y_{n} <& y + \varepsilon \\ =& y + \left( {{x - y} \over {2}} \right) \\ =& x - \left( {{x - y} \over {2}} \right) \\ =& x - \varepsilon \\ <& x_{n} \end{align*} $$
그러나 $N_{3} > N_{0}$ 이므로 $n \ge N_{0} \implies x_{n} \le y_{n}$ 에 모순이다. 따라서 $x \le y$ 를 얻는다.
■