대학교 수학에서 수열의 수렴을 복잡하게 정의하는 이유
정의
$\left\{ x_{n } \right\}_{n = 1}^{\infty}$ 이 실수의 수열이라고 하자. 모든 $\varepsilon > 0$ 에 대해 $n \ge N \implies | x_{n} - a | < \varepsilon$ 을 만족하는 $N \in \mathbb{N}$ 이 존재하면 $\left\{ x_{n } \right\}$ 이 $a \in \mathbb{R}$ 로 수렴한다고 한다.
$$ \lim_{n \to \infty} x_{n} = a \iff \forall \varepsilon > 0 , \exists N \in \mathbb{N} : n \ge N \implies | x_{n} - a | < \varepsilon $$
설명
이러한 정의를 사용한 전개를 흔히 입실론-델타 논법이라 부른다. 직관을 버리고 수열의 극한을 엄밀하게 재정의하는 이유는 납득이 되든 안 되든 ‘필요하니까’라는 말로 넘어갈 수 있지만, 처음 배우는 입장에서는 별 도움이 되지 않는 조언임이 분명하다.
수식으로 적혀있으면 한국인의 입장에선 읽는 것부터가 힘든데, 대략 다음과 같이 읽으면 된다.
모든 양수 입실론에 대해서 라지엔보다 크거나 같은 스몰엔에 대해서는 엑스엔 마이너스 에이의 절대값이 입실론보다 작아지도록 하는 어떤 자연수 라지 엔이 존재한다.
읽는 사람에 따라서는 악질적인 말장난으로까지 느껴질 수 있을 정도인데, 필요성은 둘째치더라도 왜 말을 이렇게 어렵게 해야만하는지에 대한 설명은 잘 없어서 그에 대한 약간의 주석을 달아볼까 한다. 간결한 걸 좋아하는 수학자들이 굳이 이렇게 복잡한 표현을 사용하는 것은 그만한 이유가 있기 때문이다.
왜 하필 $\varepsilon$ 인가?
입실론 $\varepsilon$ 은 오차를 뜻하는 Error의 첫 글자에서 따온 것으로, 수렴의 맥락에서는 수열 $x_{n}$ 과 극한 $a$ 의 편차, 즉 $| x_{n} - a |$ 의 허용오차 $\varepsilon$ 라고 볼 수 있다. 오차가 $\varepsilon$ 보다 작다면 그만큼 $x_{n}$ 이 $a$ 에 접근해있는 것이다.
굳이 모든 $\varepsilon>0$ 이어야하는가?
모든 양수 $\varepsilon$ 에 대해서 $| x_{n} - a | < \varepsilon$ 이라는 것은 $x_{n}$ 와 $a$ 사이의 틈이 전혀 없다는 말이다. 이것은 $x_{n}$ 와 $a$ 가 아주 가까운 정도가 아니라 한없이 가깝다는 것이므로 수렴성을 논할 때 빠질 수 없는 말이다.
분명 모든 양수라고 했는데 막상 문맥에서 $\varepsilon$ 은 아주 작은 경우만 신경쓴다는 느낌을 받았다면 이 질문에 대해선 답을 얻었다고 보아도 무방하다. 작은 $\epsilon_{0}$ 에 대해서 $N_{0}$ 이 존재한다면 그보다 큰 $\epsilon_{1}$ 에 대해서는 $N_{1}$ 이 있든 말든 어차피 $N_{0}$ 가 존재하므로 조건을 자연스럽게 만족하며, 결국 신경 쓸 필요 없다. 하지만 신경쓰지 않아도 되다는 말이 모든 양수가 아니어도 된다는 뜻은 아닌 것에 주의해야한다.
$N$ 이 왜 존재한다는 말은 왜 있는가?
$N$ 이 존재하는 것이야말로 수렴성을 말하는 것이다. 반대로 위 그림처럼 작은 $\varepsilon$ 이 주어졌는데 조건을 만족시키는 $N$ 이 존재하지 않는다고 생각해보자. $x_{n}$ 과 $a$ 가 $0$ 이 아닌 오차를 갖고 있다면 그것을 ‘수렴했다’고 말할 수는 없을 것이다.
사실 이 부분에서야말로 입실론-델타 논법의 장점이 드러난다. 냉정하게 생각해보면 어떤 수열이 $n \to \infty$ 일 때 수렴한다는 주장은 너무 과격하다. 시간은 무한할지라도 인간이 유한한데 도대체 무슨 수로 모든 $\varepsilon$ 에 대해서 확인을 해본단 말인가?
그렇기에 한 번에 모든 $\varepsilon$ 을 검토하는 것이 아니라 당장 눈 앞에 주어진 $\varepsilon$ 에 대해서만큼은 그러한 $N$ 이 존재한다고 그 순간만 모면하는 것이다. 교수님이 $N = N ( \varepsilon )$ 과 같은 표현을 쓴다면 바로 이 뜻이다.
가령 $\displaystyle {{ 1 } \over { e^{n} }}$ 이라는 수열이 $0$ 으로 수렴하는 것을 보이기 위해서는 $\displaystyle \left| {{ 1 } \over { e^{n} }} \right| < {{ 1 } \over { 2^{n} }}$ 이므로 $\displaystyle \varepsilon := {{ 1 } \over { 2^{N} }}$ 이라고 잡으면 조건을 만족하는 $N := - [ \log_{2} \varepsilon ]$ 이 항상 존재하는 것이다. $N$ 을 $\varepsilon$ 에 대한 함수로 보고 다시 적어보면 $N ( \varepsilon ) = - [ \log_{2} \varepsilon ]$ 이 됨을 확인할 수 있다.
그럼 $N$ 만 있으면 됐지, $n \ge N$ 같은 표현은 왜 필요한가?
간단하다. 수열에 따라서는 오차가 계속 줄어들기만 한다는 보장이 없다. 그래서 $N$ 의 존재성을 보이고 $n \ge N$ 에 대해서도 다 성립함을 보이면 속 편하다. $N$ 은 흔히 한국어 교재에서 많이 설명하듯 ‘충분히 큰 수’로써, 조건을 넉넉하게 만족 시키는 역할을 한다.
다 읽어봤는데 그래도 이해가 안 가면 어떡하나?
그럴 수 있다. 다만 원래 이해하기 어려운 것이니까 그러려니하고 자신감만 잃지 않으면 된다. 연습문제를 많이 풀어보면 도움이 될 것이다. 만약 수학과라면 이해를 하기 싫어도 졸업할 때까지 계속 봐야하므로 결국 알 수 밖에 없다. 늦어도 3학년이면 이해를 못 해도 논법 자체가 익숙해질 것이다.