러셀의 역설
역설 1
모든 집합의 집합 $\mathscr{U}$ 가 존재한다면 어떤 집합 $R$ 은 $\mathscr{U}$ 에 속하면서도 속하지 않는다.
설명
기원 전 6세기, 크레타 출신의 철학자 에피메니데스는 이렇게 말했다:
“모든 크레타 사람은 거짓말쟁이다!”
에피메니데스의 주장이 참이라면, 에피메니데스 또한 크레타 사람이므로 이 주장은 거짓이다. 그러나, 이 주장이 거짓이라면 에피메니데스는 거짓말쟁이이므로 그 주장에 위배되지 않아 참이 된다. 논리에서 ‘모든’이라는 말은 이토록 위험한 것이다.
1874년부터 1884년까지 칸토어의 연구들은 후에 집합론이라고 부르게 되는 것들의 원형이었다. 당시에는 학계의 반발이 너무 심해서 정신병이 도질 정도였는데, 1902년 버드런트 러셀이 이 역설을 발표할 때 칸토어의 집합론은 이미 수학 전반에서 그 토대로써 핵심이 되어 있었다. 칸토어의 일생은 불행했지만, 그의 이론이 학계 전체를 집어삼키는데에는 고작 20~30년밖에 걸리지 않았다. 위대한 수학자 힐베르트는 ‘그 누구도 칸토어가 만든 낙원에서 우리를 내쫓을 수 없다’고 했다. 집합의 개념 없이 엄밀한 수학을 상상하는 것조차 힘들어진 것이다.
이런 상황에서 발표된 러셀의 역설은 말 그대로 당시 수학의 근간을 뒤흔들었다. 러셀이 찾아낸 모순이 자신이 쓰고 있는 집합에도 있으면 어떡하겠는가? 이러한 역설이 발생하는 조건을 찾아내지 못하면 모든 연구는 언제나 불안을 안고 있을 수 밖에 없다. 수학이 사랑하고 자랑하는 엄밀성은 증명 첫 줄부터 망가지고, 그 어떤 결과를 내도 그 안엔 러셀의 역설이 숨어있을 위험이 있는 것이다.
러셀이 찾은 이 $R:= \left\{ S \in \mathscr{U} : S \notin S \right\}$ 이 어떻게 문제를 일으키는지 살펴보자:
- 만약 $R \in R$ 이라면, $R \notin R$ 이 아니므로 $S = R \in \mathscr{U}$ 는 $(S \notin S)$ 라는 조건을 만족시키지 못해서 $R$ 에 포함될 수 없다. 즉 $R \notin R$
- 만약 $R \notin R$ 이라면 $R$ 은 $(S \notin S)$ 라는 조건을 만족시키므로 $R$ 에 포함된다. 따라서 $R \in R$ 이다.
- 그러나 배중률2에 따라 $R \notin R$ 이면서 $R \in R$ 일 수는 없다.
위의 짧은 논증을 통해 ‘모든 집합의 집합’ 같은 게 존재한다는 전제 자체가 잘못된 것임을 알 수 있다. 이를 보장하기 위해서라도 분류 공리꼴이나 정칙성 공리가 필요하다고 말할 수 있으며, 학자들은 기존의 미숙한 집합론naive Set Theory에서 벗어나 더 엄밀한 공리계를 찾게 된다.