2026 여름 오마카세: 패러다임의 전환
소개
과학은 벽돌을 하나씩 쌓아 올리듯 지식을 차곡차곡 누적하며 발전한다고 흔히들 생각합니다. 하지만 토머스 쿤Thomas Kuhn은 과학의 역사를 들여다보면 그렇지 않은 순간들이 있다고 이야기했습니다. 어느 순간 낡은 세계관 전체가 무너지고, 같은 현상을 완전히 다른 눈으로 바라보게 되는 도약. 그는 이를 패러다임의 전환paradigm shift이라 불렀습니다. 이번 여름 코스에서는 물리학과 생물학에서 시작해 해석학과 확률론을 거쳐 기계학습에 이르기까지 한 분야의 관점 자체가 통째로 뒤집힌 순간들을 준비했습니다.
메뉴
고전역학 → 상대성이론
고전역학의 세계에서 시간과 공간은 절대적입니다. 어느 관찰자가 보든 시계는 똑같은 속도로 흐르고, 자의 길이는 변하지 않습니다. 서로 다른 속도로 움직이는 두 관찰자의 좌표는 갈릴레이 변환을 통해 아래와 같이 단순하게 연결됩니다.
$$ \begin{pmatrix} x^{\prime} \\ t^{\prime} \end{pmatrix} = \begin{pmatrix} 1 & -v \\ 0 & 1 \end{pmatrix} \begin{pmatrix} x \\ t \end{pmatrix} \implies x^{\prime} = x - vt, \quad t^{\prime} = t $$
여기서 변환이 시간 $t$에는 전혀 손대지 않는다는 점에 주목합시다. 행렬의 아래쪽 행이 $(0, 1)$인 데서 보이듯, 좌표를 아무리 변환해도 시간은 언제나 $t^{\prime} = t$ 그대로 돌아옵니다. 시간이란 모두에게 공평하게 흐르는 우주의 절대적인 배경일 뿐이었던 셈입니다. 그러나 빛의 속도가 관찰자의 운동 상태와 무관하게 늘 일정하다는 사실이 밝혀지면서, 이 견고해 보이던 세계관은 뿌리부터 흔들리기 시작합니다. 그 자리를 대신한 로렌츠 변환에서는 공간뿐 아니라 시간마저 관찰자의 운동 상태에 따라 서로 뒤섞입니다.
$$ \begin{pmatrix} x^{\prime} \\ t^{\prime} \end{pmatrix} = \gamma \begin{pmatrix} 1 & -v \\ -v/c^{2} & 1 \end{pmatrix} \begin{pmatrix} x \\ t \end{pmatrix} \implies x^{\prime} = \gamma (x - vt), \quad t^{\prime} = \gamma \left( t - \frac{v}{c^{2}} x \right) $$
여기서 $\gamma = 1 / \sqrt{1 - v^{2}/c^{2}}$은 속도가 빛의 속도에 가까워질수록 커지는 로렌츠 인자입니다. 갈릴레이 변환에서 $0$이던 행렬의 왼쪽 아래 성분이 이제 $-v/c^{2}$이 되면서, 공간 좌표 $x$가 시간 $t^{\prime}$을 정하는 데 끼어들기 시작합니다. 그 결과 한 사람에게 동시에 일어난 두 사건이 다른 사람에게는 동시가 아니게 되고(동시성 상실), 움직이는 시계는 느리게 가며(시간 팽창), 움직이는 자는 짧아집니다(길이 수축). 절대적인 시간과 공간이라는 무대가 사라지고, 관찰자마다 다르게 보이는 시공간이 그 자리를 차지한 것입니다.
"시간과 공간은 모두에게 절대적이다"
▼
"시간과 공간은 관찰자에 따라 상대적이다"
고전역학 → 양자역학
비슷한 시기에 고전역학이 전혀 다른 방향으로도 무너집니다. 뉴턴의 운동 법칙이 지배하는 세계는 철저히 결정론적입니다. 어떤 입자의 현재 위치와 운동량을 정확히 안다면, 방정식을 풀어 그 입자의 과거와 미래의 궤적을 원리적으로 모두 알아낼 수 있습니다. 입자는 매 순간 정해진 위치를 갖고 정해진 길을 따라 움직입니다.
그러나 원자보다 작은 미시 세계로 내려가면 이 확신이 흔들립니다. 이 세계를 지배하는 양자역학에서는 입자라고 믿었던 전자가 파동처럼 행동하고, 입자의 상태는 정해진 위치가 아니라 파동함수로 기술됩니다. 게다가 이 파동함수는 입자가 '어디에 있는지'가 아니라 '어디에서 발견될 확률이 얼마인지'만을 알려줍니다. 심지어 불확정성 원리에 따르면 위치와 운동량을 동시에 정확히 아는 것 자체가 원천적으로 불가능합니다.
$$ \Delta x \Delta p \geq \frac{\hbar}{2} $$
결정된 궤적을 따라 움직이던 입자가, 확률의 구름 속에서만 존재하는 무언가로 바뀐 셈입니다. 그리고 이렇게 미시 세계를 파고든 물리학자들의 시선은, 머지않아 전혀 다른 분야의 문마저 열어젖히게 됩니다.
"입자는 정해진 위치와 궤적을 갖는다"
▼
"입자의 상태는 확률적인 파동함수로 기술된다"
고전 생물학 → 분자 생물학
양자역학이 물리학의 지형을 뒤흔들던 무렵, 그 주역 중 한 명인 에르빈 슈뢰딩거Erwin Schrödinger는 생물학과 양자역학의 결합이 최첨단의 과학이 될 거라 생각하여 『생명이란 무엇인가』What Is Life?라는 책을 펴냅니다. 제임스 왓슨은 이 책으로부터 영감을 받아 DNAdeoxyribonucleic acid의 구조에 대해 관심을 갖게 되었고 이후 프랜시스 크릭과 함께 DNA의 구조가 이중나선임을 밝혀내게 됩니다.1 이 내용은 저명한 학술지인 Nature에 Molecular Structure of Nucleic Acids: A Structure for Deoxyribose Nucleic Acid라는 제목의, 1쪽 남짓한 짧은 논문으로 발표되었습니다.
오랫동안 생물학은 생명체를 관찰하고 분류하며 생명 현상을 있는 그대로 기술하는 학문이었습니다. 무엇이 어떻게 유전되는지는 알아도, 그것이 어떤 물질로 어떻게 실현되는지는 여전히 베일에 싸여 있었죠. 제임스 왓슨과 프랜시스 크릭의 발견으로 유전 정보가 어떻게 저장되고 복제되는지가 분자 수준에서 설명되기 시작했고, 관찰과 분류에 머물던 고전 생물학은 생명과학의 현상을 분자 수준에서 설명할 수 있는 분자생물학으로 도약하게 되었습니다.
"생명을 개체 수준에서 관찰하고 분류한다"
▼
"생명 현상을 분자 수준의 메커니즘으로 설명한다"
함수: 수의 대응 → 집합 사이의 관계
원래 수학자들에게 함수란 숫자를 숫자로 보내는 대응, 그 이상도 이하도 아니었습니다. 즉 함수란 하나의 공식과 같은 것으로 생각했습니다. 그런데 수학과 공학이 발전하면서 '함수를 입력받아 하나의 수를 내놓는 어떤 것', 이를테면 함수 $f$에 적분값 $\int f dx$를 대응시키는 것과 같은 대상들이 필요해지기 시작했습니다.
$$ \begin{aligned} \text{classic function:} \quad & \text{number} \longmapsto \text{number} \\ \text{new object:} \quad & \text{function} \longmapsto \text{number} \end{aligned} $$
당시 수학자들은 이것을 감히 함수라 부르지 못하고 '함수 같은 것'fonctionnelles이라는 이름으로 조심스럽게 불렀습니다. 오늘날 우리가 범함수라 부르는 개념의 출발점입니다. 이 어색함은 함수의 정의가 충분히 넓지 못했기 때문에 생긴 것입니다. 이후 엄밀한 집합론이 자리를 잡으면서, 함수는 '숫자와 숫자의 대응'이라는 좁은 틀을 벗어나 두 집합의 원소 사이에 맺어진 이항관계 중 특정 조건을 만족하는 것으로 재정의됩니다. 양자역학에서 파동함수에 작용하는 연산자operator도 이렇게 함수를 입력으로 받는 사상의 대표적인 예입니다.
"함수는 숫자를 넣으면 숫자가 나온다"
▼
"함수는 집합 사이의 이항관계다"
리만적분 → 르벡적분
우리가 학부에서 처음 배우는 리만 적분은 정의역을 잘게 쪼개는 데에서 출발합니다. $x$축을 촘촘히 나누고, 각 구간 위에 얇은 직사각형을 세워 그 넓이를 더하는 방식입니다. 대부분의 얌전한 함수에게는 아무 문제가 없지만, 유리수에서 $1$, 무리수에서 $0$의 값을 갖는 디리클레 함수처럼 병리적인 함수 앞에서는 이 방법이 무력해집니다. 정의역을 아무리 잘게 쪼개도 각 구간마다 유리수와 무리수가 함께 들어 있어, 위로 잡은 넓이의 합과 아래로 잡은 넓이의 합이 각각 $1$과 $0$에서 좀처럼 좁혀지지 않기 때문입니다.
르벡 적분은 발상을 뒤집습니다. 정의역이 아니라 치역을 쪼개는 것입니다. "함숫값이 이 정도인 점들을 다 모으면 그 크기가 얼마인가?"를 묻는 방식이죠. 그런데 이렇게 하려면 '점들을 모은 집합의 크기'를 잴 수 있어야 합니다. 바로 이 지점에서 측도measure라는 개념이 필요해지고, 길이와 넓이를 엄밀하게 일반화한 측도론이 탄생합니다. 르벡 적분은 리만 적분이 다루던 함수들을 모두 포함하면서도 훨씬 넓은 세계를 다루므로, 리만 적분의 진정한 일반화라 할 수 있습니다.
"정의역을 쪼개 직사각형의 넓이를 더한다"
▼
"치역을 쪼개 그 원상의 측도를 더한다"
확률: 빈도 → 적분
확률을 처음 배울 때 우리는 이렇게 계산합니다. 일어날 수 있는 모든 경우의 수를 분모에, 관심 있는 사건의 경우의 수를 분자에 놓은 값이 곧 그 사건이 일어날 확률입니다. 주사위에서 짝수가 나올 확률은 $3/6$이라는 식이죠. 이는 사건이 일어나는 빈도에 뿌리를 둔 직관적인 정의입니다.
$$ P(A) = \frac{|A|}{|S|} $$
하지만 이 정의는 곧 한계에 부딪힙니다. 경우의 수가 무한하거나, $[0, 1]$ 구간에서 아무 실수나 하나 뽑는 것처럼 연속적인 상황에서는 '분모'가 성립하지 않기 때문입니다. 앞서 측도론에서 집합의 크기를 재는 법을 배웠으니, 이제 확률을 새롭게 정의할 준비가 되었습니다. 전체의 측도가 $1$인 측도를 확률로 정의하면 되는 것입니다. 그러면 확률은 측도가 되고, 기대값은 다름 아닌 적분이 됩니다.
"확률은 전체 경우의 수 중 사건이 일어나는 비율이다"
▼
"확률은 전체의 측도가 1인 측도이고, 기대값은 적분이다"
빈도주의 → 베이지안
확률의 토대가 바뀌었다면, 그 확률을 가지고 세상을 추론하는 태도에도 다른 갈래가 있습니다. 빈도주의frequentism에서는 모수를 고정된 미지의 상수로 봅니다. 우리 손에 든 표본은 그 상수를 알아내기 위해 우연히 얻은 하나의 관측일 뿐이고, 표본이 커질수록 진실에 가까워진다고 믿습니다. 아직 얻지 못한 데이터까지 상상하며 "만약 이 실험을 무한히 반복한다면"을 따지는 것이 이들의 방식입니다.
베이지안Bayesian은 정반대의 자리에서 출발합니다. 모수 자체가 하나의 분포를 갖는다고 여기고, 오직 지금 손에 든 데이터만을 봅니다. 분석을 시작하기 전에 가지고 있던 믿음, 즉 사전분포를 데이터로 갱신하여 사후분포를 얻을 뿐입니다.
$$ p(\theta | y) = \frac{p(y | \theta) , \pi(\theta)}{p(y)} $$
새로운 데이터가 들어올 때마다 어제의 사후분포가 오늘의 사전분포가 되어 믿음을 순차적으로 갱신해 나가는 이 관점은, 고정된 진리를 좇던 빈도주의와는 세계를 대하는 태도 자체가 다릅니다.
"모수는 고정된 상수이다"
▼
"모수는 분포를 따르고 그 값은 데이터로 갱신된다"
흥미롭게도 이 대비는 앞서 본 고전역학과 양자역학의 관계와 비슷하게 보입니다. 고전역학과 빈도주의는 우리가 알고자 하는 대상(입자의 위치와 운동량, 혹은 모수)이 하나의 고정된 값으로 정해져 있다고 봅니다. 반면 양자역학과 베이지안은 그 대상을 고정된 값이 아니라 어떤 분포를 따르는 것으로 여기죠. 전혀 다른 두 분야가 '찾고자 하는 값을 분포로 본다'는 같은 패러다임의 전환을 지나온 셈입니다.
| 기존 이론 | 패러다임의 전환 | |
|---|---|---|
| 고전역학: 위치, 운동량은 정해진 값 | → | 양자역학: 위치, 운동량은 분포(파동함수) |
| 빈도주의: 모수는 고정된 상수 | → | 베이지안: 모수는 분포를 따름 |
고전 기계학습 → 딥러닝
전통적인 기계학습에서는 인간의 도메인 지식과 직관이 절대적이었습니다. 컴퓨터에게 도로 위의 보행자를 구분하게 하려면 어떻게 해야 했을까요? 당시의 엔지니어들은 원본 데이터에서 유용한 정보, 즉 특징feature을 직접 설계하고 추출해야 했습니다. 이미지의 어디에서 픽셀 값이 급격히 변하는지(에지 검출), 어떤 방향의 밝기 변화가 강한지(HOG) 같은 특징을 인간이 수학적으로 직접 고안한 필터로 뽑아냈습니다. 그렇게 인간이 정성껏 깎아낸 숫자들을 넘겨받아, 모델은 그저 통계적인 분류만을 수행할 뿐이었죠. 과거의 모델이 얼마나 잘 작동하는지는 결국 인간이 얼마나 특징을 잘 설계하느냐에 달려 있었던 셈입니다.
딥러닝은 이 역할 분담을 뒤집습니다. 어떤 특징이 중요한지를 인간이 미리 정해 주는 대신, 인공 신경망이 원본 데이터로부터 필요한 표현을 스스로 학습합니다. 예를 들어 합성곱 신경망은 인간이 손으로 설계하던 필터에 해당하는 것을 데이터로부터 직접 학습해냅니다. 신경망이 이토록 유연하게 데이터에 맞춰질 수 있는 배경에는, 충분히 큰 신경망이라면 임의의 연속함수를 원하는 만큼 정확히 근사할 수 있다는 시벤코 정리가 자리하고 있습니다. 인간이 특징을 깎던 자리를, 데이터와 최적화가 대신하게 된 것입니다.
"사람이 유용한 특징을 직접 설계한다"
▼
"데이터로부터 특징 자체를 학습한다"
김성훈, 단백질 혁명 (2025) ↩︎