2026 여름 오마카세: 패러다임의 전환 📂생새우초밥지

2026 여름 오마카세: 패러다임의 전환

소개

과학은 벽돌을 하나씩 쌓아 올리듯 지식을 차곡차곡 누적하며 발전한다고 흔히들 생각합니다. 하지만 토머스 쿤^{Thomas Kuhn}은 과학의 역사를 들여다보면 그렇지 않은 순간들이 있다고 이야기했습니다. 어느 순간 낡은 세계관 전체가 무너지고, 같은 현상을 완전히 다른 눈으로 바라보게 되는 도약. 그는 이를 패러다임의 전환^{paradigm shift}이라 불렀습니다. 이번 여름 코스에서는 물리학과 생물학에서 시작해 해석학과 확률론을 거쳐 기계학습에 이르기까지 한 분야의 관점 자체가 통째로 뒤집힌 순간들을 준비했습니다.

메뉴

고전역학 → 상대성이론

고전역학에서는 시간과 공간을 서로 독립적인 절대량으로 취급합니다. 어느 관찰자가 보든 시계는 똑같은 속도로 흐르고, 자의 길이는 변하지 않습니다. 서로 일정한 상대속도 $v$로 운동하는 두 관성계의 좌표는 갈릴레이 변환을 통해 아래와 같이 변환됩니다.

$$ \begin{bmatrix} x^{\prime} \\ t^{\prime} \end{bmatrix} = \begin{bmatrix} 1 & -v \\ 0 & 1 \end{bmatrix} \begin{bmatrix} x \\ t \end{bmatrix} \implies x^{\prime} = x - vt, \quad t^{\prime} = t $$

여기서 시간 $t^{\prime}$는 공간좌표 $x$에 의존하지 않습니다. 실제로 변환행렬의 아래쪽 행이 $(0, 1)$인 데서 보이듯, 좌표를 아무리 변환해도 $t^{\prime} = t$가 성립합니다. 즉 갈릴레이 변환에서는 서로 다른 관성계가 동일한 시간 좌표를 공유하며, 공간 좌표만 상대운동에 따라 변합니다.

그러나 빛의 속도가 관찰자의 운동 상태와 무관하게 일정하다는 원리를 받아들이면 상황이 달라집니다. 이를 만족시키기 위해서는 갈릴레이 변환 대신 로렌츠 변환을 사용해야 합니다.

$$ \begin{bmatrix} x^{\prime} \\ t^{\prime} \end{bmatrix} = \gamma \begin{bmatrix} 1 & -v \\ -v/c^{2} & 1 \end{bmatrix} \begin{bmatrix} x \\ t \end{bmatrix} \implies x^{\prime} = \gamma (x - vt), \quad t^{\prime} = \gamma \left( t - \frac{v}{c^{2}} x \right) $$

여기서 $\gamma = 1 / \sqrt{1 - v^{2}/c^{2}}$은 속도가 빛의 속도에 가까워질수록 커지는 로렌츠 인자입니다. 갈릴레이 변환에서 $0$이던 행렬의 왼쪽 아래 성분이 이제 $-v/c^{2}$이 되면서, 공간 좌표 $x$가 시간 $t^{\prime}$을 정하는 데 끼어들기 시작합니다. 즉 시간과 공간 좌표가 서로 독립적으로 변환되지 않고 하나의 선형변환 안에서 함께 변환됩니다.

이러한 좌표변환의 차이로부터 동시성 상실, 시간 팽창, 길이 수축과 같은 상대론적 효과가 나타납니다. 따라서 특수상대성이론에서는 시간과 공간을 각각 독립적인 절대량으로 다루기보다, 관성계에 따라 함께 변환되는 시공간 좌표로 취급합니다.

"시간과 공간은 모두에게 절대적이다"
▼
"시간과 공간은 관찰자에 따라 상대적이다"

고전역학 → 양자역학

비슷한 시기에 고전역학은 또 다른 한계에 부딪힙니다. 고전역학에서는 입자의 운동을 위치와 운동량의 시간에 따른 변화로 기술합니다. 뉴턴의 운동 법칙에 따르면 어떤 시각에서 입자의 위치와 운동량이 정확히 주어지면, 운동방정식을 통해 이후의 상태를 원리적으로 결정할 수 있습니다. 이러한 의미에서 고전역학은 결정론적입니다. 즉 입자는 각 시각마다 정해진 위치와 운동량을 가지며, 초기 상태가 주어지면 그 이후의 운동은 하나의 궤적으로 결정됩니다.

반면 양자역학에서는 입자의 상태를 위치와 운동량의 특정한 값이 아니라 파동함수로 기술합니다. 파동함수 $\Psi(\mathbf{x}, t)$ 자체가 입자의 위치를 직접 나타내는 것은 아니며, 보른의 확률적 해석에 따르면 $|\Psi(\mathbf{x}, t)|^{2}$는 시각 $t$일 때 위치 $\mathbf{r}$ 부근에서 입자를 발견할 확률밀도에 해당합니다. 즉, 파동함수는 입자가 '어디에 있는지'가 아니라 '어디에서 발견될 확률이 얼마인지'만을 알려줍니다. 따라서 동일한 양자상태에 대해서도 개별 측정의 결과는 일반적으로 하나의 값으로 미리 정해져 있지 않고 확률적으로 주어집니다.

또한 불확정성 원리에 따르면 위치와 운동량을 동시에 정확히 아는 것 자체가 원천적으로 불가능합니다.

$$ \Delta x \Delta p \geq \frac{\hbar}{2} $$

이처럼 고전역학에서는 입자의 상태를 위치와 운동량의 확정된 값과 그 궤적으로 기술하는 반면, 양자역학에서는 상태를 파동함수로 나타내고 관측 결과를 확률적으로 기술합니다. 이러한 변화는 물리학의 기본적인 기술 방식을 바꾸었고, 그 영향은 다른 분야로도 이어졌습니다. 특히 슈뢰딩거는 물리학의 관점에서 생명현상을 이해하려 했고, 이러한 문제의식은 이후 분자생물학의 발전과도 연결됩니다.

"입자는 정해진 위치와 궤적을 갖는다"
▼
"입자의 상태는 확률적인 파동함수로 기술된다"

고전 생물학 → 분자 생물학

양자역학이 정립되던 시기, 그 발전의 주역 중 한 명인 에르빈 슈뢰딩거^{Erwin Schrödinger}는 생물학과 양자역학의 결합이 최첨단의 과학이 될 거라 생각하여 『생명이란 무엇인가』^{What Is Life?}라는 책을 펴냅니다. 제임스 왓슨은 이 책에서 영감을 받아 DNA^{deoxyribonucleic acid}의 구조에 관심을 갖게 되었고, 이후 프랜시스 크릭과 함께 DNA가 이중나선 구조를 가진다는 사실을 밝혀냈습니다.¹ 그 결과는 학술지 Nature에 Molecular Structure of Nucleic Acids: A Structure for Deoxyribose Nucleic Acid라는 제목의, 한 쪽 남짓한 짧은 논문으로 발표되었습니다.

오랫동안 생물학은 생명체를 관찰하고 분류하며 생명현상을 기술하는 데 큰 비중을 두었습니다. 유전이라는 현상은 알려져 있었지만, 유전 정보가 어떤 물질에 저장되고 어떤 방식으로 복제되는지는 분자 수준에서 충분히 설명되지 못했습니다. DNA의 구조와 기능이 밝혀지면서 유전 정보의 저장과 복제를 분자적 메커니즘으로 설명할 수 있게 되었고, 생명현상을 분자 수준에서 연구하는 분자생물학이 본격적으로 발전하게 되었습니다.

"생명을 개체 수준에서 관찰하고 분류한다"
▼
"생명 현상을 분자 수준의 메커니즘으로 설명한다"

함수: 수의 대응 → 집합 사이의 관계

초기의 함수 개념은 주로 하나의 수를 다른 수에 대응시키는 것으로 이해되었습니다. 즉 함수는 변수 사이의 관계를 나타내는 식이나 공식과 밀접하게 연결되어 있었습니다. 그러나 수학과 물리학이 발전하면서 '함수를 입력으로 받아 하나의 수를 출력하는 대상'도 다룰 필요가 생겼습니다. 예를 들어 함수 $f$에 적분값 $\int f dx$를 대응시키는 경우가 이에 해당합니다.

$$ \begin{aligned} \text{classic function:} \quad & \text{number} \longmapsto \text{number} \\ \text{new object:} \quad & \text{function} \longmapsto \text{number} \end{aligned} $$

당시 수학자들은 이것을 함수와 구분하여 '함수 같은 것'^{fonctionnelles}이라 불렀으며, 오늘날의 범함수로 이어졌습니다. 이후 함수 개념은 더욱 확장되어 초함수와 같은 일반화된 대상도 다루게 됩니다. 이는 당시의 함수 개념이 수를 입력으로 하는 경우에 주로 한정되어 있었기 때문에 별도의 개념으로 다루어진 것입니다.

이후 집합론에 기초한 현대적인 정의에서는 함수의 입력과 출력이 반드시 수일 필요가 없습니다. 함수 $f : A \to B$는 두 집합 $A$와 $B$ 사이의 이항관계 중에서 $A$의 각 원소에 $B$의 원소가 정확히 하나씩 대응되는 관계로 정의됩니다. 이 정의에 따르면 수뿐 아니라 벡터, 함수, 집합 등도 함수의 입력이나 출력이 될 수 있습니다. 양자역학에서 파동함수에 작용하는 연산자^operator 역시 함수를 입력으로 받아 다른 함수를 출력하는 사상의 대표적인 예입니다.

"함수는 숫자를 넣으면 숫자가 나온다"
▼
"함수는 집합 사이의 이항관계다"

리만적분 → 르벡적분

우리가 학부에서 처음 배우는 리만 적분은 정의역을 잘게 쪼개는 데에서 출발합니다. $x$축을 촘촘히 나누고, 각 구간에서 함수값을 이용해 직사각형의 넓이를 합산하는 방식입니다. 많은 함수에서는 이 방법으로 적분을 정의할 수 있지만, 유리수에서 $1$, 무리수에서 $0$의 값을 갖는 디리클레 함수처럼 불연속점이 조밀하게 존재하는 함수에서는 리만 적분이 존재하지 않습니다. 어떤 구간을 잡아도 그 안에 유리수와 무리수가 모두 존재하므로, 하합은 항상 $0$, 상합은 항상 $1$이 되어 두 값이 일치하지 않기 때문입니다.

르벡 적분은 이와 달리 정의역이 아니라 치역을 쪼깹니다. 함숫값의 범위를 여러 구간으로 나눈 뒤, 각 구간의 값을 갖는 점들을 정의역에서 모아 그 집합의 크기를 측정합니다. 이를 위해서는 점들의 집합에 크기를 부여하는 개념이 필요하며, 이것이 측도^measure입니다. 측도론은 길이, 넓이, 부피와 같은 개념을 더 일반적인 집합에까지 확장합니다. 르벡 적분은 리만 적분 가능한 함수를 포함하면서도 더 넓은 함수들을 적분할 수 있으므로, 리만 적분의 일반화로 볼 수 있습니다.

"정의역을 쪼개 직사각형의 넓이를 더한다"
▼
"치역을 쪼개 그 원상의 측도를 더한다"

확률: 빈도 → 적분

확률을 처음 배울 때는 일어날 수 있는 모든 경우의 수를 분모에, 관심 있는 사건의 경우의 수를 분자에 놓아 확률을 계산합니다. 예를 들어 주사위에서 짝수가 나올 확률은 (3/6)입니다. 이는 유한한 표본공간에서 각 결과가 동일한 확률로 발생한다고 가정할 때 사용할 수 있는 직관적인 정의입니다. 이는 이는 유한한 표본공간에서 사건이 일어나는 빈도에 뿌리를 둔 직관적인 정의입니다.

$$ P(A) = \frac{|A|}{|S|} $$

하지만 경우의 수가 무한하거나, 구간 $[0,1]$에서 실수 하나를 선택하는 것처럼 연속적인 상황에서는 '분모'가 성립하지 않아 이러한 방식으로 확률을 정의할 수 없습니다. 현대 확률론에서는 앞서 살펴본 측도론을 이용해 확률을 일반화합니다. 표본공간 전체의 측도가 $1$이 되도록 정의한 측도를 확률측도라 하며, 확률은 이러한 측도로 정의됩니다. 또한 확률변수의 기대값은 그 확률측도에 대한 르벡 적분으로 정의됩니다.

"확률은 전체 경우의 수 중 사건이 일어나는 비율이다"
▼
"확률은 전체의 측도가 1인 측도이고, 기대값은 적분이다"

빈도주의 → 베이지안

확률을 바탕으로 미지의 대상을 추론하는 방법에도 서로 다른 관점이 있습니다. 빈도주의^frequentism에서는 모수를 고정되어 있지만 알려지지 않은 값으로 봅니다. 관측된 표본은 이 모수를 추정하기 위해 얻어진 확률적인 데이터이며, 표본의 크기가 충분히 커질수록 추정량이 참값에 가까워진다고 생각합니다. 또한 추정량이나 검정통계량의 성질은 동일한 실험을 반복했을 때 얻어질 수 있는 표본들의 분포를 기준으로 정의됩니다. 즉 '이 실험을 여러 번 반복한다면 어떤 결과들이 나타나는가?'를 고려하는 것이 빈도주의의 기본적인 관점입니다.

반면 베이지안^Bayesian에서는 미지의 모수에 대한 불확실성을 확률분포로 나타냅니다. 데이터를 관측하기 전의 정보를 사전분포 $\pi(\theta)$로 표현하고, 관측된 데이터 $y$의 우도 $p(y\vert\theta)$를 이용하여 사후분포 $p(\theta\vert y)$로 갱신합니다.

$$ p(\theta | y) = \frac{p(y | \theta) , \pi(\theta)}{p(y)} $$

새로운 데이터가 추가되면 이전의 사후분포를 새로운 사전분포로 사용하여 추론을 순차적으로 갱신할 수도 있습니다. 따라서 빈도주의가 고정된 모수를 반복 표본추출에 따른 통계량의 분포를 통해 추론한다면, 베이지안은 모수에 대한 불확실성을 확률분포로 표현하고 이를 데이터에 따라 갱신합니다.

"모수는 고정된 상수이다"
▼
"모수는 분포를 따르고 그 값은 데이터로 갱신된다"

흥미롭게도 이러한 대비는 앞서 살펴본 고전역학과 양자역학의 차이와 형식적으로 비슷한 면이 있습니다. 고전역학에서는 입자의 위치와 운동량이 각 시각에 정해진 값을 갖는다고 보는 반면, 양자역학에서는 상태를 파동함수로 기술하고 관측 결과를 확률적으로 나타냅니다. 이와 비슷하게 빈도주의에서는 모수를 하나의 고정된 값으로 두지만, 베이지안에서는 그 모수에 대한 불확실성을 확률분포로 표현합니다. 두 경우의 확률이 동일한 의미를 갖는 것은 아니지만, 하나의 고정된 값을 다루는 기술에서 확률적인 기술로 관점이 확장된다는 점에서는 유사한 구조를 찾을 수 있습니다.

기존 이론		패러다임의 전환
고전역학: 위치, 운동량은 정해진 값	→	양자역학: 위치, 운동량은 분포(파동함수)
빈도주의: 모수는 고정된 상수	→	베이지안: 모수는 분포를 따름

고전 기계학습 → 딥러닝

전통적인 기계학습에서는 인간의 도메인 지식과 직관이 중요한 역할을 했습니다. 컴퓨터에게 도로 위의 보행자를 구분하게 하려면 어떻게 해야 했을까요? 당시의 엔지니어들은 원본 데이터에서 유용한 정보, 즉 특징^feature을 직접 설계하고 추출해야 했습니다. 예를 들어 이미지에서 픽셀 값이 급격히 변하는 지점은 에지 검출을 통해, 특정 방향의 밝기 변화는 HOG와 같은 방법을 통해 수치화할 수 있습니다. 이렇게 사람이 정한 특징을 모델의 입력으로 사용하고, 모델은 이를 바탕으로 분류나 예측을 수행했습니다. 따라서 모델의 성능은 어떤 특징을 선택하고 어떻게 표현하느냐에 크게 좌우되었습니다. 이 때 사람의 역할은 마치 ‘특징깎는 노인’과도 같았습니다.

딥러닝에서는 사람이 특징을 직접 설계하는 대신, 여러 층으로 이루어진 인공 신경망을 하나의 함수로 두고 그 함수의 파라미터를 데이터에 맞게 최적화합니다. 이 과정에서 신경망 내부의 각 층은 입력 데이터로부터 예측에 필요한 특징 표현을 단계적으로 계산합니다. 예를 들어 합성곱 신경망에서는 합성곱 필터의 계수가 학습 가능한 파라미터로 주어지며, 학습 과정에서 분류 오차가 작아지도록 그 값들이 결정됩니다. 충분히 큰 신경망이 임의의 연속함수를 원하는 정확도로 근사할 수 있다는 시벤코 정리는 이러한 신경망의 함수 근사 능력을 이론적으로 보여주는 대표적인 결과입니다. 즉 전통적인 기계학습이 사람이 특징을 설계한 뒤 모델을 학습하는 방식이었다면, 딥러닝에서는 특징 추출과 예측에 필요한 함수가 하나의 신경망 안에서 함께 최적화됩니다.

"사람이 유용한 특징을 직접 설계한다"
▼
"특징을 추출하는 함수까지 데이터로부터 학습한다"

김성훈, 단백질 혁명 (2025) ↩︎