📂열물리학

깁스의 엔트로피 표현

공식

주어진 계의 거시상태가 $i$ 번째 상태일 확률을 $P_{i}$ 라고 하자. 이 계에서 측정되는 엔트로피^{measured Entropy} $S$ 는 다음과 같이 표현할 수 있다. $$ S = - k_{B} \sum_{i} P_{i} \ln P_{i} $$ 여기서 $k_{B}$ 는 볼츠만 상수다.

설명

샤넌 엔트로피: 이산확률변수 $X$ 의 확률질량함수가 $p(x)$ 일 때, $X$ 의 엔트로피를 다음과 같이 나타낸다. $$ H(X) := - \sum p(x) \log_{2} p(x) $$

깁스의 엔트로피 표현은 확률정보이론등에서 정의되는 샤넌 엔트로피와 같은 꼴을 하고있다.

유도 ¹

• Part 1.

  열역학 제1법칙: $$ d U = \delta Q + \delta W $$

  엔트로피의 정의에서 $\delta Q = T dS$ 이고, $\delta W= - p dV$이므로 열역학 제1법칙의 다른 모양인 아래의 식을 얻는다. $$ dU = T dS - p dV $$
  한편 $U$ 의 전미분을 생각해보면 다음과 같다. $$ dU = {{ \partial U } \over { \partial S }} dS + {{ \partial U } \over { \partial S }} dV $$ 두 방정식에 있는 $dS$ 항만 비교해보면, 다음이 성립함을 알 수 있다. $$ T = {{ \partial U } \over { \partial S }} $$

  온도의 정의: $$ {{1 } \over {k_{B} T}} : = {{ d \ln ( \Omega ) } \over {d E }} $$

  온도의 정의에 따라 $\dfrac{1}{k_{B}} \dfrac{ \partial S }{ \partial U } = \dfrac{ d \ln ( \Omega ) }{ d E }$이고, 에너지는 $U = E$이므로 미분방정식을 풀면 다음을 얻는다. $$ S = k_{B} \ln \Omega $$ 여기서 $\Omega$ 는 에너지 $U$ 로 구분할 수 있는 상태의 수다.

• Part 2. $S_{\text{total}} = S + S_{\text{micro}}$

  Part 1에 따라, 시스템의 실제 엔트로피가 어찌되었든 우리가 쉽게 관측하고 구분할 수 있는 상태의 수가 $X$ 라고 하면 $S$ 는 다음과 같이 나타낼 수 있다. $$ S = k_{B} \ln X $$ 여기서 만약 이 $X$가지의 상태들이 똑같이 $Y$가지 미시상태로 만들어질 수 있다고 한다면, 이를 미시상태 그대로 관측하는 것은 불가능하지만 엔트로피 자체는 $S_{\text{micro}} = k_{B} \ln Y$ 와 같이 나타낼 수 있다. 한편 시스템 전체는 실제로 $X \times Y = XY$ 가지의 상태를 가지므로 $S_{\text{total}} = k_{B} \ln XY$ 인데, 이를 수식으로 적어보면 $$ \begin{align*} S_{\text{total}} =& k_{B} \ln XY \\ =& k_{B} \ln X + k_{B} \ln Y \\ =& S + S_{\text{micro}} \end{align*} $$ 와 같이 관측된 엔트로피와 그에 대응되는 미시상태의 엔트로피의 합으로 나타낼 수 있다.

• Part 3. $P_{i}$

  계에서 일어날 수 있는 모든 미시상태의 수를 $N$이라고 하고, $i$번째 거시상태의 수를 $n_{i}$라고 하면 $\sum \limits_{i} n_{i} = N$이다. 그러면 거시상태가 $i$번째 상태일 확률은 다음과 같다. $$ P_{i} := {{n_{i}} \over {N}} $$

• Part 4.

  그러나 미시상태의 엔트로피는 우리가 쉽게 계산할 수 없으므로, 확률적인 기댓값을 구해보면 다음과 같다. $$ S_{\text{micro} } = \left< S_{i} \right> = \sum_{i} P_{i} S_{i} = \sum_{i} P_{i} k_{B} \ln n_{i} $$ 반면 전체 시스템의 엔트로피는 간단하게도 $S_{\text{total} } = k_{B} \ln N$으로 나타낼 수 있고, Part 2에서 $S_{\text{total}} = S + S_{\text{micro}}$ 이었으므로 $$ S = S_{\text{total} } - S_{\text{micro} } = k_{B} \left( \ln N - \sum_{i} P_{i} \ln n_{i} \right) $$ 이다. 이때 $\ln N = \sum_{i} P_{i} \ln N$ 이므로 다음이 성립한다. $$ \ln N - \sum_{i} P_{i} \ln n_{i} = \sum_{i} P_{i} ( \ln N - \ln n_{i} ) = - \sum_{i} P_{i} \ln P_{i} $$ 정리하면 다음의 공식을 얻는다. $$ S = - k_{B} \sum_{i} P_{i} \ln P_{i} $$

  ■