📂熱物理学

ギブスのエントロピー表現

公式

与えられた系のマクロ状態が$i$番目の状態である確率を$P_{i}$としよう。この系で測定されるエントロピー$S$は、以下のように表すことができる。 $$ S = - k_{B} \sum_{i} P_{i} \ln P_{i} $$ ここで$k_{B}$はボルツマン定数だ。

説明

シャノンのエントロピー：離散確率変数$X$の確率質量関数が$p(x)$であるとき、$X$のエントロピーを以下のように示す。 $$ H(X) := - \sum p(x) \log_{2} p(x) $$

ギブスのエントロピー表現は、確率情報理論などで定義されるシャノンエントロピーと同じ形をしている。

導出 ¹

• パート1.

  熱力学の第1法則： $$ d U = \delta Q + \delta W $$

  エントロピーの定義から、$\delta Q = T dS$で、$\delta W= - p dV$なので、熱力学第1法則の別の形、以下の式を得る。 $$ dU = T dS - p dV $$
  一方、$U$の全微分を考えると、以下のようになる。 $$ dU = {{ \partial U } \over { \partial S }} dS + {{ \partial U } \over { \partial S }} dV $$ 両方程式に含まれる$dS$項だけを比較すれば、以下が成り立つことがわかる。 $$ T = {{ \partial U } \over { \partial S }} $$

  温度の定義： $$ {{1 } \over {k_{B} T}} : = {{ d \ln ( \Omega ) } \over {d E }} $$

  温度の定義に従い$\dfrac{1}{k_{B}} \dfrac{ \partial S }{ \partial U } = \dfrac{ d \ln ( \Omega ) }{ d E }$で、エネルギーが$U = E$なので、微分方程式を解くと、以下を得る。 $$ S = k_{B} \ln \Omega $$ ここで$\Omega$は、エネルギー$U$で区別できる状態の数である。

• パート2. $S_{\text{total}} = S + S_{\text{micro}}$

  パート1によると、簡単に観測できそして識別できる状態の数が$X$であれば、$S$は、以下のように表すことができる。 $$ S = k_{B} \ln X $$ この$X$の状態がすべて同じ$Y$のミクロ状態で構成されるとしたら、そのミクロ状態を直接観測することは不可能でも、エントロピー自体は$S_{\text{micro}} = k_{B} \ln Y$として表すことができる。一方、システム全体は実際に$X \times Y = XY$の状態を持つため、$S_{\text{total}} = k_{B} \ln XY$であり、これを数式で書けば、観測されたエントロピーとこれに対応するミクロ状態のエントロピーの合計として表すことができる。 $$ \begin{align*} S_{\text{total}} =& k_{B} \ln XY \\ =& k_{B} \ln X + k_{B} \ln Y \\ =& S + S_{\text{micro}} \end{align*} $$

• パート3. $P_{i}$

  系で起こりうるすべてのミクロ状態の数を$N$とし、$i$番目のマクロ状態の数を$n_{i}$とすると、$\sum \limits_{i} n_{i} = N$である。そうすると、マクロ状態が$i$番目の状態である確率は、以下のようになる。 $$ P_{i} := {{n_{i}} \over {N}} $$

• パート4.

  しかし、ミクロ状態のエントロピーは簡単に計算できないので、確率的な期待値を求めると、以下のようになる。 $$ S_{\text{micro} } = \left< S_{i} \right> = \sum_{i} P_{i} S_{i} = \sum_{i} P_{i} k_{B} \ln n_{i} $$ 一方、全体システムのエントロピーは、簡単に$S_{\text{total} } = k_{B} \ln N$として表すことができ、パート2で$S_{\text{total}} = S + S_{\text{micro}}$であったため $$ S = S_{\text{total} } - S_{\text{micro} } = k_{B} \left( \ln N - \sum_{i} P_{i} \ln n_{i} \right) $$ この時、$\ln N = \sum_{i} P_{i} \ln N$であるため、以下が成立する。 $$ \ln N - \sum_{i} P_{i} \ln n_{i} = \sum_{i} P_{i} ( \ln N - \ln n_{i} ) = - \sum_{i} P_{i} \ln P_{i} $$ まとめると、以下の公式を得る。 $$ S = - k_{B} \sum_{i} P_{i} \ln P_{i} $$

  ■