Temperature
전체 에너지가 $E$로 고정되고 volume과 the nubmer of particles이 고정된 thermodynamic system이 있고, 이 system을 정확히 절반으로 나누어서 각각 $E_1$과 $E_2$의 에너지를 가지고 thermal contact 중에 있어서 열을 교환할 수 있는 independent한 두 개의 계로 구분하자. 이러한 energy distinction의 가정은 충분히 정당화될 수 있다. Thermodynamic limit를 고려할 때 우리는 에너지와 같은 물리량을 extensive variable로 정의할 수 있었다. 즉 system의 size에 dependent한 변수다. 만약 쌍성계와 같이, 중력에 의해 강력하게 interaction하는 system이 있다고 하면 이러한 논의를 진행할 수 없지만, 우리는 계 1과 계 2의 particle들이 사실상 상호작용 하지 않는다고 가정할 수 있으므로 이렇게 energy partition을 할 수 있다.
이제 충분히 시간이 흘러서 두 계가 thermal equilibrium에 있다고 하자. 이때 우리는 두 계가 평형에 있을 조건이 무엇인지 알아내려고 한다.
그런데 생각해보면 두 계가 평형인 상황은 macrostate와 밀접한 관련이 있음을 알 수 있다. 사실 맨 처음 system에 부여한 constraint는 microcanonical ensemble이다. 매우 충분한 시간이 지나면 결국 system은 가장 많은 microstate를 주는 macrostate를 선택할 것이다. 열평형 상태에 도달했을 때 계 1의 에너지를 $E_1$이라고 하면, 결국 계 1이 갖게 될 에너지 $E_1$은 계에 가장 많은 microstate를 주는 macrostate를 나타내는 값인 것이다. 이제 $\Omega, \Omega_1, \Omega_2$를 각각 전체 계, 계 1, 계 2가 가질 수 있는 microstate의 개수라고 하자. 따라서 열평형 상태는 $\Omega$를 maximize할 것이고, 그러한 값을 주는 변수를 $E_1$으로 택할 수 있다. $E_2 = E - E_1$이기 때문이다. 이때 두 계는 독립이므로 전체 경우의 수는 각각의 경우의 수의 곱으로 표현될 수 있다는 사실을 상기하면 $\Omega(E_1) = \Omega_1(E_1) \Omega_2(E_2)$로 표현됨을 알 수 있다.
이제 열평형 조건을 적용해서 구체적으로 계산을 수행하자. $$\frac{d\Omega}{dE_1} = \frac{d}{dE_1} (\Omega_1 (E_1) \Omega_2 (E_2)) = 0 \\ = \frac{d \Omega_1}{dE_1} \Omega_2 + \Omega_1 \frac{d\Omega_2}{dE_1} \\ = \frac{d \Omega_1}{dE_1} \Omega_2 + \Omega_1 \left( \frac{d \Omega_2}{dE_2} \frac{dE_2}{dE_1} \right) \\ = \frac{d \Omega_1}{dE_1} \Omega_2 - \Omega_1 \frac{d \Omega_2}{d E_2} = 0 \\ \Longrightarrow \frac{d \Omega_1}{dE_1} \frac{1}{\Omega_1} = \frac{d \Omega_2}{dE_2} \frac{1}{\Omega_2} \\ = \frac{d \ln \Omega_1}{dE_1} = \frac{d \ln \Omega_2}{dE_2}$$ 따라서 열평형 상황일 때 두 계가 같은 값을 가지는 양을 찾아냈고, 우리는 그러한 양은 다름 아닌 온도라는 사실을 알고 있다! 따라서 우리는 온도를 다음과 같이 정의할 수 있다.
Definition 1. We define the temperature $T$ by $$\frac{1}{k_BT} = \frac{d \ln \Omega}{dE},$$ where $k_B$ is the Boltzmann constant, $\Omega$ is the number of microstates accessible to the system, and $E$ is the total energy of the system.
$T$ 자체는 macroscopic variable이고, $\Omega$는 microscopic variable이다. 즉 위 정의는 macrostate와 microstate를 이어주는 bridge의 역할을 한다는 의미가 있다. Boltzmann constatn는 $J / K$의 차원을 가지는 어떤 상수인데, 이렇게 온도를 분모에 두게 되면 차원이 맞지 않기 때문에 이를 맞춰주기 위한 상수를 곱해야 한다. 그런데 왜 온도의 역수로 저 값을 정의하는 걸까? 차차 설명하겠지만, 당장은 이렇게 두는 게 가장 간편하기 때문이라고 말해 둘 수 있다.
Boltzmann Distribution
전체 에너지가 $E$로 고정한 상태에서 어떤 system과 거대한 heat reservoir로 계를 분할한다고 하자. 이때 microstate $i$에서 $\varepsilon$의 에너지를 가지는 system이 heat reservoir와 contact에 있어서 충분한 시간이 흐른 뒤 열평형 상태에 있다고 가정하자. 열원의 에너지는 $E - \epsilon$이다. 이때 질문은 다음과 같다.
"What is the probability of a system to be in a specific microstate $i$ with energy $\varepsilon$?"
위 상황에서 계 전체는 microcanonical ensemble이지만, 주어진 system은 cacnonical ensemble로 생각할 수 있다. 따라서 전체 계의 입장에서 볼 때 각각의 microstate는 equally probable하다.
한 가지 주의해야 할 점은, 각각의 microstate들은 거의 동일한 확률을 가지지만 다 다른 상태다. 그러나 때로는 서로 다른 microstate들의 집합이 같은 macrostate를 주는, 예컨대 같은 에너지를 주는 상황이 존재한다. 예컨대 어떤 입자가 서로 다른 방향을 향하고 있다고 하더라도 운동량의 크기 자체는 같은 값을 가지고 있을 수 있다. 이를 고려하기 위해 $g(\varepsilon)$을 동일한 에너지 $\varepsilon$을 가지고 있지만 서로 다른 microstate들의 개수, 즉 the degeneracy of the energy level $\varepsilon$이라고 하자.
따라서 위 질문은 본질적으로 다음의 질문과 구분되어야 한다.
"What is the probability of finding the system with energy $\varepsilon$?"
먼저 특정한 microstate $i$에 있을 확률을 구해보자. 이 확률은 $\Omega_r(E - \varepsilon_i)$, 즉 reservoir가 에너지 $E - \varepsilon_i$을 갖게 하는 microstate의 개수에 비례한다. 여기서 $\varepsilon_i$는 microstate $i$ 일 때 가지는 에너지다. 생각해 보면 당연한데, reservoir가 에너지 $E - \varepsilon_i$를 가지면 system은 에너지 $\varepsilon_i$를 갖는다. 즉 system이 특정 에너지를 가지는 상황은 reservoir가 특정 에너지를 가지는 상황과 정확하게 대응되는데, 이를 거꾸로 적용해서 reservoir가 그러한 특정 에너지 $E - \varepsilon_i$를 갖는 경우의 수가 많아지면 많아질수록 system이 특정 microstate $i$에 있어서 에너지 $\varepsilon_i$을 가지는 경우의 수 또한 많아진다고 이해할 수 있다. 따라서 우리가 구하고자 하는 확률 $P$는 $$P \propto \Omega_r(E - \varepsilon_i)$$ 로 주어진다. 정확히는 $\Omega_r(E - \varepsilon_i) \times 1$로, system이 에너지 $\varepsilon_i$을 갖게 하는 microstate의 개수도 곱해주어야 하지만 여기서 microstate는 $i$로 고정돼 있으므로 자명하게 1이다.
어쨌든 계산을 계속해보자. 이제 위 비례식의 양변에 로그를 씌워서 $\varepsilon_i = 0$ 근방, 다시 말해 $E$ 근방에서 테일러 전개를 해준다. $$\ln(P) = \text{const.} + \ln \Omega_r(E - \varepsilon_i) \\ \Longrightarrow \ln \Omega_r(E - \varepsilon_i) \approx \ln \Omega_r(E) + ((E - \varepsilon_i) - E) \frac{d \ln \Omega_r(E)}{dE} \\ = \ln \Omega_r(E) - \varepsilon_i \frac{1}{k_BT_r} \\ \Longrightarrow \Omega_r(E - \varepsilon_i) = \Omega_r(E) \cdot e^{- \frac{\varepsilon_i}{k_BT}}$$ 따라서 구하고자 하는 확률 $P$는 $$P \propto e^{-\frac{\varepsilon_i}{k_BT}}$$로 주어지고, $e^{-\frac{\varepsilon_i}{k_BT}}$를 Boltzmann factor라고 부른다.
이 확률이 정확히 어떻게 주어지는지는 비례 상수를 알아야만 결정할 수 있고, 대략 $P = C \cdot e^{-frac{\varepsilon_i}{k_BT}}$라고 적자. 이때 $P$는 microstate $i$에 dependent하므로 normalization 조건은 다음과 같이 주어진다. $$\sum_{i} P = 1$$ 이 조건을 사용하면 우리는 확률 $P$의 구체적인 모양을 파악할 수 있다. $$P = \frac{P}{1} = \frac{C \cdot e^{-\frac{\varepsilon_i}{k_BT}}}{1} = \frac{C \cdot e^{-\frac{\varepsilon_i}{k_BT}}}{\sum_{i} P} \\ = \frac{e^{-\frac{\varepsilon_i}{k_BT}}}{\sum_{i} e^{-\frac{\varepsilon_i}{k_BT}}} = \frac{e^{-\beta \varepsilon_i}}{Z}$$ 이때 $Z$를 partition function, 즉 분배 함수라고 부르고 $\beta := \frac{1}{k_BT}$이다. 따라서 system이 microstate $i$에 있어서 에너지 $\varepsilon_i$를 가질 확률은 위와 같이 주어진다. 결국 분배 함수를 계산하면 확률을 알 수 있고, 실제로 분배 함수를 계산하는 일은 그 계에 대해서 수많은 정보들을 함께 알려준다.
이제 degeneracy를 고려한 확률로 돌아가자. 이제 우리는 특정한 microstate를 고정하지 않았고, 그저 어떤 에너지 $\varepsilon$을 system이 가질 확률을 이야기하고 싶다. 이 경우 확률은 다음과 같이 주어진다. $$P = \frac{g(\varepsilon) e^{-\beta \varepsilon}}{\sum_{\varepsilon} g(\varepsilon) e^{- \beta \varepsilon}}$$ 어쨌든 이 두 확률을 구분해야 하고, 이렇게 주어지는 확률 분포를 Boltzmann distribution이라고 부른다.
Applications of The Boltzmann Distribution
볼츠만 분포를 사용해서 기술할 수 있는 몇 가지 예시를 들어보자.
(1) Two State System
원자를 딱 하나만 들고오자. 이때 이 system의 ensemble을 생각하면 원자가 가질 수 있는 microstate가 ground일 때도 있고, exited일 때도 있다. 이때 입자가 가질 수 있는 상태가 이 두 가지 밖에 없다고 가정하고 각각을 상태 0과 1에 대응시키자. 이때 ground state의 에너지를 $\varepsilon_0 = 0$, exited state의 에너지를 $\varepsilon_1 = \varepsilon > 0$이라고 하자. 이때 $P(1)$, 즉 exited state에 원자가 있을 확률은 Boltzmann distribution으로 주어진다. $$P(1) = \frac{e^{-\beta \varepsilon}}{1 + e^{-\beta \varepsilon}}$$ 이때 $T \to \infty, T \to 0$인 두 상황을 생각해보자. 예컨대 reservoir로부터 아주 많은 에너지가 공급되어서 온도가 매우 높아진 상황이다. 아무튼 이런 상황에서 확률은 $P(1) = \frac{1}{2}$로 주어진다. 이는 반대로 $P(0)$, 즉 입자가 ground state를 가질 확률 또한 $\frac{1}{2}$라는 뜻이고, 각 상태를 입자가 가질 확률이 정확히 반으로 나뉜다는 뜻이다. 어떤 system은 항상 entropy를 최대화하려는 성질이 있기 때문에, 온도가 매우 높아지면 확률이 반반으로 나뉘는 상황이 가장 많은 microstate를 가지게 한다. 반대로 온도가 0으로 수렴하게 되면 확률은 $P(1) = 0$이다. 즉 온도가 0이 되면 입자는 결코 exited state에 있을 수 없고 ground state에만 존재한다. 어떤 입자의 온도가 0이면, 그러한 상태는 ground state이다. 이는 정확히 딱 한 개의 microstate만 존재하는 상황이고, 따라서 계의 entropy는 0이다.
Remark. $$S = k_B \ln \Sigma$$
어떤 온도가 주어지면 그 온도에 대해서 thermal energy scale이라는 것을 말할 수가 있다. 이때 그 값은 $k_BT$로 주어진다. 그렇다면 이 값과 위 예시에서 제시한 에너지 $\varepsilon$을 비교해보자. 만약 온도가 매우 높으면 $\frac{k_BT}{\varepsilon} >>> 1$이 될 것이고, 이 말은 the scale of thermal fluctuation이 매우 크기 때문에 $\varepsilon$ 정도의 에너지는 negligible small이라는 뜻이다. 때문에 ground와 exited가 사실상 구분 불가능하고, 이는 확률이 절반으로 주어진다는 걸 의미한다. 반대로 $T \to 0$인 상황은 $\frac{k_B}{T} <<< 1$이고 이는 thermal energy scale에 비해 $\varepsilon$이라는 에너지가 너무 커서 이 에너지를 가지는 상황을 상상할 수 없다는 것이다. 따라서 exited state는 존재할 수 없다는 말과 진배없고, ground state를 가질 확률은 $1$이 된다.
동일한 예시를 degeneracy를 고려해서 다시 풀어보자. 에너지가 $0$인 state가 하나 존재해서 $0$이라고 하고, $\varepsilon$을 가지는 state가 두 개 존재해서 $1, 2$라고 하자. 이때 $$P(1) = P(2) = \frac{e^{-\beta \varepsilon}}{1 + e^{-\beta \varepsilon}}$$이다. 똑같이 $T \to \infty, T \to 0$인 상황을 생각해보면 $T \to \infty$면 $P(1) = P(2) = \frac{1}{3}$이고, $T \to 0$이면 $P(1) = P(2) = 0$이다. 마찬가지로 동일하게 생각할 수 있다. 1과 2는 원래 같은 에너지 값을 가지므로 에너지만 놓고 보면 구분이 불가능하고, 온도가 매우 높아지면 각각은 0과도 구분이 불가능하므로 전체 확률은 각각이 동일한 값을 가지게 된다.
그리고 microstate에 따른 확률이 아니라 에너지에 따른 확률을 구해보면 다음과 같다. $$P(\varepsilon) = \frac{g(\varepsilon) e^{-\beta \varepsilon}}{\sum_{\varepsilon} g(\varepsilon) e^{-\beta \varepsilon}} = \frac{2 e^{\beta \varepsilon}}{1 + 2e^{\beta \varepsilon}}$$ 이 경우 $\varepsilon$을 갖는 상태가 2개이므로 $g(\varepsilon) = 2$이다.
Canonical ensemble에서 system과 reservoir는 에너지를 교환할 수 있으므로 system의 에너지는 fluctuation이 있지만, equalibrium에 도달하면 에너지의 평균값은 사실상 고정된다고 말할 수 있었다. Degeneracy를 고려한 Boltzmann distribution을 생각하면 $e^{\beta \varepsilon}$은 에너지가 증가할수록 지수적으로 감소하지만, $g(\varepsilon)$은 에너지가 증가할수록 0부터 시작해서 급격하게 증가한다고 생각할 수 있다. 따라서 그 곱인 Boltzmann distribution은 결국 에너지의 평균값 $\langle E \rangle$에서 peak를 찍는 일종의 Dirac delta function처럼 생각할 수 있다. 이는 fluctuation을 사실상 무시할 수 있는 Gaussian의 형태이다.
(2) Isothermal Atmosphere
온도가 $T$로 고정되어 있고 균일한 중력장 하에 질량이 $m$으로 주어져 있는 ideal gas가 있다고 해보자. 이때 우리는 높이에 따른 number density의 분포를 알아보려 한다. 사실 이 예시는 이처럼 atmosphere에 적용되기 보다는 colloidal particle에 좀더 적합하다. 어떤 용기에 액체가 있고, 그 안에 colloidal particle들이 있으면 이 입자들은 각각 Brownian motion을 보이는데, 이때 밀도는 상대적으로 바닥 쪽에서 값이 더 크다. 이때 각 입자들에 대해서 바닥 쪽으로 작용하는 힘인 $mg$가 있고, 또 부력이 존재할 것이다. 이때 그 차이가 입자들의 위치를 결정할 것인데, $V\rho_pg - V \rho_l g = V\Delta \rho g$가 그것이다. 따라서 입자와 액체의 밀도차가 결정적이고, 이에 따라서 입자들이 바닥에 있을 수도 있지만 바닥이 아닌 위쪽에 있을 수도 있다. 대표적인 예가 바로 크림이다.
아무튼, 다시 대기 중 높이에 따른 number density의 분포를 계산해보자. Number density는 $n = \frac{N}{V}$, 즉 단위 부피 당 입자의 개수를 의미한다. 각 입자를 classical하게 생각한다면 우리는 오직 6개의 숫자만 알면된다. 3차원 상에서 위치 성분 3개, 운동량 성분 3개. 이 6개의 성분을 하나로 묶어서 각각을 microstate로 생각한다면 우리는 그 확률 $P(x, y, z; p_x, p_y, p_z)$를 고려할 수 있다. 그런데 우리가 구하고자 하는 $n(z)$는 $P(z)$에 비례함은 자명하다. 입자가 높이가 $z$에 놓여 있을 확률은 당연히 $z$에서의 입자의 number density에 비례할 것이다. 그리고 $$P(z) = \int P(x, p) dx dy d^3p$$로 주어진다. $z$가 variable이므로 나머지 성분에 대해서 싹 다 적분해주고, $z$만 남기는 것이다. $d^3p = dp_x dp_y dp_z$를 의미한다.
현재 우리가 고려하는 상황은 사실상 thermal equalibrium이라고 볼 수 있는데, 각 particle은 다른 particle들에 둘러싸여서 온도가 $T$로 고정되어 있기 때문이다. 즉 다른 입자들이 reservoir의 역할을 한다. 따라서 Boltzmann distribution을 사용할 수 있다. 이때 확률은 다음과 같이 주어진다. $$P(x, p) = \frac{e^{-\beta(\frac{p^2}{2m} + mgz)}}{\int dxdydz \int d^3p e^{-\beta(\frac{p^2}{2m}+mgz)}}$$ 에너지는 고전적으로 $\frac{p^2}{2m} + mgz$로 주어진다. 이때 각 변수는 continuous 하므로 시그마가 적분으로 바뀐다. 이제 이 식을 위에서 구한 $P(z)$에 대입해 주면 다음과 같다. $$P(z) = \frac{\int dx dy \int d^3p e^{- \beta \frac{p^2}{2m}} \cdot e^{-\beta mgz}}{\int dxdydz \int d^3p e^{-\beta \frac{p^2}{2m}}e^{-\beta mgz}} \\ = \frac{e^{-\beta mgz}}{\int^{\infty}_0 dz e^{-\beta mgz}} = \beta mg \cdot e^{-\beta mgz}$$ 따라서 $n(z) ~ P(z)$이므로 $$n(z) = n(0) e^{-\beta mgz}$$라고 쓸 수 있고, 이를 Barometric formula라고 부른다. 식을 자세히 살펴보면 $z$가 증가할수록 입자의 number density는 지수적으로 감소한다. 즉 바닥으로 갈수록 입자의 농도가 지수적으로 짙어진다고 말할 수 있다.