玻尔兹曼分布 (Boltzmann Distribution)

1 玻尔兹曼分布

玻尔兹曼分布是热力学中的一个概念,表示在一个密闭空间系统中,温度为 T,系统中的不同粒子,在各种可能的量子态下的分布。比如系统具有的量子态为 M,可能的量子态能量为 \varepsilon_i (有 n_i 个粒子),其中 i=1 \to M。系统总的粒子数为 N,其中 N = \sum_{i=1}^{M} n_j
则由热力学公式,粒子处于状态 i 下的概率为:
p_{i}=\frac{1}{Q} e^{-\varepsilon_{i} / k T}=\frac{e^{-\varepsilon_{i} / k T}}{\sum_{j=1}^{M} e^{-\varepsilon_{j} / k T}}\tag{1.1}
其中 k 成为玻尔兹曼常数。分母 Q 称为分配函数,其表达式为:
Q={\sum_{i=1}^{M}{e^{- {\varepsilon}_i / k T}}}\tag{1.2}
玻尔兹曼常数只与任意两个状态的能量差有关,常用如下方式求解:
\frac{p_i}{p_j} = e^{\frac{\varepsilon_j - \varepsilon_i}{kT}}\tag{1.3}
由于 p_i 也就代表了状态 i 下粒子数量的分布,因此显然有:
p_i={\frac{N_i}{N}}={\frac{e^{- {\varepsilon}_i / k T}}{\sum_{j=1}^{M}{e^{- {\varepsilon}_j / k T}}}}\tag{1.4}
在机器学习中,玻尔兹曼分布与 Softmax 函数的分布紧密相关。

2 熵

参考文献

[1] https://blog.csdn.net/weixin_42398658/article/details/84060223
[2] https://en.wikipedia.org/wiki/Boltzmann_distribution