玻尔兹曼分布 | Boltzmann Distribution

1 玻尔兹曼分布

玻尔兹曼分布是热力学中的一个概念，表示在一个密闭空间系统中，温度为 T，系统中的不同粒子，在各种可能的量子态下的分布。比如系统具有的量子态为 M，可能的量子态能量为 \varepsilon_i （有 n_i 个粒子），其中 i=1 \to M。系统总的粒子数为 N，其中 N = \sum_{i=1}^{M} n_j
则由热力学公式，粒子处于状态 i 下的概率为：
p_{i}=\frac{1}{Q} e^{-\varepsilon_{i} / k T}=\frac{e^{-\varepsilon_{i} / k T}}{\sum_{j=1}^{M} e^{-\varepsilon_{j} / k T}}\tag{1.1}
其中 k 成为玻尔兹曼常数。分母 Q 称为分配函数，其表达式为：
Q={\sum_{i=1}^{M}{e^{- {\varepsilon}_i / k T}}}\tag{1.2}
玻尔兹曼常数只与任意两个状态的能量差有关，常用如下方式求解：
\frac{p_i}{p_j} = e^{\frac{\varepsilon_j - \varepsilon_i}{kT}}\tag{1.3}
由于 p_i 也就代表了状态 i 下粒子数量的分布，因此显然有：
p_i={\frac{N_i}{N}}={\frac{e^{- {\varepsilon}_i / k T}}{\sum_{j=1}^{M}{e^{- {\varepsilon}_j / k T}}}}\tag{1.4}
在机器学习中，玻尔兹曼分布与 Softmax 函数的分布紧密相关。

2 熵

参考文献

[1] https://blog.csdn.net/weixin_42398658/article/details/84060223
[2] https://en.wikipedia.org/wiki/Boltzmann_distribution