《高等统计物理学》5：非平衡态统计物理初步

知乎链接：《高等统计物理学》5：非平衡态统计物理初步

上一篇文章《高等统计物理学》4：量子系综的实际问题 是统计物理系综的最后一个部分，同时也是平衡态统计物理复习的大结局。下面将开始非平衡态统计物理的复习，在这里笔者只是将相关的概率知识进行罗列，更深层次的非平衡态统计物理的内容待笔者考完试有时间自学后再进行相关的大补充。

四. 非平衡态统计物理初步

1. 中心极限定理

考虑随机变量 X的N次独立测量平均的随机变量 Y ，其概率密度函数为 $f_Y(y_N-\langle X \rangle)$fY​(yN​−⟨X⟩)。如果 $N\rightarrow \infty ，$N→∞，记 $\sigma^2=\langle X^2 \rangle-\langle X \rangle^2 ，$σ2=⟨X2⟩−⟨X⟩2，则有 $f_Y(y_N-\langle X \rangle)=\sqrt{\frac{N}{2\pi}}\frac{1}{\sigma}e^{-\frac{N(y_N-\langle X \rangle)^2}{(2\sigma^2)}} 。$fY​(yN​−⟨X⟩)=2πN​​σ1​e−(2σ2)N(yN​−⟨X⟩)2​。（因此，不管 $f_X(x)$fX​(x) 形式如何，只要它有有限的矩，$x$x 的大量独立测量的平均值的分布是中心在 $<X>$<X> 的高斯分布，其方差是 X 的概率密度的方差的 $\frac{1}{N}$N1​。这就是中心极限定理）

证明：（a）首先我们要清楚随机变量$n$n阶矩的定义$\langle X^n \rangle=\sum_i x_i^nf(x_i)$⟨Xn⟩=∑i​xin​f(xi​)或 $\langle X^n \rangle=\int dxx^nf_X(x) ，$⟨Xn⟩=∫dxxnfX​(x)，矩给出了分布函数的范围和形状信息，对连续型随机变量，若所有的矩 $\langle X^n \rangle$⟨Xn⟩ 都知道，则概率密度函数被完全确定，特殊地，高斯分布被一阶和二阶矩完全确定（反之也成立）。

（b）然后，我们还要知道特征函数，$\phi_X(k)=\langle e^{ikx}\rangle=\int dx e^{ikx}f_X(x)=\sum_{n=0}^\infty\frac{(ik)^n\langle X^n \rangle}{n!} ，$ϕX​(k)=⟨eikx⟩=∫dxeikxfX​(x)=n=0∑∞​n!(ik)n⟨Xn⟩​，在上面的积分里以$ik$ik，在$k=0$k=0点进行泰勒展开，很容易就可以的到最后的级数表达式（注意级数展开只当高阶矩足够小时才有意义），推导如下： $\begin{aligned} F(ik)&=\int e^{ikx}f(x)dx=\sum_n\frac{F(0)^{(n)}(ik-0)^n}{n!}=\sum_n\frac{(ik)^n\int x^ne^{ikx}|_{k=0}f(x)dx}{n!}\\&=\sum_n\frac{(ik)^n\int x^nf(x)dx}{n!} =\sum_n\frac{(ik)^n \langle X^n \rangle}{n!} \end{aligned}$F(ik)​=∫eikxf(x)dx=n∑​n!F(0)(n)(ik−0)n​=n∑​n!(ik)n∫xneikx∣k=0​f(x)dx​=n∑​n!(ik)n∫xnf(x)dx​=n∑​n!(ik)n⟨Xn⟩​​由上式可见，特征函数及其概率密度函数都由各级矩完全确定（注意n的范围是从0到正无穷）。

（c）下面推导中心极限定理：

注意：任何不为0的数的0次方都为1，上述过程中特征函数的变换和常规的傅立叶变换不一样，这里的指数是正的，相应的逆变换则是负的。因为实际可以观察的物理量都是实数，所以傅立叶变换指数的正负对最后结果没有影响。还有，我们用 $y_N-\langle X\rangle$yN​−⟨X⟩作为自变量，是因为偏移量相对于平均值可以看作小量，便于做近似计算（前面已经讲过，特征函数的级数表达要求矩无穷小）。
（已解决问题1：推导一下特征函数最后的那个级数表达式）（待解决问题2：独立同分布的中心极限定理、利莫夫-拉普拉斯定理）

2. 大数定律

大数定理以严格的数学形式表现了随机现象最根本的性质之一：平均结果的稳定性。简单地说，大数定律就是当试验次数足够多时，事件发生的频率无穷接近于该事件发生的概率。它的定义为：设有随机变量序列 $Y_1,Y_2,...,Y_n,...$Y1​,Y2​,...,Yn​,...和实数 $a ，$a，若对于任意正数 $\varepsilon ， \lim_{n\rightarrow \infty}P(|Y_n-a|<\varepsilon)=1 ，$ε，limn→∞​P(∣Yn​−a∣<ε)=1，称 $Y_1,Y_2,...,Y_n,...$Y1​,Y2​,...,Yn​,... 依概率收敛于常数 $a$a ，记为 $Y_n\stackrel{P}\longrightarrow a(n\rightarrow\infty) 。$Yn​⟶P​a(n→∞)。（这里的 $Y_i$Yi​ 就是中心极限定理中的 $y_N$yN​吧）

由切比雪夫不等式得 $P(|y_N-\langle X\rangle|\geq\varepsilon)\leq\frac{\sigma_{Y_N}^2}{\varepsilon^2}=\frac{\sigma_{X}^2}{N\varepsilon^2} ，$P(∣yN​−⟨X⟩∣≥ε)≤ε2σYN​2​​=Nε2σX2​​，当 $N\rightarrow\infty$N→∞ 时，若 $\sigma_X^2$σX2​ 有限，则 $\lim_{N \rightarrow \infty}P(|y_N-\langle X\rangle|\geq\varepsilon)\rightarrow0 。$limN→∞​P(∣yN​−⟨X⟩∣≥ε)→0。

3. 马尔可夫过程

（1）可约性
$\int P_n(t_1,y_1;t_2,y_2;...;t_n,y_n)dy_n=P_{n-1}(t_1,y_1;t_2,y_2;...,t_{n-1},y_{n-1})$∫Pn​(t1​,y1​;t2​,y2​;...;tn​,yn​)dyn​=Pn−1​(t1​,y1​;t2​,y2​;...,tn−1​,yn−1​)（2）归一性
$\int P_1(t_1,y_1)dy_1=1$∫P1​(t1​,y1​)dy1​=1 （3）条件概率
$P_2(t_1,y_1;t_2,y_2)=P_1(t_1,y_1)P_{1|1}(t_2,y_2|t_1,y_1)$P2​(t1​,y1​;t2​,y2​)=P1​(t1​,y1​)P1∣1​(t2​,y2​∣t1​,y1​) 不同时刻概率密度之间的关系： $P_1(t_2,y_2)=\int P_1(t_1,y_1)P_{1|1}(t_2,y_2|t_1,y_1) dy_1$P1​(t2​,y2​)=∫P1​(t1​,y1​)P1∣1​(t2​,y2​∣t1​,y1​)dy1​ （4）Chapman-Kolmogorov方程
$P_{1|1}(t_3,y_3|t_1,y_1)=\int dy_2P_{1|1}(t_2,y_2|t_1,y_1)P_{1|1}(t_3,y_3|t_2,y_2)$P1∣1​(t3​,y3​∣t1​,y1​)=∫dy2​P1∣1​(t2​,y2​∣t1​,y1​)P1∣1​(t3​,y3​∣t2​,y2​) 证明：思路大概先后用到条件概率、可约性、条件概率。

（待解决问题3:随机过程书上有个加强版的，看一看）

4. 主方程（马尔可夫过程的时间演化方程）

$\frac{\partial P(t,y)}{\partial t}=\int[W(t,x,y)P(t,x)-W(t,y,x)P(t,y)]dx$∂t∂P(t,y)​=∫[W(t,x,y)P(t,x)−W(t,y,x)P(t,y)]dx

证明：首先明白主方程的意义，考虑下面这个方程： $P(t_2,y)=\int dx P(t_1,x;t_2,y)=\int dxP(t_1,x)P(t_2,y|t_1,x) ，$P(t2​,y)=∫dxP(t1​,x;t2​,y)=∫dxP(t1​,x)P(t2​,y∣t1​,x)，要求 $P(t_2,y)$P(t2​,y)则需要进行复杂的积分。一般而言，我们对微分方程的研究要多于积分方程，且求解也更加容易，因此，我们尝试将这个麻烦的积分方程转换成易于求解的微分方程，而一般的转换思路就是构造无穷小量，然后对其进行泰勒展开。证明过程如下：

注意，证明过程中得到的 $\tilde W(t_1,x,y)$W~(t1​,x,y)不适用，是因为归一性条件$\int P(t_1+\varepsilon,y|t_1,x)dx=1$∫P(t1​+ε,y∣t1​,x)dx=1使得 $\int \tilde W(t_1,x,y)dx=0$∫W~(t1​,x,y)dx=0的约束存在，而要找到一个这样的$\tilde W(t_1,x,y)$W~(t1​,x,y)实属不容易。但是，我们引入 $W(t_1,x,y)$W(t1​,x,y)后，就不会再有这样的约束存在了，而引入的方法也是有一定的技巧性在里头，如下所示：

5. 福克-普朗克(Fokker-Planck)方程

当$x$x和$y$y是连续变量，且从$x$x到$y$y的改变是以小跳跃的方式进行的时候，可以得到普朗克方程。（要区分，主方程和普朗克方程的时间都是以很小的尺度进行改变的，但是主方程没有限制x到y变化的大小，而普朗克方程则在主方程的基础上考虑x到y变化很小的更为特殊的情况）
$\frac{\partial P(t,y)}{\partial t}=-\frac{\partial}{\partial y}[a_1(y)P(y,t)]+\frac{1}{2}\frac{\partial^2}{\partial y^2}[a_2(y)P(y,t)] ，其中 a_n(y)=\int d\xi \xi^n \overline W(y,\xi)$∂t∂P(t,y)​=−∂y∂​[a1​(y)P(y,t)]+21​∂y2∂2​[a2​(y)P(y,t)]，其中an​(y)=∫dξξnW(y,ξ)是第n级跃变矩。

证明：

这个证明过程其实非常简单的， 就是第一步根据主方程变出来的那个方程，在思维上转换下就很ok啦。

6. 随机微分方程的福克-普朗克(Fokker-Planck)方程

7. 无规则行走和扩散方程

8. 生灭过程

（1）细菌的线性生灭过程主方程

$\frac{\partial P(t,n)}{\partial t}=(n-1)\lambda P(t,n-1)+(n+1)\mu P(t,n+1)-(n \lambda+n \mu)P(t,n) ，$∂t∂P(t,n)​=(n−1)λP(t,n−1)+(n+1)μP(t,n+1)−(nλ+nμ)P(t,n)，其中$\lambda$λ 和 $\mu$μ 是生和灭的概率， $n$n 是细菌的个数。

证明：式子很好理解，就是主方程的含义，只是这里相当于给主方程中的转移概率密度赋予了含义。证明过程的思路也很明确：先设参量，再代入主方程原型（特别注意此处对 \delta 函数的应用），再等式单边一个泰勒展开化简整合。过程如下：

（2）细菌的线性生灭过程微分方程
$\frac{\partial F}{\partial t}=(z-1)(\lambda z-\mu)\frac{\partial F}{\partial z} ，$∂t∂F​=(z−1)(λz−μ)∂z∂F​，其中 $F(z,t)=\sum_{n=-\infty}^{\infty}P(n,t)z^n$F(z,t)=n=−∞∑∞​P(n,t)zn 是定义的生成函数。

证明：这里是对依赖于离散随机变量的主方程的求解。

（3）细菌的线性生灭过程微分方程的解
$F(z,t)=[\frac{(uz-u)e^{(\lambda-u)t}-\lambda z+u}{(\lambda z-\lambda)e^{(\lambda-u)t}-\lambda z+u}]^m ，$F(z,t)=[(λz−λ)e(λ−u)t−λz+u(uz−u)e(λ−u)t−λz+u​]m，其中$m$m是时刻$t=0$t=0时的细菌数目。

证明：

（4）细菌的非线性生灭过程主方程（马尔萨斯方程）
$\frac{\partial P(t,n)}{\partial t}=(n-1)\lambda P(t,n-1)+[(n+1)\mu+\gamma\frac{n(n+1)}{\Omega} ]P(t,n+1)-[n \lambda+n \mu++\gamma\frac{n(n-1)}{\Omega}]P(t,n) ，$∂t∂P(t,n)​=(n−1)λP(t,n−1)+[(n+1)μ+γΩn(n+1)​]P(t,n+1)−[nλ+nμ++γΩn(n−1)​]P(t,n)，它和线性生灭过程的不同之处在于它考虑了社会成员间的竞争使得死亡率加大的情况，其中 $\Omega$Ω 是系统的大小。

证明：其推导和（1）思路步骤完全一样，只是在这里把（1）中的 $\mu$μ 替换为 $\mu+\gamma\frac{m-1}{\Omega}，$μ+γΩm−1​，这里为$m-1$m−1是因为当系统中细菌数目为1的时候，它就不存在竞争。

9. 总结

结束了这一部分的学习后，至少要做到：

（1）能够写出矩的表达式和特征函数的级数表达式(提示：在ik=0处泰勒展开）；

（2）能够说出中心极限定理的内容，并对其进行证明；

（3）能够说出大数定律的内容，并对其进行解释（提示：切比雪夫不等式）；

（4）能够写出马尔可夫过程的“可约性“、“归一性”和“条件概率”（以及不同时刻概率密度之间的关系（主方程推导的“原材料”））数学表达式；

（5）能够写出Chapman-Kolmogorov方程并对其进行证明；

（6）能够写出主方程并对其进行证明（提示：注意中间那一步令 $\tilde W(x,y)$W~(x,y)的式子，从结果倒着推）；

（7）能够写出普朗克方程并对其进行推导（提示：1. 注意负数项的由来; 2. 将主方程中W直接表示为增量形式，即跃变，且注意推导过程中对谁进行几阶的泰勒展开）；

（8）能够写出线性生灭过程满足的主方程形式并证明、引入生成函数后的微分方程、生成函数解的形式，并且进行它们的推导；（提示：后面两点其实是在对依赖于离散随机变量的主方程进行求解）

（9）能够写出非线性生灭过程满足的主方程（马尔萨斯方程）的形式，并且进行相应的推导；

未完待更…

参考资料
【1】 老师的授课PPT