统计物理学习讲义

统计物理学习讲义

中科院数学院复杂系统研究中心复杂系统学习班 (CSSGBJ)

韩靖2003 年 10 月 27 日

统计物理、自旋玻璃和复杂系统

统计物理做什么？自旋玻璃 (Spin Glasses) 是什么？它们在复杂系统研究中有何应用？它们的局限性？探讨：对我们的研究有何启发？

学习提纲和计划 ( 欢迎补充修改 )基本概念介绍

Entropy, Boltzmann 分布 (partition function) Example: K-SAT 问题的相变

Dynamics and Landscapes 各态历尽 , landscapes, Monte Carlo Simulation Example: Simulated Annealing( 模拟退火 )

Meanfield, Replica Symmetry, Cavity Methods Meanfield 用于网络动力学的例子 Replica Symmetry 用于组合问题的例子 Cavity Methods: Survey Propagation

Critical Phenomena & Power-law 相变 SOC, HOT/COLD 理论

谁报名来主讲？

统计物理Statistical physics is about systems composed of m

any parts. 集体行为组合数学和概率理论

Traditional examples: 气体、液体、固体 - 原子或分子；金属、半导体 - 电子 ; 量子场 - 量子，电磁场 - 光子等

Complex systems examples: 生态系统 - 物种社会系统 - 人计算机网络 - 计算机市场 - 经纪人 agent 鱼群 - 鱼、鸟群 - 鸟、蚁群 - 蚂蚁组合问题 – 变量 –研究复杂系统为什么要学习统计物理？

Collective Behavior 群体行为

集体行为：系统由大量相似的个体组成全局行为不依赖于个体的精确细节，

而相互作用必须合理定义，并且不要太复杂；个体在单独存在的行为与在整体中的行为很不一样 .

( 在整体中各个体行为变得相似 ) ；相互作用的类型：吸引、抗拒、对齐… 主要的集体现象：相变、模式形成、群组运动、同步… 研究手段：统计物理、多主体计算机模拟

“ 磁化”现象 :go个体行为邻居动作的平均方向同步掌声恐慌现象

http://angel.elte.hu/~vicsek/http://angel.elte.hu/~vicsek/

自旋玻璃 (Spin Glasses)简单的理想模型，性质丰富，易于研究个体 :spin si; 系统 : 多个 spin 局部相互作用以最简单的 Ising 模型为例： si=1 或者 – 1 在 lattice 上排列，相邻 spin 之间有相互作用能量 (Hamiltonian) ： E = - J(i-1)isi-1si

Jij>0, 偏好相邻同向； Jij<0, 偏好相邻不同向； Jij=0, 无相互作用考虑外部场 E = - Jijsisj - hisi

性质：有序 / 无序、受挫、相变、对称破缺…现实中的例子：组合问题、恐慌人群、经济模型

(-)

(+)

(+)

?

sisi+1si-1

J(i-1)i Ji(i+1)

E=- Jijsisj

Spin GlassConfiguration r = s1,s2,…,snHamiltonian (E, Cost function): E(r)J=HJ(r) = -∑Jiksisk

Quenched variable: J, random variable a probability distribution P(J)Different Spin model: different P(J)Notation:<g>=∑PJ(s)g(s)So-called ‘Disorder’: Structural parameter J is random and have large complexity

自旋玻璃例子 - K-SAT 问题经典NP-完全问题N个布尔变量 : xi=True/False, si=1/-1M 个 clauses: M 个含 k 个变量的逻辑表达式K=3, 3-SAT: c1:x1 or (not x3) or x8,

c2:(not x2) or x3 or (not x4), c3:x3 or x7 or x9,…

目标：满足所有 M 个 clauses 的 N个布尔变量的一组赋值Spin glass 的能量 E =- a=1,M(Ca =T),Ground State E=-M 解状态结果：当 K=3, M/N ~4.25, 问题求解困难

恐慌现象行人建模：期望移动速度、与他人的排斥力、与墙壁的作用力、个人速度的扰动恐慌（由于火灾或者大众心理）：

人们希望移动更快人与人之间的物理冲突更厉害；出口处障碍、堵塞形成；危险压力出现；人群开始出现大众恐慌心理；看不到其它的出口；

计算机模拟实验： (Go) 单出口房间：无恐慌、恐慌、惊跑、带圆柱、火灾走廊：直走廊、中间加宽的走廊人群：个人主义、群体心理、两者综合

Begin…

统计物理能做什么？怎么做？基本点：只关心状态的概率，并不关心演化的过程（假设各态历经）

熵最大核心： Boltzmann 分布

(partition function)

学习提纲和计划基本概念介绍





Entropy

Microstate r: a specific configuration of systemMacrostate R: an evaluation valueΩ(R): number of microstates related to a macrostateMicro-canonical entropy: S(R)=k log Ω(R)

More General forms:A macrostate R: pi for system be found in a microstate i

A distribution of microstates.Gibbs Entropy: S(R) =-k ∑pi logpi Maximum the most possible distribution of microstates

Without constraint on pi, pi=1/N S is maximized

Ω(nΩ(nii)=M!/n)=M!/n11!n!n22!...n!...nNN!, !, ppii=n=nii/M/M

With Constraint on pi: Partition Function Z

Observable quantity E (Hamiltonian)Ergodic Hypothesis (time average=ensemble average)We know:

From experiments: <E’>, Ei for all ri, and <E’>= <E>= ∑piEi, ∑pi=1.We want to know the most probable distribution of microstates Maximize S=-k∑pilogpi and we get:

pi=e-βEi/Z, Z=∑ie-βEi (β=(kT)-1)So, pi and β is decided by Ei and <E>Knowing βor T and Ei, we can define the most possible distribution of microstates pi and Zβ T <E> Z distribution is less symmetrical

Toy ExampleThree microstates: E1=0, E2=2, E3=3

We have p1E1+p2E2+p3E3=<E>

e.g. 2p2+3p3=<E>, and p1+p2+p3=1

3 temperatures: decreasing order of T

<E>

β Z p1 p2 p3

1 1.5 0.105

2.540

0.393

0.319

0.287

2 1 0.420

1.716

0.583

0.252

0.165

3 0.3 1.083

1.154

0.867

0.099

0.034

Important concepts Partition function: Z(T,E)=∑re- E(r)/T

Knowing this, we can do a lot of things!Variance of E, #sol, …

Free Energy: F = -k T lnZ (?) Entropy S=- (F/ T)E=-k ∑pilnpi

Z and #sol (ground state)

Z (T)=∑re-E(r)/T = ∑H=1,2,…∑r|E(r)=H e-H/T When T→0, system are most likely in the ground state. e-E(r)/T →0 except E(r)=0Z(0)= ∑ r|E(r)=0 e-0 =∑ r|E(r)=0

So, number of ground states = Z(0).In T>0, Z also counts other r that E(r)>0. But the lower T, the r with lower E(r) Z counts. Z is decreasing when T is decreasing.The K-SAT result considers T=0.






各态历尽

对任意 2 个系统状态 r1和 r2, r1可以经过有限部变换到 r2.

0001 10

11

熵最大分布的三个条件 Rij=probability of ri changes to rj

方程的平衡状态是熵最大分布 ,必须要满足： p=R·p, R 有唯一的主特征向量 (特征值为 1) 各态历经细致平衡：平衡态时， pi·Rij=pj·Rji

Ergodicity breaking and Landscape

Mapping of microstates onto energiesbarrier

r1 r2 r3 rn

…

Very high, unlikely to cross, when system size is large,

T is low:

pi/pj=e-(Ei-Ej)/T

Monte Carlo Simulation

设定状态转换矩阵，使得系统演化服从我们希望的状态分布 P。如果各态历尽和细致平衡，有

把 P代入就可以得到 Rij

Simulated Annealing目标 P是 Boltzmann 分布： pie-Ei/T。Rij/Rji=e-(Ej-Ei)/T

Rij= 1 if EjEi

e-(Ej-Ei)/T if Ej>Ei

Simulated Annealing: We want to minimize E T=0, ergodicity breaking, favors minimal E T>0, barriers can be crossed, favors more states

Most problems have many metastable states (local optima), various scales of barriers heights






Replica Approach and P(J)

For a given J, free energy density:fJ=-1/(βN) ln ZJ

For a P(J), we want to know: <f>=∑P(J)fJ

For n replicas: Zn=∑JP(J)(ZJ)n≡<(ZJ)n> (ZJ)n=∑s1∑s2…∑sn exp-∑a=1

nβHJ(sa)si is the i th replica. fn=-1/(βnN) ln Zn, ln Z= Lim n→0 (Zn-1/n)We get: <f>= Lim n→0 fn ≡f0

参考教材 http://groups.yahoo.com/group/CSSGBJ/

Mark Newman 2001 复杂系统暑期学校教材 http://www.santafe.edu/~mark/budapest01/ K-SAT 相变 : Nature, Vol 400, July 1999, p133-137Survey Propagation: Science, Vol 297, Aug. 2002, p812-815, p784-785.SOC: 《大自然如何工作》 , Per Bak.HOT/COLD:

HOT: Highly Optimized Tolerance: A Mechanism for Power Laws in Designed Systems. J. M. Carlson, John Doyle. (April 27, 1999)

COLD: Optimal design, robustness, and risk aversion. M. E. J. Newman, Michelle Girvan and J. Doyne Farmer

Documents

统计物理学习讲义