主页 模型库 竞赛 学习中心 工具箱 论文库 前沿 建模空间 AI建模
学习中心 探索专题 涌现 渗流与相变

本页实验台

  1. 格点渗流
  2. 随机网络巨片
  3. 相变与临界指数
  4. 概念—特征二分图
LAB 01

格点渗流

拖动占据概率 p,看巨片在 p≈0.593 处突然出现

问题
咖啡怎么渗过咖啡粉、油怎么在岩层里流动、火怎么烧穿森林、病毒怎么穿过人群——这些问题共享同一个数学:随机占据的格点,什么时候会出现一条贯穿的通路?
模型
格点渗流:每个格点以概率 p 独立被占据,问是否存在贯穿的连通簇。
P∞(p) = 0 (p < pc),  P∞(p) ~ (p − pc)β (p > pc);  二维方格 pc = 0.5927,  β = 5/36 ≈ 0.139
P∞ 是最大簇占全体的比例(序参量)。pc 依赖格子的具体形状(四邻 0.5927、八邻 0.4073),而临界指数 β 不依赖——这就是"普适性"。
理论阈值 p_c—
最大团占比—
是否贯穿—
团块数—
把 p 从 0.55 慢慢推到 0.62,盯住"最大团占比"。它不是缓慢上升的,而是在 0.593 附近几乎垂直地跳起来。这就是二阶相变:控制参数连续变化,序参量却在临界点处出现奇异。格子越大跳得越陡——有限尺寸下看到的是圆角,无穷大格子上才是真正的不连续。
LAB 02

随机网络巨片

ER 随机图的平均度从 0 调到 3,巨片规模在 ⟨k⟩=1 处起跳

问题
把格子换成随机网络,"贯穿"就变成了"巨片"。而阈值的位置有一个极其简洁的答案:平均每个人认识一个人的时候。这条结论在流行病、谣言、停电里反复出现。
模型
ER 随机图的巨片阈值,以及巨片规模满足的自洽方程。
⟨k⟩ = 1 是阈值;  S = 1 − e−⟨k⟩S(S 是巨片占比)
这个超越方程在 ⟨k⟩ < 1 时只有 S = 0 的解,⟨k⟩ > 1 时出现一个正根。更一般的判据是 Molloy–Reed:⟨k²⟩/⟨k⟩ > 2——度分布越不均匀,阈值越低。
巨片规模占比—
连通分量数—
孤立节点占比—
理论预测值—
⟨k⟩ = 1 是个分水岭。低于 1,最大分量只有 O(log N) 个节点;高于 1,最大分量是 O(N) 的——一个跟网络规模同阶的巨片。这个阈值与节点数无关,只跟"平均每个节点有一条边"这件事有关,直觉上就是:每个节点平均能再带出一个新节点时,连锁就停不下来了。
LAB 03

相变与临界指数

在临界点附近放大,量出巨片规模随 p 的幂律

问题
临界点附近,系统的行为不再依赖细节:正方格子、三角格子、甚至完全不同的物理系统,都给出同一组指数。这个"普适性"是二十世纪统计物理最深的发现之一。
模型
临界指数与有限尺度标度。
P∞ ~ (p−pc)β,  ξ ~ |p−pc|−ν,  有限尺度:P∞(p, L) = L−β/ν g( (p−pc) L1/ν )
ξ 是关联长度,L 是系统尺寸。有限的格子永远量不到真正的奇点——所以实测到的"临界点"总是被抹平的,必须靠有限尺度标度把 L → ∞ 的值外推出来。
由曲线定出的 p_c—
临界指数 β / 理论—
过渡区宽度—
有限尺寸标度:格子越大,估计越准——但不是每个量都如此。先把「每个 p 重复几次」从默认的 6 提到 20,否则噪声会盖过趋势。然后把边长从 20 拉到 120:p_c 从 0.643 一路收到 0.597(真值 0.5927),过渡区宽度从 0.292 收到 0.169,两个都干净利落。可是第三个读数 β 不跟着走——同一组实测是 0.246、0.348、0.312、0.269、0.327、0.266,在 0.25 和 0.35 之间乱跳,既没有收向理论值 0.139,也看不出任何趋势。这件事在实验科学里很重要:有限样本上看到的永远是圆角的过渡和有偏的指数,判断「这是真相变还是缓慢连续变化」,靠的正是这些量随系统尺寸怎么收敛。 读数里那个「实测 / 0.139」的偏差,新加的第二张图给出了来源。β 的定义是 P∞ ∝ (p − p_c)^β 在临界点稍上方那一小段成立的指数,换成双对数坐标就是一条直线的斜率——那条直线才是真正被测量的对象,蓝点是落在拟合窗口 0.605 < p < 0.665 里的样本,灰虚线是理论斜率 5/36 ≈ 0.139 的参照。β 测不准,有三个叠在一起的原因,值得一条条拆开。其一,窗口是固定的 0.605 < p < 0.665,离 p_c 有 0.012 到 0.072 那么远——幂律是 p → p_c 时的渐近行为,在这个距离上标度修正项还很大。其二,窗口里只有 5 个点,而且每个点自己带着噪声,5 个噪声点拟合出来的斜率方差极大。其三,越靠近 p_c 关联长度越长,一旦超过格子边长,那几个点的序参量就被抬高,斜率跟着偏大——这也是实测值整体停在 0.3 附近而不是 0.139 的原因。于是这台实验真正教的不是「β 等于多少」,而是「有的量好测,有的量不好测」:p_c 是一个位置,过渡区宽度是一段距离,这两样在几十格的格子上就能收敛;β 是奇点附近的一个斜率,它要的格子尺寸和重复次数远不是这里能给的。这就是有限尺寸效应:临界现象是热力学极限下的概念,格子有多大,「无穷大」就被截断在哪里。越靠近 p_c,关联长度越大,一旦超过格子边长,那几个点就不再服从幂律,拟合出来的斜率自然偏大。所以这张图真正该看的不是「β 对不对」,而是「哪几个点偏离了直线」。在小格子上,最靠左(最接近 p_c)的那几个点会明显翘起来——那是格子装不下当时的关联长度留下的痕迹。真实的研究里对付这件事的办法叫有限尺寸标度:跑好几个尺寸,把结果外推到无穷大,而不是指望某一个尺寸直接给出正确答案。所以不要因为这里的 β 数字不对就以为哪里算错了——它正是这类测量在小系统上该有的样子。真正的研究会跑好几个尺寸做有限尺寸标度外推,并且把窗口一路压到离 p_c 更近的地方,那要的计算量比这台网页实验大几个数量级。
LAB 04

概念—特征二分图

用二分图上的渗流,模拟「模型规模过某个门槛后能力突然出现」

问题
大模型做到某个规模,某项能力会从几乎为零跳到可用,这被叫作「能力涌现」。可是同一批模型、同一批题目,只把打分方式从「全对才算分」换成「按做对的比例给分」,那条陡峭的曲线就会变成一条直线。那么阈值到底在系统里,还是在我们的尺子上?
模型
二分图上的「全都要」型渗流。下层是模型学到的 nf 个特征,上层每个概念连着它需要的 k 个特征;规模 q 表示已学会的特征占比,m = q·nf。
A严格(q) = ∏i=0k−1 (m−i)/(nf−i) ≈ qk,  A部分(q) = q,  A门槛(q) = P( 至少 ⌈k/2⌉ 个 )
三条曲线出自同一张图、同一组已学特征,差别只在「算不算会」的定义。严格全对那条的半数点在 q* = 2−1/k(k=8 时是 0.917),前面九成的规模几乎看不到分数增长;部分得分那条则是一条恒等直线,从头到尾没有任何「突然」。
严格全对的概念数—
当前得分(按所选方式)—
曲线最大斜率—
半数点 q(实测 / 理论)—
换一把尺子,涌现就不见了。把 k 拉到 8、评分方式选「严格全对」:规模从 0 一直拖到 0.8,掌握比例还不到 15%,再往后几步直接冲到 100%——一条教科书式的涌现曲线。什么都不改,只把评分方式换成「部分得分」,同一张图给出的是一条 45° 直线。这正是 Schaeffer 等人 2023 年那篇《Are Emergent Abilities of Large Language Models a Mirage?》的核心论证:观察到的「突然出现」里,至少有一部分是「全对才算分」这种非线性度量放大出来的。要判断系统里到底有没有阈值,得看连续的度量,或者像前三个实验台那样,老老实实去量临界指数。

这一页想说的

渗流是理解"突变"最便宜的一把钥匙:它把"量变到质变"变成了一个有阈值、有指数、可以在格子上数出来的东西。真正值得带走的不是 0.593 这个数字,而是三件事——临界点附近系统对微小变化极端敏感;有限尺寸下看到的总是圆角过渡;以及,观察到的突变里有一部分可能来自你的度量方式而不是系统本身。

接着看

← 返回模块 ← 返回探索专题