度量涌现
前面几页都在展示涌现,这一页试着把它算出来。"整体大于部分之和"——多出来的那部分能不能写成一个数?从信息熵出发,经过互信息的分解,走到有效信息与因果涌现,这条线是近二十年复杂系统研究里少数真正可计算的路径。
LAB 01
信息熵
调分布形状,看熵怎么随「有多不确定」变化
问题
"信息"这个词在日常里很含糊,但香农给了它一个精确的、可以计算的定义——而且这个定义有一个唯一性定理支撑。这一台把分布的形状和熵的数值对应起来。
模型
香农熵:满足连续性、单调性、可加性三条公理的唯一度量(差一个常数因子)。
H(X) = −Σk pk log₂ pk, 0 ≤ H ≤ log₂ n
均匀分布时 H 最大(log₂n),确定时 H = 0。熵的直观含义是"平均需要问多少个是非题才能确定结果",这也是它单位叫"比特"的原因。信息熵 H(比特)—
最大可能熵—
相对熵(H / Hmax)—
最不意外事件的信息量—
熵不是"信息量",是"平均意外程度"。把偏斜拉满,某一个事件几乎必然发生,这时熵接近 0——不是因为没有信息,而是因为你事先就知道会发生什么,观测不带来新东西。均匀分布时熵最大,因为每次观测都最"值钱"。记住这个方向,后面所有基于信息的涌现度量都是它的变奏。
LAB 02
互信息与冗余
两个变量的相关强度一变,互信息、冗余、协同三块怎么此消彼长
问题
两个变量"有关系"可以是好几种不同的关系:一个能预测另一个(冗余),还是两个合起来才能预测第三个(协同)?相关系数分不出这个区别,信息论可以。
模型
互信息与信息分解。
I(X;Y) = H(X) + H(Y) − H(X,Y); I(X,Y;Z) = 冗余 + 唯一X + 唯一Y + 协同
I 对称、非负,为 0 当且仅当独立。异或门是协同的极端例子:单看 X 或 Y 对 Z 一无所知(I = 0),合起来却完全确定 Z。这种关系任何两两相关分析都看不见。总互信息 I(X₁X₂;Y)—
冗余 R—
特有 U₁ + U₂—
协同 S—
异或是理解协同最短的例子。单看 X₁ 对 Y 一无所知,单看 X₂ 也一无所知,两个合起来却完全确定 Y。这 1 比特信息不属于任何一个部分,只存在于"两者之间"——这就是"整体大于部分之和"最干净的量化形式。把模式换成"复制",同样的总互信息,却全部落在特有项上,协同为 0。同一个 I 值,内部结构完全不同。
LAB 03
粗粒化与有效信息
手动合并微观状态,看宏观层面的有效信息是升是降
问题
通常认为"粗粒化必然丢失信息"。可如果宏观层面反而更能预测未来呢?这一台手动合并微观状态,看有效信息是升是降——结果可能和直觉相反。
模型
有效信息:对系统施加最大熵干预后,因果关系携带的信息量。
EI = I( St ; St+1 ) 当 St 取最大熵分布(do 操作)
关键在于"干预"而不是"观察":EI 用的是 do(St = s) 的均匀分布,量的是机制本身的确定性与简并性。粗粒化能把噪声大的微观转移平均掉,于是宏观的 EI 反而更高。微观 EI / 有效性—
宏观 EI / 有效性—
有效性之差 Δeff—
确定性 / 简并度—
有效信息量的是「干预之后结果有多确定、又有多不重复」。这里有一件必须说清楚的事:以比特计的 EI 在粗粒化下永远不会上升——宏观转移矩阵是微观矩阵的一次后处理,数据处理不等式挡着(随机搜 40 万个四态矩阵,反例是 0 个)。霍尔那套「因果涌现」比较的是归一化后的有效性 eff = EI / log₂(n),即「相对于本层状态空间有多大因果力」。宏观层状态少,同样的 EI 就意味着更高的有效性。这个归一化的选择正是这套理论最受争议的地方,用的时候务必写明。
LAB 04
因果涌现示例
一个四节点布尔网络:宏观描述比微观描述「因果力」更强的最小例子
问题
"宏观比微观更有因果力"听起来像一句哲学口号。Hoel 等人给了一个四节点的布尔网络,让这句话变成一个可以逐格验算的算术题。这一台就是那个最小例子。
模型
因果涌现:存在某个粗粒化使宏观的有效信息严格大于微观。
因果涌现 ⟺ EI(宏观) > EI(微观); EI = 确定性 − 简并性(在归一化之后)
争议提示:这个结论依赖 EI 的具体定义和"最大熵干预"这个约定。批评者指出换一种因果度量(如干预分布取实际分布)结论会变。这一台给的是原始定义下的算术,不是对这场争论的裁决。微观 EI / 有效性—
宏观 EI / 有效性—
Δ有效性—
结论—
这个四节点例子说明的是有效性而不是比特数。微观上四个状态之间的转移带着噪声,谁也说不准下一步落到哪一个具体状态;把它们两两合并之后,「下一组是哪一组」几乎是确定的。EI 的比特数没有增加(也不可能增加),但宏观只用 1 比特的状态空间就拿到了同样的因果力,有效性从 0.31 升到 0.62。把「微观转移的确定程度」拉到 100%,微观本来就确定了,宏观的优势随之消失——这正说明涌现出来的因果力来自噪声的抵消,而不是凭空多出来的东西。
这一页想说的
这一页的四个实验台其实在回答同一个问题的四个层次:不确定性怎么量(熵)、共享的信息怎么拆(冗余/特有/协同)、干预的效果怎么量(有效信息)、换个层次描述会不会更有因果力(因果涌现)。它们的共同前提是:你得先写出一个概率模型或转移矩阵。这既是这套方法的力量,也是它的边界——对于写不出转移矩阵的系统,这些数一个也算不出来。