812
个编辑
更改
建立内容为“当研究跨尺度的粗粒化时，判断粗粒化方案的一个指标是，得出的宏观动力学是否能够独立反映微观动力学在宏观层面的演…”的新页面
当研究跨尺度的粗粒化时，判断粗粒化方案的一个指标是，得出的宏观动力学是否能够独立反映微观动力学在宏观层面的演化行为，而不需要使用微观动力学的状态信息对其进行修正。也就是说，判断微观和宏观动力学之间是不是独立计算和演化的。
这个问题由来已久，比如对于一个人类群体，既可以从社会学经济学角度解释系统的现象，也可以从生物学生理过程的层次去描述，还可以从分子尺度的物理学去描述。这些尺度上的各自规律可以独立成立，由此诞生了各个学科。这种分层次的现象一直被哲学家们用因果闭合或因果闭包的概念进行讨论。Anil Seth在他的动力学解耦<ref name=":23"> Barnett, L., & Seth, A. K. (2023). Dynamical independence: discovering emergent macroscopic processes in complex dynamical systems. Physical Review E, 108(1), 014304</ref>文章中认为，在一个复杂系统中，比如一个动物的身体，当宏观动力学（肢体的活动）能够自主演化，不需要回到微观动力学（细胞的活动）去提供预测信息的时候，我们就认为存在涌现。
而Fernando E. Rosas等人的工作中<ref name="closure">Rosas, F. E., Geiger, B. C., Luppi, A. I., Seth, A. K., Polani, D., Gastpar, M., & Mediano, P. A. (2024). Software in the natural world: A computational approach to hierarchical emergence. arXiv preprint arXiv:2402.09090.</ref>研究了三种闭合方式：因果闭合、信息闭合和计算闭合，作为尺度间是否独立演化的指标。这里的闭合是指宏观尺度对微观尺度的闭合。当达到闭合时，即代表宏观尺度达到了某种程度上的‘独立演化’。
==基础概念==
===软件和硬件===
作者们使用‘软件’和‘硬件’来类比系统。当我们使用一台电脑计算“1+2”的时候，我们知道这台电脑会得出“3”的结果。这是因为我们知道软件的输入是“1+2”，而不会这样想：把“1+2”翻译成一条二进制的机器码，交给软件的底层代码进行操作，得到“3”的机器码再翻译回来；更不会去想，计算机的硬件，比如CPU里各个组成中的晶片经过了什么样的变化来处理这条指令的。
所以，这代表了，这类计算机的软件和硬件是可以分开讨论的。虽然‘软件’需要依托在‘硬件’之上运行，所以‘软件’代表了某个宏观尺度，‘硬件’代表了某个微观尺度。软件中每一个计算都离不开硬件上的特定变化，但是当我们去理解‘软件’的运行规律的时候，却不需要回到‘硬件’层面上来解释。这就是‘软件’和‘硬件’之间的计算独立性：‘软件’（对‘硬件’）闭合了。
计算机中的软件和硬件是人类定义的，那自然界中的其他非人造系统中会不会也存在这样的软件硬件的区分呢？这就是这篇文章主要探讨的事情。
===单尺度因果态===
词条的上一部分已经介绍过了[[计算力学]]中因果态的概念，为了与原文符号对应，我们重新提供因果态的定义。在一个时序系统中，我们想要有一个ϵ-machine（ϵ-机器），能够根据当前时间步的状态和历史记忆，来预测未来状态。
无论系统是确定的或概率生成的，当我们已知 <math>t</math> 时刻的状态和历史记忆 <math>\overleftarrow{X_t}=\{... , X_{t-2}, X_{t-1}, X_t\}</math> 时，我们能够预测未来状态的轨迹 <math>p(\overrightarrow{X}^L_t| \overleftarrow{X_t})</math>，其中<math>\overrightarrow{X}^L_t=\{X_{t+1}, X_{t+2}, ... , X_{t+L}\}</math>，简写成<math>\overrightarrow{X_t}</math>。
不同时刻 <math>t</math> 和 <math>t'</math> 的状态和历史记忆虽然不完全一样，但是他们可能会导致同样的未来状态，<math>p(\overrightarrow{X_t}| \overleftarrow{X_t}) = p(\overrightarrow{X_t'}| \overleftarrow{X_t'}) </math>。所以，计算力学中把这些具有相同未来的 <math>\overleftarrow{X_t}</math> 划为等价euqivalent的状态，即<math>\overleftarrow{x_t} \equiv \overleftarrow{x_{t'}}\ \ \text{iff}\ \ p(\overrightarrow{x_t}| \overleftarrow{x_t} ) = p(\overrightarrow{x_{t'}}|\overleftarrow{x_{t'}}) </math>，并定义因果态<math>E = \{E_t\}_{t \in \mathbb{N} }, E_t = \epsilon( \overleftarrow{X_t} ) </math>
所以，ϵ-机器的工作是根据 <math>\overleftarrow{X_t}</math> 而判断 <math>t</math> 时刻系统处于哪个因果态 <math>E_t</math> ，并根据该因果态预测未来轨迹 <math>\overrightarrow{X_t}</math> 。
[[计算力学]]认为，包括人类在内的智能体，每时每刻都在对周围环境观察，得到大量的观测数据，并在自己的内部（大脑中）构建简洁的机制来预测观测数据的变化（一种隐马尔科夫模型），而因果态和ϵ-机器因其简洁性和有效性，被认为是一种最理想的预测机制模型。
我们可以从最小解释模型的角度出发来理解因果态。最小解释模型是指，我们要如何去用最简洁的宏观状态来解释和描述系统发生的现象，而且这种解释模型要在微观层面扰动时保持‘稳定’。所以它追求的是两方面：首先需要稳定，其次尺度越高越好。而这个宏观状态就是因果态。
[[文件:因果态示例.png|无|缩略图|500x500像素|因果态示例，出自Rosas于因果涌现读书会第五季第一期的分享]]
==跨尺度因果态==
设我们对微观动力学 <math>X_t</math> 粗粒化成宏观动力学 <math>Z_t = f(X_t)</math>，<math>f</math> 为粗粒化函数。上述的ϵ-机器只能处理在 <math>X</math> 空间上单一尺度的因果态，而作者们提出了另一种机器，υ-machine（υ-机器）来尝试定义跨尺度的计算机器和因果态。他们把因果态定义中的未来状态从微观的 <math>X</math> 改为宏观的 <math>Z</math>，并定义微观状态 <math>X</math> 中的等价关系为
<math>\overleftarrow{x_t} \equiv \overleftarrow{x_{t'}} \ \ \text{iff}\ \ p( \overrightarrow{z_t} | \overleftarrow{x_t}) = p(\overrightarrow{z_{t'}}| \overleftarrow{x_{t'}}) </math>
也就是说，υ-机器的目标不再是预测 <math>X</math> 的未来轨迹，而是其粗粒化后的 <math>Z</math> 的未来轨迹，并把拥有同样 <math>p(\overrightarrow{z_t}| \overleftarrow{x_t})</math> 的 <math>\overleftarrow{x_t}</math> 和 <math>\overleftarrow{x_{t'}}</math> 定义为υ-机器的因果态，<math>U = \{U_t\}_{t \in \mathbb{N} },\ U_t = υ( \overleftarrow{X_t} ) </math>
它的意义是什么呢？作者给出的解释是，υ-机器的因果态是一个最优的信息瓶颈：υ-机器是一种对 <math>\overleftarrow{x_t}</math> 最粗的粗粒化粒度，并满足对 <math>\overrightarrow{z_t}</math>的最大预测性的粗粒化方案。
所以，我们现在有三种机器：
# 微观动力学 <math>X_t</math> 本身的ϵ-机器，因果态为 <math>E</math>；
# 宏观动力学 <math>Z_t</math> 本身的ϵ-机器，因果态为 <math>E'</math>；
# 微观与宏观动力学 <math>Z_t = f(X_t)</math> 之间的υ-机器，因果态为 <math>U</math>；
[[文件:三种因果态.png|无|缩略图|400x400像素|三种因果态的示意图，摘录自文章原文]]
这三种机器的因果态有什么区别呢？首先，<math>U_t</math> 要比 <math>E'_t</math> 更强（powerful），因为后者只包括了宏观的信息，而前者同时包括了宏观和微观的信息。其次，<math>E_t</math> 要比 <math>U_t</math> 更强，因为 <math>U_t</math> 只保留了宏观的最大预测性，而 <math>E_t</math> 能保留微观的最大预测性（同时因为我们知道 <math>f</math> ，所以 <math>E_t</math> 也能保留宏观的最大预测性）。
我们能够了解一些关于它们的推断。
'''推断1'''：微观 <math>\overleftarrow{X_t}</math> 对宏观 <math>\overrightarrow{Z_t}</math> 提供的信息量 等于 υ-机器的因果态 <math>U_t</math> 提供的信息量，因为
<math>I(\overleftarrow{X_t}; \overrightarrow{Z_t})
= \sum_{\overleftarrow{x_t}} p(\overleftarrow{x_t}) D_{KL} \left ( p(\overrightarrow{z_t}|\overleftarrow{x_t}) || p(\overrightarrow{z_t}) \right )
= \sum_{u_t} p(u_t) D_{KL} \left ( p(\overrightarrow{z_t}|u_t) || p(\overrightarrow{z_t}) \right )
= I(U_t; \overrightarrow{Z_t})
</math>
'''推断2'''：υ-机器的因果态 <math>U_t</math> 对宏观 <math>\overrightarrow{Z_t}</math> 提供的信息量 大于等于 宏观 ϵ-机器的因果态 <math>E'_t</math>。证明如下：
首先，<math>I(E'_t ; \overrightarrow{Z_t}) = I( \overleftarrow{Z_t} ; \overrightarrow{Z_t})</math>；其次，<math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math>；
因为 <math>\overrightarrow{Z_t}</math> 是 <math>\overrightarrow{X_t}</math> 的粗粒化，所以 <math>I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math> 肯定比 <math>I( \overleftarrow{Z_t} ; \overrightarrow{Z_t})</math> 大。因此，<math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t}; \overrightarrow{Z_t}) \geq I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I(E'_t ; \overrightarrow{Z_t})</math>。证毕。
了解了跨尺度因果态的定义后，我们就能逐个了解这篇文章中的三种闭合定义。
<br/>
==因果闭合 Causal Closure==
因果闭合的定义为：<math>Z_t</math> 的ϵ-机器 与 <math>Z_t = f(X_t)</math> 之间的υ-机器 之间存在等价关系，即 <math>E'</math> 和 <math>U</math> 之间存在双射（bijective）投影关系（两个空间内的因果态分组相互一一对应）。
在这种情况下，不同 <math>\overleftarrow{X_t}</math> 对 <math>Z</math> 轨迹预测的差异也会在 <math>\overleftarrow{Z_t}</math> 上反映出来。也就是说，这些差异在粗粒化 <math>f</math> 过程中会被完全保留，不会被更改或抹除。
当我们对 <math>Z</math> 进行干预的时候，微观 <math>X</math> 的状态也会跟着改变，就像当我们加热了一锅水的时候，其中的水分子的能量也会改变。因果闭合的物理意义为：在宏观上的干预，和微观上与之对应的干预，作用在宏观层面上产生的结果完全相同。对 <math>Z</math> 空间进行的干预影响到 <math>X</math> 空间时，按照 <math>X</math> 的动力学进行演化后再粗粒化得到的 <math>Z</math>，与直接在 <math>Z</math> 空间上进行演化没有区别。
这说明了，当我们对 <math>Z</math> 进行干预的时候，仅凭 <math>Z</math> 自身的动力学就能正确的演化，不用再回到微观 <math>X</math> 层溯源。所以这就是宏观和微观之间因果闭合了，即宏观动力学在因果性上能做到独立的演化。因此，我们可以把宏观的结果 <math>\overrightarrow{Z_t}</math> 视为只来自于宏观的干预 <math>\overleftarrow{Z_t}</math> ，与微观 <math>\overleftarrow{X_t}</math> 无关。
<br/>
==信息闭合 Information Closure==
上面所述的因果闭合的建模基于动力学的因果态，强调因果的概念。我们也可以关注计算力学的另一方面，即计算与预测。
因果态对 <math>\overrightarrow{Z_t}</math> 预测能力可以写成信息论的形式，即变量对 <math>\overrightarrow{Z_t}</math> 提供的互信息。<math>Z_t</math> 本身的ϵ-机器和 <math>Z_t = f(X_t)</math> 之间的υ-机器的等价关系可以写成：
<math>I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math>
这说明了，宏观的 <math>\overleftarrow{Z_t}</math> 和微观的 <math>\overleftarrow{X_t}</math> 给 <math>\overrightarrow{Z_t}</math> 提供的信息量是一样的。所以，信息闭合是指，对于一个粗粒化后的宏观过程，已知其自身过去的信息 <math>\overleftarrow{Z_t}</math> 就足以进行最优预测，进一步引入底层（微观）<math>\overleftarrow{X_t}</math> 信息也不能提升预测能力——也就是说，微观的信息 <math>\overleftarrow{X_t}</math> 对宏观未来 <math>\overrightarrow{Z_t}</math> 的预测是冗余的。所谓一个尺度在某某方面闭合，便是在说这个尺度上系统可以“自给自足”，不需要再考虑其他尺度。
虽然定义方式不一样，但是我们不难看出，根据跨尺度因果态介绍中的推断2，因果闭合和信息闭合这两个对 <math>Z_t = f(X_t)</math> 的条件是等价的：由于<math>I(U_t ; \overrightarrow{Z_t}) = I(E'_t ; \overrightarrow{Z_t})</math>，所以<math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t}; \overrightarrow{Z_t}) = I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I(E'_t ; \overrightarrow{Z_t})</math>。
另外，当信息闭合时也满足：
<math>
I(\overrightarrow{Z_t}; \overleftarrow{X_t} | \overleftarrow{Z_t}) = I(\overleftarrow{Z_t}, \overleftarrow{X_t} ; \overrightarrow{Z_t}) - I(\overrightarrow{Z_t} ; \overleftarrow{Z_t}) = I(\overleftarrow{X_t} ; \overrightarrow{Z_t}) - I(\overrightarrow{Z_t} ; \overleftarrow{Z_t}) = 0
</math>
<br/>
==计算闭合 Computational Closure==
定义 <math>Z</math> 的ϵ-机器为计算闭合，当满足：存在粗粒化函数 <math>f^*</math>使得<math>E'_t = f^*(E_t)</math>，其中<math>E_t</math> 和 <math>E'_t</math> 分别为 <math>X</math> 和 <math>Z</math> 的ϵ-机器的因果态。
也就是说， <math>E_t</math> 和 <math>E'_t</math> 之间存在一个粗粒化的（一对一或多对一）映射关系。同样的，<math>X</math> 和 <math>Z</math> 之间也存在粗粒化的映射关系，所以我们可以看到这四个变量之间的关系可以归结于如下两条从 <math>X</math> 到 <math>E'</math> 的路径：
# <math>X \stackrel{\epsilon}{\rightarrow} E \stackrel{f^*}{\rightarrow} E'</math>
# <math>X \stackrel{f}{\rightarrow} Z \stackrel{\epsilon'}{\rightarrow} E'</math>
我们把 <math>f</math> 和 <math>f^*</math> 视作粗粒化算子，<math>\epsilon</math> 和 <math>\epsilon'</math> 视作因果态算子，那么我们看到两条路径中的粗粒化算子和因果态算子是可交换的。
[[文件:计算闭合可交换性.png|无|缩略图|计算闭合可交换性示意图，摘录自文章原文]]
上面提到过ϵ-机器可以看作最小解释模型，描述了动力学的机制。所以，因果态空间 <math>E</math> 和 <math>E'</math> 可以看作是动力学的‘机制空间’。而计算闭合的一个意义就是指出，这种动力学不仅在本来的变量/状态空间中能够被粗粒化 <math>f</math> ，而且动力学的机制也能够被粗粒化 <math>f^*</math>。所以，当计算闭合时，宏观 <math>Z</math> 空间的机制能通过粗粒化微观 <math>X</math> 空间的机制而获得。
对于一台机器，我们肯定希望它的宏观的计算过程要更加的简洁，也就是说宏观的ϵ-机器最好是微观的ϵ-机器的一种粗粒化。难道宏观机器还可以不是微观机器的粗粒化吗？粗粒化意味着宏观变量是微观变量的单射。这个映射过程可能引入更多的噪音，导致宏观过程的因果态反而比微观的还要多。我们看下面这样一个例子：
考虑一个马尔可夫链 <math>X</math>，有三个状态 <math>a</math>、<math>b</math> 和 <math>c</math>，<math>p(a,i)=p(b,i) > 0, \forall i</math>，<math>p(c,b)=0</math>，且 <math>p(b,a) \neq p(c,a)</math>。这样，微观ϵ-机器只有两个因果态，<math>\{a,b\}</math> 和 <math>c</math>。
假设我们的粗粒化分组方案为<math>\{a, \{b,c\}\}</math>，即<math>Z_t = A\ \text{if}\ X_t = a; Z_t = B\ \text{if}\ X_t = b\ or\ c</math>。 可以证明当 <math>Z</math> 连续处于 <math>B</math> 状态的时间越长，<math>X_t = c</math> 的概率就越高（因为 的转移被禁止），所以 <math>Z</math> 不是马尔可夫的。由于 <math>p(b,a) \neq p(c,a)</math>，因此 <math>Z</math> 的ϵ-机器需要区分以不同长度的 <math>B</math> 结尾的历史，例如 <math>\{A, (BA), (BBA), (BBBA)\}</math> 。所以， <math>E'</math> 的因果态数量多于 <math>E</math> 的因果态数量，因此 <math>E'</math> 不可能是 <math>E</math> 的粗粒化。
我们本以为，把底层系统用机器描述后，宏观层的ϵ-机可能只需把底层机器的状态合并即可。但事实远非如此。在这个例子中，原始系统有3个状态，但因为和看起来完全一样，所以微观机器只需要区分 和 两种状态。但宏观的粗粒化选择却是，把和映射到一个宏观状态上。因为底层动力学的特殊性，想预测下一个何时出现，宏观ϵ-机需要记住最近连续出现了几个。也就是说，'''宏观行为实际上增加了记忆长度'''，需要无穷多个不同的因果态，而不仅仅是简单的两种状态。所以，这并不是一个好的、满足计算闭合要求的粗粒化方案。
如果满足计算闭合的要求，我们就可以从计算模型的角度对一个系统进行多尺度建模。在考虑多尺度建模的时候，我们只需要关注各个尺度机器上的粗粒化过程即可。
计算闭合与前面的因果闭合/信息闭合之间的关系是：如果一个粗粒化函数 <math>Z_t = f(X_t)</math> 是因果闭合/信息闭合的，那它一定是计算闭合的。证明如下：
首先，υ-机器的因果态 <math>U_t</math> 是 微观 ϵ-机器的因果态 <math>E_t</math> 的一种粗粒化方案（证明请参照论文<ref name="closure" /> Proposition 2）。而且，因果闭合的条件说明了，<math>U_t</math> 等于宏观 ϵ-机器的因果态 <math>E'_t</math>。所以，<math>E'_t</math> 和 <math>E_t</math> 之间也应该存在粗粒化方案，满足计算闭合的条件。
==尺度闭合 与 成块性==
在论文<ref name=":Geiger">B. C. Geiger and C. Temmel, “Lumpings of Markov chains, entropy rate preservation, and higher-order lumpability,” J. Appl. Probab., vol. 51, no. 4, pp. 1114–1132, Dec. 2014, extended version: arXiv:1212.4375.</ref>中，作者给出了以下定理：
# 一个不可约irreducible，和非周期性aperiodic 的马尔科夫链 <math>X</math> ，<math>Z_t=f(X_t)</math> 是对 <math>X</math> 的状态空间上定义的粗粒化函数，那 <math>X</math> 的强成块性 '''在其达到稳态stationary分布时''' 等价于 <math>H(Z_{t+1}|Z_t) = H(Z_{t+1}|X_t) </math>。
# <math>X</math> 的弱成块性 '''在其达到稳态分布时''' 等价于 <math>H(Z_{t+1}|Z_t) = H(Z_{t+1}|Z_{<t}) </math>。
作者们<ref name="closure" />认为，当使用 <math>Z_t</math> 来预测 <math>Z_{t+1}</math> 时，可以拆分为两步：先利用宏观 <math>Z_t</math> 推断微观 <math>X_t</math>，再利用微观 <math>X_t</math> 估算宏观 <math>Z_{t+1}</math>。所以，
'''推断1'''：当一个马尔科夫链 <math>X_t</math> 存在粗粒化函数 <math>Z_t=f(X_t)</math>，而 <math>X_t</math> 对 <math>f</math> 强成块时，<math>Z_t</math> 满足因果闭合/计算闭合。（但是满足因果闭合/计算闭合的 <math>Z_t=f(X_t)</math> 不一定都是强成块的，详情请参考论文<ref name="closure" />反例6）。证明如下：
<math>
\begin{aligned}
I(\overrightarrow{Z_t}; \overleftarrow{X_t} | \overleftarrow{Z_t}) & = H(\overrightarrow{Z_t} | \overleftarrow{Z_t}) - H(\overrightarrow{Z_t} | \overleftarrow{X_t} , \overleftarrow{Z_t}) \\
& = H(\overrightarrow{Z_t} | \overleftarrow{Z_t}) - H(\overrightarrow{Z_t} | \overleftarrow{X_t}) \\
& = \sum_{l = t+1}^{t+L} \left ( H(Z_l | Z_{l-1}) - H(Z_l | \overrightarrow{Z_{t+1}}, X_t) \right ) \\
&\leq = \sum_{l = t+1}^{t+L} \left ( H(Z_l | Z_{l-1}) - H(Z_l | \overrightarrow{Z_{t+1}}, X_t) \right ) \\
&= 0
\end{aligned}
</math>
'''推断2'''：假设存在 <math>Z=f(E)=f(\epsilon(X))</math>，<math>E</math> 为 <math>X_t</math> 的ϵ-机器的因果态，那么 <math>E</math> 是弱成块的条件 等价于 <math>Z_t</math> 计算闭合的条件。证明如下：
首先，计算闭合的条件说明，<math>Z</math> 的ϵ-机器的因果态 <math>E'</math>与 <math>E</math>之间存在粗粒化函数 <math>f'</math>，所以 <math>E</math> 可以被粗粒化成具有马尔科夫性的 <math>E'</math>，满足了弱成块的定义。
而且， <math>E</math> 对 <math>f</math> 弱成块时，我们就能推断 <math>X</math> 也具有马尔科夫性，而 <math>Z</math> 的ϵ-机器的因果态 <math>E'</math>就是一个对 <math>Z</math> 马尔科夫链的粗粒化划分，写作 <math>E'_t = \epsilon' (Z_t) = \epsilon' ( f (E_t))</math>，所以因果态 <math>E'</math>与 <math>E</math>之间存在粗粒化函数，满足了计算闭合的条件。
下图为原文中提供的图例<ref name="closure" />，总结了上述概念之间的关系：
[[文件:闭合性的概念.png|500px]]
# 粗粒化函数 <math>f</math> 的因果闭合性 等价于 其信息闭合性。
# 当 <math>f</math> 因果/信息闭合时，它一定是计算闭合的。
# 当一个'''稳态的'''马尔科夫链 <math>X_t</math> 对 <math>Z_t = f(X_t)</math> 强成块时，它一定是因果/信息闭合的。
# 当'''稳态的''' <math>X_t</math>的因果态 <math>E_t</math> 对 <math>Z_t = f(E_t)</math> 弱成块时，<math>Z_t</math> 是计算闭合的。
<br/>
这个问题由来已久，比如对于一个人类群体，既可以从社会学经济学角度解释系统的现象，也可以从生物学生理过程的层次去描述，还可以从分子尺度的物理学去描述。这些尺度上的各自规律可以独立成立，由此诞生了各个学科。这种分层次的现象一直被哲学家们用因果闭合或因果闭包的概念进行讨论。Anil Seth在他的动力学解耦<ref name=":23"> Barnett, L., & Seth, A. K. (2023). Dynamical independence: discovering emergent macroscopic processes in complex dynamical systems. Physical Review E, 108(1), 014304</ref>文章中认为，在一个复杂系统中，比如一个动物的身体，当宏观动力学（肢体的活动）能够自主演化，不需要回到微观动力学（细胞的活动）去提供预测信息的时候，我们就认为存在涌现。
而Fernando E. Rosas等人的工作中<ref name="closure">Rosas, F. E., Geiger, B. C., Luppi, A. I., Seth, A. K., Polani, D., Gastpar, M., & Mediano, P. A. (2024). Software in the natural world: A computational approach to hierarchical emergence. arXiv preprint arXiv:2402.09090.</ref>研究了三种闭合方式：因果闭合、信息闭合和计算闭合，作为尺度间是否独立演化的指标。这里的闭合是指宏观尺度对微观尺度的闭合。当达到闭合时，即代表宏观尺度达到了某种程度上的‘独立演化’。
==基础概念==
===软件和硬件===
作者们使用‘软件’和‘硬件’来类比系统。当我们使用一台电脑计算“1+2”的时候，我们知道这台电脑会得出“3”的结果。这是因为我们知道软件的输入是“1+2”，而不会这样想：把“1+2”翻译成一条二进制的机器码，交给软件的底层代码进行操作，得到“3”的机器码再翻译回来；更不会去想，计算机的硬件，比如CPU里各个组成中的晶片经过了什么样的变化来处理这条指令的。
所以，这代表了，这类计算机的软件和硬件是可以分开讨论的。虽然‘软件’需要依托在‘硬件’之上运行，所以‘软件’代表了某个宏观尺度，‘硬件’代表了某个微观尺度。软件中每一个计算都离不开硬件上的特定变化，但是当我们去理解‘软件’的运行规律的时候，却不需要回到‘硬件’层面上来解释。这就是‘软件’和‘硬件’之间的计算独立性：‘软件’（对‘硬件’）闭合了。
计算机中的软件和硬件是人类定义的，那自然界中的其他非人造系统中会不会也存在这样的软件硬件的区分呢？这就是这篇文章主要探讨的事情。
===单尺度因果态===
词条的上一部分已经介绍过了[[计算力学]]中因果态的概念，为了与原文符号对应，我们重新提供因果态的定义。在一个时序系统中，我们想要有一个ϵ-machine（ϵ-机器），能够根据当前时间步的状态和历史记忆，来预测未来状态。
无论系统是确定的或概率生成的，当我们已知 <math>t</math> 时刻的状态和历史记忆 <math>\overleftarrow{X_t}=\{... , X_{t-2}, X_{t-1}, X_t\}</math> 时，我们能够预测未来状态的轨迹 <math>p(\overrightarrow{X}^L_t| \overleftarrow{X_t})</math>，其中<math>\overrightarrow{X}^L_t=\{X_{t+1}, X_{t+2}, ... , X_{t+L}\}</math>，简写成<math>\overrightarrow{X_t}</math>。
不同时刻 <math>t</math> 和 <math>t'</math> 的状态和历史记忆虽然不完全一样，但是他们可能会导致同样的未来状态，<math>p(\overrightarrow{X_t}| \overleftarrow{X_t}) = p(\overrightarrow{X_t'}| \overleftarrow{X_t'}) </math>。所以，计算力学中把这些具有相同未来的 <math>\overleftarrow{X_t}</math> 划为等价euqivalent的状态，即<math>\overleftarrow{x_t} \equiv \overleftarrow{x_{t'}}\ \ \text{iff}\ \ p(\overrightarrow{x_t}| \overleftarrow{x_t} ) = p(\overrightarrow{x_{t'}}|\overleftarrow{x_{t'}}) </math>，并定义因果态<math>E = \{E_t\}_{t \in \mathbb{N} }, E_t = \epsilon( \overleftarrow{X_t} ) </math>
所以，ϵ-机器的工作是根据 <math>\overleftarrow{X_t}</math> 而判断 <math>t</math> 时刻系统处于哪个因果态 <math>E_t</math> ，并根据该因果态预测未来轨迹 <math>\overrightarrow{X_t}</math> 。
[[计算力学]]认为，包括人类在内的智能体，每时每刻都在对周围环境观察，得到大量的观测数据，并在自己的内部（大脑中）构建简洁的机制来预测观测数据的变化（一种隐马尔科夫模型），而因果态和ϵ-机器因其简洁性和有效性，被认为是一种最理想的预测机制模型。
我们可以从最小解释模型的角度出发来理解因果态。最小解释模型是指，我们要如何去用最简洁的宏观状态来解释和描述系统发生的现象，而且这种解释模型要在微观层面扰动时保持‘稳定’。所以它追求的是两方面：首先需要稳定，其次尺度越高越好。而这个宏观状态就是因果态。
[[文件:因果态示例.png|无|缩略图|500x500像素|因果态示例，出自Rosas于因果涌现读书会第五季第一期的分享]]
==跨尺度因果态==
设我们对微观动力学 <math>X_t</math> 粗粒化成宏观动力学 <math>Z_t = f(X_t)</math>，<math>f</math> 为粗粒化函数。上述的ϵ-机器只能处理在 <math>X</math> 空间上单一尺度的因果态，而作者们提出了另一种机器，υ-machine（υ-机器）来尝试定义跨尺度的计算机器和因果态。他们把因果态定义中的未来状态从微观的 <math>X</math> 改为宏观的 <math>Z</math>，并定义微观状态 <math>X</math> 中的等价关系为
<math>\overleftarrow{x_t} \equiv \overleftarrow{x_{t'}} \ \ \text{iff}\ \ p( \overrightarrow{z_t} | \overleftarrow{x_t}) = p(\overrightarrow{z_{t'}}| \overleftarrow{x_{t'}}) </math>
也就是说，υ-机器的目标不再是预测 <math>X</math> 的未来轨迹，而是其粗粒化后的 <math>Z</math> 的未来轨迹，并把拥有同样 <math>p(\overrightarrow{z_t}| \overleftarrow{x_t})</math> 的 <math>\overleftarrow{x_t}</math> 和 <math>\overleftarrow{x_{t'}}</math> 定义为υ-机器的因果态，<math>U = \{U_t\}_{t \in \mathbb{N} },\ U_t = υ( \overleftarrow{X_t} ) </math>
它的意义是什么呢？作者给出的解释是，υ-机器的因果态是一个最优的信息瓶颈：υ-机器是一种对 <math>\overleftarrow{x_t}</math> 最粗的粗粒化粒度，并满足对 <math>\overrightarrow{z_t}</math>的最大预测性的粗粒化方案。
所以，我们现在有三种机器：
# 微观动力学 <math>X_t</math> 本身的ϵ-机器，因果态为 <math>E</math>；
# 宏观动力学 <math>Z_t</math> 本身的ϵ-机器，因果态为 <math>E'</math>；
# 微观与宏观动力学 <math>Z_t = f(X_t)</math> 之间的υ-机器，因果态为 <math>U</math>；
[[文件:三种因果态.png|无|缩略图|400x400像素|三种因果态的示意图，摘录自文章原文]]
这三种机器的因果态有什么区别呢？首先，<math>U_t</math> 要比 <math>E'_t</math> 更强（powerful），因为后者只包括了宏观的信息，而前者同时包括了宏观和微观的信息。其次，<math>E_t</math> 要比 <math>U_t</math> 更强，因为 <math>U_t</math> 只保留了宏观的最大预测性，而 <math>E_t</math> 能保留微观的最大预测性（同时因为我们知道 <math>f</math> ，所以 <math>E_t</math> 也能保留宏观的最大预测性）。
我们能够了解一些关于它们的推断。
'''推断1'''：微观 <math>\overleftarrow{X_t}</math> 对宏观 <math>\overrightarrow{Z_t}</math> 提供的信息量 等于 υ-机器的因果态 <math>U_t</math> 提供的信息量，因为
<math>I(\overleftarrow{X_t}; \overrightarrow{Z_t})
= \sum_{\overleftarrow{x_t}} p(\overleftarrow{x_t}) D_{KL} \left ( p(\overrightarrow{z_t}|\overleftarrow{x_t}) || p(\overrightarrow{z_t}) \right )
= \sum_{u_t} p(u_t) D_{KL} \left ( p(\overrightarrow{z_t}|u_t) || p(\overrightarrow{z_t}) \right )
= I(U_t; \overrightarrow{Z_t})
</math>
'''推断2'''：υ-机器的因果态 <math>U_t</math> 对宏观 <math>\overrightarrow{Z_t}</math> 提供的信息量 大于等于 宏观 ϵ-机器的因果态 <math>E'_t</math>。证明如下：
首先，<math>I(E'_t ; \overrightarrow{Z_t}) = I( \overleftarrow{Z_t} ; \overrightarrow{Z_t})</math>；其次，<math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math>；
因为 <math>\overrightarrow{Z_t}</math> 是 <math>\overrightarrow{X_t}</math> 的粗粒化，所以 <math>I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math> 肯定比 <math>I( \overleftarrow{Z_t} ; \overrightarrow{Z_t})</math> 大。因此，<math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t}; \overrightarrow{Z_t}) \geq I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I(E'_t ; \overrightarrow{Z_t})</math>。证毕。
了解了跨尺度因果态的定义后，我们就能逐个了解这篇文章中的三种闭合定义。
<br/>
==因果闭合 Causal Closure==
因果闭合的定义为：<math>Z_t</math> 的ϵ-机器 与 <math>Z_t = f(X_t)</math> 之间的υ-机器 之间存在等价关系，即 <math>E'</math> 和 <math>U</math> 之间存在双射（bijective）投影关系（两个空间内的因果态分组相互一一对应）。
在这种情况下，不同 <math>\overleftarrow{X_t}</math> 对 <math>Z</math> 轨迹预测的差异也会在 <math>\overleftarrow{Z_t}</math> 上反映出来。也就是说，这些差异在粗粒化 <math>f</math> 过程中会被完全保留，不会被更改或抹除。
当我们对 <math>Z</math> 进行干预的时候，微观 <math>X</math> 的状态也会跟着改变，就像当我们加热了一锅水的时候，其中的水分子的能量也会改变。因果闭合的物理意义为：在宏观上的干预，和微观上与之对应的干预，作用在宏观层面上产生的结果完全相同。对 <math>Z</math> 空间进行的干预影响到 <math>X</math> 空间时，按照 <math>X</math> 的动力学进行演化后再粗粒化得到的 <math>Z</math>，与直接在 <math>Z</math> 空间上进行演化没有区别。
这说明了，当我们对 <math>Z</math> 进行干预的时候，仅凭 <math>Z</math> 自身的动力学就能正确的演化，不用再回到微观 <math>X</math> 层溯源。所以这就是宏观和微观之间因果闭合了，即宏观动力学在因果性上能做到独立的演化。因此，我们可以把宏观的结果 <math>\overrightarrow{Z_t}</math> 视为只来自于宏观的干预 <math>\overleftarrow{Z_t}</math> ，与微观 <math>\overleftarrow{X_t}</math> 无关。
<br/>
==信息闭合 Information Closure==
上面所述的因果闭合的建模基于动力学的因果态，强调因果的概念。我们也可以关注计算力学的另一方面，即计算与预测。
因果态对 <math>\overrightarrow{Z_t}</math> 预测能力可以写成信息论的形式，即变量对 <math>\overrightarrow{Z_t}</math> 提供的互信息。<math>Z_t</math> 本身的ϵ-机器和 <math>Z_t = f(X_t)</math> 之间的υ-机器的等价关系可以写成：
<math>I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math>
这说明了，宏观的 <math>\overleftarrow{Z_t}</math> 和微观的 <math>\overleftarrow{X_t}</math> 给 <math>\overrightarrow{Z_t}</math> 提供的信息量是一样的。所以，信息闭合是指，对于一个粗粒化后的宏观过程，已知其自身过去的信息 <math>\overleftarrow{Z_t}</math> 就足以进行最优预测，进一步引入底层（微观）<math>\overleftarrow{X_t}</math> 信息也不能提升预测能力——也就是说，微观的信息 <math>\overleftarrow{X_t}</math> 对宏观未来 <math>\overrightarrow{Z_t}</math> 的预测是冗余的。所谓一个尺度在某某方面闭合，便是在说这个尺度上系统可以“自给自足”，不需要再考虑其他尺度。
虽然定义方式不一样，但是我们不难看出，根据跨尺度因果态介绍中的推断2，因果闭合和信息闭合这两个对 <math>Z_t = f(X_t)</math> 的条件是等价的：由于<math>I(U_t ; \overrightarrow{Z_t}) = I(E'_t ; \overrightarrow{Z_t})</math>，所以<math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t}; \overrightarrow{Z_t}) = I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I(E'_t ; \overrightarrow{Z_t})</math>。
另外，当信息闭合时也满足：
<math>
I(\overrightarrow{Z_t}; \overleftarrow{X_t} | \overleftarrow{Z_t}) = I(\overleftarrow{Z_t}, \overleftarrow{X_t} ; \overrightarrow{Z_t}) - I(\overrightarrow{Z_t} ; \overleftarrow{Z_t}) = I(\overleftarrow{X_t} ; \overrightarrow{Z_t}) - I(\overrightarrow{Z_t} ; \overleftarrow{Z_t}) = 0
</math>
<br/>
==计算闭合 Computational Closure==
定义 <math>Z</math> 的ϵ-机器为计算闭合，当满足：存在粗粒化函数 <math>f^*</math>使得<math>E'_t = f^*(E_t)</math>，其中<math>E_t</math> 和 <math>E'_t</math> 分别为 <math>X</math> 和 <math>Z</math> 的ϵ-机器的因果态。
也就是说， <math>E_t</math> 和 <math>E'_t</math> 之间存在一个粗粒化的（一对一或多对一）映射关系。同样的，<math>X</math> 和 <math>Z</math> 之间也存在粗粒化的映射关系，所以我们可以看到这四个变量之间的关系可以归结于如下两条从 <math>X</math> 到 <math>E'</math> 的路径：
# <math>X \stackrel{\epsilon}{\rightarrow} E \stackrel{f^*}{\rightarrow} E'</math>
# <math>X \stackrel{f}{\rightarrow} Z \stackrel{\epsilon'}{\rightarrow} E'</math>
我们把 <math>f</math> 和 <math>f^*</math> 视作粗粒化算子，<math>\epsilon</math> 和 <math>\epsilon'</math> 视作因果态算子，那么我们看到两条路径中的粗粒化算子和因果态算子是可交换的。
[[文件:计算闭合可交换性.png|无|缩略图|计算闭合可交换性示意图，摘录自文章原文]]
上面提到过ϵ-机器可以看作最小解释模型，描述了动力学的机制。所以，因果态空间 <math>E</math> 和 <math>E'</math> 可以看作是动力学的‘机制空间’。而计算闭合的一个意义就是指出，这种动力学不仅在本来的变量/状态空间中能够被粗粒化 <math>f</math> ，而且动力学的机制也能够被粗粒化 <math>f^*</math>。所以，当计算闭合时，宏观 <math>Z</math> 空间的机制能通过粗粒化微观 <math>X</math> 空间的机制而获得。
对于一台机器，我们肯定希望它的宏观的计算过程要更加的简洁，也就是说宏观的ϵ-机器最好是微观的ϵ-机器的一种粗粒化。难道宏观机器还可以不是微观机器的粗粒化吗？粗粒化意味着宏观变量是微观变量的单射。这个映射过程可能引入更多的噪音，导致宏观过程的因果态反而比微观的还要多。我们看下面这样一个例子：
考虑一个马尔可夫链 <math>X</math>，有三个状态 <math>a</math>、<math>b</math> 和 <math>c</math>，<math>p(a,i)=p(b,i) > 0, \forall i</math>，<math>p(c,b)=0</math>，且 <math>p(b,a) \neq p(c,a)</math>。这样，微观ϵ-机器只有两个因果态，<math>\{a,b\}</math> 和 <math>c</math>。
假设我们的粗粒化分组方案为<math>\{a, \{b,c\}\}</math>，即<math>Z_t = A\ \text{if}\ X_t = a; Z_t = B\ \text{if}\ X_t = b\ or\ c</math>。 可以证明当 <math>Z</math> 连续处于 <math>B</math> 状态的时间越长，<math>X_t = c</math> 的概率就越高（因为 的转移被禁止），所以 <math>Z</math> 不是马尔可夫的。由于 <math>p(b,a) \neq p(c,a)</math>，因此 <math>Z</math> 的ϵ-机器需要区分以不同长度的 <math>B</math> 结尾的历史，例如 <math>\{A, (BA), (BBA), (BBBA)\}</math> 。所以， <math>E'</math> 的因果态数量多于 <math>E</math> 的因果态数量，因此 <math>E'</math> 不可能是 <math>E</math> 的粗粒化。
我们本以为，把底层系统用机器描述后，宏观层的ϵ-机可能只需把底层机器的状态合并即可。但事实远非如此。在这个例子中，原始系统有3个状态，但因为和看起来完全一样，所以微观机器只需要区分 和 两种状态。但宏观的粗粒化选择却是，把和映射到一个宏观状态上。因为底层动力学的特殊性，想预测下一个何时出现，宏观ϵ-机需要记住最近连续出现了几个。也就是说，'''宏观行为实际上增加了记忆长度'''，需要无穷多个不同的因果态，而不仅仅是简单的两种状态。所以，这并不是一个好的、满足计算闭合要求的粗粒化方案。
如果满足计算闭合的要求，我们就可以从计算模型的角度对一个系统进行多尺度建模。在考虑多尺度建模的时候，我们只需要关注各个尺度机器上的粗粒化过程即可。
计算闭合与前面的因果闭合/信息闭合之间的关系是：如果一个粗粒化函数 <math>Z_t = f(X_t)</math> 是因果闭合/信息闭合的，那它一定是计算闭合的。证明如下：
首先，υ-机器的因果态 <math>U_t</math> 是 微观 ϵ-机器的因果态 <math>E_t</math> 的一种粗粒化方案（证明请参照论文<ref name="closure" /> Proposition 2）。而且，因果闭合的条件说明了，<math>U_t</math> 等于宏观 ϵ-机器的因果态 <math>E'_t</math>。所以，<math>E'_t</math> 和 <math>E_t</math> 之间也应该存在粗粒化方案，满足计算闭合的条件。
==尺度闭合 与 成块性==
在论文<ref name=":Geiger">B. C. Geiger and C. Temmel, “Lumpings of Markov chains, entropy rate preservation, and higher-order lumpability,” J. Appl. Probab., vol. 51, no. 4, pp. 1114–1132, Dec. 2014, extended version: arXiv:1212.4375.</ref>中，作者给出了以下定理：
# 一个不可约irreducible，和非周期性aperiodic 的马尔科夫链 <math>X</math> ，<math>Z_t=f(X_t)</math> 是对 <math>X</math> 的状态空间上定义的粗粒化函数，那 <math>X</math> 的强成块性 '''在其达到稳态stationary分布时''' 等价于 <math>H(Z_{t+1}|Z_t) = H(Z_{t+1}|X_t) </math>。
# <math>X</math> 的弱成块性 '''在其达到稳态分布时''' 等价于 <math>H(Z_{t+1}|Z_t) = H(Z_{t+1}|Z_{<t}) </math>。
作者们<ref name="closure" />认为，当使用 <math>Z_t</math> 来预测 <math>Z_{t+1}</math> 时，可以拆分为两步：先利用宏观 <math>Z_t</math> 推断微观 <math>X_t</math>，再利用微观 <math>X_t</math> 估算宏观 <math>Z_{t+1}</math>。所以，
'''推断1'''：当一个马尔科夫链 <math>X_t</math> 存在粗粒化函数 <math>Z_t=f(X_t)</math>，而 <math>X_t</math> 对 <math>f</math> 强成块时，<math>Z_t</math> 满足因果闭合/计算闭合。（但是满足因果闭合/计算闭合的 <math>Z_t=f(X_t)</math> 不一定都是强成块的，详情请参考论文<ref name="closure" />反例6）。证明如下：
<math>
\begin{aligned}
I(\overrightarrow{Z_t}; \overleftarrow{X_t} | \overleftarrow{Z_t}) & = H(\overrightarrow{Z_t} | \overleftarrow{Z_t}) - H(\overrightarrow{Z_t} | \overleftarrow{X_t} , \overleftarrow{Z_t}) \\
& = H(\overrightarrow{Z_t} | \overleftarrow{Z_t}) - H(\overrightarrow{Z_t} | \overleftarrow{X_t}) \\
& = \sum_{l = t+1}^{t+L} \left ( H(Z_l | Z_{l-1}) - H(Z_l | \overrightarrow{Z_{t+1}}, X_t) \right ) \\
&\leq = \sum_{l = t+1}^{t+L} \left ( H(Z_l | Z_{l-1}) - H(Z_l | \overrightarrow{Z_{t+1}}, X_t) \right ) \\
&= 0
\end{aligned}
</math>
'''推断2'''：假设存在 <math>Z=f(E)=f(\epsilon(X))</math>，<math>E</math> 为 <math>X_t</math> 的ϵ-机器的因果态，那么 <math>E</math> 是弱成块的条件 等价于 <math>Z_t</math> 计算闭合的条件。证明如下：
首先，计算闭合的条件说明，<math>Z</math> 的ϵ-机器的因果态 <math>E'</math>与 <math>E</math>之间存在粗粒化函数 <math>f'</math>，所以 <math>E</math> 可以被粗粒化成具有马尔科夫性的 <math>E'</math>，满足了弱成块的定义。
而且， <math>E</math> 对 <math>f</math> 弱成块时，我们就能推断 <math>X</math> 也具有马尔科夫性，而 <math>Z</math> 的ϵ-机器的因果态 <math>E'</math>就是一个对 <math>Z</math> 马尔科夫链的粗粒化划分，写作 <math>E'_t = \epsilon' (Z_t) = \epsilon' ( f (E_t))</math>，所以因果态 <math>E'</math>与 <math>E</math>之间存在粗粒化函数，满足了计算闭合的条件。
下图为原文中提供的图例<ref name="closure" />，总结了上述概念之间的关系：
[[文件:闭合性的概念.png|500px]]
# 粗粒化函数 <math>f</math> 的因果闭合性 等价于 其信息闭合性。
# 当 <math>f</math> 因果/信息闭合时，它一定是计算闭合的。
# 当一个'''稳态的'''马尔科夫链 <math>X_t</math> 对 <math>Z_t = f(X_t)</math> 强成块时，它一定是因果/信息闭合的。
# 当'''稳态的''' <math>X_t</math>的因果态 <math>E_t</math> 对 <math>Z_t = f(E_t)</math> 弱成块时，<math>Z_t</math> 是计算闭合的。
<br/>