更改

=== 状态依赖的因果分析 ===

=== 状态依赖的因果分析 ===

S的微观机制规定了其在微观时间步t上的状态之间的转移概率矩阵(TPM)。基于Judea Pearl的因果分析扰动框架 (14; 18)，TPM可以在t0时刻(13)将S扰动为以等概率(1/n)处于可能的n个初始状态得到[do(S=si) ∀i∈1…n]，对应得到可能原因的无约束库UC (概率分布)，这种扰动的方法使得S0以最大熵分布，公平的概率分布可以避免外生状态集对因果模型的影响，打破与其他观测历史的关系，从而分离出对系统单纯的因果影响。原因分布决定了在t+1时刻各结果状态的概率，对应于可能结果的无约束库UE。虽然UC等同于均匀分布U [p(s) = 1/n;∀s∈S]，但是UE通常不是均匀分布的。系统当前状态S = s0与可能导致该状态的过去状态概率分布(通过贝叶斯规则获得的“原因库SP|s0”)，以及可能成为其结果的未来状态概率分布(“结果库SF|s0”)相关联。因此，系统的机制和当前状态同时限制了可能的原因库UC和结果库UE。一种系统中因果相互作用的信息度量(15)方式因此可以被定义为有约束和无约束分布之间的差异[这里是Kullback - Leibler散度(D_KL) (16)]:

[math]S[/math]的微观机制规定了其在微观时间步[math]t[/math]上的状态之间的转移概率矩阵(TPM)。基于Judea Pearl的因果分析扰动框架 (14,18)，TPM可以在[math]t_0[/math]时刻(13)将[math]S[/math]扰动为以等概率[math](1/n)[/math]处于可能的[math]n[/math]个初始状态得到[math]\left[ do(S = s_i) \ \forall i \in 1 \dots n \right][/math]，对应得到可能原因的无约束库[math]U^C[/math] (概率分布)，这种扰动的方法使得[math]S0[/math]以最大熵分布，公平的概率分布可以避免外生状态集对因果模型的影响，打破与其他观测历史的关系，从而分离出对系统单纯的因果影响。原因分布决定了在[math]t+1[/math]时刻各结果状态的概率，对应于可能结果的无约束库[math]U^E[/math]。虽然[math]U^C[/math]等同于均匀分布，但是[math]U^E[/math]通常不是均匀分布的。系统当前状态[math]S = s_0[/math]与可能导致该状态的过去状态概率分布(通过贝叶斯规则获得的“原因库[math]S_P \mid s_0[/math]”)，以及可能成为其结果的未来状态概率分布(“结果库[math]S_F \mid s_0[/math]”)相关联。因此，系统的机制和当前状态同时限制了可能的原因库UC和结果库UE。一种系统中因果相互作用的信息度量(15)方式因此可以被定义为有约束和无约束分布之间的差异[这里是Kullback - Leibler散度([math]D_{KL}[/math]) (16)]:

<math>

<math>

</math>

</math>

'''确定性系数'''是系统状态的结果库和均匀分布(U)之间的差异DKL((SF|s0), U)，除以log2(n)，衡量的是根据S0确定系统未来状态的确定性(可靠)程度：当前状态完全导向未来单一状态概率时，该系数为1(完全确定性)；当同等地导向未来每个状态时(即p = 1/n)，该系数为0(完全不确定性或噪声)。'''简并性系数'''度量从其他状态收敛由S0指定的未来状态的确定性程度(非噪声引起)。广义上，简并是指多条确定性路径导向了同一个结果或功能 (17,18)。当S0为任意状态都导向了同一个未来状态时，简并性系数为1(完全简并)；而每个S0状态都导向不同的未来状态时，简并性系数为0(无简并性)。

'''确定性系数'''是系统状态的结果库和均匀分布(U)之间的差异[math]D_{KL}((S_F \mid s_0), U)[/math]，除以[math]log2(n)[/math]，衡量的是根据[math]S_0[/math]确定系统未来状态的确定性(可靠)程度：当前状态完全导向未来单一状态概率时，该系数为1(完全确定性)；当同等地导向未来每个状态时(即[math]p = 1/n[/math])，该系数为0(完全不确定性或噪声)。'''简并性系数'''度量从其他状态收敛由S0指定的未来状态的确定性程度(非噪声引起)。广义上，简并是指多条确定性路径导向了同一个结果或功能 (17,18)。当[math]S_0[/math]为任意状态都导向了同一个未来状态时，简并性系数为1(完全简并)；而每个[math]S_0[/math]状态都导向不同的未来状态时，简并性系数为0(无简并性)。

在完全噪声或者完全退化(简并)的系统中，原因系数和结果系数都是最小的(0)(图1 C, D)，在确定性和非退化(简并)的系统中系数达到最大(1)。单一状态对系统确定性和简并性的贡献最好通过分解结果系数得到。虽然原因系数也反映了系统的简并性和确定性，但在此不作进一步细分。

在完全噪声或者完全退化(简并)的系统中，原因系数和结果系数都是最小的(0)(图1 C, D)，在确定性和非退化(简并)的系统中系数达到最大(1)。单一状态对系统确定性和简并性的贡献最好通过分解结果系数得到。虽然原因系数也反映了系统的简并性和确定性，但在此不作进一步细分。

[[文件:图1.具有不同因果结构的实例系统的因果系数.png|600x600像素|居左|替代=|无框]]

 

[[文件:图1.具有不同因果结构的实例系统的因果系数.png|缩略图]]

 

 

=== 状态独立的因果分析 ===

=== 状态独立的因果分析 ===

</math>

</math>

这两个计算式等价，因为当前假设为为时不变系统(time invariant, <t-1 -> t0> = <t0 ->t+1>)，原因信息和结果信息通过贝叶斯公式关联。EI也是所有可能原因和结果之间的互信息(mutual information, MI), MI(UC;UE)。

这两个计算式等价，因为当前假设为为时不变系统(time invariant, [math]\langle t_{-1} \rightarrow t_0\rangle = \langle t_0 \leftarrow t_{+1} \rangle[/math])，原因信息和结果信息通过贝叶斯公式关联。[math]EI[/math]也是所有可能原因和结果之间的互信息(mutual information, MI), [math]MI(U^C;U^E)[math]。

作为一种因果度量方法，EI度量了系统中由因导向果的有效性(确定性和独特性)，以及从果寻因的选择性。和状态依赖的方法一样，系统内因果相互作用的有效性(Eff)也由用EI进行系统状态大小归一化后得到：Eff(S) = EI(S)/log2(n)，Eff也可以被分解为确定性和简并性两部分：

作为一种因果度量方法，EI度量了系统中由因导向果的有效性(确定性和独特性)，以及从果寻因的选择性。和状态依赖的方法一样，系统内因果相互作用的有效性([math]Eff[/math])也由用EI进行系统状态大小归一化后得到：[math]{Eff}(S) = \frac{\text{EI}(S)}{\log_2(n)}[/math]，Eff也可以被分解为确定性和简并性两部分：

<math>

<math>

</math>

</math>

因此，对于给定的系统规模，EI的最大值对应Eff(S) = 1，并且随着不确定性(由噪声引起的分散)或简并性(确定性收敛)而减小，对于完全噪声或简并性系统，Eff(S) = 0(图1c和D)。在具有最大有效性的系统中(图1B)，每个原因都有一个唯一的结果，每个结果都有一个唯一的原因。因此，这样一个系统[Eff(S) = 1]是完全可回溯/可预测的，从TPM中不仅可以推导出所有状态的唯一的未来轨迹，也可以推导出所有状态的唯一的过去轨迹(完全因果可逆性)。

因此，对于给定的系统规模，EI的最大值对应[math]{Eff}(S) = 1[/math]，并且随着不确定性(由噪声引起的分散)或简并性(确定性收敛)而减小，对于完全噪声或简并性系统，[math]{Eff}(S) = 0[/math](图1c和D)。在具有最大有效性的系统中(图1B)，每个原因都有一个唯一的结果，每个结果都有一个唯一的原因。因此，这样一个系统[math]{Eff}(S) = 1[/math]是完全可回溯/可预测的，从TPM中不仅可以推导出所有状态的唯一的未来轨迹，也可以推导出所有状态的唯一的过去轨迹(完全因果可逆性)。

=== 分析的尺度 ===

=== 分析的尺度 ===

一个有限的离散系统S可以在不同的尺度上考虑，从最细粒度的微观因果模型Sm到各种粗粒度因果模型SM，。假设所有宏观尺度SM都“随附”于微观尺度Sm：给定Sm的微观元素以及它们之间的因果关系，系统S的所有可能因果模型的集合{S}中的所有其他模型也都是确定的(19)。尽管Sm可以确定SM，但任何SM都可能被许多不同的较低尺度的描述所确定，这种特性被称为“多重可实现性”(20)。

一个有限的离散系统[math]S[/math]可以在不同的尺度上考虑，从最细粒度的微观因果模型[math]S_m[/math]到各种粗粒度因果模型[math]S_M[/math]。假设所有宏观尺度[math]S_M都[/math]随附于微观尺度[math]S_m[/math]：给定[math]S_m[/math]的微观元素以及它们之间的因果关系，系统[math]S[/math]的所有可能因果模型的集合[math]\{S\}[/math]中的所有其他模型也都是确定的(19)。尽管[math]S_m[/math]可以确定[math]S_M[/math]，但任何[math]S_M[/math]都可能被许多不同的较低尺度的描述所确定，这种特性被称为“多重可实现性”(20)。

=== 分组 ===

=== 分组 ===

微观元素是二值的且用拉丁字母{A, B, C…}标记，宏观元素用希腊字母{α， β， γ. .}标记。微观状态标记为{1,0}，宏观状态标记为{“on”，“bursting”，“quiet”…)。微观元素可以在空间上、时间上或两者同时以某种方式组合成宏观元素。微观状态通过M: Sm→SM的映射组合成宏观状态。这种映射对微观元素而言，必须是穷尽(exhaustive)和互斥的(disjunctive)(一个微观元素的所有状态必须映射到同一个宏观元素的各种状态；系统的状态空间减小，宏观元素可以由单个微观元素组成)。此外，这种映射必须保证微观尺度的信息在宏观尺度上是不可用的(分组到宏观元素后微观尺度的个体信息将丢失)。例如，按照[[00,01,10]= off， [11] = on]的方法将两个微量元素的四种状态分配为一个宏观元素的两种状态是可以的，而按[[00,01]，[10,11]]分组是不允许的，因为区分01和10需要知道微观元素本身的信息。

微观元素是二值的且用拉丁字母{A, B, C…}标记，宏观元素用希腊字母{α， β， γ. .}标记。微观状态标记为{1,0}，宏观状态标记为{“on”，“bursting”，“quiet”…)。微观元素可以在空间上、时间上或两者同时以某种方式组合成宏观元素。微观状态通过M: [math]S_m \rightarrow S_M[/math]的映射组合成宏观状态。这种映射对微观元素而言，必须是穷尽(exhaustive)和互斥的(disjunctive)(一个微观元素的所有状态必须映射到同一个宏观元素的各种状态；系统的状态空间减小，宏观元素可以由单个微观元素组成)。此外，这种映射必须保证微观尺度的信息在宏观尺度上是不可用的(分组到宏观元素后微观尺度的个体信息将丢失)。例如，按照[[00,01,10]= off， [11] = on]的方法将两个微量元素的四种状态分配为一个宏观元素的两种状态是可以的，而按[[00,01]，[10,11]]分组是不允许的，因为区分01和10需要知道微观元素本身的信息。

=== 特定尺度的扰动 ===

=== 特定尺度的扰动 ===

微观尺度Sm的因果分析需要将S等概率地设置为所有可能的微观状态(即测试所有微观可能状态)，然后决定结果效应。当对宏观尺度SM进行分析，S也需要类似地以相同的概率设置为所有可能的宏观状态(即测试所有宏观可能状态)。当对任何宏观尺度进行因果度量时，需要将S设置为所有nmicro个微观状态{Sm}，分组进入相应的宏观状态SM，对效应进行平均。以上通过进行“宏观扰动” 实现：

微观尺度[math]S_m[/math]的因果分析需要将[math]S[/math]等概率地设置为所有可能的微观状态(即测试所有微观可能状态)，然后决定结果效应。当对宏观尺度[math]S_M[/math]进行分析，[math]S[/math]也需要类似地以相同的概率设置为所有可能的宏观状态(即测试所有宏观可能状态)。当对任何宏观尺度进行因果度量时，需要将[math]S[/math]设置为所有[math]n_{micro}[/math]个微观状态[math]{S_m}[/math]，分组进入相应的宏观状态[math]S_M[/math]，对效应进行平均。以上通过进行“宏观扰动” 实现：

<math>

<math>

</math>

</math>

通过使用宏观扰动的办法，我们可以得到将Sm进行任意尺度粗粒化后的因/果信息和EI。宏观尺度的EI等价于宏观因果集之间的MI。

通过使用宏观扰动的办法，我们可以得到将Sm进行任意尺度粗粒化后的因/果信息和EI。宏观尺度的[math]EI[/math]等价于宏观因果集之间的[math]MI[/math]。

=== 因果涌现/退化 ===

=== 因果涌现/退化 ===

最后，通过评估不同尺度Sm粗粒化后的EI(S)，我们可以提问{S}的因果尺度在哪个粗粒度达到最大值。这提供了因果涌现的一种分析定义，用比特表示:CE = EI(SM) – EI(Sm)。

最后，通过评估不同尺度[math]S_m[/math]粗粒化后的[math]{EI}(S)[/math]，我们可以提问{S}的因果尺度在哪个粗粒度达到最大值。这提供了因果涌现的一种分析定义，用比特表示:[math]CE = EI(SM) – EI(Sm)[/math]。

因此，如果在宏观尺度SM上EI(S)最大，而非微观尺度Sm，则CE > 0，说明发生了因果涌现。但如果在每个宏观尺度下都有CE < 0，则该系统有因果退化的属性。虽然这里的重点是相对于微观尺度Sm的涌现/退化，但上述方法依然可用于比较不同宏观尺度下的因果性。

因此，如果在宏观尺度[math]S_M[/math]上[math]EI(S)[/math]最大，而非微观尺度[math]S_m[/math]，则[math]CE[/math] > 0，说明发生了因果涌现。但如果在每个宏观尺度下都有[math]CE[/math] < 0，则该系统有因果退化的属性。虽然这里的重点是相对于微观尺度[math]S_m[/math]的涌现/退化，但上述方法依然可用于比较不同宏观尺度下的因果性。

如上所述，[math]EI(S)[/math]既取决于系统状态库的大小，也取决于其机制的有效性。当从一个系统尺度到另一个尺度时，这两项都随着状态空间变化而变化，并且单个状态相对于过去的选择性，以及相对于未来的确定或简并性也随之变化。状态库大小和机制有效性对于[math]\Delta EI(S)[/math]的相对信息贡献可以用以下式子表示：

如上所述，[math]EI(S)[/math]既取决于系统状态库的大小，也取决于其机制的有效性。当从一个系统尺度到另一个尺度时，这两项都随着状态空间变化而变化，并且单个状态相对于过去的选择性，以及相对于未来的确定或简并性也随之变化。状态库大小和机制有效性对于[math]\Delta EI(S)[/math]的相对信息贡献可以用以下式子表示：

== 结果 ==

== 结果 ==

使用定制的Python程序对系统所有粗粒化尺度进行因果分析[只有EI(S)最大的SM显示在图中]。数据图绘制使用的是MATLAB。下面，我们考虑空间、时间和时空涌现的案例(空间退化案例见图S1)。

使用定制的Python程序对系统所有粗粒化尺度进行因果分析[只有[math]EI(S)[/math]最大的SM显示在图中]。数据图绘制使用的是MATLAB。下面，我们考虑空间、时间和时空涌现的案例(空间退化案例见图S1)。

=== 空间因果涌现 ===

=== 空间因果涌现 ===

作为一个原理证明(proof-of-principle)的案例，考虑一个由四个01元素组成的系统Sm = {ABCD} (图2A)。每个微观机制都是一个带有噪声的与门AND-gate(针对两个输入)。通过将系统以等概率设置为从[0000]到[1111]的所有可能的微观状态来构建16 × 16 Sm TPM矩阵(图2B)。在微观尺度Sm，有效信息EI(S) = 1.15 bits(最大取值为4 bits)，有效信息Eff(Sm) = 0.29。宏观尺度SM(图2D)由两个元素{α, β}组成，每个元素都有状态{"on" ,"off"}，是由图2C中的映射M定义的Sm的粗粒化方法。通过将系统以等概率设置为从[off, off]到[on, on]的所有可能的宏观状态，可以得到4 × 4 的SM TPM(图2E)。宏观尺度，EI(SM) = 1.55 bits，高于EI(Sm) = 1.15 bits。因此，CE(S) = 0.40 bits，说明在这种情况下，宏观SM的因果性优于微观Sm，构成了系统S的最优因果模型。这是因为SM的TPM更接近于完美的有效性[Eff(SM) = 0.78]，并且通过粗粒化分组有效性提升增加的信息量ΔIEff = 0.97 bits超过了尺寸减少损失的信息量ΔISize = - 0.57 bits。在这个例子中，在宏观尺度上的有效性ΔIEff的增益(91%)主要来自于抵消噪声干扰[确定性系数(Sm) = 0.34;(SM) = 0.78]，少部分(9%)来源于简并性减少[简并系数 (Sm) = 0.05;(SM) = 0.006]。

作为一个原理证明(proof-of-principle)的案例，考虑一个由四个01元素组成的系统[math]S_m[/math] = {ABCD} (图2A)。每个微观机制都是一个带有噪声的与门AND-gate(针对两个输入)。通过将系统以等概率设置为从[0000]到[1111]的所有可能的微观状态来构建16 × 16 [math]S_m[/math] TPM矩阵(图2B)。在微观尺度[math]S_m[/math]，有效信息[math]EI(S)[/math] = 1.15 bits(最大取值为4 bits)，有效信息[math]Eff(Sm)[/math] = 0.29。宏观尺度[math]S_M[/math](图2D)由两个元素{α, β}组成，每个元素都有状态{"on" ,"off"}，是由图2C中的映射M定义的[math]S_m[/math]的粗粒化方法。通过将系统以等概率设置为从[off, off]到[on, on]的所有可能的宏观状态，可以得到4 × 4 的[math]S_M[/math] TPM(图2E)。宏观尺度，[math]EI(S_M)[/math] = 1.55 bits，高于[math]EI(S_m)[/math] = 1.15 bits。因此，CE(S) = 0.40 bits，说明在这种情况下，宏观[math]S_M[/math]的因果性优于微观[math]S_m[/math]，构成了系统[math]S[/math]的最优因果模型。这是因为[math]S_M[/math]的TPM更接近于完美的有效性[[math]Eff(S_M)[/math] = 0.78]，并且通过粗粒化分组有效性提升增加的信息量[math]\Delta I_{\text{Eff}}[/math] = 0.97 bits超过了尺寸减少损失的信息量[math]\Delta I_{\text{Size}}[/math] = - 0.57 bits。在这个例子中，在宏观尺度上的有效性[math]\Delta I_{\text{Eff}}[/math]的增益(91%)主要来自于抵消噪声干扰[确定性系数([math]S_m[/math]) = 0.34;([math]S_M[/math]) = 0.78]，少部分(9%)来源于简并性减少[简并系数 ([math]S_m[/math]) = 0.05;([math]S_M[/math]) = 0.006]。

以状态依赖的方式比较Sm和SM，也可以得到宏观尺度有效性更高的结果。以图3为例，将Sm状态{ABCD} =[0001]与相应SM状态{αβ} = [off, off]的因果分布进行对比。将Sm =[0001]的因果分布与无约束库(使用DKL散度)进行比较，得到0.83 bits的原因信息和0.43 bits的结果信息。而对于宏观SM，原因信息为2 bits，结果信息为1.35 bits。因此，{αβ} = [off, off]比{ABCD} =[0001]更有选择性和可信度，宏观战胜了微观。

以状态依赖的方式比较[math]S_m[/math]和[math]S_M[/math]，也可以得到宏观尺度有效性更高的结果。以图3为例，将[math]S_m[/math]状态{ABCD} =[0001]与相应[math]S_M[/math]状态{αβ} = [off, off]的因果分布进行对比。将[math]S_m[/math] =[0001]的因果分布与无约束库(使用[math]D_{KL}[/math]散度)进行比较，得到0.83 bits的原因信息和0.43 bits的结果信息。而对于宏观[math]S_M[/math]，原因信息为2 bits，结果信息为1.35 bits。因此，{αβ} = [off, off]比{ABCD} =[0001]更有选择性和可信度，宏观战胜了微观。

因果涌现可能不仅源于宏观尺度确定性的提高 (如上所述)，也可能源于简并性的减少。图4中，微观元素A-F是确定性AND门，连接方式对应了高简并度(图4A，确定性= 1；简并度= 0.6)，得到Eff(Sm) = 0.4, EI(Sm) = 2.43 bits(图4C)。最优宏观粗粒化分组将6个微观AND门组合成3个宏观COPY门(αβγ)(图4B)。宏观和微观都是确定性的，但通过消除简并性ΔIEff = 1.79 bits> - ΔISize = 1.22位。因此，Eff(SM) = 1, EI (SM) = 3 bits，宏观因果涌现于微观(CE = 0.57 bits)之上。

因果涌现可能不仅源于宏观尺度确定性的提高 (如上所述)，也可能源于简并性的减少。图4中，微观元素A-F是确定性AND门，连接方式对应了高简并度(图4A，确定性= 1；简并度= 0.6)，得到[math]Eff(S_m)[/math] = 0.4, [math]EI(S_m)[/math] = 2.43 bits(图4C)。最优宏观粗粒化分组将6个微观AND门组合成3个宏观COPY门(αβγ)(图4B)。宏观和微观都是确定性的，但通过消除简并性[math]\Delta I_{\text{Eff}}[/math] = 1.79 bits> - [math]\Delta I_{\text{Size}}[/math] = 1.22 bits。因此，[math]Eff(S_M)[/math] = 1, [math]EI(S_M)[/math] = 3 bits，宏观因果涌现于微观(CE = 0.57 bits)之上。

图2 3 4

图2 3 4

=== 时间因果涌现 ===

=== 时间因果涌现 ===

通过时间进行微观状态分组也会有涌现现象发生，将微观时间步骤(tx) 粗粒化为宏观时间步骤(Tx)。图5中的实例中展示了微观的元素，在接收到两个尖峰的输入“burst”时，会响应一个输出burst。因此，元素在输入和输出上可以表示为二阶马尔可夫机制(图5A)。图5B显示，在一个微观时间步内评估得到的因果相互作用是很弱的[EI(Sm) = 0.16 bits;Eff(Sm) = 0.03]，因为一个微观时间步无法捕捉到二阶机制。相比之下，基于两个微观时间步的因果分析(图5C)可以得到EI = 1.38 bits和Eff(Sm) = 0.34。微观状态在时间上分组为宏观状态α = {At, At+1}和β = {Bt, Bt+1}(图5D)，和图2中的空间分组:{00,01,10}= {off}和{11}= {on}相类似。在宏观时间步长上，系统变得完全确定性和非简并，EI(SM) = 2 bits，Eff(SM) = 1, CE(S) = 0.62bits (图5E, F)。

通过时间进行微观状态分组也会有涌现现象发生，将微观时间步骤([math]t_x[/math]) 粗粒化为宏观时间步骤([math]T_x[/math])。图5中的实例中展示了微观的元素，在接收到两个尖峰的输入“burst”时，会响应一个输出burst。因此，元素在输入和输出上可以表示为二阶马尔可夫机制(图5A)。图5B显示，在一个微观时间步内评估得到的因果相互作用是很弱的[[math]EI(S_m)[/math] = 0.16 bits;[math]Eff(S_m)[/math] = 0.03]，因为一个微观时间步无法捕捉到二阶机制。相比之下，基于两个微观时间步的因果分析(图5C)可以得到EI = 1.38 bits和[math]Eff(S_m)[/math] = 0.34。微观状态在时间上分组为宏观状态α = {At, At+1}和β = {Bt, Bt+1}(图5D)，和图2中的空间分组:{00,01,10}= {off}和{11}= {on}相类似。在宏观时间步长上，系统变得完全确定性和非简并，[math]EI(S_M)[/math] = 2 bits，[math]Eff(S_M)[/math] = 1, [math]CE(S)[/math] = 0.62bits (图5E, F)。

图5

图5

=== 时空因果涌现 ===

=== 时空因果涌现 ===

一般而言，涌现可以在空间和时间上同时发生(图6)。如图5所示，图6A中9个类神经的微观元素遵循二阶马尔可夫机制，它们分别在两个微时间步(t-2, t-1和t0, t+1)上整合输入和输出[类似NMDA受体更长的时间常数 (21)]。此外，在上面的例子中，在一个宏观元素中的微观成分是彼此不相连的，是因果上是完全等价的。为了证明这不是因果涌现的必要条件，在图6中，微观成分是完全连接的，并且是因果异质性的(未显示自连接)。所有成分自发活动(1)，具有非均匀概率:p(A/D/G) = 0.45;p(B/E/H) = 0.5;p(C/F/I) = 0.55。根据不同的组内和组间机制，将元素分为三组{ABC, DEF, GHI}：在每组内，如果组内连接之和Σ(intra) = 0(两个时间步)，所有元素保持为0(对于接下来的两个时间步)。然而，如果在两个时间步(同步活动爆发)中，与另外两组中的一组或两组的组间连接之和Σ(inter) = 6，则在接下来的两个时间步中，p(1)提高0.5(具有相同规则的空间系统的宏观和微观TPMs见图S2)。在宏观尺度SM(图6B)，三组神经元分组为宏观成分，两个微观时间步长(tx)被聚合为一个宏观时间步长(Tx)。在神经学术语中，这些宏观成分可以表示具有三种状态的“微柱”:“抑制态inhibited”(所有微柱神经元在Tx时静默)，“感受态receptive”(部分在Tx时放电)或“爆发态bursting”(所有在Tx处放电)。宏观的因果相互作用可以总结如下:如果其中一个宏观成分处于抑制态，那么只有接收到一次放电burst才能转换到接受态或(不太可能的)爆发态;否则，它将一直保持抑制态。与前面的例子一样，粗粒化后的SM有更高的EI(SM) = 3.51 bits，和Eff(SM) = 0.74，[EI(Sm) = 0.59 bits; Eff(Sm) = 0.033]。在这种情况下，时空因果涌现[CE(S) = 2.92 bits]是由于确定性的增加程度远超简并性轻微增加和状态集减小。

一般而言，涌现可以在空间和时间上同时发生(图6)。如图5所示，图6A中9个类神经的微观元素遵循二阶马尔可夫机制，它们分别在两个微时间步([math]t_{-2}[/math], [math]t_{-1}[/math]和[math]t_0[/math], [math]t{+1}[/math])上整合输入和输出[类似NMDA受体更长的时间常数 (21)]。此外，在上面的例子中，在一个宏观元素中的微观成分是彼此不相连的，是因果上是完全等价的。为了证明这不是因果涌现的必要条件，在图6中，微观成分是完全连接的，并且是因果异质性的(未显示自连接)。所有成分自发活动(1)，具有非均匀概率:p(A/D/G) = 0.45;p(B/E/H) = 0.5;p(C/F/I) = 0.55。根据不同的组内和组间机制，将元素分为三组{ABC, DEF, GHI}：在每组内，如果组内连接之和Σ(intra) = 0(两个时间步)，所有元素保持为0(对于接下来的两个时间步)。然而，如果在两个时间步(同步活动爆发)中，与另外两组中的一组或两组的组间连接之和Σ(inter) = 6，则在接下来的两个时间步中，p(1)提高0.5(具有相同规则的空间系统的宏观和微观TPMs见图S2)。在宏观尺度SM(图6B)，三组神经元分组为宏观成分，两个微观时间步长([math]t_x[/math])被聚合为一个宏观时间步长([math]T_x[/math])。在神经学术语中，这些宏观成分可以表示具有三种状态的“微柱”:“抑制态inhibited”(所有微柱神经元在Tx时静默)，“感受态receptive”(部分在Tx时放电)或“爆发态bursting”(所有在Tx处放电)。宏观的因果相互作用可以总结如下:如果其中一个宏观成分处于抑制态，那么只有接收到一次放电burst才能转换到接受态或(不太可能的)爆发态;否则，它将一直保持抑制态。与前面的例子一样，粗粒化后有更高的[math]EI(S_M)[/math] = 3.51 bits，和[math]Eff(S_M)[/math] = 0.74，[[math]EI(S_m)[math] = 0.59 bits; [math]Eff(S_m)[/math] = 0.033]。在这种情况下，时空因果涌现[[math]CE(S)[/math] = 2.92 bits]是由于确定性的增加程度远超简并性轻微增加和状态集减小。

图6

图6

互信息I(X,Y)最初是由Claude Shannon提出的度量，用来捕获可以在信道上传输的信息的速率。互信息I(X,Y)可以表示为:

互信息I(X,Y)最初是由Claude Shannon提出的度量，用来捕获可以在信道上传输的信息的速率。互信息I(X,Y)可以表示为:

I(X;Y) = H(X) - H(X|Y)

I(X; Y) = H(X) - H(X \mid Y)

H(X)表示源的总可能熵，在因果分析中对应某组干预ID，因此H(X) = H(ID)。条件熵H(X|Y)捕获在考虑Y后关于X的剩余信息。因此，H(X|Y)有一个明确的因果解释，即在一系列干预措施中丢失的信息量。更具体地说，它是由于缺乏有效性而丢失的信息。从已知条件熵公式H(X|Y) = H(X)−I(X;Y)，通过替换因果术语得到H(ID|ED) = H(ID)−I(ID;ED)，我们可以得到H(ID|ED) = H(ID)−(H(ID)∗eff)。再次通过转换H(ID|ED) =(1−eff)∗H(ID)可证明，H(ID|ED)确实捕获了缺乏的有效性。

H(X)表示源的总可能熵，在因果分析中对应某组干预ID，因此H(X) = H(ID)。条件熵H(X|Y)捕获在考虑Y后关于X的剩余信息。因此，H(X|Y)有一个明确的因果解释，即在一系列干预措施中丢失的信息量。更具体地说，它是由于缺乏有效性而丢失的信息。从已知条件熵公式H(X|Y) = H(X)−I(X;Y)，通过替换因果术语得到H(ID|ED) = H(ID)−I(ID;ED)，我们可以得到H(ID|ED) = H(ID)−(H(ID)∗eff)。再次通过转换H(ID|ED) =(1−eff)∗H(ID)可证明，H(ID|ED)确实捕获了缺乏的有效性。

EI = I(ID-)

EI = I(I_D; E_D) = H(I_D) - H(I_D \mid E_D) = H(I_D) - ((1 - eff) \cdot H(I_D)) = eff \cdot H(I_D).

因此，我们可以直接说明宏观如何战胜微观:虽然H(ID)在宏观尺度上必然减少，但条件熵H(ID|ED)可能会更大程度地减少，从而使总互信息提高。

因此，我们可以直接说明宏观如何战胜微观:虽然H(ID)在宏观尺度上必然减少，但条件熵H(ID|ED)可能会更大程度地减少，从而使总互信息提高。

信道具有一定的容量，容量具体是指一个信道以最具信息量和最可靠的方式将输入转化为输出的能力。Shannon发现，信道上的信息传输速率对输入概率分布p(X)的变化很敏感。信道(C)的容量由使互信息最大化的输入集合来定义，这也是信道能够可靠传输信息的最大速率:

信道具有一定的容量，容量具体是指一个信道以最具信息量和最可靠的方式将输入转化为输出的能力。Shannon发现，信道上的信息传输速率对输入概率分布p(X)的变化很敏感。信道(C)的容量由使互信息最大化的输入集合来定义，这也是信道能够可靠传输信息的最大速率:

C = max

C = \max_{p(X)} I(X; Y)

因果涌现理论揭示了系统中存在类似的因果容量。因果容量(CC)是一个系统以最大信息量和最有效的方式将干预转化为结果的能力：

因果涌现理论揭示了系统中存在类似的因果容量。因果容量(CC)是一个系统以最大信息量和最有效的方式将干预转化为结果的能力：

CC = max

CC = \max_{(I_D)} (I_D; E_D).

正如改变通道的输入概率p(X)会增加I(X;Y)一样，改变干预分布(ID)也会增加EI。宏观使用的干预改变或扭曲了ID，导致因果涌现。相应地，拥有 EImax的宏观尺度因果模型(及其关联的ID和ED)是最充分利用系统因果容量的模型。尽管ID有这种扭曲，但从某些宏观尺度来看，ID仍然处于Hmax，因为每个do(sM)都是等概率的(ED是一组宏观效应)。

正如改变通道的输入概率p(X)会增加I(X;Y)一样，改变干预分布(ID)也会增加EI。宏观使用的干预改变或扭曲了ID，导致因果涌现。相应地，拥有 EImax的宏观尺度因果模型(及其关联的ID和ED)是最充分利用系统因果容量的模型。尽管ID有这种扭曲，但从某些宏观尺度来看，ID仍然处于Hmax，因为每个do(sM)都是等概率的(ED是一组宏观效应)。

由此可见，系统的更高时空尺度是什么:一种因果结构的通道编码形式。宏观尺度是一种消除因果关系不确定性的编码，从而利用了更多可用的因果容量。图7使用输入X、输出Y (t, t+1)的TPM给出了这种因果编码的示例:

由此可见，系统的更高时空尺度是什么:一种因果结构的通道编码形式。宏观尺度是一种消除因果关系不确定性的编码，从而利用了更多可用的因果容量。图7使用输入X、输出Y (t, t+1)的TPM给出了这种因果编码的示例:

要通过具有以上属性的信道矩阵发送信息，需要定义一些编码/解码函数。信息可能是一些二进制字符串，例如，通过某个ID生成的{001011010011}。编码函数φ: {message}→{encoder}是一个规则，它将一些信道输入和一些输出，以及一些解码函数ψ联系起来。编码/解码函数一起创建了码本。

要通过具有以上属性的信道矩阵发送信息，需要定义一些编码/解码函数。信息可能是一些二进制字符串，例如，通过某个ID生成的{001011010011}。编码函数φ: {message}→{encoder}是一个规则，它将一些信道输入和一些输出，以及一些解码函数ψ联系起来。编码/解码函数一起创建了码本。

例如，考虑一个由8个状态组成的马尔可夫链系统:

例如，考虑一个由8个状态组成的马尔可夫链系统:

其中链中的一些状态在转换过程中是完全随机的。如果ID为Hmax，则EI为0.63 bits。然而，每个因果模型都隐含地将变量分类为模型的内生或外生变量。例如，在这里，我们可以将最后两种状态(s7, s8)作为宏观因果模型的内生状态，而将其余状态作为外生状态。从状态空间减小的角度出发，这个限制带来的仍然是一个宏观模型。对于系统的宏观因果模型EI = 1 bit，意味着因果涌现发生，再次因为ID被模型选择扭曲。这种扭曲本身可以量化为干预分布H(ID)中的熵损失:

其中链中的一些状态在转换过程中是完全随机的。如果ID为Hmax，则EI为0.63 bits。然而，每个因果模型都隐含地将变量分类为模型的内生或外生变量。例如，在这里，我们可以将最后两种状态(s7, s8)作为宏观因果模型的内生状态，而将其余状态作为外生状态。从状态空间减小的角度出发，这个限制带来的仍然是一个宏观模型。对于系统的宏观因果模型EI = 1 bit，意味着因果涌现发生，再次因为ID被模型选择扭曲。这种扭曲本身可以量化为干预分布H(ID)中的熵损失:

ID(warped)

I_D(\text{warped}) = \begin{bmatrix} 0 & 0 & 0 & 0 & 0 & 0 & \frac{1}{2} & \frac{1}{2} \end{bmatrix} \\

将带噪声或退化状态置为因果模型的外生状态可以导致因果涌现，所以这里可以设置一些外生元素。

将带噪声或退化状态置为因果模型的外生状态可以导致因果涌现，所以这里可以设置一些外生元素。