更改

2017年，Erik Hoel<ref name="hoel_2017">Hoel, E.P. When the map is better than the territory[J]. Entropy, 2017, 19(5), p.188.</ref>引入信息论中香农定义的“信道容量”概念，提出系统中也存在类似“因果容量”。香农发现，信道上的信息传输速率对输入信号概率分布非常敏感，因此选择使系统输入输出互信息最大化的输入集合来定义信道容量，反映信道允许可靠传输信息的最大速率。类似地，在因果性度量中，根据定义，改变干预分布也会改变系统的[[有效信息]]，从微观映射到宏观层次的过程中实际改变了干预分布，因而发生因果性变化。除13年提出粗粒化用于改变干预分布之外<ref name="hoel_2013" />，作者还提出设置部分变量为外生变量的方式，例如设置其一直保持初始状态，或允许其“黑盒”式在干预下变化但无法查看，可以组合使用这些方法以提升系统的因果性。因此，因果容量被定义为一个系统以最大信息量和最有效的方式将干预转化为结果的能力，Erik Hoel还提出一个普遍的原则：系统使用的改变干预分布方式越多，因果容量就越接近信道容量。

2017年，Erik Hoel<ref name="hoel_2017">Hoel, E.P. When the map is better than the territory[J]. Entropy, 2017, 19(5), p.188.</ref>引入信息论中香农定义的“信道容量”概念，提出系统中也存在类似“因果容量”。香农发现，信道上的信息传输速率对输入信号概率分布非常敏感，因此选择使系统输入输出互信息最大化的输入集合来定义信道容量，反映信道允许可靠传输信息的最大速率。类似地，在因果性度量中，根据定义，改变干预分布也会改变系统的[[有效信息]]，从微观映射到宏观层次的过程中实际改变了干预分布，因而发生因果性变化。除13年提出粗粒化用于改变干预分布之外<ref name="hoel_2013" />，作者还提出设置部分变量为外生变量的方式，例如设置其一直保持初始状态，或允许其“黑盒”式在干预下变化但无法查看，可以组合使用这些方法以提升系统的因果性。因此，因果容量被定义为一个系统以最大信息量和最有效的方式将干预转化为结果的能力，Erik Hoel还提出一个普遍的原则：系统使用的改变干预分布方式越多，因果容量就越接近信道容量。

== 主要理论 ==

== 理论概述 ==

=== 马尔科夫动力系统 ===

=== 马尔科夫链 ===

最初，基于有效信息的因果涌现理论是基于离散状态的马尔科夫动力学，即马尔科夫链展开定量化描述的。

最初，基于有效信息的因果涌现理论是基于离散状态的马尔科夫动力学，即马尔科夫链展开定量化描述的。

=== 量化方法 ===

=== 有效信息 ===

下面将引入有效信息这一关键指标，介绍如何基于该指标量化马尔科夫动力系统的因果效应。

下面将引入有效信息这一关键指标，介绍如何基于该指标量化马尔科夫动力系统的因果效应。

[[有效信息]]（Effective Information，简称EI）是因果涌现理论中的一个核心概念，它可以用来度量一个马尔科夫动力学的因果效应强度，通常可以分解为两个部分：确定性（Determinism）和简并性（Degeneracy）。EI是因果机制的函数，而与其它因素无关，定义如下：

[[有效信息]]（Effective Information，简称EI）是因果涌现理论中的一个核心概念，它可以用来度量一个马尔科夫动力学的因果效应强度，通常可以分解为两个部分：确定性（Determinism）和简并性（Degeneracy）。EI是因果机制的函数，而与其它因素无关，定义如下：

==== 粗粒化映射 ====

=== 粗粒化映射 ===

宏观系统[math]S_M[/math]是由微观系统[math]S_m[/math]通过一定的映射方式[math]M: S_m \rightarrow S_M[/math]得到，宏观集[math]S_M[/math]的状态空间比微观集[math]S_m[/math]的小。粗粒化按操作对象可以分为基于状态空间、基于概率转移矩阵的粗粒化两种，详细描述见[[马尔科夫链的粗粒化]]。其中，状态空间的粗粒化又可以分为基于变量和基于状态进行两小类，本质都是对系统状态进行划分，区别在于基于变量操作对状态划分有一定约束，属于同一个变量的态被绑定在一起进行划分，不能分割开。

宏观系统[math]S_M[/math]是由微观系统[math]S_m[/math]通过一定的映射方式[math]M: S_m \rightarrow S_M[/math]得到，宏观集[math]S_M[/math]的状态空间比微观集[math]S_m[/math]的小。粗粒化按操作对象可以分为基于状态空间、基于概率转移矩阵的粗粒化两种，详细描述见[[马尔科夫链的粗粒化]]。其中，状态空间的粗粒化又可以分为基于变量和基于状态进行两小类，本质都是对系统状态进行划分，区别在于基于变量操作对状态划分有一定约束，属于同一个变量的态被绑定在一起进行划分，不能分割开。

===== 实现步骤 =====

==== 实现步骤 ====

对马尔科夫概率转移矩阵实施粗粒化，主要体现为三步：

对马尔科夫概率转移矩阵实施粗粒化，主要体现为三步：

===== 最优粗粒化 =====

==== 最优粗粒化 ====

通常，一个微观系统可以有很多种粗粒化的方式。衡量一个粗粒化方案的好坏，需要计算粗粒化得到的宏观系统的有效信息，有效信息最大的宏观系统，对应的粗粒化方案被认为是最优的。在Erik Hoel的因果涌现理论中，因果涌现是定义在最优粗粒化方案上的，即粗粒化后有效信息增益为正，即发生了因果涌现。注：下面给出的Erik Hoel论文实例，提供的也是最优粗粒化策略，即对应的宏观TPM有效信息最大。

通常，一个微观系统可以有很多种粗粒化的方式。衡量一个粗粒化方案的好坏，需要计算粗粒化得到的宏观系统的有效信息，有效信息最大的宏观系统，对应的粗粒化方案被认为是最优的。在Erik Hoel的因果涌现理论中，因果涌现是定义在最优粗粒化方案上的，即粗粒化后有效信息增益为正，即发生了因果涌现。注：下面给出的Erik Hoel论文实例，提供的也是最优粗粒化策略，即对应的宏观TPM有效信息最大。

==== 因果涌现度量 ====

=== 因果涌现度量 ===

基于有效信息的定义，我们可以量化系统粗粒化前后因果效应的变化，即度量[[因果涌现]]。下面给出了因果涌现框架的示意图。其中，横坐标表示时间（time），纵坐标表示尺度（scale）。该框架可以看成是对同一个动力系统在微观和宏观两种尺度上的描述。其中，[math]f_m[/math]表示微观动力学，[math]f_M[/math]表示宏观动力学，二者通过一个粗粒化函数[math]\phi[/math]相连。在一个离散状态的马尔科夫动力系统中，[math]f_m[/math]和[math]f_M[/math]都是[[马尔科夫链]]，对[math]f_m[/math]进行[[马尔科夫链的粗粒化]]，就可以得到[math]f_M[/math]。<math> EI </math>是[[有效信息]]的度量。由于微观态可能具有更大的随机性，这导致微观动力学的[[因果性]]比较弱，所以通过对每一个时刻的微观态进行合理的粗粒化，就有可能得到因果性更强的宏观态。

基于有效信息的定义，我们可以量化系统粗粒化前后因果效应的变化，即度量[[因果涌现]]。下面给出了因果涌现框架的示意图。其中，横坐标表示时间（time），纵坐标表示尺度（scale）。该框架可以看成是对同一个动力系统在微观和宏观两种尺度上的描述。其中，[math]f_m[/math]表示微观动力学，[math]f_M[/math]表示宏观动力学，二者通过一个粗粒化函数[math]\phi[/math]相连。在一个离散状态的马尔科夫动力系统中，[math]f_m[/math]和[math]f_M[/math]都是[[马尔科夫链]]，对[math]f_m[/math]进行[[马尔科夫链的粗粒化]]，就可以得到[math]f_M[/math]。<math> EI </math>是[[有效信息]]的度量。由于微观态可能具有更大的随机性，这导致微观动力学的[[因果性]]比较弱，所以通过对每一个时刻的微观态进行合理的粗粒化，就有可能得到因果性更强的宏观态。

==== 因果涌现与因果容量 ====

=== 因果涌现与因果容量 ===

Erik Hoel还提出 EI 与 Claude Shannon 的信息论之间的联系<ref name="hoel_2017" />。信息论中信息传输需要经过信道，信道由两个有限集合X和Y组成，分别为信道的输入和输出，对于每个[math]x \in X[/math]，有一个转移概率[math]p(y|x)[/math]的集合，使得对于每个X和Y， [math]p(y|x) \geq 0[/math]，对于每个X，[math]\sum_y p(y|x) = 1[/math]，这个集合称为通道矩阵。信道由通道矩阵控制，矩阵是固定不变的。同样，因果结构由干预与其效果之间的关系控制，这种关系也是固定不变的。信道和因果结构都可以表示为转移概率矩阵。在某些情况下，如果一个信道矩阵的转移概率与因果结构中某组状态之间转换的转移概率相同，那么它们的TPM将是相同的。因果结构实际上是一个矩阵，用于将前一状态转化为下一状态。

Erik Hoel还提出 EI 与 Claude Shannon 的信息论之间的联系<ref name="hoel_2017" />。信息论中信息传输需要经过信道，信道由两个有限集合X和Y组成，分别为信道的输入和输出，对于每个[math]x \in X[/math]，有一个转移概率[math]p(y|x)[/math]的集合，使得对于每个X和Y， [math]p(y|x) \geq 0[/math]，对于每个X，[math]\sum_y p(y|x) = 1[/math]，这个集合称为通道矩阵。信道由通道矩阵控制，矩阵是固定不变的。同样，因果结构由干预与其效果之间的关系控制，这种关系也是固定不变的。信道和因果结构都可以表示为转移概率矩阵。在某些情况下，如果一个信道矩阵的转移概率与因果结构中某组状态之间转换的转移概率相同，那么它们的TPM将是相同的。因果结构实际上是一个矩阵，用于将前一状态转化为下一状态。