5,443
个编辑
更改
跳到导航
跳到搜索
第2行：
第2行： + + − 因果涌现的基本思想，即通过粗粒化而得到因果效应更强的系统可以追溯到Crutchfield等人的[[计算力学]]理论，以及Seth等人提出的[[格兰杰涌现]]等理论框架。然而，正式的[[因果涌现]]理论的提出则要等到2013年。+ 第20行：
第22行： − + − 下图是对该理论的一个抽象框架，其中，横坐标表示时间，纵坐标表示尺度（Scale）。该框架可以看成是对同一个动力系统在微观和宏观两种尺度上的描述。+ 第28行：
第30行： − 因果涌现详细的框架介绍可以参考本文：https://mp.weixin.qq.com/s/wlPUr0XQK0metYJu4FfGNw − − − === 有效信息 === − 基于有效信息的因果涌现理论是建立在离散状态的[[马尔科夫动力学]]，即[[马尔科夫链]]基础上的。Erik等人提出了有效信息（Effective Information，简称EI）这一关键指标，可以用来度量一个[[马尔科夫动力学]]的[[因果效应强度]]。+ 第46行：
第44行： − 有效信息的详细介绍介绍可以参考本文：https://mp.weixin.qq.com/s/ADeEMnDZR05Tj7mNoL2jVA
无编辑摘要
所谓的[[因果涌现]]是指对于同一个系统，其宏观的因果效应强度大于微观的现象。而基于[[有效信息]]的因果涌现理论是一种最早定量刻画[[因果涌现]]现象的理论，该理论由Erik Hoel等人于<ref name="hoel_2013">Hoel, E.P., Albantakis, L. and Tononi, G. Quantifying causal emergence shows that macro can beat micro[J]. Proceedings of the National Academy of Sciences, 2013, 110(49), 19790-19795.</ref>一文中提出，文章定义了一种因果效应度量指标，即[[有效信息]]，并将之用于量化一个马尔科夫动力学的因果性强弱，并在此基础上定义了因果涌现。在这个框架下，因果涌现被定义为伴随着我们对同一个系统的观察尺度从微观过渡到宏观，它的[[马尔科夫动力学]]的[[有效信息]]度量会提高的现象。其中，宏观动力学可以由对微观动力学的粗粒化操作而得到。通常，针对一个系统的粗粒化方案有很多，而Hoel的因果涌现框架需要找到'''使宏观动力学有效信息最大的最优粗粒化方法'''，即，如果经过最优粗粒化的宏观动力学的有效信息大于微观动力学的有效信息，则表明系统发生了因果涌现现象。
所谓的[[因果涌现]]是指对于同一个系统，其宏观的因果效应强度大于微观的现象。而基于[[有效信息]]的因果涌现理论是一种最早定量刻画[[因果涌现]]现象的理论，该理论由Erik Hoel等人于<ref name="hoel_2013">Hoel, E.P., Albantakis, L. and Tononi, G. Quantifying causal emergence shows that macro can beat micro[J]. Proceedings of the National Academy of Sciences, 2013, 110(49), 19790-19795.</ref>一文中提出，文章定义了一种因果效应度量指标，即[[有效信息]]，并将之用于量化一个马尔科夫动力学的因果性强弱，并在此基础上定义了因果涌现。在这个框架下，因果涌现被定义为伴随着我们对同一个系统的观察尺度从微观过渡到宏观，它的[[马尔科夫动力学]]的[[有效信息]]度量会提高的现象。其中，宏观动力学可以由对微观动力学的粗粒化操作而得到。通常，针对一个系统的粗粒化方案有很多，而Hoel的因果涌现框架需要找到'''使宏观动力学有效信息最大的最优粗粒化方法'''，即，如果经过最优粗粒化的宏观动力学的有效信息大于微观动力学的有效信息，则表明系统发生了因果涌现现象。
集智百科已经对因果涌现，有效信息等推出了精品词条，而本词条将从另一角度出发，重点回顾和拆解Erik早期论文中的实例，并给出了复现的算法思路，加深对基于有效信息的因果涌现理论的理解。
== 历史起源 ==
== 历史起源 ==
首先，因果涌现的基本思想，即通过粗粒化而得到因果效应更强的系统可以追溯到Crutchfield等人的[[计算力学]]理论，以及Seth等人提出的[[格兰杰涌现]]等理论框架。然而，正式的[[因果涌现]]理论的提出则要等到2013年。
这一年，Erik Hoel在美国科学院院刊（PNAS）上发表文章<ref name="hoel_2013" />，首次使用了[[有效信息]]指标用来定量描述涌现现象，并提出了[[因果涌现]]理论。其中，[[有效信息]]这一指标的提出可以追溯到[[Giulio Tononi]]等人在2003年的文章<ref name=tononi_2003>{{cite journal |last1=Tononi|first1=G.|last2=Sporns|first2=O.|title=Measuring information integration|journal=BMC Neuroscience|volume=4 |issue=31 |year=2003|url=https://doi.org/10.1186/1471-2202-4-31}}</ref>。在这篇文章中，[[有效信息]]是作为[[整合信息论]]中度量复杂系统信息整合能力的一部分而提出的。2013年，Erik Hoel与Tononi和Albantakis合作将[[有效信息]]应用到了[[因果涌现]]概念的刻画上。
这一年，Erik Hoel在美国科学院院刊（PNAS）上发表文章<ref name="hoel_2013" />，首次使用了[[有效信息]]指标用来定量描述涌现现象，并提出了[[因果涌现]]理论。其中，[[有效信息]]这一指标的提出可以追溯到[[Giulio Tononi]]等人在2003年的文章<ref name=tononi_2003>{{cite journal |last1=Tononi|first1=G.|last2=Sporns|first2=O.|title=Measuring information integration|journal=BMC Neuroscience|volume=4 |issue=31 |year=2003|url=https://doi.org/10.1186/1471-2202-4-31}}</ref>。在这篇文章中，[[有效信息]]是作为[[整合信息论]]中度量复杂系统信息整合能力的一部分而提出的。2013年，Erik Hoel与Tononi和Albantakis合作将[[有效信息]]应用到了[[因果涌现]]概念的刻画上。
复杂系统在宏观尺度和微观尺度有着不同的刻画和描述，体现为从不同的尺度去看一个复杂系统的时候，会得到完全不同的模式与动力学。当一个系统在宏观尺度能够展现出比它的微观尺度更强的因果效应，我们就称之为发生了因果涌现。
复杂系统在宏观尺度和微观尺度有着不同的刻画和描述，体现为从不同的尺度去看一个复杂系统的时候，会得到完全不同的模式与动力学。当一个系统在宏观尺度能够展现出比它的微观尺度更强的因果效应，我们就称之为发生了因果涌现。
根据Erik Hoel的基于“有效信息”（Effective Information）的理论，如果系统的动力学——即马尔科夫转移矩阵，以及粗粒化策略给定，就可以通过分别计算原马尔科夫矩阵和粗粒化后的马尔科夫矩阵的有效信息（EI），从而判断因果涌现是否发生。
根据Erik Hoel的基于“'''有效信息'''”（Effective Information）的理论，如果系统的动力学——即'''马尔科夫转移矩阵'''，以及'''粗粒化策略'''给定，就可以通过分别计算原马尔科夫矩阵和粗粒化后的马尔科夫矩阵的有效信息（EI），从而判断因果涌现是否发生。
下图是对该理论的一个抽象框架，其中，横坐标表示时间，纵坐标表示尺度（Scale），该框架可以看成是对同一个动力系统在微观和宏观两种尺度上的描述（详细介绍请阅读https://mp.weixin.qq.com/s/wlPUr0XQK0metYJu4FfGNw）。
[[文件:因果涌现理论.png|因果涌现理论框架|alt=因果涌现理论抽象框架|居左|400x400像素]]
[[文件:因果涌现理论.png|因果涌现理论框架|alt=因果涌现理论抽象框架|居左|400x400像素]]
其中，[math]f_m[/math] 表示微观动力学，[math]f_M[/math] 表示宏观动力学，宏观的状态和微观的状态通过一个粗粒化函数 [math]\phi[/math]相连。在一个离散状态的马尔科夫动力系统中，[math]f_m[/math] 和 [math]f_M[/math] 都是马尔科夫链，对 [math]f_m[/math] 进行[[马尔科夫链的粗粒化]]，就可以得到 [math]f_M[/math]。<math> EI </math> 是[[有效信息]]的度量。由于微观动力学可能具有更大的随机性，这导致微观动力学的[[因果效应强度]]比较弱，所以通过粗粒化，就有可能得到一个因果效应更强的宏观动力学。所谓的因果涌现，就是指粗粒化操作使得动力学的[[有效信息]]会增加这一现象，并且宏观动力学与微观动力学的[[有效信息]]之差被定义为'''因果涌现强度'''。
其中，[math]f_m[/math] 表示微观动力学，[math]f_M[/math] 表示宏观动力学，宏观的状态和微观的状态通过一个粗粒化函数 [math]\phi[/math]相连。在一个离散状态的马尔科夫动力系统中，[math]f_m[/math] 和 [math]f_M[/math] 都是马尔科夫链，对 [math]f_m[/math] 进行[[马尔科夫链的粗粒化]]，就可以得到 [math]f_M[/math]。<math> EI </math> 是[[有效信息]]的度量。由于微观动力学可能具有更大的随机性，这导致微观动力学的[[因果效应强度]]比较弱，所以通过粗粒化，就有可能得到一个因果效应更强的宏观动力学。所谓的因果涌现，就是指粗粒化操作使得动力学的[[有效信息]]会增加这一现象，并且宏观动力学与微观动力学的[[有效信息]]之差被定义为'''因果涌现强度'''。
正式进入实例计算前，在此简要回顾一下有效信息的计算（详细介绍可参考https://mp.weixin.qq.com/s/ADeEMnDZR05Tj7mNoL2jVA）：
<math>
<math>
其中<math>\tilde{X}_t,\tilde{X}_{t+1}</math>分别为把t时刻的[math]X_t[/math][[干预]]为[[均匀分布]]后，前后两个时刻的状态，而EI度量的就是在干预操作后，系统前后两个时刻状态之间的互信息。<math>p_{ij}</math>为第i个状态转移到第j个状态的转移概率。从这个式子，不难看出，EI仅仅是离散马尔科夫链概率转移矩阵[math]P[/math]的函数。进一步，如果马尔科夫链TPM按照行向量形式处理，EI可以写成更加简便的形式<math>EI =\frac{1}{N}\cdot \sum_{i=1}^N\left(P_i\cdot \log P_i - P_i\cdot\log \bar{P}\right)</math>，其中，[math]P_i[/math]是矩阵[math]P[/math]的第[math]i[/math]个行向量。
其中<math>\tilde{X}_t,\tilde{X}_{t+1}</math>分别为把t时刻的[math]X_t[/math][[干预]]为[[均匀分布]]后，前后两个时刻的状态，而EI度量的就是在干预操作后，系统前后两个时刻状态之间的互信息。<math>p_{ij}</math>为第i个状态转移到第j个状态的转移概率。从这个式子，不难看出，EI仅仅是离散马尔科夫链概率转移矩阵[math]P[/math]的函数。进一步，如果马尔科夫链TPM按照行向量形式处理，EI可以写成更加简便的形式<math>EI =\frac{1}{N}\cdot \sum_{i=1}^N\left(P_i\cdot \log P_i - P_i\cdot\log \bar{P}\right)</math>，其中，[math]P_i[/math]是矩阵[math]P[/math]的第[math]i[/math]个行向量。
=== 粗粒化映射 ===
=== 粗粒化映射 ===