更改

第1行: 第1行:  
[[基于可逆性的因果涌现理论]]是一种量化[[因果涌现 Causal Emergence|因果涌现]]的新框架,该方法基于奇异值分解,提出了近似动力学可逆性(<math>\Gamma_{\alpha}</math>)的概念,用于量化[[马尔科夫动力学]]接近可逆动力学的程度,该指标在离散的马尔科夫链和连续的具有高斯噪声的连续马尔科夫系统都有相应的表达方式与物理含义;与此同时,该理论还提出了一种不依赖于粗粒化方案就能直接根据动力学的奇异值谱判断因果涌现是否发生的方法。经过理论推导和数值实验证明,在对因果涌现的判断和量化问题上,基于近似可逆性指标的因果涌现判断与[[Erik Hoel]]等人提出的基于[[有效信息]](EI)指标最大化的因果涌现判断是等效的,且<math>\log\Gamma_{\alpha}</math>和EI是存在着渐近近似线性的关系;而在连续高斯噪声迭代系统中,研究者可以推导出一个近似的线性关系公式以表达两种指标的联系。此外,该理论还提出了基于奇异值分解(SVD)的新粗粒化策略,并通过实验证明了该方法的有效性。
 
[[基于可逆性的因果涌现理论]]是一种量化[[因果涌现 Causal Emergence|因果涌现]]的新框架,该方法基于奇异值分解,提出了近似动力学可逆性(<math>\Gamma_{\alpha}</math>)的概念,用于量化[[马尔科夫动力学]]接近可逆动力学的程度,该指标在离散的马尔科夫链和连续的具有高斯噪声的连续马尔科夫系统都有相应的表达方式与物理含义;与此同时,该理论还提出了一种不依赖于粗粒化方案就能直接根据动力学的奇异值谱判断因果涌现是否发生的方法。经过理论推导和数值实验证明,在对因果涌现的判断和量化问题上,基于近似可逆性指标的因果涌现判断与[[Erik Hoel]]等人提出的基于[[有效信息]](EI)指标最大化的因果涌现判断是等效的,且<math>\log\Gamma_{\alpha}</math>和EI是存在着渐近近似线性的关系;而在连续高斯噪声迭代系统中,研究者可以推导出一个近似的线性关系公式以表达两种指标的联系。此外,该理论还提出了基于奇异值分解(SVD)的新粗粒化策略,并通过实验证明了该方法的有效性。
   −
=简介=
+
=历史简介=
    
[[因果涌现]](causal emergence)是指动力系统中的一类特殊的[[涌现]]现象,即系统在宏观尺度会展现出更强的因果特性。特别的,对于一类[[马尔科夫动力系统]]来说,在对其状态空间进行适当的[[粗粒化]]以后,所形成的宏观动力学会展现出比微观更强的因果特性——即更大的[[有效信息]],那么我们称该系统发生了因果涌现<ref name=":0">Hoel E P, Albantakis L, Tononi G. Quantifying causal emergence shows that macro can beat micro[J]. Proceedings of the National Academy of Sciences, 2013, 110(49): 19790-19795.</ref><ref name=":1">Hoel E P. When the map is better than the territory[J]. Entropy, 2017, 19(5): 188.</ref>。2013年,Hoel等人<ref name=":0"></ref>最早提出了[[基于有效信息的因果涌现理论]],该理论利用[[有效信息]](Effective Information,简称EI)来度量一个动力学的[[因果效应]],并用这一度量来量化复杂系统中的涌现现象。2020年,Rosas等<ref name=":rosas">Rosas F E, Mediano P A, Jensen H J, et al. Reconciling emergences: An information-theoretic approach to identify causal emergence in multivariate data[J]. PLoS computational biology, 2020, 16(12): e1008289.</ref>又从[[信息论|信息理论]]视角出发,提出一种基于[[信息分解]]方法的[[Rosas的因果涌现理论|因果涌现理论]],该理论用[[协同信息]]或者[[特有信息]]来定量刻画涌现。2023年,Barnett等人<ref name=":seth">Barnett L, Seth AK. Dynamical independence: discovering emergent macroscopic processes in complex dynamical systems. Physical Review E. 2023 Jul;108(1):014304.</ref>基于[[转移熵]],通过判断宏观动力学与微观动力学的解耦程度来判断涌现的发生,将因果涌现刻画为宏观的变量与微观的变量相互独立的现象。
 
[[因果涌现]](causal emergence)是指动力系统中的一类特殊的[[涌现]]现象,即系统在宏观尺度会展现出更强的因果特性。特别的,对于一类[[马尔科夫动力系统]]来说,在对其状态空间进行适当的[[粗粒化]]以后,所形成的宏观动力学会展现出比微观更强的因果特性——即更大的[[有效信息]],那么我们称该系统发生了因果涌现<ref name=":0">Hoel E P, Albantakis L, Tononi G. Quantifying causal emergence shows that macro can beat micro[J]. Proceedings of the National Academy of Sciences, 2013, 110(49): 19790-19795.</ref><ref name=":1">Hoel E P. When the map is better than the territory[J]. Entropy, 2017, 19(5): 188.</ref>。2013年,Hoel等人<ref name=":0"></ref>最早提出了[[基于有效信息的因果涌现理论]],该理论利用[[有效信息]](Effective Information,简称EI)来度量一个动力学的[[因果效应]],并用这一度量来量化复杂系统中的涌现现象。2020年,Rosas等<ref name=":rosas">Rosas F E, Mediano P A, Jensen H J, et al. Reconciling emergences: An information-theoretic approach to identify causal emergence in multivariate data[J]. PLoS computational biology, 2020, 16(12): e1008289.</ref>又从[[信息论|信息理论]]视角出发,提出一种基于[[信息分解]]方法的[[Rosas的因果涌现理论|因果涌现理论]],该理论用[[协同信息]]或者[[特有信息]]来定量刻画涌现。2023年,Barnett等人<ref name=":seth">Barnett L, Seth AK. Dynamical independence: discovering emergent macroscopic processes in complex dynamical systems. Physical Review E. 2023 Jul;108(1):014304.</ref>基于[[转移熵]],通过判断宏观动力学与微观动力学的解耦程度来判断涌现的发生,将因果涌现刻画为宏观的变量与微观的变量相互独立的现象。
   −
然而,现有的[[因果涌现]]理论存在着一定的局限性。例如,基于[[有效信息的因果涌现理论]]是一个依赖于粗粒化方案的理论,不同的粗粒化策略会得到完全不同的因果涌现判断结果。尽管这一局限可以通过最大化有效信息<ref name=":maxEI">Mingzhe Yang, Zhipeng Wang, Kaiwei Liu, et al. Finding emergence in data by maximizing effective information. National Science Review, 2024, nwae279</ref>选取粗粒化策略得到一定程度的解决,但是该优化问题还是很难求解。Rosas等人提出了用[[协同信息]]量化涌现的方法<ref name=":rosas" />,但是这种计算涉及到多个变量的所有组合,因而计算量会随着变量数的增加而呈现指数增长。Rosas进一步提出了近似计算方案,但是该方法与Erik Hoel的因果涌现理论一样,需要事先指定粗粒化方案及其涌现变量<ref name=":rosas" />。同样地,Seth等人更早提出的用[[格兰杰因果]]量化涌现理论也需要在粗粒化方案给定的情况下展开讨论<ref name=":seth"/>。对于粗粒化方案的过分依赖会使得这些量化涌现理论在不同程度上依赖于观察者的粗粒化策略,因而带有一定的主观色彩。那么,是否存在着一种不依赖于粗粒化方案的因果涌现理论呢?
+
然而,现有的[[因果涌现]]理论存在着一定的局限性。例如,基于[[有效信息的因果涌现理论]]是一个依赖于粗粒化方案的理论,不同的粗粒化策略会得到完全不同的因果涌现判断结果。尽管这一局限可以通过最大化有效信息<ref name=":maxEI">Mingzhe Yang, Zhipeng Wang, Kaiwei Liu, et al. Finding emergence in data by maximizing effective information. National Science Review, 2024, nwae279</ref>选取粗粒化策略得到一定程度的解决,但是该优化问题还是很难求解。Rosas等人提出了用[[协同信息]]量化涌现的方法<ref name=":rosas" />,但是这种计算涉及到多个变量的所有组合,因而计算量会随着变量数的增加而呈现指数增长。Rosas进一步提出了近似计算方案,但是该方法与Erik Hoel的因果涌现理论一样,需要事先指定粗粒化方案或涌现变量<ref name=":rosas" />。同样地,Seth等人更早提出的用[[格兰杰因果]]量化涌现理论也需要在粗粒化方案给定的情况下展开讨论<ref name=":seth"/>。对于粗粒化方案的过分依赖会使得这些量化涌现理论在不同程度上依赖于观察者的粗粒化策略,因而不能完全反映系统动力学的性质。那么,是否存在着一种不依赖于粗粒化方案的因果涌现理论呢?
   −
2024年,[[张江]]等人<ref name=":22">Zhang J, Tao R, Yuan B. Dynamical Reversibility and A New Theory of Causal Emergence. arXiv preprint arXiv:2402.15054. 2024 Feb 23.</ref>基于[[奇异值分解]],提出了一套新的因果涌现理论。该理论的核心思想是指出所谓的因果涌现其实等价于动力学可逆性的涌现。给定一个系统的马尔科夫转移矩阵,通过对它进行[[奇异值分解]],将奇异值的<math>\alpha</math>次方之和定义为马尔科夫动力学的近似可逆性度量(<math>\Gamma_{\alpha}\equiv \sum_{i=1}^N\sigma_i^{\alpha}</math>),这里[math]\sigma_i[/math]为奇异值,[math]\alpha[/math]为一个参数,用以刻画最终指标偏向于衡量确定性或简并性的程度,通常我们取[math]\alpha=1[/math],表示平权考虑确定性或简并性对最终可逆性度量的影响。该指标与[[有效信息]]具有高度的相关性,也可以用于刻画动力学的[[因果效应强度]]。根据奇异值的谱,该方法可以在不显式定义粗粒化方案的条件下,直接定义所谓'''清晰因果涌现'''(clear causal emergence)和'''模糊因果涌现'''(vague causal emergence)的概念。
+
2024年,[[张江]]等人<ref name=":22">Zhang J, Tao R, Yuan B. Dynamical Reversibility and A New Theory of Causal Emergence. arXiv preprint arXiv:2402.15054. 2024 Feb 23.</ref>基于[[奇异值分解]],提出了一套新的因果涌现理论。该理论的核心思想是指出所谓的因果涌现其实等价于动力学可逆性的涌现。给定一个系统的马尔科夫转移矩阵,通过对它进行[[奇异值分解]],将奇异值的<math>\alpha</math>次方之和定义为马尔科夫动力学的近似可逆性度量(<math>\Gamma_{\alpha}\equiv \sum_{i=1}^N\sigma_i^{\alpha}</math>),这里[math]\sigma_i[/math]为奇异值,[math]\alpha[/math]为一个参数,用以刻画最终指标偏向于衡量确定性或简并性的程度,通常我们取[math]\alpha=1[/math],表示平权考虑确定性或简并性对最终可逆性度量的影响。该指标与[[有效信息]]具有高度的相关性,因而也可以用于刻画动力学的[[因果效应强度]]。根据奇异值的谱,该方法可以在不显式定义粗粒化方案的条件下,直接定义所谓'''清晰因果涌现'''(clear causal emergence)和'''模糊因果涌现'''(vague causal emergence)的概念。
   −
直观地说,如果将一个[[马尔科夫链]]看作是一个通信信道,每一行转移概率看作是一个信息通路(informaiton pathway),则该系统发生因果涌现等价于系统中存在着冗余的信息通路——与其它信息通路相似或线性相关,而消除这些冗余通路的最好办法就是利用SVD找到最小的奇异值所对应的信息通路代表的方向进行粗粒化。系统所能达到的最大信息传输效率的提升(归一化的近似动力学可逆性),就可以被定义为因果涌现的强度。可以证明,这种利用奇异值和奇异向量找到的粗粒化方案实际上与基于最大有效信息粗粒化方案本质上是一致的。
+
直观地说,如果将一个马尔科夫动力学看作是一个通信信道,那么,每一状态下的概率转移就看作是一个信息通路(informaiton pathway),于是该系统发生因果涌现就等价于系统中存在着冗余的信息通路——存在着一些状态转移与其它状态转移相似或线性相关,而消除这些冗余通路的最好办法就是利用SVD找到等于零或接近于零的奇异值以及对应的奇异向量,这实际上正是最大化有效信息的精髓所在。事实上,我们可以证明,最大化宏观动力学有效信息的粗粒化方案近似等价于将系统的动力学向较大奇异值对应的奇异向量方向做投影的粗粒化方案。而且,系统所能达到的最大信息传输效率的提升(归一化的近似动力学可逆性),就可以定义为因果涌现的强度。
   −
2025年,基于可逆性的的因果涌现理论<ref name=":15" />又被成功地拓展到了高斯噪声迭代系统之中([math]X_{t+1}=a_0+AX_t+\xi_t[/math])。对于一个具有高斯噪声的迭代系统,我们可以类比马尔科夫转移矩阵计算奇异值的方法,利用泛函分析和傅里叶变换的方法,得到频域空间中连续动力系统的可逆性度量指标<math>\Gamma_{\alpha}\equiv \int_{-\infty}^\infty\sigma^{\alpha}(\omega)</math>。而与离散状态空间不同,对于连续的空间,无论<math>n</math>取多少<math>\mathcal{R}^n</math>之间状态数量都是无穷,状态空间的势(反应集合中点的数量)是相同的,因此无法直接从状态上进行约减。我们需要把涌现的研究对象,从概率空间转移到变量空间,而<math>\Gamma_{\alpha}</math>恰好与正向动力学的协方差矩阵的逆矩阵<math>\Sigma^{-1}</math>与逆向动力学的协方差矩阵的逆矩阵<math>A^T\Sigma^{-1}A</math>都正相关,两个协方差矩阵在一起可以反映变量空间在动力学意义下的可逆性。因此在满足高斯噪声的连续变量空间,我们也可以在不显式定义粗粒化方案的条件下,直接定义所谓'''清晰因果涌现'''和'''模糊因果涌现'''。
+
2025年,基于可逆性的的因果涌现理论<ref name=":15" />又被成功地拓展到了高斯噪声迭代系统之中([math]X_{t+1}=a_0+AX_t+\xi_t[/math])。对于一个具有高斯噪声的迭代动力系统,我们可以类比马尔科夫转移矩阵计算奇异值的方法,利用泛函分析和傅里叶变换,得到频域空间中连续动力系统的可逆性度量指标<math>\Gamma_{\alpha}\equiv \int_{-\infty}^\infty\sigma^{\alpha}(\omega)</math>。而与离散状态空间不同,对于连续的空间,无论状态空间的维数<math>n</math>取多少<math>\mathcal{R}^n</math>之间状态数量都是无穷的,状态空间的势(反应集合中点的数量)也都是相同阶的无穷大,因此我们无法直接从状态上进行约减,而需要把涌现的研究对象,从概率空间转移到变量空间,而<math>\Gamma_{\alpha}</math>恰好与正向动力学的协方差矩阵的逆矩阵<math>\Sigma^{-1}</math>与逆向动力学的协方差矩阵的逆矩阵<math>A^T\Sigma^{-1}A</math>都正相关,两个协方差矩阵在一起可以反映变量空间在动力学意义下的可逆性。在变量空间,因果涌现的含义即系统的动力学中存在着冗余的维度,而通过粗粒化方案将动力学向较大奇异值对应的奇异向量上投影,我们便可以获得最大化的维度平均可逆性的提升,这一潜在的提升能力就可以被定义为因果涌现的定量化度量。因此在满足高斯噪声的连续变量空间,我们也可以在不显式定义粗粒化方案的条件下,直接定义所谓'''清晰因果涌现'''和'''模糊因果涌现'''。
   −
基于可逆性的因果涌现理论与已有的其他因果涌现理论最大的区别就是不需要指定粗粒化策略,仅从马尔科夫转移矩阵或高斯迭代系统的奇异值谱就能判断因果涌现的发生,一定程度上规避了因果涌现结果依赖于粗粒化策略的问题和最大化有效信息的难以优化求解的问题。
+
基于可逆性的因果涌现理论与已有的其他因果涌现理论最大的区别就是不需要指定粗粒化策略,仅从马尔科夫转移矩阵或高斯迭代系统的奇异值谱就能判断因果涌现的发生,一定程度上规避了因果涌现结果依赖于粗粒化策略的问题和最大化有效信息的难以优化求解的问题。其次,这套理论指出一个动力系统的因果涌现特性仅仅是系统线性化算符的奇异值谱决定的,因而是一套更加反映系统动力学特性本身的因果涌现理论。
    
=基本概念=
 
=基本概念=