更改

添加6,098字节 、 2024年8月16日 (五) 07:15
词条框架已吸收共创任务群组的意见,结合读者背景,做了调整。
第4行: 第4行:  
此研究领域由圣塔菲研究所的詹姆斯.P.克拉奇菲尔德(James P. Crutchfield)所开创,北京师范大学系统科学学院教授[[张江|张江]],在参加圣塔菲研究所2007暑期夏令营(SFI 2007 Beijing Summer School)的过程中,结识了克拉奇菲尔德和他的同伴Shalizi,并对计算力学展开了讨论,互相向在座的各位提供了洞察力。此后十多年的一段时间该领域文献的解读和出版相对沉寂,而张江老师仍致力于复杂性科学、人工智能领域的知识服务工作。最终张江老师不忘科研初心,立志建立复杂系统科研的新高地,于是在2021年底在成功注册“集智俱乐部”实体的基础上,连续举办了一系列复杂系统相关的读书会。而计算力学的若干文献则在《因果涌现读书会》得到解读,相关研究者趋之若鹜。借着《因果涌现读书会》的春风,计算力学也迎来新的历史发展机遇。
 
此研究领域由圣塔菲研究所的詹姆斯.P.克拉奇菲尔德(James P. Crutchfield)所开创,北京师范大学系统科学学院教授[[张江|张江]],在参加圣塔菲研究所2007暑期夏令营(SFI 2007 Beijing Summer School)的过程中,结识了克拉奇菲尔德和他的同伴Shalizi,并对计算力学展开了讨论,互相向在座的各位提供了洞察力。此后十多年的一段时间该领域文献的解读和出版相对沉寂,而张江老师仍致力于复杂性科学、人工智能领域的知识服务工作。最终张江老师不忘科研初心,立志建立复杂系统科研的新高地,于是在2021年底在成功注册“集智俱乐部”实体的基础上,连续举办了一系列复杂系统相关的读书会。而计算力学的若干文献则在《因果涌现读书会》得到解读,相关研究者趋之若鹜。借着《因果涌现读书会》的春风,计算力学也迎来新的历史发展机遇。
   −
计算力学的早期工作涉及“计量涌现(The Calculi of Emergence)”,试图对复杂系统、统计物理、热力学的某个尺度进行度量。随后克拉奇菲尔德和他的同伴,发现并证明用因果态表征<math>\epsilon-machine</math>定义下的深度(热力学复杂度或统计复杂度),能提供计算力学范畴的最小复杂度和最佳预测性,是复杂度理想化的一处浅滩。若想了解更多,请加入《因果涌现读书会》参与相关课题的研究和讨论。
+
计算力学的早期工作涉及“量化涌现(The Calculi of Emergence)”,试图对复杂系统、统计物理、热力学的某个尺度进行度量。随后克拉奇菲尔德和他的同伴,发现并证明用因果态表征<math>\epsilon-machine</math>定义下的深度(热力学复杂度或统计复杂度),能提供计算力学范畴的最小复杂度和最佳预测性,是复杂度理想化的一处浅滩。若想了解更多,请加入《因果涌现读书会》参与相关课题的研究和讨论。
    
== 历史渊源 ==
 
== 历史渊源 ==
    
圣塔菲研究所的詹姆斯.P.克拉奇菲尔德(James P. Crutchfield)在1989年 - 2001年期间,以香农信息论,和其他跨学科理论为基础,发布了一系统文献,提出了计算力学的概念。其中包括:
 
圣塔菲研究所的詹姆斯.P.克拉奇菲尔德(James P. Crutchfield)在1989年 - 2001年期间,以香农信息论,和其他跨学科理论为基础,发布了一系统文献,提出了计算力学的概念。其中包括:
−
* 1989 推理统计复杂度<ref name=":0">James P. Crutchfield, Karl Young. Inferring Statistical Complexity. PHYSICAL REVIEW LETTERS, VOLUME 63, NUMBER 2. 10 JULY 1989</ref>
+
* 1989 《Inferring Statistical Complexity》<ref name=":0">James P. Crutchfield, Karl Young. Inferring Statistical Complexity. PHYSICAL REVIEW LETTERS, VOLUME 63, NUMBER 2. 10 JULY 1989</ref>
−
* 1994 量化涌现:计算,动态,和推理<ref name=":1">James P. Crutchfield. The Calculi of Emergence: Computation, Dynamics, and Induction. SFI 94-03-016. 1994</ref>
+
* 1994 《The Calculi of Emergence: Computation, Dynamics, and Induction》<ref name=":1">James P. Crutchfield. The Calculi of Emergence: Computation, Dynamics, and Induction. SFI 94-03-016. 1994</ref>
−
* 1997 元胞自动机的计算力学:作为例子<ref name=":2">James E. Hanson, James P. Crutchfield. Computational Mechanics of Cellular Automata: An Example. SFI WORKING PAPER: 1995-10-095</ref>
+
* 1997 《Computational Mechanics of Cellular Automata: An Example》<ref name=":2">James E. Hanson, James P. Crutchfield. Computational Mechanics of Cellular Automata: An Example. SFI WORKING PAPER: 1995-10-095</ref>
−
* 2001 计算力学:模式、预测、结构与简洁性<ref name=":3">Cosma Rohilla Shalizi, James P. Crutchfield. Computational Mechanics: Pattern and Prediction, Structure and Simplicity. February 1, 2008</ref>
+
* 2001 《Computational Mechanics: Pattern and Prediction, Structure and Simplicity》<ref name=":3">Cosma Rohilla Shalizi, James P. Crutchfield. Computational Mechanics: Pattern and Prediction, Structure and Simplicity. February 1, 2008</ref>
    
这些文献使用了[[信息论|信息论]]当中各式熵的定义,包括信息熵、联合熵、条件熵和互信息熵。各个熵之间存在一定的计算关系,其中条件熵即为联合熵减去作为条件变量的熵。另外还引用了熵率的概率,熵率是指字符串长度逐渐趋于∞时,字符串的平均信息熵的极限值。在此基础上,计算力学大量使用了信息论的基本公式做了一些证明,还做了一定的扩展。在2001年的一篇文献中,证明过程相对完整。
 
这些文献使用了[[信息论|信息论]]当中各式熵的定义,包括信息熵、联合熵、条件熵和互信息熵。各个熵之间存在一定的计算关系,其中条件熵即为联合熵减去作为条件变量的熵。另外还引用了熵率的概率,熵率是指字符串长度逐渐趋于∞时,字符串的平均信息熵的极限值。在此基础上,计算力学大量使用了信息论的基本公式做了一些证明,还做了一定的扩展。在2001年的一篇文献中,证明过程相对完整。
   −
北京集智科学研究中心的张江老师2022年借助《因果涌现读书会》的机会,将克拉奇菲尔德的计算力学领域相关论文和读书会成员共同解读,其中一位讲者使用了拉普拉斯守护者的语言来作为开场白,阐述了作为观测者对环境的感知的相关内容。其中有两场读书会让人印象深刻:
+
北京集智科学研究中心的张江老师2022年借助《因果涌现读书会》的机会,将克拉奇菲尔德的计算力学领域相关论文和读书会成员共同解读,其中一位讲者使用了拉普拉斯守护者的语言来作为开场白,阐述了作为观测者对环境的感知的相关内容。其中有两场读书会对计算力学的文献做了深度解读,并结合复杂科学的相关领域展开了讨论。
−
* 2022.5~12 第二季 第13期 - 计算力学:模式、预测、结构与简洁性<ref name=":4">https://pattern.swarma.org/study_group_issue/259</ref>
  −
* 2023.7~10 第三季 第5期 - 计算力学:量化涌现的另一条路径<ref name=":5">https://pattern.swarma.org/study_group_issue/532</ref>
      
== 简介 ==
 
== 简介 ==
第25行: 第23行:     
自然和人工之物当中,存在偶然与必然的成分。在其之外,存在与环境交互的机制。计算力学研究事物和斑图形成的原因,有效预测事物和模式的演变。
 
自然和人工之物当中,存在偶然与必然的成分。在其之外,存在与环境交互的机制。计算力学研究事物和斑图形成的原因,有效预测事物和模式的演变。
 +
 +
=== 问题背景 ===
    
=== 理论框架 ===
 
=== 理论框架 ===
第34行: 第34行:  
其中,<math>\mathbfcal{S}</math>是因果涌现里粗粒化后的宏观态,即计算力学里的因果态;<math>\mathbf{T}</math>是状态转换概率分布张量,在因果科学的马尔科夫转移矩阵的基础上,再联合微观态的单步跃迁,共同耦合构成跨层级的概率分布张量。
 
其中,<math>\mathbfcal{S}</math>是因果涌现里粗粒化后的宏观态,即计算力学里的因果态;<math>\mathbf{T}</math>是状态转换概率分布张量,在因果科学的马尔科夫转移矩阵的基础上,再联合微观态的单步跃迁,共同耦合构成跨层级的概率分布张量。
   −
== 有效态(effective state) ==
+
== 科学生态 ==
 +
 
 +
抽象与回归
 +
论证形式化
 +
 
 +
本篇文章在于系统介绍和讲解计算力学方方面面的内容,对其他学科有相互引用和论证的地方,甚至是直接使用其他复杂科学已研究得出的结论。这篇文章并不假设读者已熟知相关内容,所以作者在此将所需各学科关键知识点列出,供读者在阅读本篇计算力学介绍文章时,随时查阅。
 +
 
 +
本文有对计算力学的一般性介绍,读者可以用这部分内容对计算力学做一般性了解。特别地,本文也包含了计算力学整体理论更为严谨的论证过程。为了阐明这些论证过程,并使其严格化,作者们引用了论证过程形式化的框架,包括网络科学和符号与整数对应的哥德尔数。最终在这些形式化框架上,我们会完成计算力学整个体系较为完整的理论认证。
 +
 
 +
在实例部分,我们也试图分三步走。第一步:先分析实例的具体问题,做相应层次的掌握,把握好关键点之间的前后关系,并使用对应量化方法采集数据。第二步:对先前采集的数据的关系做一定的抽象,提取核心知识体系,完成实例对应的理论上形式化方法。第三步:在此理论状态空间对实例的具体问题开展演算,识别其涌现出的斑图。如有必要,就在理论层面做一些预测。
 +
 
 +
=== 计算机科学 ===
 +
 
 +
==== 有限状态自动机====
 +
 
 +
=== 网络科学 ===
 +
 
 +
=== 复杂科学 ===
 +
 
 +
==== 因果涌现 ====
 +
 
 +
===== 宏观态 =====
 +
 
 +
===== 微观态 =====
 +
 
 +
===== 粗粒化 =====
 +
 
 +
=== 数学 ===
 +
 
 +
==== 离散数学 ====
 +
==== 近世(抽象)代数 ====
 +
 
 +
群的同构
 +
 
 +
==== 形式语言 ====
 +
===== 形式论证 =====
 +
===== 哥德尔数(<math>G\ddot{o}del\ number</math>)=====
 +
 
 +
=== 信息论 ===
 +
 
 +
== 状态空间 ==
 +
 
 +
微观态的粒子经过粗粒化,投射到观测者的时空图中,每个点是一个状态,附带着无限历史和热力学深度。这样一个高维多尺的抽象我们称为状态空间。
 +
划分(映射)
 +
 
 +
μ-阶划分(映射)
 +
 
 +
倍周期
 +
编码、解码
 +
 
 +
因果态是理想,具有良好的性质,证明过程基于信息论和数学中的等式和不等式。无论等式或不等式,都可以形式证据链条,从而触发层次机器重构,形成涌现。
 +
 
 +
=== 数理空间 ===
 +
 
 +
==== 欧几里德空间 ====
 +
 
 +
==== 狭义和广义相对论空间 ====
 +
 
 +
==== 函数空间 ====
 +
 
 +
==== 集合空间 ====
 +
 
 +
===== 幂集 =====
 +
 
 +
===== 关系 =====
 +
 
 +
=== 状态空间 ===
 +
 
 +
计算力学将符号动力系统微观态的符号,划分成有效态、因果态、和竞争态。我们将对这个划分操作做详细一些的介绍。
 +
 
 +
==== 状态空间的拆分 ====
 +
 
 +
符号动力系统微观态的符号,先拆分到幂集。
 +
 
 +
==== 状态空间的聚合 ====
 +
 
 +
===== 有效态(effective state) =====
    
有效态(effective state)能捕捉斑图和模式,在统计复杂度意义上没有因果态(Causal State)简洁。
 
有效态(effective state)能捕捉斑图和模式,在统计复杂度意义上没有因果态(Causal State)简洁。
   −
== 因果态(causal state) ==
+
===== 因果态(causal state) =====
    
因果态来自于因果涌现和NIS框架的,在计算力学里是作为有效态的一种存在。
 
因果态来自于因果涌现和NIS框架的,在计算力学里是作为有效态的一种存在。
第44行: 第120行:  
[[文件:计算力学-对比图片-202408111.png|替代=因果态的性质|无框|611x611像素]]
 
[[文件:计算力学-对比图片-202408111.png|替代=因果态的性质|无框|611x611像素]]
   −
== 竞争态(prescient rival) ==
+
===== 竞争态(prescient rival) =====
    
是预测能力和因果态相当的一种状态粒粗化方法,经证明他们只能是因果态的进一步细化。
 
是预测能力和因果态相当的一种状态粒粗化方法,经证明他们只能是因果态的进一步细化。
   −
== 状态空间 ==
+
=== 状态转换 ===
   −
微观态的粒子经过粗粒化,投射到观测者的时空图中,每个点是一个状态,附带着无限历史和热力学深度。这样一个高维多尺的抽象我们称为状态空间。
+
==== 概率分布张量 ====
−
 
  −
=== 状态转换 ===
      
计算力学的状态空间包含状态转换概率分布张量,标签化的状态转换概率<math>T_{ij}^{(s)}</math>被定义为宏观态由S<sub>i</sub>转换到S<sub>j</sub>,同时微观态转换到s的概率。
 
计算力学的状态空间包含状态转换概率分布张量,标签化的状态转换概率<math>T_{ij}^{(s)}</math>被定义为宏观态由S<sub>i</sub>转换到S<sub>j</sub>,同时微观态转换到s的概率。
第62行: 第136行:  
转换概率分布张量的阶次为0时,且仅考虑宏观态的状态转换,即一个宏观态的所有微观态(s)汇聚到一起,转换概率分布张量也可以理解为有向图的连接矩阵。
 
转换概率分布张量的阶次为0时,且仅考虑宏观态的状态转换,即一个宏观态的所有微观态(s)汇聚到一起,转换概率分布张量也可以理解为有向图的连接矩阵。
   −
== 统计复杂度 ==
+
==== 迭代与递归 ====
 +
 
 +
==== 移位映射 ====
 +
 
 +
==== 伯努利移位映射 ====
 +
 
 +
==== 随机变量转确定过程 ====
   −
=== 定义 ===
+
微观视角:<math>\omega_1\omega_2\omega_3\dots</math>
 +
 
 +
<math>\sigma : \Omega \mapsto \Omega</math>
 +
 
 +
<math>\sigma(\omega_1\omega_2\omega_3\dots) \mapsto \omega_2\omega_3\omega_4\dots</math>
 +
 
 +
宏观视角:确定过程
 +
 
 +
 
 +
== 复杂度 ==
 +
 
 +
=== 符号<math>C_{μ}</math> ===
 +
 
 +
μ依赖于测度和分布
    
统计复杂度可用于线性系统的[[复杂性]]量化,也可用于非线性动态系统中复杂系统[[因果涌现]][[复杂性]]的量化。香农熵基于概率分布,但对于确定性混沌却有些不足,统计复杂度则能量化宏观态上出现的确定性混沌。
 
统计复杂度可用于线性系统的[[复杂性]]量化,也可用于非线性动态系统中复杂系统[[因果涌现]][[复杂性]]的量化。香农熵基于概率分布,但对于确定性混沌却有些不足,统计复杂度则能量化宏观态上出现的确定性混沌。
第70行: 第163行:  
统计复杂度(statistical complexity)是复杂系统深度的量化方式之一,用<math>C_{\mu}</math>符号来表示。其中μ依赖于测度和分布。跟统计力学中的量化理论有关,基于测度系统的定义。在部分混沌物理学的文献中,也被记作α。
 
统计复杂度(statistical complexity)是复杂系统深度的量化方式之一,用<math>C_{\mu}</math>符号来表示。其中μ依赖于测度和分布。跟统计力学中的量化理论有关,基于测度系统的定义。在部分混沌物理学的文献中,也被记作α。
   −
在1989年《推理统计复杂度》<ref name=":0"></ref>这篇文献里,复杂度的阶次符号为α,在2001年《计算力学:模式、预测、结构与简洁性》<ref name=":3"></ref>中的符号为μ,这里我们统一使用μ。
+
在1989年《Inferring Statistical Complexity》<ref name=":0"></ref>这篇文献里,复杂度的阶次符号为α,在2001年《Computational Mechanics: Pattern and Prediction, Structure and Simplicity》<ref name=":3"></ref>中的符号为μ,这里我们统一使用μ。
    
=== Renyi信息和熵 ===
 
=== Renyi信息和熵 ===
第83行: 第176行:     
μ-阶图复杂度(<math>C_{μ}</math>)是区别于信息论的量化复杂度的方法,后者基于维度<math>d_μ</math>和熵<math>h_μ</math>。
 
μ-阶图复杂度(<math>C_{μ}</math>)是区别于信息论的量化复杂度的方法,后者基于维度<math>d_μ</math>和熵<math>h_μ</math>。
 +
 +
=== 柯式复杂度 ===
    
=== 拓扑复杂度 ===
 
=== 拓扑复杂度 ===
第95行: 第190行:  
统计复杂度的下界,从周期行为和频段耦合中得出,是带二阶项的相位转换。
 
统计复杂度的下界,从周期行为和频段耦合中得出,是带二阶项的相位转换。
   −
=== 计算复杂度 ===
+
==== 因果态的统计复杂度 ====
−
 
  −
使用计算机器生成相应序列的复杂程度,[[计算力学]]和[[因果涌现]]对应的物理过程考虑二类机器:一类是图灵机,一类是ϵ-机器。ϵ-机器带有扰动,在[[NIS+]]框架中,扰动由用作编码器的可逆神经网络的丢弃维度和用作解码器的可逆神经网络引入的维度所构成。
  −
 
  −
=== 因果态的统计复杂度 ===
      
<math>C_μ(\mathbfcal{S}) \equiv H[\mathcal{R}]</math>
 
<math>C_μ(\mathbfcal{S}) \equiv H[\mathcal{R}]</math>
第107行: 第198行:  
其中μ跟统计力学中的量化理论有关,基于测度系统的定义。在部分混沌物理学的文献中,也被记作α。
 
其中μ跟统计力学中的量化理论有关,基于测度系统的定义。在部分混沌物理学的文献中,也被记作α。
   −
=== 过程的统计复杂度 ===
+
==== 过程的统计复杂度 ====
    
过程的统计复杂度(Statistical Complexity of a Process)
 
过程的统计复杂度(Statistical Complexity of a Process)
    
<math>C_μ(\mathcal{O}) \equiv C_{\mu}[\mathbfcal{S}]</math>
 
<math>C_μ(\mathcal{O}) \equiv C_{\mu}[\mathbfcal{S}]</math>
 +
 +
 +
==== 更多复杂度度量方法 ====
 +
 +
===== 描述复杂度 =====
 +
 +
计算机科学里有提到最小描述长度,
 +
 +
===== 计算复杂度 =====
 +
 +
学过编程的,书上都有教计算复杂度,符号一般用O(n)。可以简单地表示为此算法调用的基本计算单元的次数。如果一个程序对基本计算单元的调用次数不可控,有可能该程序的计算复杂度是指数型的,记为O(n<sup>x</sup>),其中x为指数项。软件工程师结合一些计算机和数学方法,通常能将计算复杂度降为O(log(n))型。使用计算机器生成相应序列的复杂程度,[[计算力学]]和[[因果涌现]]对应的物理过程考虑二类机器:一类是图灵机,一类是ϵ-机器。ϵ-机器带有扰动,在[[NIS+]]框架中,扰动由用作编码器的可逆神经网络的丢弃维度和用作解码器的可逆神经网络引入的维度所构成。
      第146行: 第248行:  
元胞自动机的复杂度的量化可使用0-阶图复杂度,即算术复杂度。
 
元胞自动机的复杂度的量化可使用0-阶图复杂度,即算术复杂度。
   −
==== 锚点经济学 ====
+
==== 数字经济 ====
    +
链接全球创新网络资源,构建世界各地科研矩阵,助力探索超大型城市可持续发展创新政策、路径和在地解决方案,共同构建更智慧、更绿色、更有韧性、更可持续的数字未来。
    
==参考文献==
 
==参考文献==
 
<references />
 
<references />
 +
 +
== 编者推荐 ==
 +
 +
下面是一些链接能够帮助读者更好的了解计算力学的相关信息:
 +
 +
=== 因果涌现读书会 ===
 +
 +
* [https://campus.swarma.org/course/3110 因果涌现读书会简介]
 +
读书会通过阅读前沿文献,加深我们对因果、涌现等概念的理解;聚焦于寻找因果与涌现、多尺度等概念相结合的研究方向;并探索复杂系统多尺度自动建模的研究方向。并探索复杂系统多尺度自动建模的研究方向。分享近期发展起来的一些理论与工具,包括因果涌现理论、机器学习驱动的重整化技术,以及自指动力学正在发展一套跨尺度的分析框架等。
 +
 +
* [https://pattern.swarma.org/study_group_issue/259 因果涌现第二季]
 +
 +
涌现与因果的结合创造了因果涌现的概念。这是一套利用因果性来定量刻画涌现的理论体系,本季读书会通过阅读前沿文献,加深我们对因果、涌现等概念的理解;聚焦于寻找因果与涌现、多尺度等概念相结合的研究方向;并探索复杂系统多尺度自动建模的研究方向。第二季读书会更加集中在探讨因果科学与因果涌现之间的关系,以及对涌现进行定量刻画,聚焦于寻找因果与涌现、多尺度等概念相结合的研究方向;并探索复杂系统多尺度自动建模的研究方向。
 +
 +
* [https://pattern.swarma.org/study_group/28 因果涌现读书会第三季]
 +
 +
因果涌现第三季的读书会中,将进一步围绕因果涌现的核心研究问题『因果涌现的定义』以及『因果涌现的辨识』来进行深入的学习和讨论,对 Erik Hoel 提出的 Causal Emergence,Causal Geometry 等因果涌现的核心理论进行深入的探讨和剖析,并且详细梳理其中涉及到的方法论,包括从动力学约简、隐空间动力学学习等其他研究领域中学习和借鉴相关的研究思路,最后探讨因果涌现的应用,包括基于生物网络、脑网络或者涌现探测等问题展开扩展,发掘更多的实际应用场景。
 +
 +
=== 路径推荐 ===
 +
 +
* [https://pattern.swarma.org/study_group_issue/259 因果涌现第二季:13.计算力学:模式、预测、结构与简洁性]
 +
* [https://pattern.swarma.org/study_group_issue/532 因果涌现第三季:5.计算力学:量化涌现的另一条路径]
470

个编辑