集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织

更改

计算力学 (查看源代码)

2024年12月9日 (一) 16:07的版本

删除1,015字节 、 2024年12月9日 (一) 16:07
→‎因果态的主要性质
第57行： 第57行：  
[[文件:木星大红斑.png|右|无框|225x225px]]
 
[[文件:木星大红斑.png|右|无框|225x225px]]
 
预测等价性（predictive equivalence）是计算内在涌现（简称内在计算，intrinsic computation）的核心思想<ref>Rupe, A., & Crutchfield, J. P. (2024). On principles of emergent organization. ''Physics Reports''.<nowiki>https://doi.org/10.1016/j.physlet.2024.06.017</nowiki></ref>，即系统的历史能够用来预测其未来行为的程度。通过构建预测模型，内在计算能够识别系统中的结构，并量化这些结构的复杂性和稳定性。它可以让我们能够将[[自组织]]视为系统中规律性和规则性的涌现，而这些规律性和规则性是系统在特定的初始条件和外部驱动下自发形成的。内在计算的一个重要应用是在理解从完全规则到完全无序之间的组织结构。比如，木星的大红斑是一个经典的自组织现象，其规模和稳定性无法通过简单的流体力学方程直接解释。然而，内在计算能够通过分析该现象的历史数据，构建出一个能够准确预测其未来行为的模型，从而揭示出其背后的自组织机制。
 
预测等价性（predictive equivalence）是计算内在涌现（简称内在计算，intrinsic computation）的核心思想<ref>Rupe, A., & Crutchfield, J. P. (2024). On principles of emergent organization. ''Physics Reports''.<nowiki>https://doi.org/10.1016/j.physlet.2024.06.017</nowiki></ref>，即系统的历史能够用来预测其未来行为的程度。通过构建预测模型，内在计算能够识别系统中的结构，并量化这些结构的复杂性和稳定性。它可以让我们能够将[[自组织]]视为系统中规律性和规则性的涌现，而这些规律性和规则性是系统在特定的初始条件和外部驱动下自发形成的。内在计算的一个重要应用是在理解从完全规则到完全无序之间的组织结构。比如，木星的大红斑是一个经典的自组织现象，其规模和稳定性无法通过简单的流体力学方程直接解释。然而，内在计算能够通过分析该现象的历史数据，构建出一个能够准确预测其未来行为的模型，从而揭示出其背后的自组织机制。
 +
 +
=== 因果态的主要性质 ===
 +
在香农熵率确定的情况下，若要找到并计算模型的最小统计复杂度，我们首先需要最大限度地压缩环境信息，同时保证它的预测能力最强，因果态的性质恰好能满足这一需求，所以只要将环境信息转化为因果态，就能计算模型的统计复杂度。下面是因果态的三个主要性质：
 +
 +
'''性质1（因果态具有最大预测性）'''：对于所有划分得到的状态<math>\mathcal{R} </math>和正整数<math>L </math>，都有<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>，<math>\stackrel{\rightarrow}{S}^L </math>为<math>L </math>个长度的未来序列集合，<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}] </math>和<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>是<math>\stackrel{\rightarrow}{S}^L </math>的[[条件熵]]。可以理解为因果态集合<math>\mathcal{S} </math>在划分得到的状态集合<math>\mathcal{R} </math>的所有类型中，它的预测能力最强，证明过程如下：
 +
 +
<math>\epsilon(\stackrel{\leftarrow}{s})\equiv\{\stackrel{\leftarrow}{s}^{\prime}|\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s})=\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}^{\prime}) </math>
 +
 +
<math>\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s} |\mathcal{S}=\epsilon(\stackrel{\leftarrow}{s}))=\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}) </math>
 +
 +
<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{S}]~=~H[\stackrel{\rightarrow}{S}^L|~\stackrel{\leftarrow}{S}] </math>
 +
 +
<math>H[\stackrel{\to}{S}^L|\mathcal{R}] \geq H[\stackrel{\to}{S}^L|\stackrel{\leftarrow}{S}] </math>
 +
 +
<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>
 +
 +
'''性质2（因果态具有最小随机性）'''：设<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>为满足性质1中不等式等号成立的状态，则对于所有的<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>，都有<math>H[\hat{\mathcal{R}}^{\prime}|\hat{\mathcal{R}}]\geq H[\mathcal{S}^{\prime}|\mathcal{S}] </math>，其中<math>\hat{\mathcal{R}}^{\prime} </math>和<math>\mathcal{S}^{\prime} </math>分别是该过程的下一时刻状态和下一时刻因果态。可以理解为在相同预测能力的前提下，因果态集合[math]\displaystyle{ \mathcal{S} }[/math]在划分得到的状态集合[math]\displaystyle{ \mathcal{R} }[/math]的所有类型中，它的随机性最小。
 +
 +
用[[互信息]]的角度去理解的话，上式等价于<math>I(\mathcal{S}^{\prime};\mathcal{S})\geq I(\hat{\mathcal{R}}^{\prime};\hat{\mathcal{R}}) </math>，可以理解为任意状态对它自己下一时刻的互信息中，其中因果态的互信息最大。
 +
 +
若想更深入的理解因果态的性质可以阅读Cosma Rohilla Shalizi 和James Crutchfield合写的一篇论文<ref name=":4">Shalizi, C. R.. & Crutchfield, J. P. (2001). Computational Mechanics: Pattern and Prediction, Structure and
 +
 +
Simplicity,Journal of Statistical Physics,104(3/4).817-879.</ref>，里面有因果态更多的性质和对应的形式化证明过程。
    
===斑图重构机器===
 
===斑图重构机器===
第118行： 第141行：     
如果在已确定描述语言（程序）的情况下，柯式复杂度[math]\displaystyle{ K(s^L ) }[/math]可以理解为描述[math]\displaystyle{ s^L }[/math]所用的总信息量。[math]\displaystyle{ h_μ L }[/math]为允许损失的信息量。统计复杂度[math]\displaystyle{ C_μ (s^L ) }[/math]可以理解为允许存在误差率[math]\displaystyle{ h_μ }[/math]的情况下，描述[math]\displaystyle{ s^L }[/math]所用的最少信息量。
 
如果在已确定描述语言（程序）的情况下，柯式复杂度[math]\displaystyle{ K(s^L ) }[/math]可以理解为描述[math]\displaystyle{ s^L }[/math]所用的总信息量。[math]\displaystyle{ h_μ L }[/math]为允许损失的信息量。统计复杂度[math]\displaystyle{ C_μ (s^L ) }[/math]可以理解为允许存在误差率[math]\displaystyle{ h_μ }[/math]的情况下，描述[math]\displaystyle{ s^L }[/math]所用的最少信息量。
−
  −
=== 因果态的主要性质 ===
  −
在香农熵率确定的情况下，若要找到并计算模型的最小统计复杂度，我们首先需要最大限度地压缩环境信息，同时保证它的预测能力最强，因果态的性质恰好能满足这一需求，所以只要将环境信息转化为因果态，就能计算模型的统计复杂度。下面是因果态的三个主要性质：
  −
  −
'''性质1（因果态具有最大预测性）'''：对于所有划分得到的状态<math>\mathcal{R} </math>和正整数<math>L </math>，都有<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>，<math>\stackrel{\rightarrow}{S}^L </math>为<math>L </math>个长度的未来序列集合，<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}] </math>和<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>是<math>\stackrel{\rightarrow}{S}^L </math>的[[条件熵]]。可以理解为因果态集合<math>\mathcal{S} </math>在划分得到的状态集合<math>\mathcal{R} </math>的所有类型中，它的预测能力最强，证明过程如下：
  −
  −
<math>\epsilon(\stackrel{\leftarrow}{s})\equiv\{\stackrel{\leftarrow}{s}^{\prime}|\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s})=\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}^{\prime}) </math>
  −
  −
<math>\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s} |\mathcal{S}=\epsilon(\stackrel{\leftarrow}{s}))=\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}) </math>
  −
  −
<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{S}]~=~H[\stackrel{\rightarrow}{S}^L|~\stackrel{\leftarrow}{S}] </math>
  −
  −
<math>H[\stackrel{\to}{S}^L|\mathcal{R}] \geq H[\stackrel{\to}{S}^L|\stackrel{\leftarrow}{S}] </math>
  −
  −
<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>
  −
  −
'''性质2（因果态具有最小统计复杂度）'''：设<math>\hat{\mathcal{R}} </math>为满足性质1中不等式等号成立时划分得到的状态，则对于所有的<math>\hat{\mathcal{R}} </math>，都有<math>C_\mu(\hat{\mathcal{R}})\geq C_\mu(\mathcal{S}) </math>。可以理解为在相同预测能力的前提下，因果态集合<math>\mathcal{S} </math>在划分得到的状态集合<math>\mathcal{R} </math>的所有类型中，它的统计复杂度最小，证明过程如下：
  −
  −
对于任意的<math>\mathcal{R}</math>，总存在确定的函数<math>g </math>使得<math>\mathcal{S}=g(\mathcal{R}) </math>成立。
  −
  −
根据熵的性质，对于任意确定的函数<math>f </math>，有<math>H[f(X)]\leqslant H[X] </math>成立。
  −
  −
所以<math>H[S]=H[g(\hat{\mathcal{R}})]\leqslant H[\hat{\mathcal{R}}] </math>
  −
  −
根据统计复杂度的计算方法可知，<math>C_\mu(\hat{\mathcal{R}})=H[\hat{\mathcal{R}}] </math>。
  −
  −
所以<math>C_\mu(\hat{\mathcal{R}})\geq C_\mu(\mathcal{S}) </math>。
  −
  −
'''性质3（因果态具有最小随机性）'''：设<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>为满足性质1中不等式等号成立的状态，则对于所有的<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>，都有<math>H[\hat{\mathcal{R}}^{\prime}|\hat{\mathcal{R}}]\geq H[\mathcal{S}^{\prime}|\mathcal{S}] </math>，其中<math>\hat{\mathcal{R}}^{\prime} </math>和<math>\mathcal{S}^{\prime} </math>分别是该过程的下一时刻状态和下一时刻因果态。可以理解为在相同预测能力的前提下，因果态集合[math]\displaystyle{ \mathcal{S} }[/math]在划分得到的状态集合[math]\displaystyle{ \mathcal{R} }[/math]的所有类型中，它的随机性最小。
  −
  −
用[[互信息]]的角度去理解的话，上式等价于<math>I(\mathcal{S}^{\prime};\mathcal{S})\geq I(\hat{\mathcal{R}}^{\prime};\hat{\mathcal{R}}) </math>，可以理解为任意状态对它自己下一时刻的互信息中，其中因果态的互信息最大。
  −
  −
若想更深入的理解因果态的性质可以阅读Cosma Rohilla Shalizi 和James Crutchfield合写的一篇论文<ref name=":4">Shalizi, C. R.. & Crutchfield, J. P. (2001). Computational Mechanics: Pattern and Prediction, Structure and
  −
  −
Simplicity,Journal of Statistical Physics,104(3/4).817-879.</ref>，里面有因果态更多的性质和对应的形式化证明过程。
      
===模型重构===
 
===模型重构===
刘易明
697

个编辑

取自“https://wiki.swarma.org/index.php/特殊:移动版差异/40185”