314
个编辑
更改
跳到导航
跳到搜索
第1行：
第1行： − + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + +
无编辑摘要
在[[计算力学]]中，智能体对外部环境的建模过程中，需要找到一种有效的描述方式，使其可以把环境信息压缩成一个有限的状态空间，并存储于内部环境模型中。为了找到这种有效的描述方式，需要先定义一个叫做“因果态”的概念。
在[[计算力学]]中，智能体对外部环境的建模过程中，需要找到一种有效的描述方式，使其可以把环境信息压缩成一个有限的状态空间，并存储于内部环境模型中。为了找到这种有效的描述方式，需要先定义一个叫做“因果态”的概念<ref>Crutchfield, James P. "The Calculi of Emergence: Computation, Dynamics, and Induction." Physica D: ''Nonlinear Phenomena'', vol. 75, no. 1-3, pp. 11-54, 1994. SFI-94-03-016. <nowiki>https://doi.org/10.1023/A:1010388907793</nowiki></ref>。
==因果态的定义==
智能体对环境的测量精度一般都是有限的，测量结果只能描述环境状态的投影。我们可以将环境从过去到未来的变化用一个离散的稳定[[随机过程]]描述，状态的取值空间则为双无限序列可数集合<math>\overleftrightarrow{S}=⋯s_{-2} s_{-1} s_0 s_1 s_2…</math>，也就是说，一个状态指的是一个时间序列。基于当前的时刻<math>t</math>，我们可以将<math>\overleftrightarrow{S}</math>分为单侧前向序列<math>\overrightarrow{s_t}=s_t s_{t+1} s_{t+2} s_{t+3}…</math>和单侧后向序列<math>\overleftarrow{s_t}=⋯s_{t-3} s_{t-2} s_{t-1} </math>两个部分，所有可能的未来序列<math>\overrightarrow{s_t}</math>形成的集合记作<math> \overrightarrow{S}</math>，所有可能的历史序列<math>\overleftarrow{s_t}</math>形成的集合记作<math> \overleftarrow{S}</math>。某一个时刻的状态指的是截止到当前时刻的历史序列。
通过某种划分（ partition），我们可以找到观测到的状态（可以称之为微观态）与智能体压缩后得到的隐空间上的状态（可以称为宏观态）之间的对应关系<ref>Shalizi, C. R., & Crutchfield, J. P. "Computational Mechanics: Pattern and Prediction, Structure and Simplicity." *''Journal of Statistical Physics''* 104 (2001): 817-879.</ref>。划分为一种映射，<math> \eta{:}\overleftarrow{S}\mapsto\mathcal{R}</math>，其中<math>\mathcal{R} </math>是微观状态空间的子集的集合，要满足其元素彼此互斥，而且所有元素的并集等于<math> \overset{\leftarrow}{S}</math>。通过划分操作得到的每个子集都可以被视为对应着一个宏观态。[[文件:划分示意图.jpg|居中|400x400像素|替代=|无框|链接=https://wiki.swarma.org/index.php/%E6%96%87%E4%BB%B6:%E5%88%92%E5%88%86%E7%A4%BA%E6%84%8F%E5%9B%BE.jpg]]上图为某种划分的示意图，将集合<math> \overset{\leftarrow}{S}</math>划分为某类状态<math> \mathcal{R}=\{\mathcal{R}_i:i=1,2,3,4\}</math>，值得注意的是，<math> \mathcal{R}_i</math>不必形成紧致集，也可以是康托集或其他更特殊的结构，上图为了示意清楚才这样画的。
对于集合<math> \overset{\leftarrow}{S}</math>的划分可以有很多种，若某一种划分能够在预测能力最强的同时又非常简洁，那么它肯定是最优的划分，我们把这种用最优的划分方法得到的状态称为[[因果态]]。因果态就是智能体对测量结果进行处理后，根据其内部模型（尤其是状态结构）识别出的斑图，并且这种斑图不随时间发生变化。形式化定义为：对于任意的时刻<math>t </math> 和<math>t^{'} </math>，给定过去状态<math> \overleftarrow{s_t} </math>的条件下，未来状态<math> \overrightarrow{s} </math>的分布与给定过去状态<math> \overleftarrow{s_{t^{'}}} </math>的条件下，未来状态<math> \overrightarrow{s} </math>的分布相同。那么<math>t </math> 和<math>t^{'} </math>的关系就记作<math>t\sim t^{'} </math>，“<math>∼ </math> ” 表示由等效未来状态所引起的等价关系，也叫预测等价性（predictive equivalence），可以用公式表示为：<math>t\sim t^{'} \triangleq Pr(\overrightarrow{s}|\overleftarrow{s_t} )=Pr(\overrightarrow{s} |\overleftarrow{s_{t^{'}}} ) </math>，若<math>t </math> 和<math>t^{'} </math>对未来状态预测的分布相同，则定义他们具有相同的因果态（casual state）。
因果态的划分映射可以记作<math>\epsilon</math>，公式为<math> \epsilon{:}\overleftarrow{S}\mapsto2^{\overset{\leftarrow}{S}}</math>，其中<math> 2^{\overset{\leftarrow}{S}}</math>是<math> \overleftarrow{S}</math>的幂集。根据因果态的定义，则存在如下关系：<math>{ \epsilon(\stackrel{\leftarrow}{s})\equiv\{\stackrel{\leftarrow}{s}^{\prime}|\mathrm{P}(\overrightarrow{S}=\overrightarrow{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s})=\mathrm{P}(\overrightarrow{S}=\overrightarrow{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}^{\prime})，\mathrm{for~all~}\overrightarrow{s}\in\overrightarrow{S},\stackrel{\leftarrow}{s}^{\prime}\in\stackrel{\leftarrow}{S}\} } </math>，其中<math>\mathcal{S} </math>为因果态的集合，<math>\stackrel{\leftarrow}{s} </math>为历史序列的随机变量。[[文件:因果态的定义.jpg|居中|无框|400x400px|替代=|链接=https://wiki.swarma.org/index.php/%E6%96%87%E4%BB%B6:%E5%9B%A0%E6%9E%9C%E6%80%81%E7%9A%84%E5%AE%9A%E4%B9%89.jpg]]如上图所示，左侧的数字代表<math>t</math>时刻的状态序列，右侧的箭头形状代表对未来状态预测的分布，可以观察到<math>t_9</math>和<math>t_{13}</math>时刻的箭头形状完全相同，说明它们对未来状态预测的分布相同，则处于相同的因果态；同样的道理，在<math>t_{11}</math>时刻，它的箭头形状与<math>t_9</math>和<math>t_{13}</math>时刻不同，则处于不同的因果态。[[文件:木星大红斑.png|右|无框|225x225px|链接=https://wiki.swarma.org/index.php/%E6%96%87%E4%BB%B6:%E6%9C%A8%E6%98%9F%E5%A4%A7%E7%BA%A2%E6%96%91.png]]预测等价性（predictive equivalence）是计算内在涌现（简称内在计算，intrinsic computation）的核心思想<ref>Rupe, A., & Crutchfield, J. P. (2024). On principles of emergent organization. ''Physics Reports''.<nowiki>https://doi.org/10.1016/j.physlet.2024.06.017</nowiki></ref>，即系统的历史能够用来预测其未来行为的程度。通过构建预测模型，内在计算能够识别系统中的结构，并量化这些结构的复杂性和稳定性。它可以让我们能够将[[自组织]]视为系统中规律性和规则性的涌现，而这些规律性和规则性是系统在特定的初始条件和外部驱动下自发形成的。内在计算的一个重要应用是在理解从完全规则到完全无序之间的组织结构。比如，木星的大红斑是一个经典的自组织现象，其规模和稳定性无法通过简单的流体力学方程直接解释。然而，内在计算能够通过分析该现象的历史数据，构建出一个能够准确预测其未来行为的模型，从而揭示出其背后的自组织机制。
==因果态的主要性质==
'''性质1（因果态具有最大预测性）'''：对于所有划分得到的状态<math>\mathcal{R} </math>和正整数<math>L </math>，都有<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>，<math>\stackrel{\rightarrow}{S}^L </math>为<math>L </math>个长度的未来序列集合，<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}] </math>和<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>是<math>\stackrel{\rightarrow}{S}^L </math>的[[条件熵]]。可以理解为因果态集合<math>\mathcal{S} </math>在划分得到的状态集合<math>\mathcal{R} </math>的所有类型中，它的预测能力最强，证明过程如下：
<math>\epsilon(\stackrel{\leftarrow}{s})\equiv\{\stackrel{\leftarrow}{s}^{\prime}|\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s})=\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}^{\prime}) </math>
<math>\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s} |\mathcal{S}=\epsilon(\stackrel{\leftarrow}{s}))=\mathrm{P}(\stackrel{\rightarrow}{S}=\stackrel{\rightarrow}{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}) </math>
<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{S}]~=~H[\stackrel{\rightarrow}{S}^L|~\stackrel{\leftarrow}{S}] </math>
<math>H[\stackrel{\to}{S}^L|\mathcal{R}] \geq H[\stackrel{\to}{S}^L|\stackrel{\leftarrow}{S}] </math>
<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>
'''性质2（因果态具有最小统计复杂度）'''：设<math>\hat{\mathcal{R}} </math>为满足性质1中不等式等号成立时划分得到的状态，则对于所有的<math>\hat{\mathcal{R}} </math>，都有<math>C_\mu(\hat{\mathcal{R}})\geq C_\mu(\mathcal{S}) </math>。可以理解为在相同预测能力的前提下，因果态集合<math>\mathcal{S} </math>在划分得到的状态集合<math>\mathcal{R} </math>的所有类型中，它的统计复杂度最小，证明过程如下：
对于任意的<math>\mathcal{R}</math>，若<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]= H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>，则存在函数<math>g </math>使得<math>\mathcal{S}=g(\mathcal{R}) </math>总是成立。
根据<math>\mathcal{R} </math>的定义可知，<math>H[\vec{S}^L|\mathcal{R}]<LH[S] </math>，则<math>H[f(X)]\leqslant H[X] </math>。
所以<math>H[S]=H[g(\hat{\mathcal{R}})]\leqslant H[\hat{\mathcal{R}}] </math>
根据统计复杂度的定义可知，<math>C_\mu(\mathcal{R})\equiv H[\mathcal{R}] </math>，则<math>C_\mu(\hat{\mathcal{R}})=H[\hat{\mathcal{R}}] </math>。
所以<math>C_\mu(\hat{\mathcal{R}})\geq C_\mu(\mathcal{S}) </math>
'''性质3（因果态具有最小随机性）'''：设<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>为满足性质1中不等式等号成立的状态，则对于所有的<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>，都有<math>H[\hat{\mathcal{R}}^{\prime}|\hat{\mathcal{R}}]\geq H[\mathcal{S}^{\prime}|\mathcal{S}] </math>，其中<math>\hat{\mathcal{R}}^{\prime} </math>和<math>\mathcal{S}^{\prime} </math>分别是该过程的下一时刻状态和下一时刻因果态。可以理解为在相同预测能力的前提下，因果态集合[math]\displaystyle{ \mathcal{S} }[/math]在划分得到的状态集合[math]\displaystyle{ \mathcal{R} }[/math]的所有类型中，它的随机性最小。
用[[互信息]]的角度去理解的话，上式等价于<math>I(\mathcal{S}^{\prime};\mathcal{S})\geq I(\hat{\mathcal{R}}^{\prime};\hat{\mathcal{R}}) </math>，可以理解为任意状态对它自己下一时刻的互信息中，其中因果态的互信息最大。
若想更深入的理解因果态的性质可以阅读Cosma Rohilla Shalizi 和James Crutchfield合写的一篇论文<ref name=":4">Shalizi, C. R.. & Crutchfield, J. P. (2001). Computational Mechanics: Pattern and Prediction, Structure and Simplicity,Journal of Statistical Physics,104(3/4).817-879.</ref>，里面有因果态更多的性质和对应的形式化证明过程。