| 第59行: |
第59行: |
| | [[文件:划分示意图.jpg|居中|400x400像素|替代=|无框]] | | [[文件:划分示意图.jpg|居中|400x400像素|替代=|无框]] |
| | | | |
| − | 上图为某种划分的示意图,将集合<math> \overset{\leftarrow}{S}</math>划分为某类宏观态的子集<math> \mathcal{R}=\{\mathcal{R}_i:i=1,2,3,4\}</math>,值得注意的是,<math> \mathcal{R}_i</math>不必形成紧致集,也可以是康托集或其他更特殊的结构,上图为了示意清楚才这样画的。
| + | 上图为某种划分的示意图<ref name=":4">Shalizi, C. R.. & Crutchfield, J. P. (2001). Computational Mechanics: Pattern and Prediction, Structure and Simplicity,Journal of Statistical Physics,104(3/4).817-879.</ref>,将集合<math> \overset{\leftarrow}{S}</math>划分为某类宏观态的子集<math> \mathcal{R}=\{\mathcal{R}_i:i=1,2,3,4\}</math>,值得注意的是,<math> \mathcal{R}_i</math>不必形成紧致集,也可以是康托集或其他更特殊的结构,上图为了示意清楚才这样画的。 |
| | | | |
| | 于是,智能体就需要学习到一种有效的划分,即如何从观测到的状态(可以称之为微观态)到智能体压缩后得到的隐空间上的状态(可以称为宏观态)能够很好对应,使得宏观态更加有效地反映微观态中的重要信息。那么,什么叫做有效呢? | | 于是,智能体就需要学习到一种有效的划分,即如何从观测到的状态(可以称之为微观态)到智能体压缩后得到的隐空间上的状态(可以称为宏观态)能够很好对应,使得宏观态更加有效地反映微观态中的重要信息。那么,什么叫做有效呢? |
| 第69行: |
第69行: |
| | 因果态的划分映射可以记作<math>\epsilon</math>,公式为<math> \epsilon{:}\overleftarrow{S}\mapsto2^{\overset{\leftarrow}{S}}</math>,其中<math> 2^{\overset{\leftarrow}{S}}</math>是<math> \overleftarrow{S}</math>的幂集。根据因果态的定义,则存在如下关系:<math>{ \epsilon(\stackrel{\leftarrow}{s})\equiv\{\stackrel{\leftarrow}{s}^{\prime}|\mathrm{P}(\overrightarrow{S}=\overrightarrow{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s})=\mathrm{P}(\overrightarrow{S}=\overrightarrow{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}^{\prime}),\mathrm{for~all~}\overrightarrow{s}\in\overrightarrow{S},\stackrel{\leftarrow}{s}^{\prime}\in\stackrel{\leftarrow}{S}\} } </math>,其中<math>\mathcal{S} </math>为因果态的集合,<math>\stackrel{\leftarrow}{s} </math>为历史序列的随机变量。 | | 因果态的划分映射可以记作<math>\epsilon</math>,公式为<math> \epsilon{:}\overleftarrow{S}\mapsto2^{\overset{\leftarrow}{S}}</math>,其中<math> 2^{\overset{\leftarrow}{S}}</math>是<math> \overleftarrow{S}</math>的幂集。根据因果态的定义,则存在如下关系:<math>{ \epsilon(\stackrel{\leftarrow}{s})\equiv\{\stackrel{\leftarrow}{s}^{\prime}|\mathrm{P}(\overrightarrow{S}=\overrightarrow{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s})=\mathrm{P}(\overrightarrow{S}=\overrightarrow{s}\mid\stackrel{\leftarrow}{S}=\stackrel{\leftarrow}{s}^{\prime}),\mathrm{for~all~}\overrightarrow{s}\in\overrightarrow{S},\stackrel{\leftarrow}{s}^{\prime}\in\stackrel{\leftarrow}{S}\} } </math>,其中<math>\mathcal{S} </math>为因果态的集合,<math>\stackrel{\leftarrow}{s} </math>为历史序列的随机变量。 |
| | [[文件:因果态的定义.jpg|居中|无框|400x400px|替代=]] | | [[文件:因果态的定义.jpg|居中|无框|400x400px|替代=]] |
| − | 如上图所示,左侧的数字代表<math>t</math>时刻的状态序列,右侧的箭头形状代表对未来状态预测的分布,可以观察到<math>t_9</math>和<math>t_{13}</math>时刻的箭头形状完全相同,说明它们对未来状态预测的分布相同,则处于相同的因果态;同样的道理,在<math>t_{11}</math>时刻,它的箭头形状与<math>t_9</math>和<math>t_{13}</math>时刻不同,则处于不同的因果态。
| + | 如上图所示<ref name=":1">James P. Crutchfield. The Calculi of Emergence: Computation, Dynamics, and Induction. SFI 94-03-016. 1994</ref>,左侧的数字代表<math>t</math>时刻的状态序列,右侧的箭头形状代表对未来状态预测的分布,可以观察到<math>t_9</math>和<math>t_{13}</math>时刻的箭头形状完全相同,说明它们对未来状态预测的分布相同,则处于相同的因果态;同样的道理,在<math>t_{11}</math>时刻,它的箭头形状与<math>t_9</math>和<math>t_{13}</math>时刻不同,则处于不同的因果态。 |
| | [[文件:木星大红斑.png|右|无框|225x225px]] | | [[文件:木星大红斑.png|右|无框|225x225px]] |
| | 预测等价性(predictive equivalence)是计算内在涌现(简称内在计算,intrinsic computation)的核心思想<ref>Rupe, A., & Crutchfield, J. P. (2024). On principles of emergent organization. ''Physics Reports''.<nowiki>https://doi.org/10.1016/j.physlet.2024.06.017</nowiki></ref>,即系统的历史能够用来预测其未来行为的程度。通过构建预测模型,内在计算能够识别系统中的结构,并量化这些结构的复杂性和稳定性。它可以让我们能够将[[自组织]]视为系统中规律性和规则性的涌现,而这些规律性和规则性是系统在特定的初始条件和外部驱动下自发形成的。内在计算的一个重要应用是在理解从完全规则到完全无序之间的组织结构。比如,木星的大红斑是一个经典的自组织现象,其规模和稳定性无法通过简单的流体力学方程直接解释。然而,内在计算能够通过分析该现象的历史数据,构建出一个能够准确预测其未来行为的模型,从而揭示出其背后的自组织机制。 | | 预测等价性(predictive equivalence)是计算内在涌现(简称内在计算,intrinsic computation)的核心思想<ref>Rupe, A., & Crutchfield, J. P. (2024). On principles of emergent organization. ''Physics Reports''.<nowiki>https://doi.org/10.1016/j.physlet.2024.06.017</nowiki></ref>,即系统的历史能够用来预测其未来行为的程度。通过构建预测模型,内在计算能够识别系统中的结构,并量化这些结构的复杂性和稳定性。它可以让我们能够将[[自组织]]视为系统中规律性和规则性的涌现,而这些规律性和规则性是系统在特定的初始条件和外部驱动下自发形成的。内在计算的一个重要应用是在理解从完全规则到完全无序之间的组织结构。比如,木星的大红斑是一个经典的自组织现象,其规模和稳定性无法通过简单的流体力学方程直接解释。然而,内在计算能够通过分析该现象的历史数据,构建出一个能够准确预测其未来行为的模型,从而揭示出其背后的自组织机制。 |
| 第186行: |
第186行: |
| | | | |
| | [[文件:逻辑斯谛曲线.jpg|居中|无框|500x500px|替代=]] | | [[文件:逻辑斯谛曲线.jpg|居中|无框|500x500px|替代=]] |
| − | 上图为迭代函数<math>f(x) = rx(1-x)</math>中极限状态<math>x</math>与参数<math>r</math>的关系图,当<math>r<3.5699...</math>时函数存在倍周期现象,当<math>r>3.5699...</math>时会出现混沌现象。由于观察者观测的精细程度有限,若要识别混沌中的有序结构,就需要对<math>x</math>进行粗粒化操作,方法是通过二元分割观察轨迹<math>\mathbf{x}=x_0x_1x_2x_3\ldots </math> ,将其转换为离散序列<math>\mathcal{P}=\{x_n\in[0,x_c)\Rightarrow s=0,x_n\in[x_c,1]\Rightarrow s=1\} </math>,这种划分是“生成”的,这意味着足够长的二进制序列来自任意小的初始条件间隔。因此,可以使用粗粒化的观测<math>\mathcal{P} </math>来研究逻辑斯谛映射中的信息处理。 | + | 上图为迭代函数<math>f(x) = rx(1-x)</math>中极限状态<math>x</math>与参数<math>r</math>的关系图<ref name=":1">James P. Crutchfield. The Calculi of Emergence: Computation, Dynamics, and Induction. SFI 94-03-016. 1994</ref>,当<math>r<3.5699...</math>时函数存在倍周期现象,当<math>r>3.5699...</math>时会出现混沌现象。由于观察者观测的精细程度有限,若要识别混沌中的有序结构,就需要对<math>x</math>进行粗粒化操作,方法是通过二元分割观察轨迹<math>\mathbf{x}=x_0x_1x_2x_3\ldots </math> ,将其转换为离散序列<math>\mathcal{P}=\{x_n\in[0,x_c)\Rightarrow s=0,x_n\in[x_c,1]\Rightarrow s=1\} </math>,这种划分是“生成”的,这意味着足够长的二进制序列来自任意小的初始条件间隔。因此,可以使用粗粒化的观测<math>\mathcal{P} </math>来研究逻辑斯谛映射中的信息处理。 |
| | | | |
| | === 统计复杂度-熵率图 === | | === 统计复杂度-熵率图 === |
| | [[文件:复杂度-熵率图.jpg|居中|无框|600x600像素]] | | [[文件:复杂度-熵率图.jpg|居中|无框|600x600像素]] |
| − | 上图(a)为逻辑斯谛映射中统计复杂度<math>C_μ </math>与香农熵率<math>H(L)/L </math>的关系,三角形表示<math>(C_μ ,H(L)/L) </math>的大概位置,对应非线性参数<math>r</math>的 193 个取值,其中子序列长度<math>L=16 </math>,覆盖部分实验数据的粗实线是<math>C_μ =0 </math>时对<math>H(L)/L </math>得出的解析解曲线。 | + | 上图(a)为逻辑斯谛映射中统计复杂度<math>C_μ </math>与香农熵率<math>H(L)/L </math>的关系<ref name=":1">James P. Crutchfield. The Calculi of Emergence: Computation, Dynamics, and Induction. SFI 94-03-016. 1994</ref>,三角形表示<math>(C_μ ,H(L)/L) </math>的大概位置,对应非线性参数<math>r</math>的 193 个取值,其中子序列长度<math>L=16 </math>,覆盖部分实验数据的粗实线是<math>C_μ =0 </math>时对<math>H(L)/L </math>得出的解析解曲线。 |
| | | | |
| | 本图表现了两个重要特征。第一个特征是熵率的极值导致零复杂度,也就是说在<math>H(L)/L=0 </math>处最简单的周期过程和在<math>H(L)/L=1 </math>处最随机的过程在统计复杂性上看都是简单的,它们都具有零复杂度,因为它们是由具有单一状态的斑图重构机器描述的;第二个特征是在两个极端情况之间,复杂度明显升高,并在临界熵率值<math>H_c </math>附近出现明显峰值(此处<math>r=3.5699...</math>)。<math>r_c=3.5699...</math>刚好是[[逻辑斯蒂映射]]的临界相变点,当[math]r<r_c[/math]时,模型处于周期行为;当[math]r>r_c[/math]时,模型进入混沌行为区域。因此,当熵率<math>H(L)/L < H_c </math>时,此时的数据集是由呈周期性(包括在混沌区域也呈周期性的参数)变化的参数下产生,大于<math>H_c </math>时数据集由混沌的参数下产生。本图可以对照统计复杂度小节中的图(b)一起理解。 | | 本图表现了两个重要特征。第一个特征是熵率的极值导致零复杂度,也就是说在<math>H(L)/L=0 </math>处最简单的周期过程和在<math>H(L)/L=1 </math>处最随机的过程在统计复杂性上看都是简单的,它们都具有零复杂度,因为它们是由具有单一状态的斑图重构机器描述的;第二个特征是在两个极端情况之间,复杂度明显升高,并在临界熵率值<math>H_c </math>附近出现明显峰值(此处<math>r=3.5699...</math>)。<math>r_c=3.5699...</math>刚好是[[逻辑斯蒂映射]]的临界相变点,当[math]r<r_c[/math]时,模型处于周期行为;当[math]r>r_c[/math]时,模型进入混沌行为区域。因此,当熵率<math>H(L)/L < H_c </math>时,此时的数据集是由呈周期性(包括在混沌区域也呈周期性的参数)变化的参数下产生,大于<math>H_c </math>时数据集由混沌的参数下产生。本图可以对照统计复杂度小节中的图(b)一起理解。 |
| 第197行: |
第197行: |
| | | | |
| | === 模型升级 === | | === 模型升级 === |
| − | 下面三张图展示了模型重构升级进化的一种路径。(a),(b),(c)三张图分别对应了由低到高不同阶次的重构机器的状态转移图。图中的圆圈代表状态,连边代表状态之间的转移,连边上的数字代表一次伯努利过程采样的0或1。
| + | 下面三张图<ref name=":1">James P. Crutchfield. The Calculi of Emergence: Computation, Dynamics, and Induction. SFI 94-03-016. 1994</ref>展示了模型重构升级进化的一种路径。(a),(b),(c)三张图分别对应了由低到高不同阶次的重构机器的状态转移图。图中的圆圈代表状态,连边代表状态之间的转移,连边上的数字代表一次伯努利过程采样的0或1。 |
| | | | |
| | [[文件:机器升级状态结构图.jpg|居中|无框|1200x1000像素]] | | [[文件:机器升级状态结构图.jpg|居中|无框|1200x1000像素]] |