697
个编辑
更改
跳到导航
跳到搜索
第74行：
第74行： − + 第103行：
第103行： − + 第147行：
第147行： − 由于智能体的计算资源是有限的，当测量结果中的数据量超过模型能够处理的极限时，我们就需要对原有的模型进行重构。这样做的目的是在保持计算资源不变的情况下，确保智能体仍然能够对外界进行有效的预测。重构的方法主要是通过寻找原有模型中不同状态组之间的相似性，也就是说，在原有模型已经识别出的因果态中，我们进一步抽象出更高层级的因果态组。这样，随着数据量的增大，我们就可以不断的在上一层级抽象出更高的层级，从而在计算资源有限的情况下，仍然能够应对更大量的数据。下表中列举了一种模型重构的途径：+ 第178行：
第178行： − +
无编辑摘要
所以<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>
所以<math>H[\stackrel{\rightarrow}{S}^L|\mathcal{R}]\geq H[\stackrel{\rightarrow}{S}^L|\mathcal{S}] </math>
'''性质2（因果态具有最小随机性）'''：设<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>为满足性质1中不等式等号成立的状态，则对于所有的<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>，都有<math>H[\hat{\mathcal{R}}^{\prime}|\hat{\mathcal{R}}]\geq H[\mathcal{S}^{\prime}|\mathcal{S}] </math>，其中<math>\hat{\mathcal{R}}^{\prime} </math>和<math>\mathcal{S}^{\prime} </math>分别是该过程的下一时刻状态和下一时刻因果态。可以理解为在相同预测能力的前提下，因果态集合[math]\displaystyle{ \mathcal{S} }[/math]在宏观态集合[math]\displaystyle{ \mathcal{R} }[/math]的所有类型中，它的随机性最小。
'''性质2（因果态具有最小随机性）'''：设<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>为满足性质1中不等式等号成立的宏观态，则对于所有的<math>\hat{\mathcal{R}} </math>和<math>\hat{\mathcal{R}}^{\prime} </math>，都有<math>H[\hat{\mathcal{R}}^{\prime}|\hat{\mathcal{R}}]\geq H[\mathcal{S}^{\prime}|\mathcal{S}] </math>，其中<math>\hat{\mathcal{R}}^{\prime} </math>和<math>\mathcal{S}^{\prime} </math>分别是该过程的下一时刻状态和下一时刻因果态。可以理解为在相同预测能力的前提下，因果态集合[math]\displaystyle{ \mathcal{S} }[/math]在宏观态集合[math]\displaystyle{ \mathcal{R} }[/math]的所有类型中，它的随机性最小。
用[[互信息]]的角度去理解的话，上式等价于<math>I(\mathcal{S}^{\prime};\mathcal{S})\geq I(\hat{\mathcal{R}}^{\prime};\hat{\mathcal{R}}) </math>，可以理解为任意宏观态对它自己下一时刻的互信息中，其中因果态的互信息最大。
用[[互信息]]的角度去理解的话，上式等价于<math>I(\mathcal{S}^{\prime};\mathcal{S})\geq I(\hat{\mathcal{R}}^{\prime};\hat{\mathcal{R}}) </math>，可以理解为任意宏观态对它自己下一时刻的互信息中，其中因果态的互信息最大。
</math>的复杂性度量。它反映了在给定精度<math>
</math>的复杂性度量。它反映了在给定精度<math>
\mu
\mu
</math>下，最小模型的复杂度，[[伯努利图灵机]]（Bernoulli-Turing machine，简称BTM）是确定性通用图灵机的一种扩展，通过引入随机数发生器，可以计算离散随机序列。它包含输入磁带、输出磁带、有限状态控制单元和工作磁带。输入（输出）磁带单元只能按顺序读取（写入）一次，中间处理和存储由工作磁带提供，工作磁带允许双向访问其内容。在运行过程中，伯努利图灵机按照常规图灵机的方式读取纸带上的符号和自身的当前状态，并依据内置的规则表进行操作。与普通图灵机不同的是，当遇到与随机相关的规则时，它会根据随机数发生器的采样结果来决定具体的执行路径。例如，在某个状态下，图灵机可能有两种可选的操作，普通图灵机根据确定的规则选择其中一种，而伯努利图灵机则通过随机源以一定的概率来决定执行哪一种操作。<math>
</math>下，最小模型的复杂度，[[伯努利图灵机]]（Bernoulli-Turing machine，简称BTM）是确定性通用图灵机的一种扩展，通过引入随机数发生器，可以计算离散随机序列。它包含输入纸带、输出纸带、有限状态控制单元和工作纸带。输入（输出）纸带单元只能按顺序读取（写入）一次，中间处理和存储由工作纸带提供，工作纸带允许双向访问其内容。在运行过程中，伯努利图灵机按照常规图灵机的方式读取纸带上的符号和自身的当前状态，并依据内置的规则表进行操作。与普通图灵机不同的是，当遇到与随机相关的规则时，它会根据随机数发生器的采样结果来决定具体的执行路径。例如，在某个状态下，图灵机可能有两种可选的操作，普通图灵机根据确定的规则选择其中一种，而伯努利图灵机则通过随机源以一定的概率来决定执行哪一种操作。<math>
M_{\min }(x \mid \mathrm{BTM})
M_{\min }(x \mid \mathrm{BTM})
</math>这是在给定伯努利图灵机背景下的最小化模型<ref>C. H. Bennett. Dissipation, information, computational complexity, and the definition of organization. In D. Pines, editor, ''Emerging Syntheses in the Sciences''. Addison-Wesley,
</math>这是在给定伯努利图灵机背景下的最小化模型<ref>C. H. Bennett. Dissipation, information, computational complexity, and the definition of organization. In D. Pines, editor, ''Emerging Syntheses in the Sciences''. Addison-Wesley,
===模型重构===
===模型重构===
由于智能体的计算资源是有限的，当测量结果中的数据量超过模型能够处理的极限时，我们就需要对原有的模型进行重构。这样做的目的是在保持计算资源不变的情况下，确保智能体仍然能够对外界进行有效的预测。重构的方法主要是通过寻找原有模型中不同状态组之间的相似性，也就是说，在原有模型已经识别出的因果态中，我们进一步抽象出更高层级的因果态组。这样，随着数据量的增大，我们就可以不断的在上一层级抽象出更高的层级，从而在计算资源有限的情况下，仍然能够应对更大量的数据。譬如，当智能体观测到“121212”时，会把“12”看成是一个模块，用一个字符“A”来表示，于是原本的微观态字符串就可以被重构为“AAA”这样的宏观态字符串，复杂度就降低了。而当模型进一步观测到更长的字符串是“12121231212123”时，便需要跳出原本的分组，而把“1212123”看成是一个新的模块，可以用一个字符“B”来表示，于是内部模型可以进一步用“BB”这样的新字符串来表示同一个观测对象。这便是一次模型重构升级的过程。下表中列举了一种模型重构的途径：
[[文件:层次机器示意图1.jpg|居中|无框|600x600像素|WU]]
[[文件:层次机器示意图1.jpg|居中|无框|600x600像素|WU]]
上图（a）为逻辑斯谛映射中统计复杂度<math>C_μ </math>与香农熵率<math>H(L)/L </math>的关系，三角形表示<math>(C_μ ,H(L)/L) </math>的大概位置，对应非线性参数<math>r</math>的 193 个取值，其中子序列长度<math>L=16 </math>，覆盖部分实验数据的粗实线是<math>C_μ =0 </math>时对<math>H(L)/L </math>得出的分析曲线。本图表现两个重要特征。第一个特征是熵的极值导致零复杂度，也就是说在<math>H(L)/L=0 </math>处最简单的周期过程和在<math>H(L)/L=1 </math>处最随机的过程在统计上都是简单的，它们都具有零复杂度，因为它们是由具有单一状态的斑图重构机器描述的。第二个特征是在两个极端情况之间，过程明显更为复杂，在临界熵值<math>H_c </math>附近出现明显峰值（此处<math>r=3.5699...</math>），<math>H(L)/L </math>小于<math>H_c </math>时数据集在呈周期性（包括在混沌区域也呈周期性的参数）的参数下产生，大于<math>H_c </math>时数据集在混沌的参数下产生。本图可以对照统计复杂度小节中的图（b）理解。
上图（a）为逻辑斯谛映射中统计复杂度<math>C_μ </math>与香农熵率<math>H(L)/L </math>的关系，三角形表示<math>(C_μ ,H(L)/L) </math>的大概位置，对应非线性参数<math>r</math>的 193 个取值，其中子序列长度<math>L=16 </math>，覆盖部分实验数据的粗实线是<math>C_μ =0 </math>时对<math>H(L)/L </math>得出的分析曲线。本图表现两个重要特征。第一个特征是熵的极值导致零复杂度，也就是说在<math>H(L)/L=0 </math>处最简单的周期过程和在<math>H(L)/L=1 </math>处最随机的过程在统计上都是简单的，它们都具有零复杂度，因为它们是由具有单一状态的斑图重构机器描述的。第二个特征是在两个极端情况之间，过程明显更为复杂，在临界熵值<math>H_c </math>附近出现明显峰值（此处<math>r=3.5699...</math>），<math>H(L)/L </math>小于<math>H_c </math>时数据集在呈周期性（包括在混沌区域也呈周期性的参数）的参数下产生，大于<math>H_c </math>时数据集在混沌的参数下产生。本图可以对照统计复杂度小节中的图（b）理解。
上图（b）为逻辑斯谛映射中在<math>H_c </math>（<math>r=3.5699...</math>）处，<math>L </math>与隐状态数量<math>\left|\mathbf{V}\right| </math>的关系，序列的长度<math>L=64 </math>时，<math>\left|\mathbf{V}\right|=196 </math>，从图中可以看出，随着<math>L </math>的增长，<math>\left|\mathbf{V}\right| </math>的值是发散的，若要用有限的<math>L </math>来描述<math>\left|\mathbf{V}\right| </math>，就需要将模型进行重构，升级为描述能力更强的模型。
上图（b）为逻辑斯谛映射中在<math>H_c </math>（<math>r=3.5699...</math>）处，<math>L </math>与宏观态数量<math>\left|\mathbf{V}\right| </math>的关系，序列的长度<math>L=64 </math>时，<math>\left|\mathbf{V}\right|=196 </math>，从图中可以看出，随着<math>L </math>的增长，<math>\left|\mathbf{V}\right| </math>的值是发散的，若要用有限的<math>L </math>来描述<math>\left|\mathbf{V}\right| </math>，就需要将模型进行重构，升级为描述能力更强的模型。
=== 模型升级 ===
=== 模型升级 ===