470
个编辑
更改
跳到导航
跳到搜索
第1,091行：
第1,091行： + + + + + + + + + + + + + + + + + + + + + + + +
完成正文和附录的所有翻译
==== 描述长度原则和统一编码理论 ====
==== 描述长度原则和统一编码理论 ====
Rissanen的最小描述长度（MDL）原则，比较完整地介绍在参考文献【46】，是一个过程，该过程在全部满足给定数据一致性要求的条件下的一整族模型里选择最简明生成模型。MDL方法开始于香农的连接概率分布和代码之间的结果。Rissanen的研究继承了由Solomonoff【43】介绍的归纳法框架。
假设我们选择了导向一个<math>\mathcal{M}</math>类的模型并给定数据集<math>X</math>的表征。MDL原则告诫我们拾取模型M<math>\in \mathcal{M}</math>使得给定M能最小化<math>X</math>的描述总长度，包含给定<math>\mathcal{M}</math>下的M的描述长度。<math>X</math>的描述长度采用<math>-logP(X \vert M)</math>;cf.等式（5）。M的描述长度或被看作是由一些编码语法给定又或是，等价地，由<math>\mathcal{M}</math>的成员之上的一些分布。（尽管类似于在贝叶斯框架【119】中的模型估计，Rissanen并没有打破这个分布作为一个贝叶斯优先或视描述长度为证据支持的测量。）
因果态的构造是同Rissanen的上下文算法【46，120】的状态估计有几分类似（算法对应于由统一编码语法建造的“词典”，比如流行的Lempel-Ziv算法【121，122】）。尽管存在这种类似，仍然有一些明显的不同。对于随机源——对于那些只有单个因果态的情况——上下文算法估计一定数量的状态分歧于（至少是对数级别的）数据流的长度，而不是用一个状态推理，如同ϵ-机器所重构的。更进一步，我们忽略任何参考去编码竞争者模型或在他们之上去优先分布；<math>C_μ(\mathbfcal{R})</math>不是一个描述长度。
==== 测量复杂性 ====
参考文献【75】提出了一个过程复杂度的合适的测量是对于最佳预测的“最小平均所需香农信息”。这个真测量复杂性曾被视为被一些最佳预测器所使用的状态的香农熵。同样的文献建议它应该由外部熵所近似（参见下文）；这些被称为有效测量复杂性，在前文Ⅵ节提到的。这里有一个位置接近于联合了计算力学，Rissanen的MDL原则，和由“时间序列的几何”方法【90】所描述引入的最小嵌入。
对比于计算力学，无论如何，“最优预测”的关键概念仍然遗留者未定义。如同自然界和最优预测器状态的构造。实际上，使用过的预测器需要知道过程之下的运动等式。更进一步，统计复杂度<math>C_μ(\mathbfcal{S})</math>同测量复杂性不同在于它是基于良好定义的因果态，它的最佳预测能力相反有精确定义。因此，计算力学是一种表述于于参考文献【75】洞见的操作和构建形式化。
==== 层级缩放复杂性 ====
介绍于参考文献【123，ch. 9】，这个方法查找，如同计算力学一样，去扩展统计物理特定的传统想法。简单来说，方法是构造一个<math>n^th</math>-阶马尔可夫模型的层级结构，并用<math>n\ \to \ \infty</math>可观测真实分布检验他们预测的收敛性。预测和真实之间的差异是，此外，定义在信息理论中，用相对熵或Kullback-Leibler距离【62，71】的术语。（我们还没有用过这种量化。）该方法实现了Weiss的发现对于有限状态源存在一个结构区别于块-马尔科夫源（有限类别的次级班次）和sofic系统。Weiss展示了，尽管他们有限内存，sofic系统是不断增加的大型块状-马尔科夫源【124】的无限序列的极限。
该层级-缩放-复杂方法有若干优势，尤其是它处理以自然方式（查阅参考文献【123，sec. 9.5】）缩放课题的能力。尽管如此，它没有实现第Ⅱ节F中的所有目标集合。它的马尔科夫预测器具有很多黑箱，几乎没有说明关于过程的隐状态，他们因果连接，或者由过程附带的内生计算。所有这些属性，象我们已经展示的，是ϵ-机器的展现。我们建议一个未来工作的生产线应该去调研层次缩放复杂性和计算力学之间的关系，并看看他们能否被同步。综上所述，层次结构复杂性提醒我们少许参考文献【5】中描述的层次ϵ-机器重构。
==== 连续运态计算 ====
使用动态系统作为计算机已经变得不断地增加着吸引力在过去十年或物理学家，计算机科学家，和其他探索计算的物理基础【125-128】也是如此。这些提议已有范围从关于如何在离散时间非线性连接映射【7，129】里嵌入图灵机的高度抽象主意到，更前沿地，特定的数值计算设计可以原则性被实现在当前的硬件上【130】。他们所有，不管怎样，已经被同步了，以他们关心设计动态系统以实现一个给定期望计算或计算族的方式。相对地，计算力学其中之一的中心问题实际上却反过来了：给定一个动态系统，谁如何能够检测到什么是它内生的计算？
我们相信拥有数学基础和系列工具回答这个问题对综合，开发动态计算方法是重要的。使用这些工具我们或许能够发现，比如说，嵌入到自然过程操作在高速新颖形式的计算，带有少量能源，并比当前可能带有更少物理自由度。