3,094
个编辑
更改
→统计复杂度
这里，[[伯努利图灵机]]（Bernoulli-Turing machine，简称BTM）是一种[[概率性图灵机]]，是确定性图灵机的一种扩展。它通过引入随机数发生器，可以生成离散的随机序列。伯努利图灵机包含输入纸带、输出纸带、有限状态控制单元和工作纸带。在运行过程中，伯努利图灵机按照常规图灵机的方式读取纸带上的符号和自身的当前状态，并依据内置的规则表进行操作。与普通图灵机不同的是，其规则表中有一些可随机执行的规则，它会根据随机数发生器的采样结果来决定具体的执行路径。例如，在某个状态下，图灵机可能有两种可选的操作，普通图灵机根据确定的规则选择其中一种，而伯努利图灵机则通过随机源（即随机数发生器）以一定的概率来执行其中的某一种操作。
这里，[[伯努利图灵机]]（Bernoulli-Turing machine，简称BTM）是一种[[概率性图灵机]]，是确定性图灵机的一种扩展。它通过引入随机数发生器，可以生成离散的随机序列。伯努利图灵机包含输入纸带、输出纸带、有限状态控制单元和工作纸带。在运行过程中，伯努利图灵机按照常规图灵机的方式读取纸带上的符号和自身的当前状态，并依据内置的规则表进行操作。与普通图灵机不同的是，其规则表中有一些可随机执行的规则，它会根据随机数发生器的采样结果来决定具体的执行路径。例如，在某个状态下，图灵机可能有两种可选的操作，普通图灵机根据确定的规则选择其中一种，而伯努利图灵机则通过随机源（即随机数发生器）以一定的概率来执行其中的某一种操作。
<math>M_{\min }(x \mid \mathrm{BTM})</math>代表在能够捕捉数据[math]x[/math]条件下的所有伯努利图灵机中的最小的模型<ref>C. H. Bennett. Dissipation, information, computational complexity, and the definition of organization. In D. Pines, editor, ''Emerging Syntheses in the Sciences''. Addison-Wesley, Redwood City, 1988.</ref>。这个模型是能够有效预测<math>x</math>的最简单形式，且在该模型中尽量减少其复杂性。<math>\left\|⋅\right\|</math>这个符号表示对模型复杂度的量化，例如图灵机的指令表长度。
<math>M_{\min }(x \mid \mathrm{BTM})</math>代表在能够捕捉数据[math]x[/math]条件下的所有伯努利图灵机中的最小的模型<ref>C. H. Bennett. Dissipation, information, computational complexity, and the definition of organization. In D. Pines, editor, ''Emerging Syntheses in the Sciences''. Addison-Wesley, Redwood City, 1988.</ref>。这个模型是能够在允许误差为[math]\mu[/math]的条件下有效预测<math>x</math>的最简单形式。<math>\left\|⋅\right\|</math>这个符号表示对模型复杂度的量化，例如图灵机的指令表长度。
由于内部模型（ϵ-machine）作为一种伯努利图灵机，本身也是用字符串（因果态）来描述，所以可以用长度、香农熵等指标来度量内部模型的复杂度。当我们使用香农熵来刻画内部模型的复杂度时，我们可以给出对于观测序列来说一个等价的可计算的定义<ref name=':15' />：
由于内部模型（ϵ-machine）作为一种伯努利图灵机，本身也是用字符串（因果态）来描述的，所以可以用长度、香农熵等指标来度量内部模型的复杂度。当我们使用香农熵来刻画内部模型的复杂度时，我们可以给出对于观测序列来说一个等价的可计算的定义<ref name=':15' />：
<math>C_\mu(\mathcal{x})\equiv H[\mathcal{S}] </math>，
<math>C_\mu(\mathcal{x})\equiv H[\mathcal{S}] </math>，
其中<math>\mathcal{S} </math>为观测数据<math>\mathcal{x} </math>的因果态集合。
其中<math>\mathcal{S} </math>为观测数据<math>\mathcal{x} </math>的因果态集合。
统计复杂度的一个特征是，对于完全随机对象，有[math]\displaystyle{ C_μ(x)=0 }[/math]，如抛硬币产生的序列。同时对于简单的周期性过程，如[math]\displaystyle{ x=00000000…0 }[/math]时，也有[math]\displaystyle{ C_μ(x)=0 }[/math]。因此，统计复杂度的值对于（简单的）周期性过程和完全随机过程都很小。所以，与[[柯氏复杂度]]相比，统计复杂度[math]\displaystyle{ C_μ(x) }[/math]剔除了通用图灵机在模拟随机比特时所花费的计算努力。
统计复杂度的一个特征是，对于完全随机对象，有[math]\displaystyle{ C_μ(x)=0 }[/math]，如抛硬币产生的序列；以及对于简单的周期性过程，如[math]\displaystyle{ x=00000000…0 }[/math]，都会有[math]\displaystyle{ C_μ(x)=0 }[/math]。因此，统计复杂度的值对于（简单的）周期性过程和完全随机过程都很小。所以，与[[柯氏复杂度]]相比，统计复杂度这种度量[math]\displaystyle{ C_μ(x) }[/math]，相比于[[柯氏复杂度]]来说，剔除了通用图灵机在模拟随机比特时所花费的计算努力。
====两种复杂性的对比====
====两种复杂性的对比====