更改

其中，[math]\displaystyle{ s^L }[/math]是环境信息生成的离散符号序列，[math]\displaystyle{ L }[/math]为序列的长度，<math> \Pr(s^L)</math>是序列[math]\displaystyle{ s^L }[/math]的边际分布，[math]\displaystyle{ H }[/math]是香农熵。在建模框架中，[math]\displaystyle{ h_μ }[/math]可以解释为智能体在预测序列[math]\displaystyle{ s^L }[/math]的后续符号时的误差率。由该公式可见，熵率也就是[[自信息]]的平均值。

其中，[math]\displaystyle{ s^L }[/math]是环境信息生成的离散符号序列，[math]\displaystyle{ L }[/math]为序列的长度，<math> \Pr(s^L)</math>是序列[math]\displaystyle{ s^L }[/math]的边际分布，[math]\displaystyle{ H }[/math]是香农熵。在建模框架中，[math]\displaystyle{ h_μ }[/math]可以解释为智能体在预测序列[math]\displaystyle{ s^L }[/math]的后续符号时的误差率。由该公式可见，熵率也就是[[自信息]]的平均值。

香农熵率是归一化的度量信息不确定性程度的指标，信息的不确定性越高，香农熵率越大。对于简单的周期性过程，如[math]\displaystyle{ x=00000000…0 }[/math]，香农熵率为0，对于完全随机的对象，如抛硬币产生的序列，香农熵率为1。香农熵率记作[math]\displaystyle{ h_μ }[/math]，它与柯式复杂度[math]\displaystyle{ K(x) }[/math]的关系为：

香农熵率是归一化的度量信息不确定性程度的指标，信息的不确定性越高，香农熵率越大。对于简单的周期性过程，如[math]\displaystyle{ x=00000000…0 }[/math]，香农熵率为0，对于完全随机的对象，如抛硬币产生的序列，香农熵率为1。

 

香农熵率与柯式复杂度[math]\displaystyle{ K(x) }[/math]的关系为：

<math>

<math>