更改

=== 有效信息与香农熵的关系 ===

=== 有效信息与香农熵的关系 ===

过去，少数直接比较宏观和微观的涌现概念都隐含或明确地假设，宏观尺度最多只能是微观尺度的压缩(37-39)。这是可以理解的，因为任何宏观因果模型的特征都是其简化的状态空间。然而，压缩通常是有损的，至多达到无损。专注于压缩只能发现宏观尺度最多只能是微观尺度的压缩等效物。相比之下，在因果涌现理论中，占主导地位的概念是香农发现的信道容量，以及信息编码如何利用它实现可靠通信。

过去，少数直接比较宏观和微观的涌现概念都隐含或明确地假设，宏观尺度最多只能是微观尺度的压缩(37-39)。这是可以理解的，因为任何宏观因果模型的特征都是其简化的状态空间。然而，压缩通常是有损的，至多达到无损。专注于压缩只能发现宏观尺度最多只能是微观尺度的压缩等效物。相比之下，在因果涌现理论中，占主导地位的概念是香农发现的信道容量，以及信息编码如何利用它实现可靠通信。

一个信道由两个有限集合X和Y，以及转移概率[math]p(Y \mid X)[/math]的集合组成，使得对于每个X和Y, [math]p(Y \mid X) ≥ 0[/math]，对于每个X，∑Y p(Y | X) = 1(被称为信道矩阵)。X和Y分别是信道的输入和输出(40)。信道矩阵作为一个固定实体控制信道。类似地，因果结构是由干预及其效果之间的关系所支配的，也是固定实体。值得注意的是，信通和因果结构都可以表示为TPMs，并且在信道矩阵包含与某些状态转换集相同的转换概率的情况下，TPMs将是相同的。因果结构是一个将过去状态转化为未来状态的矩阵。

一个信道由两个有限集合X和Y，以及转移概率[math]p(Y \mid X)[/math]的集合组成，使得对于每个X和Y, [math]p(Y \mid X) ≥ 0[/math]，对于每个X，[math]\sum_y p(Y \mid X) = 1[/math](被称为信道矩阵)。X和Y分别是信道的输入和输出(40)。信道矩阵作为一个固定实体控制信道。类似地，因果结构是由干预及其效果之间的关系所支配的，也是固定实体。值得注意的是，信通和因果结构都可以表示为TPMs，并且在信道矩阵包含与某些状态转换集相同的转换概率的情况下，TPMs将是相同的。因果结构是一个将过去状态转化为未来状态的矩阵。

互信息[math]I(X; Y)[/math]最初是由Claude Shannon提出的度量，用来捕获可以在信道上传输的信息的速率。互信息[math]I(X; Y)[/math]可以表示为:

互信息[math]I(X; Y)[/math]最初是由Claude Shannon提出的度量，用来捕获可以在信道上传输的信息的速率。互信息[math]I(X; Y)[/math]可以表示为: