Claude Shannon 在信息论中提出信道具有一定的容量。信道容量是指信道以最具信息性和可靠性的方式将输入转化为输出的能力,信道中信息传输的速率对输入概率分布 p(X) 的变化非常敏感。信道容量 (C) 定义为使互信息达到最大值的输入集合,这也是信道能够可靠传输信息的最大速率:[math]C = \max_{p(X)} I(X; Y)[/math],其中[math]I(X; Y)[/math]是输入和输出之间的互信息。因果涌现理论揭示了系统存在一种类似的因果容量(Causal Capacity, CC)。因果容量是指系统以最具信息性和最有效的方式将干预转化为效果的能力,定义为:[math]CC = \max_{I_D} I(I_D; E_D)[/math]。 | Claude Shannon 在信息论中提出信道具有一定的容量。信道容量是指信道以最具信息性和可靠性的方式将输入转化为输出的能力,信道中信息传输的速率对输入概率分布 p(X) 的变化非常敏感。信道容量 (C) 定义为使互信息达到最大值的输入集合,这也是信道能够可靠传输信息的最大速率:[math]C = \max_{p(X)} I(X; Y)[/math],其中[math]I(X; Y)[/math]是输入和输出之间的互信息。因果涌现理论揭示了系统存在一种类似的因果容量(Causal Capacity, CC)。因果容量是指系统以最具信息性和最有效的方式将干预转化为效果的能力,定义为:[math]CC = \max_{I_D} I(I_D; E_D)[/math]。 |