更改

跳到导航 跳到搜索
第191行: 第191行:  
而以上提到的因果涌现都建立在将初始分布do干预成均匀分布的情况下,即干预分布的熵最大。回顾有效信息的计算公式:
 
而以上提到的因果涌现都建立在将初始分布do干预成均匀分布的情况下,即干预分布的熵最大。回顾有效信息的计算公式:
   −
[math]EI = I(\tilde{X_t};\tilde{X_{t+1}) = H(\tilde{X_t}) - H(\tilde{X_t}|\tilde{X_{t+1}) = H(\tilde{X_t}) - ((1-Eff) * H(\tilde{X_t})) = Eff * H(\tilde{X_t})[/math]
+
<math>
 +
EI = I(\tilde{X}_t;\tilde{X}_{t+1}) = H(\tilde{X}_t) - H(\tilde{X}_t|\tilde{X}_{t+1}) = H(\tilde{X}_t) - ((1-Eff) * H(\tilde{X}_t)) = Eff * H(\tilde{X}_t)
 +
</math>
   −
其中[math]\tilde{X_t}[/math]和[math]\tilde{X_{t+1}}[/math]是干预后的因果变量,[math]Eff[/math]为动力学的有效性。由公式可以看出EI的大小与干预的概率分布的熵有关。
+
其中[math]\tilde{X}_t[/math]和[math]\tilde{X}_{t+1}[/math]是干预后的因果变量,[math]Eff[/math]为动力学的有效性。由公式可以看出EI的大小与干预的概率分布的熵有关。
    
Claude Shannon 在信息论中提出信道具有一定的容量。信道容量是指信道以最具信息性和可靠性的方式将输入转化为输出的能力,信道中信息传输的速率对输入概率分布 [math]p(X)[/math] 的变化非常敏感。信道容量 (C) 定义为使互信息达到最大值的输入变量分布,这也是信道能够可靠传输信息的最大速率:[math]C \equiv \max_{p(X)} I(X; Y)[/math],其中[math]I(X; Y)[/math]是输入和输出之间的[[互信息]]。
 
Claude Shannon 在信息论中提出信道具有一定的容量。信道容量是指信道以最具信息性和可靠性的方式将输入转化为输出的能力,信道中信息传输的速率对输入概率分布 [math]p(X)[/math] 的变化非常敏感。信道容量 (C) 定义为使互信息达到最大值的输入变量分布,这也是信道能够可靠传输信息的最大速率:[math]C \equiv \max_{p(X)} I(X; Y)[/math],其中[math]I(X; Y)[/math]是输入和输出之间的[[互信息]]。

导航菜单