更改

第74行: 第74行:  
<math>do(i = H^{\text{max}})</math> 表示仅对节点 <math>i</math> 进行最大熵扰动,其他节点的激活值设为 0。
 
<math>do(i = H^{\text{max}})</math> 表示仅对节点 <math>i</math> 进行最大熵扰动,其他节点的激活值设为 0。
   −
敏感性(Sensitivity)与EI的区别: EI是全局最大熵输入下输入向量和输出向量的互信息,EI测量的是所有输入组合起来提供了多少净信息;Sensitivity是对每个输入节点,单独做最大熵干预,其他固定为0, 敏感性是每条输入–输出单边传递了多少,全部累加。EI ≤ Sensitivity (除非输入完全独立无冗余),因为局部干预把信息传递“拆开了”,它们会重复叠加输入间的冗余部分,EI 反映了去重后的“有效信息”。
+
敏感性(Sensitivity)与EI的区别: EI是全局最大熵输入下所有输入向量和输出向量的互信息;Sensitivity是对每个输入节点,单独做最大熵干预,其他固定为0, 是每条输入–输出单边传递了多少,全部累加;EI ≤ Sensitivity (除非输入完全独立无冗余),因为局部干预把信息传递“拆开了”,它们会重复叠加输入间的冗余部分,EI 反映了去重后的“有效信息”。
    
2.简并性(Degeneracy)
 
2.简并性(Degeneracy)
5,443

个编辑