更改

第68行: 第68行:     
为了量化这些属性,敏感度是通过计算网络中每条边的独立贡献来衡量的。具体公式为:
 
为了量化这些属性,敏感度是通过计算网络中每条边的独立贡献来衡量的。具体公式为:
 +
 
<math>
 
<math>
 
\text{Sensitivity} = \sum_{\substack{i \in L_1 \\ j \in L_2}} I(t_i, t_j) \mid \operatorname{do}(i = H^{\text{max}})
 
\text{Sensitivity} = \sum_{\substack{i \in L_1 \\ j \in L_2}} I(t_i, t_j) \mid \operatorname{do}(i = H^{\text{max}})
 
</math>
 
</math>
 +
 
其中,<math>L_1</math> 和 <math>L_2</math> 分别是输入层和输出层,<math>I(t_i, t_j)</math> 是输入节点 <math>i</math> 和输出节点 <math>j</math> 之间的互信息,<math>\operatorname{do}(i = H^{\text{max}})</math> 表示对输入节点 <math>i</math> 进行最大熵扰动。如果网络中的每个节点只接收一个唯一的输入(即没有重叠),那么敏感度就等于EI。
 
其中,<math>L_1</math> 和 <math>L_2</math> 分别是输入层和输出层,<math>I(t_i, t_j)</math> 是输入节点 <math>i</math> 和输出节点 <math>j</math> 之间的互信息,<math>\operatorname{do}(i = H^{\text{max}})</math> 表示对输入节点 <math>i</math> 进行最大熵扰动。如果网络中的每个节点只接收一个唯一的输入(即没有重叠),那么敏感度就等于EI。
    
简并度衡量的是由于边权重重叠导致的信息损失,计算公式为:
 
简并度衡量的是由于边权重重叠导致的信息损失,计算公式为:
 +
 
<math>
 
<math>
 
\text{Degeneracy} = \text{Sensitivity} - EI
 
\text{Degeneracy} = \text{Sensitivity} - EI
 
</math>
 
</math>
 +
 
简并度越高,说明网络中的信息重叠越多,导致信息传递的效率降低。
 
简并度越高,说明网络中的信息重叠越多,导致信息传递的效率降低。
  
5,443

个编辑