143
个编辑
更改
→基于离散方法的有效信息计算
<math>P(x, y)</math> 是输入层 <math>L_1</math> 和输出层 <math>L_2</math> 的联合概率分布。
<math>P(x, y)</math> 是输入层 <math>L_1</math> 和输出层 <math>L_2</math> 的联合概率分布。
<math>P(x)</math> 和 <math>P(y)</math> 分别是输入层和输出层的边缘概率分布。
<math>P(x)</math> 和 <math>P(y)</math> 分别是输入层和输出层的边缘概率分布。
=== 有效信息的分解：敏感度与简并度 ===
=== 有效信息的分解：敏感度与简并度 ===
数值越高，不同因果通路的区分度越低。三者满足恒等式 <math>EI = Sensitivity - Degeneracy</math>，有效信息的增减既可能来自敏感度变化，也可能来自简并度的反向变化，该分解可区分网络训练中因果结构演化的内在机制。
数值越高，不同因果通路的区分度越低。三者满足恒等式 <math>EI = Sensitivity - Degeneracy</math>，有效信息的增减既可能来自敏感度变化，也可能来自简并度的反向变化，该分解可区分网络训练中因果结构演化的内在机制。
下图为离散有效信息的关系图。
[[文件:Sensitivity.png|center|500x500像素|]]
=== 因果平面 ===
=== 因果平面 ===