更改

[[文件:图 2.png|替代=|无框|500x500像素]]

[[文件:图 2.png|替代=|无框|500x500像素]]

=有效信息分解与因果平面=

=神经网络中的因果平面=

==有效信息分解==

==有效信息分解==

[[文件:截屏2024-12-14 21.48.56.png |替代=|无框|700x700像素]]

[[文件:截屏2024-12-14 21.48.56.png |替代=|无框|700x700像素]]

==因果平面==

==因果平面揭示网络层因果结构分化==

为了可视化网络层在训练过程中的变化，我们引入了[[因果平面]]。因果平面的两个维度分别是敏感度和简并度。由于 <math>EI = \text{Sensitivity} - \text{Degeneracy}</math>，如果敏感度和简并度同时增加，EI将保持不变。在因果平面中，<math>y = x</math> 的直线称为EI的零线，表示 <math>EI = 0</math>。向敏感度方向移动表示网络对扰动的敏感性增加，EI增加；向简并度方向移动表示网络的简并度增加，EI减少；沿零线移动表示EI保持不变，网络层的因果结构没有显著变化。

为了可视化网络层在训练过程中的变化，我们引入了[[因果平面]]。因果平面的两个维度分别是敏感度和简并度。由于 <math>EI = \text{Sensitivity} - \text{Degeneracy}</math>，如果敏感度和简并度同时增加，EI将保持不变。在因果平面中，<math>y = x</math> 的直线称为EI的零线，表示 <math>EI = 0</math>。向敏感度方向移动表示网络对扰动的敏感性增加，EI增加；向简并度方向移动表示网络的简并度增加，EI减少；沿零线移动表示EI保持不变，网络层的因果结构没有显著变化。