143
个编辑
更改
跳到导航
跳到搜索
第82行：
第82行： − 结合下图的四组实验，因果平面的四项分析功能可直观体现：+
→因果平面
基于敏感度与简并度的二维分解，研究者构建了因果平面（Causal Plane），用于可视化网络层的因果结构，直观呈现层的功能定位与训练过程中的结构演化。
基于敏感度与简并度的二维分解，研究者构建了因果平面（Causal Plane），用于可视化网络层的因果结构，直观呈现层的功能定位与训练过程中的结构演化。
因果平面以敏感度为横轴、简并度为纵轴，平面内存在一条 45° 的EI 零零线（nullcline）：线上敏感度与简并度相等，有效信息为 0；点位于零零线右下方时有效信息为正，距离越远，层间因果传导能力越强；点位于左上方时有效信息为负，权重重叠的干扰超过独立传导的信息总量。
因果平面以敏感度为横轴、简并度为纵轴，平面内存在一条 45° 的EI 零零线（nullcline）：线上敏感度与简并度相等，有效信息为 0；点位于零零线右下方时有效信息为正，距离越远，层间因果传导能力越强；点位于左上方时有效信息为负，权重重叠的干扰超过独立传导的信息总量。
下图对标准因果平面做了坐标旋转变换，把原本倾斜的 45° 零值线调整为竖直黑线，横轴对应有效信息 EI 的大小，纵轴对应敏感度与简并度的绝对量级，更便于横向对比各层的有效信息强弱，结合四组实验，因果平面的四项分析功能可直观体现：
* 任务复杂度对比：对比 (a) Iris 与 (b) MNIST 可见，简单线性任务的各层轨迹集中、分化弱；复杂非线性任务的层间轨迹差距显著，因果结构分化更充分。
* 任务复杂度对比：对比 (a) Iris 与 (b) MNIST 可见，简单线性任务的各层轨迹集中、分化弱；复杂非线性任务的层间轨迹差距显著，因果结构分化更充分。
* 层功能定位：如 (b) 中所示，浅层输入层高敏感度、高简并度，对应特征提取与融合；深层输出层数值更低、通路更清晰，对应分类表征输出。
* 层功能定位：如 (b) 中所示，浅层输入层高敏感度、高简并度，对应特征提取与融合；深层输出层数值更低、通路更清晰，对应分类表征输出。