更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
神经网络的有效信息计算
(查看源代码)
2025年7月6日 (日) 11:40的版本
大小无更改
、
2025年7月6日 (日) 11:40
→基于连续方法观察神经网络EI
第163行:
第163行:
其次,我们使用连续变量计算有效信息的方法,我们同样发现,EI的最大变化与训练过程中损失函数最陡峭的部分显著匹配;在过拟合期间,EI在所有层中通常是平坦的,说明网络的因果结构已经趋于稳定,不再发生显著变化了。
其次,我们使用连续变量计算有效信息的方法,我们同样发现,EI的最大变化与训练过程中损失函数最陡峭的部分显著匹配;在过拟合期间,EI在所有层中通常是平坦的,说明网络的因果结构已经趋于稳定,不再发生显著变化了。
−
下图展示了连续方法训练过程中神经网络各层EI和损失函数的变化。图(
a
)和图(
c
)分别显示了Iris任务中训练集和测试集的损失函数变化。可以看到,在训练初期,损失函数快速下降,同时图(
b
)和图(
d
)的EI也发生了显著变化。该网络在过拟合阶段,损失函数趋于平缓,EI基本保持不变。由于MNIST任务复杂度更高,EI的变化幅度更大,表明网络在复杂任务中需要更多的因果结构调整来适应任务需求。总体而言,EI的变化与损失函数的变化密切相关,尤其是在学习的关键阶段,这一发现有助于我们理解神经网络如何通过调整其内部因果结构来适应不同的任务。
+
下图展示了连续方法训练过程中神经网络各层EI和损失函数的变化。图(
b
)和图(
d
)分别显示了Iris任务中训练集和测试集的损失函数变化。可以看到,在训练初期,损失函数快速下降,同时图(
a
)和图(
c
)的EI也发生了显著变化。该网络在过拟合阶段,损失函数趋于平缓,EI基本保持不变。由于MNIST任务复杂度更高,EI的变化幅度更大,表明网络在复杂任务中需要更多的因果结构调整来适应任务需求。总体而言,EI的变化与损失函数的变化密切相关,尤其是在学习的关键阶段,这一发现有助于我们理解神经网络如何通过调整其内部因果结构来适应不同的任务。
[[文件:EI.jpg|center|600x600像素|]]
[[文件:EI.jpg|center|600x600像素|]]
相信未来
5,443
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本