更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
神经网络的有效信息计算
(查看源代码)
2025年2月21日 (五) 10:35的版本
删除3字节
、
2025年2月21日 (五) 10:35
→基于NIS框架的有效信息计算
第138行:
第138行:
p(Y|X) = Π_{i=1}^m (1 / (2b_i)) * exp(-|y_i - μ_i(X)| / b_i),
p(Y|X) = Π_{i=1}^m (1 / (2b_i)) * exp(-|y_i - μ_i(X)| / b_i),
其中 b_i 为第 i 维输出的尺度参数。
其中 b_i 为第 i 维输出的尺度参数。
−
==== 计算雅可比矩阵 ====
==== 计算雅可比矩阵 ====
第148行:
第147行:
行列式 det(∂_X μ(X)) 反映输入变化对输出的整体影响强度。
行列式 det(∂_X μ(X)) 反映输入变化对输出的整体影响强度。
若行列式在所有输入点均为零,则EI为零(网络无法区分不同输入)。
若行列式在所有输入点均为零,则EI为零(网络无法区分不同输入)。
−
==== NIS框架下的有效信息计算公式 ====
==== NIS框架下的有效信息计算公式 ====
第161行:
第159行:
E[ln |det(∂_X μ)|]为敏感度增益。雅可比行列式对数的期望值,衡量网络对输入变化的全局敏感性。行列式绝对值越大,EI越高。
E[ln |det(∂_X μ)|]为敏感度增益。雅可比行列式对数的期望值,衡量网络对输入变化的全局敏感性。行列式绝对值越大,EI越高。
−
==== 蒙特卡洛采样实现期望计算 ====
==== 蒙特卡洛采样实现期望计算 ====
相信未来
5,443
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本