打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
神经网络的有效信息计算
(查看源代码)
2025年2月21日 (五) 10:35的版本
删除3字节
、
2025年2月21日 (五) 10:35
→基于NIS框架的有效信息计算
第138行:
第138行:
p(Y|X) = Π_{i=1}^m (1 / (2b_i)) * exp(-|y_i - μ_i(X)| / b_i),
p(Y|X) = Π_{i=1}^m (1 / (2b_i)) * exp(-|y_i - μ_i(X)| / b_i),
其中 b_i 为第 i 维输出的尺度参数。
其中 b_i 为第 i 维输出的尺度参数。
−
==== 计算雅可比矩阵 ====
==== 计算雅可比矩阵 ====
第148行:
第147行:
行列式 det(∂_X μ(X)) 反映输入变化对输出的整体影响强度。
行列式 det(∂_X μ(X)) 反映输入变化对输出的整体影响强度。
若行列式在所有输入点均为零,则EI为零(网络无法区分不同输入)。
若行列式在所有输入点均为零,则EI为零(网络无法区分不同输入)。
−
==== NIS框架下的有效信息计算公式 ====
==== NIS框架下的有效信息计算公式 ====
第161行:
第159行:
E[ln |det(∂_X μ)|]为敏感度增益。雅可比行列式对数的期望值,衡量网络对输入变化的全局敏感性。行列式绝对值越大,EI越高。
E[ln |det(∂_X μ)|]为敏感度增益。雅可比行列式对数的期望值,衡量网络对输入变化的全局敏感性。行列式绝对值越大,EI越高。
−
==== 蒙特卡洛采样实现期望计算 ====
==== 蒙特卡洛采样实现期望计算 ====
相信未来
5,443
个编辑