打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
神经网络的有效信息计算
(查看源代码)
2025年1月12日 (日) 05:23的版本
添加4字节
、
2025年1月12日 (日) 05:23
→有效信息的近似计算
第185行:
第185行:
<math>
<math>
−
EI_L \approx -\frac{m + m \ln(2\pi) + \ln |\det(\Sigma)|}{2} - \ln \rho + \mathbb{E}_{X \sim U([-L, L]^n)} \ln |\det(\
partial_X
' \mu(X))|
+
EI_L \approx -\frac{m + m \ln(2\pi) + \ln |\det(\Sigma)|}{2} - \ln \rho + \mathbb{E}_{X \sim U([-L, L]^n)} \ln |\det(\
partial_{X
'
}
\mu(X))|
</math>
</math>
第195行:
第195行:
<math>\rho</math>:归一化因子,用于修正概率分布;
<math>\rho</math>:归一化因子,用于修正概率分布;
<math>\partial_{X'} \mu(X)</math>:表示输出对输入的导数矩阵,等价于雅可比矩阵;
<math>\partial_{X'} \mu(X)</math>:表示输出对输入的导数矩阵,等价于雅可比矩阵;
−
<math>|\det(\
partial_X
' \mu(X))|</math>:导数矩阵行列式的绝对值,表示输入输出的局部线性映射比例。
+
<math>|\det(\
partial_{X
'
}
\mu(X))|</math>:导数矩阵行列式的绝对值,表示输入输出的局部线性映射比例。
特殊情况如下:
特殊情况如下:
相信未来
5,443
个编辑