打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
神经网络的有效信息计算
(查看源代码)
2025年1月12日 (日) 04:27的版本
添加3字节
、
2025年1月12日 (日) 04:27
→有效信息计算方法
第144行:
第144行:
为了避免高维度对EI计算的影响,NIS框架引入了维度归一化有效信息(Dimension Averaged Effective Information, dEI)**。其定义为:
为了避免高维度对EI计算的影响,NIS框架引入了维度归一化有效信息(Dimension Averaged Effective Information, dEI)**。其定义为:
+
<math>
<math>
dEI = \frac{EI}{n}
dEI = \frac{EI}{n}
第153行:
第154行:
1. 阶段一:预测训练
1. 阶段一:预测训练
通过最小化预测误差约束粗粒化策略,目标函数为:
通过最小化预测误差约束粗粒化策略,目标函数为:
−
<math>
+
+
<math>
L = \sum_t ||\hat{x}_{t+1} - x_{t+1}||_l
L = \sum_t ||\hat{x}_{t+1} - x_{t+1}||_l
</math>
</math>
−
其中,<math>||\cdot||_l</math> 表示 <math>l</math>-范数,通常选择二次误差。
+
+
其中,<math>||\cdot||_l</math> 表示 <math>l</math>-范数,通常选择二次误差。
2. 阶段二:搜索最优粗粒化维度
2. 阶段二:搜索最优粗粒化维度
相信未来
5,443
个编辑