打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
NIS+
(查看源代码)
2024年8月20日 (二) 12:57的版本
添加145字节
、
2024年8月20日 (星期二)
→反向动力学
第426行:
第426行:
=== 反向动力学 ===
=== 反向动力学 ===
−
前向动力学是最小化预测误差
<math>\left\|\phi_q^{\dagger}(Y(t+1))-X_{t+1}\right\| </math>
,保证动力学的确定性,但是由于EI不仅与确定性有关,还与简并性有关,我们需要一个与动力学简并性相关的指标。因此,学者在NIS的框架基础之上,加入了反向动力学,用以反向预测,即输入
<math>y_{t+1}</math>,通过动力学学习器<math>g</math>之后,得到宏观量的反向预测值<math>\hat{y}_{t}</math>,使<math>y_{t+1}</math>和<math>\hat{y}_{t}</math>
之间的损失值减少。通过训练反向动力学学习器
<math>g</math>
,影响编码器,进而影响EI值,使得此框架可以学到一个简并性低的动力学。
+
正向动力学训练是最小化预测误差
<math>\left\|\phi_q^{\dagger}(Y(t+1))-X_{t+1}\right\| </math>
,保证动力学预测未来的准确性,但是EI作为一种特殊的互信息,不仅与确定性有关,还与简并性有关,我们需要在提高动力学学习器的确定性的同时,提高它的非简并性。因此,学者在NIS的框架基础之上,加入了反向动力学,用以反向预测,即输入
<math>y_{t+1}</math>,通过动力学学习器<math>g</math>之后,得到宏观量的反向预测值<math>\hat{y}_{t}</math>,使<math>y_{t+1}</math>和<math>\hat{y}_{t}</math>
之间的误差值最小化。通过训练反向动力学学习器
<math>g</math>
,我们可以影响编码器,进而影响隐空间中的数据分布,从而使得动力学学习器<math>f</math>可以学到一个简并性低的动力学。
+
=== 分阶段训练 ===
=== 分阶段训练 ===
在实践中,为了减轻机器学习的压力,可以先让模型学到比较靠谱的编码策略,然后通过反向动力学将编码策略调整至最优解。NIS+的训练过程分为两个阶段。
在实践中,为了减轻机器学习的压力,可以先让模型学到比较靠谱的编码策略,然后通过反向动力学将编码策略调整至最优解。NIS+的训练过程分为两个阶段。
Matthew
272
个编辑