更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
NIS+
(查看源代码)
2024年12月22日 (日) 18:57的版本
删除25字节
、
2024年12月22日 (日) 18:57
无编辑摘要
第665行:
第665行:
在实践中,为了减轻机器学习的压力,作者先让模型学到比较靠谱的编码策略,然后通过反向动力学将编码策略调整至最优解。NIS+的训练过程分为两个阶段。
在实践中,为了减轻机器学习的压力,作者先让模型学到比较靠谱的编码策略,然后通过反向动力学将编码策略调整至最优解。NIS+的训练过程分为两个阶段。
−
第一阶段:只训练前向神经网络,最小化预测误差<math>
w(
\
boldsymbol
{x}
_t)\parallel\boldsymbol
{
y
}
_t
-
g(
\boldsymbol{
y
}_{t+1}
)
\parallel </math>。
+
第一阶段:只训练前向神经网络,最小化预测误差<math>\
parallel\hat
{x}
_
{
t+1
}-\boldsymbol{
x
}_{t+1}\parallel </math>。
第二阶段,训练反向神经网络和前向神经网络,本质上是用于训练<math>
第二阶段,训练反向神经网络和前向神经网络,本质上是用于训练<math>
\phi_{ω}
\phi_{ω}
−
</math>。在此过程中,用<math>λ </math>来平衡前向神经网络预测误差<math>
w(
\
boldsymbol
{x}
_t)\parallel\boldsymbol
{
y
}
_t
-
g(
\boldsymbol{
y
}_{t+1}
)
\parallel </math>和反向神经网络预测误差<math>\
parallel\hat
{x}
_
{
t+1
}-\boldsymbol{
x
}_{t+1}\parallel </math>。在不同的实验中,根据超参数搜索法,<math>λ </math>取不同的值。
+
</math>。在此过程中,用<math>λ </math>来平衡前向神经网络预测误差<math>\
parallel\hat
{x}
_
{
t+1
}-\boldsymbol{
x
}_{t+1}\parallel </math>和反向神经网络预测误差<math>
w(
\
boldsymbol
{x}
_t)\parallel\boldsymbol
{
y
}
_t
-
g(
\boldsymbol{
y
}_{t+1}
)
\parallel </math>。在不同的实验中,根据超参数搜索法,<math>λ </math>取不同的值。
在整个模型的训练过程中,总的目标如式{{EquationNote|3}}。
在整个模型的训练过程中,总的目标如式{{EquationNote|3}}。
念
761
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本