更改

删除2字节 、 2025年6月16日 (一) 19:27
第92行: 第92行:     
这一变分目标与使用重参数化技巧相结合,使得潜在动力学模型和策略能够端到端地被深度神经网络优化。
 
这一变分目标与使用重参数化技巧相结合,使得潜在动力学模型和策略能够端到端地被深度神经网络优化。
−
  −
   
==规划与决策机制==
 
==规划与决策机制==
 
在完成潜在动态模型的训练之后,智能体便具备了在潜在空间中进行前瞻性思考的能力——即在不依赖真实环境交互的前提下,基于当前潜在状态,利用训练好的世界模型模拟未来的状态演化与奖赏反馈。这一“想象能力”(imagination)是 Dreamer 系列算法的关键特征,也是在 PlaNet 等先导方法中首次系统化提出的。在此框架下,策略优化不再受限于真实数据的收集速度与环境延迟,而是可以在紧凑、高效的潜在空间中进行大规模并行 roll-out。这些 imagined trajectories 捕捉了模型关于未来状态—奖赏序列的预测,从而为智能体提供了丰富的“内省式”经验用于指导行为选择。接下来的部分将介绍 PlaNet 如何利用潜在空间生成高效的 imagined trajectories,并在此基础上,通过模型预测控制(MPC)或策略梯度等方式,完成对实际动作的选择与优化。
 
在完成潜在动态模型的训练之后,智能体便具备了在潜在空间中进行前瞻性思考的能力——即在不依赖真实环境交互的前提下,基于当前潜在状态,利用训练好的世界模型模拟未来的状态演化与奖赏反馈。这一“想象能力”(imagination)是 Dreamer 系列算法的关键特征,也是在 PlaNet 等先导方法中首次系统化提出的。在此框架下,策略优化不再受限于真实数据的收集速度与环境延迟,而是可以在紧凑、高效的潜在空间中进行大规模并行 roll-out。这些 imagined trajectories 捕捉了模型关于未来状态—奖赏序列的预测,从而为智能体提供了丰富的“内省式”经验用于指导行为选择。接下来的部分将介绍 PlaNet 如何利用潜在空间生成高效的 imagined trajectories,并在此基础上,通过模型预测控制(MPC)或策略梯度等方式,完成对实际动作的选择与优化。
761

个编辑