5,443
个编辑
更改
跳到导航
跳到搜索
第39行：
第39行： − +
→潜在动力学模型（Latent Dynamics Model）
# '''奖励预测模型'''：<math>\hat{r}_t \sim p_{\phi}(r_t \mid h_t, s_t)</math>。用以在潜在空间中预测奖励，辅助世界模型训练，并为策略优化提供模拟反馈。
# '''奖励预测模型'''：<math>\hat{r}_t \sim p_{\phi}(r_t \mid h_t, s_t)</math>。用以在潜在空间中预测奖励，辅助世界模型训练，并为策略优化提供模拟反馈。
#
#
# '''继续标志（终止预测）模型'''：<math>\hat{c}_t \sim p_{\phi}(c_t \mid h_t, s_t)</math>。预测episode是否终止（<math>c_t \in {0,1}</math>），即预测折扣因子<math>\gamma_t</math>。DreamerV2版本起引入此机制，以在想象轨迹中判定何时停止推理。
# '''继续标志（终止预测）模型'''：<math>\hat{c}_t \sim p_{\phi}(c_t \mid h_t, s_t)</math>。预测episode是否终止（<math>c_t \in {0,1}</math>），即预测折扣因子<math>\gamma_t</math>。DreamerV2版本起引入此机制，用于在想象轨迹中判定何时停止推理。
RSSM将环境建模为部分可观察马尔可夫决策过程（POMDP），确定性隐状态<math>h_t</math>累积历史信息，维持跨步连续性；随机潜变量<math>s_t</math>捕捉观测不确定性及新输入信息。这种设计具备重要意义：
RSSM将环境建模为部分可观察马尔可夫决策过程（POMDP），确定性隐状态<math>h_t</math>累积历史信息，维持跨步连续性；随机潜变量<math>s_t</math>捕捉观测不确定性及新输入信息。这种设计具备重要意义：