更改

添加146字节 、 2025年6月20日 (五) 16:39
第270行: 第270行:  
在各类任务环境中,DreamerV3 始终显著优于典型的模型无关深度强化学习算法。
 
在各类任务环境中,DreamerV3 始终显著优于典型的模型无关深度强化学习算法。
   −
在连续控制领域,DreamerV3 超越了 SAC/TD3 风格的多种方法,包括 DeepMind 提出的 D4PG、DMPO 和 MPO,在相同的交互步数条件下实现了更高的累计奖励。与这些高度依赖环境特定调参的离线策略算法不同,DreamerV3 采用统一超参数配置即可取得更优表现,展现出良好的泛化能力和可迁移性。<br>在高维视觉输入任务中,DreamerV3 同样领先于依赖数据增强或对比学习的对手,如基于 SAC 的 DrQ-v2 及使用表征学习的 CURL。这进一步体现了 DreamerV3 在从图像观测中提取潜在动态结构方面的强大能力。<br>在离散动作空间下,DreamerV3 也取得了显著突破。在 Atari 游戏基准中,其最终得分超越了强化学习领域的经典代表 Rainbow 和 IQN,甚至超过了采用蒙特卡洛树搜索的模型规划方法 MuZero,且所需计算资源仅为后者的一小部分。<br>在具备程序生成特性和复杂视觉干扰的 ProcGen 基准中,DreamerV3 的整体表现与调参后的 PPG 相当,并略有超出,同时显著优于 Rainbow 等传统方法。<br>在需要高级空间和时间推理能力的 DeepMind Lab (DMLab) 3D 环境中,DreamerV3 在仅使用 1 亿帧(100M)数据的情况下,就已达到甚至超过 DeepMind 的分布式强化学习算法 IMPALA 在 10 亿帧(1B)下的表现,展现出数量级的样本效率提升。<br>此外,在所有测试环境中,DreamerV3 相较于 PPO 表现出压倒性优势。即使在不进行任务特定调参的情况下,DreamerV3 依然大幅超越高质量实现的 PPO 策略梯度算法。这充分表明,DreamerV3 不仅在最终得分上具有领先优势,更在数据效率和通用性方面实现了全面超越。
+
在连续控制领域,DreamerV3 超越了 SAC/TD3 风格的多种方法,包括 DeepMind 提出的 D4PG、DMPO 和 MPO,在相同的交互步数条件下实现了更高的累计奖励。与这些高度依赖环境特定调参的离线策略算法不同,DreamerV3 采用统一超参数配置即可取得更优表现,展现出良好的泛化能力和可迁移性<ref name=":6">Hafner D, Pasukonis J, Ba J, et al. Mastering diverse domains through world models[J]. arXiv preprint arXiv:2301.04104, 2023.</ref>。<br>在高维视觉输入任务中,DreamerV3 同样领先于依赖数据增强或对比学习的对手,如基于 SAC 的 DrQ-v2 及使用表征学习的 CURL。这进一步体现了 DreamerV3 在从图像观测中提取潜在动态结构方面的强大能力。<br>在离散动作空间下,DreamerV3 也取得了显著突破。在 Atari 游戏基准中,其最终得分超越了强化学习领域的经典代表 Rainbow 和 IQN,甚至超过了采用蒙特卡洛树搜索的模型规划方法 MuZero,且所需计算资源仅为后者的一小部分。<br>在具备程序生成特性和复杂视觉干扰的 ProcGen 基准中,DreamerV3 的整体表现与调参后的 PPG 相当,并略有超出,同时显著优于 Rainbow 等传统方法。<br>在需要高级空间和时间推理能力的 DeepMind Lab (DMLab) 3D 环境中,DreamerV3 在仅使用 1 亿帧(100M)数据的情况下,就已达到甚至超过 DeepMind 的分布式强化学习算法 IMPALA 在 10 亿帧(1B)下的表现,展现出数量级的样本效率提升。<br>此外,在所有测试环境中,DreamerV3 相较于 PPO 表现出压倒性优势。即使在不进行任务特定调参的情况下,DreamerV3 依然大幅超越高质量实现的 PPO 策略梯度算法。这充分表明,DreamerV3 不仅在最终得分上具有领先优势,更在数据效率和通用性方面实现了全面超越。
    
== 在高维视觉输入上的优势 ==
 
== 在高维视觉输入上的优势 ==
761

个编辑