281
个编辑
更改
跳到导航
跳到搜索
第9行：
第9行： + + + + + +
→DQN 的提出及其在 Atari 游戏中的突破性成果
===DQN 的提出及其在 Atari 游戏中的突破性成果===
===DQN 的提出及其在 Atari 游戏中的突破性成果===
Deep Q-Network（DQN）是由DeepMind团队在2015年发表的论文<ref>{{cite journal|last=Mnih|first=V.|last2=Kavukcuoglu|first2=K.|title=Human-level control through deep reinforcement learning|journal=Nature|year=2015|volume=518|pages=529–533|issue=7540|doi=10.1038/nature14236|pmid=25719670}}</ref>中提出的深度强化学习算法。该研究首次将深度神经网络与Q-learning结合，直接从高维感官输入（如Atari游戏的像素）学习控制策略，而无需手工设计特征。DQN在Atari 2600游戏上的表现达到或超越人类水平，标志着深度强化学习在复杂任务中的重大突破。
DQN的核心创新包括使用**深度卷积神经网络（CNN）**处理原始像素输入，模仿生物视觉系统的层次化特征提取能力。此外，为了解决传统强化学习在非线性函数逼近下的不稳定性，DQN引入了**经验回放（Experience Replay）**机制，通过存储并随机采样历史经验来打破数据相关性，提高训练稳定性。同时，采用**目标网络分离**技术，定期冻结目标Q网络的参数，减少训练过程中的波动。
在实验中，DQN在49款Atari 2600游戏上进行测试，仅以游戏屏幕像素和分数作为输入，使用相同的网络架构和超参数。结果显示，DQN在43款游戏中超越了此前所有强化学习方法，并在29款游戏中达到人类专业测试员水平的75%以上。例如，在《Breakout》中，DQN自主发现“侧边挖隧道”的高分策略，最终得分远超人类玩家；在《Space Invaders》中，DQN学会忽略无关视觉特征，专注于关键状态价值预测。
DQN的成功不仅验证了端到端强化学习的可行性，还揭示了深度神经网络与生物学习机制的相似性，如经验回放与海马体记忆重放的类比。然而，DQN仍存在训练数据需求大、对超长程规划任务（如《Montezuma’s Revenge》）表现有限等挑战。尽管如此，DQN为后续深度强化学习研究奠定了基础，推动了从游戏AI到机器人控制等领域的广泛应用。
==Q-Learning 基础==
==Q-Learning 基础==