具体而言,网络的前几层共享,用于提取输入状态的特征;然后,网络分为两个分支:一个用于计算状态价值函数V(s),另一个用于计算优势函数 A(s,a)。最后,两个分支的输出被合并,得到每个动作的 Q 值估计。这种结构使得网络能够更有效地学习到状态的价值和动作的优势,从而提高学习性能。 | 具体而言,网络的前几层共享,用于提取输入状态的特征;然后,网络分为两个分支:一个用于计算状态价值函数V(s),另一个用于计算优势函数 A(s,a)。最后,两个分支的输出被合并,得到每个动作的 Q 值估计。这种结构使得网络能够更有效地学习到状态的价值和动作的优势,从而提高学习性能。 |