更改

添加73字节 、 2025年1月23日 (四) 11:37
第368行: 第368行:  
1. 强化学习世界模型中的状态转移包含动作,而在斑图重构机器中建模因果态的转移,不涉及智能体动作的建模。
 
1. 强化学习世界模型中的状态转移包含动作,而在斑图重构机器中建模因果态的转移,不涉及智能体动作的建模。
   −
2. 在世界模型的学习中,学习宏观状态粗粒化一方面需要考虑的点是状态转移的等价性(或可交换性),从<math>s</math>粗粒化的到<math>z</math>经过宏观动力学转移到下一时刻的宏观状态分布<math>P_1(z')</math>应该尽可能接近从<math>s</math>经过微观动力学转移到<math>s'</math>后再粗粒化的到的宏观状态分布<math>P_2(z')</math>,而斑图重构机器中状态的粗粒化不涉及决策任务相关信息,并且保留了微观层面的最大可预测性。
+
2. 在世界模型的学习中,宏观状态粗粒化的另一个需要考虑的点是状态转移和粗粒化的可交换性,也就是从<math>s</math>粗粒化的表示<math>z</math>经过宏观动力学(世界模型)转移到下一时刻的宏观状态分布<math>P_1(z')</math>,应该尽可能接近从<math>s</math>经过微观动力学(未做表征学习)转移到<math>s'</math>,然后再构建表征<math>z'</math>,从而得到的宏观状态分布<math>P_2(z')</math>,也就是<math>P_1(z)\approx P_2(z')</math>。而斑图重构机器中状态的粗粒化不涉及这一问题的讨论。
    
==参考文献==
 
==参考文献==