更改

添加9字节 、 2024年12月15日 (日) 15:19
第48行: 第48行:  
通过某种划分( partition),我们可以找到观测到的状态(可以称之为微观态)与智能体压缩后得到的隐空间上的状态(可以称为宏观态)之间的对应关系。划分为一种映射,<math> \eta{:}\overleftarrow{S}\mapsto\mathcal{R}</math>,其中<math>\mathcal{R} </math>是微观状态空间的子集的集合,要满足其元素彼此互斥,而且所有元素的并集等于<math> \overset{\leftarrow}{S}</math>。通过划分操作得到的每个子集都可以被视为对应着一个宏观态。
 
通过某种划分( partition),我们可以找到观测到的状态(可以称之为微观态)与智能体压缩后得到的隐空间上的状态(可以称为宏观态)之间的对应关系。划分为一种映射,<math> \eta{:}\overleftarrow{S}\mapsto\mathcal{R}</math>,其中<math>\mathcal{R} </math>是微观状态空间的子集的集合,要满足其元素彼此互斥,而且所有元素的并集等于<math> \overset{\leftarrow}{S}</math>。通过划分操作得到的每个子集都可以被视为对应着一个宏观态。
 
[[文件:划分示意图.jpg|居中|400x400像素|替代=|无框]]
 
[[文件:划分示意图.jpg|居中|400x400像素|替代=|无框]]
−
上图为某种划分的示意图,将集合<math> \overset{\leftarrow}{S}</math>划分为某类状态<math> \mathcal{R}=\{\mathcal{R}_i:i=1,2,3,4\}</math>,值得注意的是,<math> \mathcal{R}_i</math>不必形成紧致集,也可以是康托集或其他更特殊的结构,上图为了示意清楚才这样画的。
+
上图为某种划分的示意图,将集合<math> \overset{\leftarrow}{S}</math>划分为某类状态的子集<math> \mathcal{R}=\{\mathcal{R}_i:i=1,2,3,4\}</math>,值得注意的是,<math> \mathcal{R}_i</math>不必形成紧致集,也可以是康托集或其他更特殊的结构,上图为了示意清楚才这样画的。
    
对于集合<math> \overset{\leftarrow}{S}</math>的划分可以有很多种,若某一种划分能够在预测能力最强的同时又非常简洁,那么它肯定是最优的划分,我们把这种用最优的划分方法得到的状态称为[[因果态]]。因果态就是智能体对测量结果进行处理后,根据其内部模型(尤其是状态结构)识别出的斑图,并且这种斑图不随时间发生变化。形式化定义为:对于任意的时刻<math>t </math> 和<math>t^{'} </math>,给定过去状态<math> \overleftarrow{s_t}  </math>的条件下,未来状态<math> \overrightarrow{s} </math>的分布与给定过去状态<math> \overleftarrow{s_{t^{'}}} </math>的条件下,未来状态<math> \overrightarrow{s} </math>的分布相同。那么<math>t </math> 和<math>t^{'} </math>的关系就记作<math>t\sim t^{'} </math>,“<math>∼ </math> ” 表示由等效未来状态所引起的等价关系,也叫预测等价性(predictive equivalence),可以用公式表示为:<math>t\sim t^{'} \triangleq Pr(\overrightarrow{s}|\overleftarrow{s_t} )=Pr(\overrightarrow{s} |\overleftarrow{s_{t^{'}}} ) </math>,若<math>t </math> 和<math>t^{'} </math>对未来状态预测的分布相同,则定义他们具有相同的因果态(casual state)。
 
对于集合<math> \overset{\leftarrow}{S}</math>的划分可以有很多种,若某一种划分能够在预测能力最强的同时又非常简洁,那么它肯定是最优的划分,我们把这种用最优的划分方法得到的状态称为[[因果态]]。因果态就是智能体对测量结果进行处理后,根据其内部模型(尤其是状态结构)识别出的斑图,并且这种斑图不随时间发生变化。形式化定义为:对于任意的时刻<math>t </math> 和<math>t^{'} </math>,给定过去状态<math> \overleftarrow{s_t}  </math>的条件下,未来状态<math> \overrightarrow{s} </math>的分布与给定过去状态<math> \overleftarrow{s_{t^{'}}} </math>的条件下,未来状态<math> \overrightarrow{s} </math>的分布相同。那么<math>t </math> 和<math>t^{'} </math>的关系就记作<math>t\sim t^{'} </math>,“<math>∼ </math> ” 表示由等效未来状态所引起的等价关系,也叫预测等价性(predictive equivalence),可以用公式表示为:<math>t\sim t^{'} \triangleq Pr(\overrightarrow{s}|\overleftarrow{s_t} )=Pr(\overrightarrow{s} |\overleftarrow{s_{t^{'}}} ) </math>,若<math>t </math> 和<math>t^{'} </math>对未来状态预测的分布相同,则定义他们具有相同的因果态(casual state)。