更改

添加38字节 、 2024年11月29日 (五) 21:45
第44行: 第44行:  
===因果态的定义===
 
===因果态的定义===
   −
智能体对环境的测量精度一般都是有限的,测量结果只能描述环境状态的投影。我们可以将环境从过去到未来的变化用一个离散的稳定[[随机过程]]描述,状态的取值空间则为双无限序列可数集合<math>\overleftrightarrow{S}=⋯s_{-2} s_{-1} s_0 s_1 s_2…</math>,也就是说,一个状态指的是一个时间序列。基于当前的时刻<math>t</math>,我们可以将<math>\overleftrightarrow{S}</math>分为单侧前向序列<math>s_t^→=s_t s_{t+1} s_{t+2} s_{t+3}…</math>和单侧后向序列<math>s_t^←=⋯s_{t-3} s_{t-2} s_{t-1} </math>两个部分,所有可能的未来序列<math>s_t^→</math>形成的集合记作<math> \overrightarrow{S}</math>,所有可能的历史序列<math>\overleftarrow{s_t}</math>形成的集合记作<math> \overleftarrow{S}</math>。某一个时刻的状态指的是截止到当前时刻的历史序列。
+
智能体对环境的测量精度一般都是有限的,测量结果只能描述环境状态的投影。我们可以将环境从过去到未来的变化用一个离散的稳定[[随机过程]]描述,状态的取值空间则为双无限序列可数集合<math>\overleftrightarrow{S}=⋯s_{-2} s_{-1} s_0 s_1 s_2…</math>,也就是说,一个状态指的是一个时间序列。基于当前的时刻<math>t</math>,我们可以将<math>\overleftrightarrow{S}</math>分为单侧前向序列<math>\overrightarrow{s_t}=s_t s_{t+1} s_{t+2} s_{t+3}…</math>和单侧后向序列<math>\overleftarrow{s_t}=⋯s_{t-3} s_{t-2} s_{t-1} </math>两个部分,所有可能的未来序列<math>\overrightarrow{s_t}</math>形成的集合记作<math> \overrightarrow{S}</math>,所有可能的历史序列<math>\overleftarrow{s_t}</math>形成的集合记作<math> \overleftarrow{S}</math>。某一个时刻的状态指的是截止到当前时刻的历史序列。
    
通过某种划分( partition),我们可以找到观测到的状态(可以称之为微观态)与智能体压缩后得到的隐空间上的状态(可以称为宏观态)之间的对应关系。划分为一种映射,<math> \eta{:}\overleftarrow{S}\mapsto\mathcal{R}</math>,其中<math>\mathcal{R} </math>是微观状态空间的子集的集合,要满足其元素彼此互斥,而且所有元素的并集等于<math> \overset{\leftarrow}{S}</math>。通过划分操作得到的每个子集都可以被视为对应着一个宏观态。
 
通过某种划分( partition),我们可以找到观测到的状态(可以称之为微观态)与智能体压缩后得到的隐空间上的状态(可以称为宏观态)之间的对应关系。划分为一种映射,<math> \eta{:}\overleftarrow{S}\mapsto\mathcal{R}</math>,其中<math>\mathcal{R} </math>是微观状态空间的子集的集合,要满足其元素彼此互斥,而且所有元素的并集等于<math> \overset{\leftarrow}{S}</math>。通过划分操作得到的每个子集都可以被视为对应着一个宏观态。