| 第607行: |
第607行: |
| | 因果态是计算力学中的一个概念。它的意思是说,当我们在一个时序系统中,我们想要有一个ϵ-machine(ϵ-机器),能够根据当前时间步的状态和历史记忆,来预测未来状态。 | | 因果态是计算力学中的一个概念。它的意思是说,当我们在一个时序系统中,我们想要有一个ϵ-machine(ϵ-机器),能够根据当前时间步的状态和历史记忆,来预测未来状态。 |
| | | | |
| − | 无论系统是确定的或概率生成的,当我们已知t时刻的状态和历史记忆时,我们能够预测未来状态的轨迹 <math>p(X_{\gt t}| X_{\leq t}) </math>。而不同时刻,t和t'的状态和历史记忆虽然不完全一样,但是他们可能会导致同样的未来状态,<math>p(X_{\gt t}| X_{\leq t}) = p(X_{\gt t'}| X_{\leq t'}) </math>。所以,计算力学中把这些具有相同未来的t时刻划为等价euqivalent的状态,即 | + | 无论系统是确定的或概率生成的,当我们已知t时刻的状态和历史记忆时,我们能够预测未来状态的轨迹 <math>p(\overrightarrow{X_t}| \overleftarrow{X_t}) </math>。而不同时刻,t和t'的状态和历史记忆虽然不完全一样,但是他们可能会导致同样的未来状态,<math>p(\overrightarrow{X_t}| \overleftarrow{X_t}) = p(\overrightarrow{X_t'}| \overleftarrow{X_t'}) </math>。所以,计算力学中把这些具有相同未来的t时刻划为等价euqivalent的状态,即 |
| | | | |
| − | <math>x_{\leq t} \equiv x_{\leq t'}\ \ \text{iff}\ \ p(x_{\gt t}| x_{\leq t}) = p(x_{\gt t'}| x_{\leq t'}) </math> | + | <math>\overleftarrow{x_t} \equiv \overleftarrow{x_t'}\ \ \text{iff}\ \ p(\overrightarrow{x_t}| \overleftarrow{x_t} ) = p(\overrightarrow{x_t'}|\overleftarrow{x_t'}) </math> |
| | | | |
| | 并定义因果态, | | 并定义因果态, |
| | | | |
| − | <math>E = \{E_t\}_{t \in \mathbb{N} }, E_t = \epsilon( X_{\leq t} ) </math> | + | <math>E = \{E_t\}_{t \in \mathbb{N} }, E_t = \epsilon( \overleftarrow{X_t} ) </math> |
| | | | |
| | 所以,ϵ-机器的工作是根据当前状态和历史记忆而判断t时刻系统处于哪个因果态,并根据该因果态进行未来轨迹预测。 | | 所以,ϵ-机器的工作是根据当前状态和历史记忆而判断t时刻系统处于哪个因果态,并根据该因果态进行未来轨迹预测。 |
| 第625行: |
第625行: |
| | 设我们对微观动力学 <math>X_t</math> 粗粒化成宏观动力学 <math>Z_t = f(X_t)</math>,<math>f</math> 为粗粒化函数。刚才的ϵ-机器只能处理在 <math>X</math> 空间上单一尺度的因果态,而作者们提出了另一种机器,υ-machine(υ-机器)来尝试定义跨尺度的因果态和计算机器。他们把因果态定义中的未来状态从微观的 <math>X</math> 改为宏观的 <math>Z</math>,并定义微观状态 <math>X</math> 中的等价关系为 | | 设我们对微观动力学 <math>X_t</math> 粗粒化成宏观动力学 <math>Z_t = f(X_t)</math>,<math>f</math> 为粗粒化函数。刚才的ϵ-机器只能处理在 <math>X</math> 空间上单一尺度的因果态,而作者们提出了另一种机器,υ-machine(υ-机器)来尝试定义跨尺度的因果态和计算机器。他们把因果态定义中的未来状态从微观的 <math>X</math> 改为宏观的 <math>Z</math>,并定义微观状态 <math>X</math> 中的等价关系为 |
| | | | |
| − | <math>x_{\leq t} \equiv x_{\leq t'}\ \ \text{iff}\ \ p(z_{\gt t}| x_{\leq t}) = p(z_{\gt t'}| x_{\leq t'}) </math> | + | <math>\overleftarrow{x_t} \equiv \overleftarrow{x_t'} \ \ \text{iff}\ \ p( \overrightarrow{z_t} | \overleftarrow{x_t}) = p(\overrightarrow{z_t'}| \overleftarrow{x_t'}) </math> |
| | | | |
| − | 也就是说,υ-机器的目标不再是预测 <math>X</math> 的未来轨迹,而是其粗粒化后的 <math>Z</math> 的未来轨迹,并把拥有同样 <math>p(z_{\gt t}| x_{\leq t})</math> 的 <math>x_{\leq t}</math> 和 <math>x_{\leq t'}</math> 定义为υ-机器的因果态 <math>U</math>: | + | 也就是说,υ-机器的目标不再是预测 <math>X</math> 的未来轨迹,而是其粗粒化后的 <math>Z</math> 的未来轨迹,并把拥有同样 <math>p(\overrightarrow{z_t}| \overleftarrow{x_t})</math> 的 <math>\overleftarrow{x_t}</math> 和 <math>\overleftarrow{x_t'}</math> 定义为υ-机器的因果态 <math>U</math>: |
| | | | |
| − | <math>U = \{U_t\}_{t \in \mathbb{N} }, U_t = υ( X_{\leq t} ) </math> | + | <math>U = \{U_t\}_{t \in \mathbb{N} }, U_t = υ( \overleftarrow{X_t} ) </math> |
| | | | |
| − | 它的意义是什么呢?作者给出的解释是,υ-机器的因果态是一个最优的信息瓶颈:υ-机器是一种对 <math>x_{\leq t}</math> 粒度最粗的并满足对 <math>z_{\gt t}</math>的最大预测性的粗粒化方案。 | + | 它的意义是什么呢?作者给出的解释是,υ-机器的因果态是一个最优的信息瓶颈:υ-机器是一种对 <math>\overleftarrow{x_t}</math> 粒度最粗的并满足对 <math>\overrightarrow{z_t}</math>的最大预测性的粗粒化方案。 |
| | | | |
| | 所以,我们现在有三种机器: | | 所以,我们现在有三种机器: |
| 第645行: |
第645行: |
| | 我们能够了解一些关于它们的推断。 | | 我们能够了解一些关于它们的推断。 |
| | | | |
| − | 推断1:微观 <math>X_{\leq t}</math> 对宏观 <math>Z_{\gt t}</math> 提供的信息量 等于 υ-机器的因果态 <math>U_t</math> 提供的信息量,因为 | + | 推断1:微观 <math>\overleftarrow{X_t}</math> 对宏观 <math>\overrightarrow{Z_t}</math> 提供的信息量 等于 υ-机器的因果态 <math>U_t</math> 提供的信息量,因为 |
| | | | |
| − | <math>I(X_{\leq t}; Z_{\gt t}) | + | <math>I(\overleftarrow{X_t}; \overrightarrow{Z_t}) |
| − | = \sum_{x_{\leq t}} p(x_{\leq t}) D_{KL} \left ( p(z_{\gt t}|x_{\leq t}) || p(z_{\gt t}) \right ) | + | = \sum_{\overleftarrow{x_t}} p(\overleftarrow{x_t}) D_{KL} \left ( p(\overrightarrow{z_t}|\overleftarrow{x_t}) || p(\overrightarrow{z_t}) \right ) |
| − | = \sum_{u_t} p(u_t) D_{KL} \left ( p(z_{\gt t}|u_t) || p(z_{\gt t}) \right ) | + | = \sum_{u_t} p(u_t) D_{KL} \left ( p(\overrightarrow{z_t}|u_t) || p(\overrightarrow{z_t}) \right ) |
| − | = I(U_t; Z_{\gt t}) | + | = I(U_t; \overrightarrow{Z_t}) |
| | </math> | | </math> |
| | | | |
| | | | |
| | | | |
| − | 推断2:υ-机器的因果态 <math>U_t</math> 对宏观 <math>Z_{\gt t}</math> 提供的信息量 大于等于 宏观 ϵ-机器的因果态 <math>E'_t</math>。证明如下: | + | 推断2:υ-机器的因果态 <math>U_t</math> 对宏观 <math>\overrightarrow{Z_t}</math> 提供的信息量 大于等于 宏观 ϵ-机器的因果态 <math>E'_t</math>。证明如下: |
| | | | |
| − | 首先,<math>I(E'_t ; Z_{\gt t}) = I(Z_{\leq t}; Z_{\gt t})</math>;其次,<math>I(U_t ; Z_{\gt t}) = I(X_{\leq t}; Z_{\gt t})</math>; | + | 首先,<math>I(E'_t ; \overrightarrow{Z_t}) = I( \overleftarrow{Z_t} ; \overrightarrow{Z_t})</math>;其次,<math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math>; |
| | | | |
| − | 因为 <math>Z_{\gt t}</math> 是 <math>X_{\gt t}</math> 的粗粒化,所以 <math>I(X_{\leq t}; Z_{\gt t})</math> 肯定比 <math>I(Z_{\leq t}; Z_{\gt t})</math> 大。因此, | + | 因为 <math>\overrightarrow{Z_t}</math> 是 <math>\overrightarrow{X_t}</math> 的粗粒化,所以 <math>I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math> 肯定比 <math>I( \overleftarrow{Z_t} ; \overrightarrow{Z_t})</math> 大。因此, |
| | | | |
| − | <math>I(U_t ; Z_{\gt t}) = I(X_{\leq t}; Z_{\gt t}) \geq I(Z_{\leq t}; Z_{\gt t}) = I(E'_t ; Z_{\gt t})</math>。证毕。 | + | <math>I(U_t ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t}; \overrightarrow{Z_t}) \geq I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I(E'_t ; \overrightarrow{Z_t})</math>。证毕。 |
| | | | |
| | 了解了因果态的定义后,我们就能逐个了解这篇文章中的三种闭合定义。 | | 了解了因果态的定义后,我们就能逐个了解这篇文章中的三种闭合定义。 |
| 第675行: |
第675行: |
| | 当我们对 <math>Z</math> 进行干预的时候,微观 <math>X</math> 的状态也会跟着改变,就像当我们加热了一锅水的时候,其中的水分子的能量也会改变。因果闭合的情况是指,对 <math>Z</math>空间 进行的干预影响到 <math>X</math>空间时,按照 <math>X</math> 的动力学进行演化后进行粗粒化的 <math>Z</math>,与直接在 <math>Z</math> 空间上进行演化没有区别。 | | 当我们对 <math>Z</math> 进行干预的时候,微观 <math>X</math> 的状态也会跟着改变,就像当我们加热了一锅水的时候,其中的水分子的能量也会改变。因果闭合的情况是指,对 <math>Z</math>空间 进行的干预影响到 <math>X</math>空间时,按照 <math>X</math> 的动力学进行演化后进行粗粒化的 <math>Z</math>,与直接在 <math>Z</math> 空间上进行演化没有区别。 |
| | | | |
| − | 这说明了,当我们对 <math>Z</math> 进行干预的时候,仅凭 <math>Z</math> 自身的动力学就能正确的演化,不用再回到微观 <math>X</math> 层溯源。所以这就是宏观和微观之间因果闭合了,即宏观动力学在因果性上能做到独立的演化。我们可以把 <math>t</math> 时刻的状态和历史记忆 <math>Z_{\leq t}</math> 视为 <math>Z_{t+1}</math> 的因,而非 <math>X_{\leq t}</math>。 | + | 这说明了,当我们对 <math>Z</math> 进行干预的时候,仅凭 <math>Z</math> 自身的动力学就能正确的演化,不用再回到微观 <math>X</math> 层溯源。所以这就是宏观和微观之间因果闭合了,即宏观动力学在因果性上能做到独立的演化。我们可以把 <math>t</math> 时刻的状态和历史记忆 <math>\overleftarrow{Z_t}</math> 视为 <math>Z_{t+1}</math> 的因,而非 <math>\overleftarrow{X_t}</math>。 |
| | | | |
| | | | |
| 第683行: |
第683行: |
| | 上面所述的因果闭合的建模基于动力学的因果态,强调因果的概念。我们也可以关注计算力学的另一方面,即计算与预测。 | | 上面所述的因果闭合的建模基于动力学的因果态,强调因果的概念。我们也可以关注计算力学的另一方面,即计算与预测。 |
| | | | |
| − | 上述的因果态对 <math>Z_{\gt t}</math> 预测能力可以写成信息论的形式,即变量对 <math>Z_{\gt t}</math> 提供的互信息。<math>Z_t</math> 本身的ϵ-机器和 <math>Z_t = f(X_t)</math> 之间的υ-机器的等价关系可以写成: | + | 上述的因果态对 <math>\overrightarrow{Z_t}</math> 预测能力可以写成信息论的形式,即变量对 <math>\overrightarrow{Z_t}</math> 提供的互信息。<math>Z_t</math> 本身的ϵ-机器和 <math>Z_t = f(X_t)</math> 之间的υ-机器的等价关系可以写成: |
| | | | |
| − | <math>I(Z_{\leq t}; Z_{\gt t}) = I(X_{\leq t}; Z_{\gt t})</math> | + | <math>I( \overleftarrow{Z_t} ; \overrightarrow{Z_t}) = I( \overleftarrow{X_t} ; \overrightarrow{Z_t})</math> |
| | | | |
| − | 这说明了,宏观的 <math>Z_{\leq t}</math> 和微观的 <math>X_{\leq t}</math> 给 <math>Z_{\gt t}</math> 提供的信息量是一样的。所以,<math>X_{\leq t}</math> 并不会给 <math>Z_{\gt t}</math>提供额外的信息量和额外的预测性。 | + | 这说明了,宏观的 <math>\overleftarrow{Z_t}</math> 和微观的 <math>\overleftarrow{X_t}</math> 给 <math>\overrightarrow{Z_t}</math> 提供的信息量是一样的。所以,<math>\overleftarrow{X_t}</math> 并不会给 <math>\overrightarrow{Z_t}</math>提供额外的信息量和额外的预测性。 |
| | | | |
| | 虽然定义方式不一样,但是我们不难看出,因果闭合和信息闭合这两个对 <math>Z_t = f(X_t)</math> 的条件是等价的。原因在上面[[马尔科夫链的粗粒化|跨尺度因果态]] | | 虽然定义方式不一样,但是我们不难看出,因果闭合和信息闭合这两个对 <math>Z_t = f(X_t)</math> 的条件是等价的。原因在上面[[马尔科夫链的粗粒化|跨尺度因果态]] |
| 第736行: |
第736行: |
| | | | |
| | <math> | | <math> |
| − | | + | I(\overrightarrow{Z_t}) |
| | </math> | | </math> |
| | | | |