2,437
个编辑
更改
跳到导航
跳到搜索
第21行：
第21行： − +
→计算力学
====计算力学====
====计算力学====
[[计算力学]]理论试图用定量的框架来表述涌现的因果关系，从一个随机过程的观察中构造一个最小的[[因果模型]]，这个模型可以产生观察到的时间序列<ref name=":3" />。其中随机过程可以用<math>\overleftrightarrow{s}</math>表示，基于时间<math>t</math>可以将[[随机过程]]分为两个部分，时间<math>t</math>前和时间<math>t</math>后的过程，<math>\overleftarrow{s_t}</math>和<math>\overrightarrow{s_t}</math>，当这个过程是[[平稳过程]]时，可以去掉时间。因此，可以将所有可能的历史过程<math>\overleftarrow{s_t}</math>形成的集合记作<math> \overleftarrow{S}</math>，所有未来的过程形成的集合记作<math> \overrightarrow{S}</math>。我们的目标是建立一个模型，希望以高精度方式重建和预测观察到的随机序列。然而，序列的随机性使我们无法获得完美的重建，因此，我们需要一个粗粒化的映射来捕获随机序列中的有序结构。我们需要定义一个划分函数<math>\eta: \overleftarrow{S}→\mathcal{R}</math>，可以将<math>\overleftarrow{S}</math>划分为相互排斥的子集（所有的互斥子集形成全集），形成的集合记为<math>\mathcal{R}</math>，<math>R \in \mathcal{R}</math>中的任意子集可以看作是一个状态。对于一组状态集合<math>\mathcal{R}</math>，我们使用香农熵定义其统计复杂性指标<math>C_\mu</math>来衡量其简单性，其中<math>C_\mu(\mathcal{R})\triangleq -\sum_{\rho\in \mathcal{R}} P(\mathcal{R}=\rho)\log_2 P(\mathcal{R}=\rho)</math>，当使用一组状态构建预测模型时，统计复杂性指的是模型的大小。此外，为了使状态集在预见性和简约性之间取得最佳平衡，我们定义了[[因果等价]]的概念，如果<math>P\left ( \overrightarrow{s}|\overleftarrow{s}\right )=P\left ( \overrightarrow{s}|{\overleftarrow{s}}'\right )</math>，则<math>\overleftarrow{s}</math>和<math>{\overleftarrow{s}}'</math>是因果等价的，这种等价关系可以将所有的历史过程划分为等价的类，并将它们定义为[[因果态]]。将历史过程<math>\overleftarrow{s}</math>的所有因果态定义为<math>\epsilon \left ( \overleftarrow{s} \right )</math>，<math>\epsilon: \overleftarrow{\mathcal{S}}\rightarrow 2^{\overleftarrow{\mathcal{S}}}</math>是一个函数，将历史过程<math>\overleftarrow{s}</math>映射成因果态<math>\epsilon(\overleftarrow{s})\in 2^{\overleftarrow{\mathcal{S}}}</math>。将两个[[因果态]]<math>S_i</math>和<math>S_j</math>之间的因果转移概率记为<math>T_{ij}^{\left ( s \right )}</math>，一个随机过程的<math>\epsilon-machine</math>被定义为有序对<math>\left \{ \epsilon,T \right \}</math>，是一种模式发现机器，其中<math>\epsilon</math>是因果态函数，可以将状态<math>s</math>映射到<math>\epsilon(s)</math>， <math>T</math>是通过<math>\epsilon</math>定义的状态转移矩阵的集合。通过证明<math>\epsilon-machine</math>具有最大可预测性、最小统计复杂度以及最小随机性这三个重要特性验证了其在某种意义上是最优的。此外，作者引入了一种分层机器重构算法可以从观测数据中计算因果态和<math>\epsilon-machine</math>。尽管该算法可能并不适用于所有场景，但作者以混沌动力学、隐马尔可夫模型和元胞自动机为例，给出了数值计算结果和相应的机器重构路径。虽然该方法没有给出涌现的明确定义和定量理论，但是随后一些研究人员进一步推进了计算力学的发展，Shalizi等<ref>C. R. Shalizi, C. Moore, What is a macrostate? subjective observations and objective dynamics, arXiv preprint cond-mat/0303625 (2003).</ref>在自己的工作中讨论计算力学与涌现的关系，同时作者解释说，涌现可以被理解为一个动力学过程，在这个过程中，一个模式获得了能适应不同环境的能力。
[[计算力学]]理论试图用定量的框架来表述涌现的因果关系，从一个随机过程的观察中构造一个最小的[[因果模型]]，这个模型可以产生观察到的时间序列<ref name=":3" />。其中随机过程可以用<math>\overleftrightarrow{s}</math>表示，基于时间<math>t</math>可以将[[随机过程]]分为两个部分，时间<math>t</math>前和时间<math>t</math>后的过程，<math>\overleftarrow{s_t}</math>和<math>\overrightarrow{s_t}</math>，当这个过程是[[平稳过程]]时，可以去掉时间。因此，可以将所有可能的历史过程<math>\overleftarrow{s_t}</math>形成的集合记作<math> \overleftarrow{S}</math>，所有未来的过程形成的集合记作<math> \overrightarrow{S}</math>。我们的目标是建立一个模型，希望以高精度方式重建和预测观察到的随机序列。然而，序列的随机性使我们无法获得完美的重建，因此，我们需要一个粗粒化的映射来捕获随机序列中的有序结构。我们需要定义一个划分函数<math>\eta: \overleftarrow{S}→\mathcal{R}</math>，可以将<math>\overleftarrow{S}</math>划分为相互排斥的子集（所有的互斥子集形成全集），形成的集合记为<math>\mathcal{R}</math>，<math>R \in \mathcal{R}</math>中的任意子集可以看作是一个状态。对于一组状态集合<math>\mathcal{R}</math>，我们使用香农熵定义其统计复杂性指标<math>C_\mu</math>来衡量其简单性，其中<math>C_\mu(\mathcal{R})\triangleq -\sum_{\rho\in \mathcal{R}} P(\mathcal{R}=\rho)\log_2 P(\mathcal{R}=\rho)</math>，当使用一组状态构建预测模型时，统计复杂性指的是模型的大小。此外，为了使状态集在预见性和简约性之间取得最佳平衡，我们定义了[[因果等价]]的概念，如果<math>P\left ( \overrightarrow{s}|\overleftarrow{s}\right )=P\left ( \overrightarrow{s}|{\overleftarrow{s}}'\right )</math>，则<math>\overleftarrow{s}</math>和<math>{\overleftarrow{s}}'</math>是因果等价的，这种等价关系可以将所有的历史过程划分为等价的类，并将它们定义为[[因果态]]。将历史过程<math>\overleftarrow{s}</math>的所有因果态定义为<math>\epsilon \left ( \overleftarrow{s} \right )</math>，<math>\epsilon: \overleftarrow{\mathcal{S}}\rightarrow 2^{\overleftarrow{\mathcal{S}}}</math>是一个函数，将历史过程<math>\overleftarrow{s}</math>映射成因果态<math>\epsilon(\overleftarrow{s})\in 2^{\overleftarrow{\mathcal{S}}}</math>。将两个[[因果态]]<math>S_i</math>和<math>S_j</math>之间的因果转移概率记为<math>T_{ij}^{\left ( s \right )}</math>，一个随机过程的<math>\epsilon-machine</math>被定义为有序对<math>\left \{ \epsilon,T \right \}</math>，是一种模式发现机器，学习<math>\epsilon</math>和<math>T</math>函数，其中<math>\epsilon</math>是因果态函数，可以将状态<math>s</math>映射到<math>\epsilon(s)</math>， <math>T</math>是通过<math>\epsilon</math>定义的状态转移矩阵的集合。通过证明<math>\epsilon-machine</math>具有最大可预测性、最小统计复杂度以及最小随机性这三个重要特性验证了其在某种意义上是最优的。此外，作者引入了一种分层机器重构算法可以从观测数据中计算因果态和<math>\epsilon-machine</math>。尽管该算法可能并不适用于所有场景，但作者以混沌动力学、隐马尔可夫模型和元胞自动机为例，给出了数值计算结果和相应的机器重构路径。虽然该方法没有给出涌现的明确定义和定量理论，但是随后一些研究人员进一步推进了计算力学的发展，Shalizi等<ref>C. R. Shalizi, C. Moore, What is a macrostate? subjective observations and objective dynamics, arXiv preprint cond-mat/0303625 (2003).</ref>在自己的工作中讨论计算力学与涌现的关系，同时作者解释说，涌现可以被理解为一个动力学过程，在这个过程中，一个模式获得了能适应不同环境的能力。
因果涌现框架与计算力学存在很多相似之处，所有历史过程<math>\overleftarrow{s}</math>可以看作是微观状态，所有<math>R \in \mathcal{R} </math>表示宏观状态，函数<math>\eta </math>可以理解为一种粗粒化函数，因果态<math>\epsilon \left ( \overleftarrow{s} \right )</math>是一种特殊状态，它至少可以与微观状态<math>\overleftarrow{s}</math>具有相同的预测能力，因此，<math>\epsilon </math>可以理解为一种有效的[[粗粒化]]策略，因果转移<math>T </math> 对应于有效的宏观动力学。最小随机性特征表征了宏观动力学的确定性，在因果涌现中可以用[[有效信息]]衡量。
因果涌现框架与计算力学存在很多相似之处，所有历史过程<math>\overleftarrow{s}</math>可以看作是微观状态，所有<math>R \in \mathcal{R} </math>表示宏观状态，函数<math>\eta </math>可以理解为一种粗粒化函数，因果态<math>\epsilon \left ( \overleftarrow{s} \right )</math>是一种特殊状态，它至少可以与微观状态<math>\overleftarrow{s}</math>具有相同的预测能力，因此，<math>\epsilon </math>可以理解为一种有效的[[粗粒化]]策略，因果转移<math>T </math> 对应于有效的宏观动力学。最小随机性特征表征了宏观动力学的确定性，在因果涌现中可以用[[有效信息]]衡量。