1,271
个编辑
更改
→因果涌现的识别
==因果涌现的识别==
==因果涌现的识别==
前面已经介绍了一些通过因果关系和其他信息理论概念来量化涌现的工作。然而，在实际应用中，往往只能收集到观测数据，无法得到系统的真实动力学。因此，从可观测数据中辨别系统中因果涌现的发生是一个更为重要的问题。此外，在因果涌现的识别问题中往往希望寻找一个最优的宏观尺度，使其有效信息达到最大值，此时的系统具有最大因果力，并且能以最可靠、最有效的方式预测未来的状态。下面介绍两种因果涌现的识别方法，包括基于互信息的近似方法和神经信息压缩方法。
前面已经介绍了一些通过因果关系和其他信息理论概念来量化涌现的工作。然而，在实际应用中，往往只能收集到观测数据，无法得到系统的真实动力学。因此，从可观测数据中辨别系统中因果涌现的发生是一个更为重要的问题。此外，在因果涌现的识别问题中往往希望寻找一个最优的宏观尺度，使其有效信息达到最大值，此时的系统具有最大因果力，并且能以最可靠、最有效的方式预测未来的状态。下面介绍两种因果涌现的识别方法，包括基于互信息的近似方法和神经信息压缩方法。
====基于互信息的近似方法====
====基于互信息的近似方法====
为了识别系统中的因果涌现，作者提出一种神经信息压缩方法，构建Encoder-Dynamic Learning-Decoder框架，该模型由编码器、动力学学习器以及解码器三个部分构成，用神经网络构建动力学学习器（<math>f </math>），用可逆神经网络（INN）构建编码器（Encoder）和解码器（Decoder）。该模型框架可以看成是一个神经信息压缩器，将包含噪音的微观态压缩成宏观态，丢弃无用的信息，从而使得宏观动力学的因果性更强。NIS方法的模型框架如图所示。
为了识别系统中的因果涌现，作者提出一种神经信息压缩方法，构建Encoder-Dynamic Learning-Decoder框架，该模型由编码器、动力学学习器以及解码器三个部分构成，用神经网络构建动力学学习器（<math>f </math>），用可逆神经网络（INN）构建编码器（Encoder）和解码器（Decoder）。该模型框架可以看成是一个神经信息压缩器，将包含噪音的微观态压缩成宏观态，丢弃无用的信息，从而使得宏观动力学的因果性更强。NIS方法的模型框架如图所示。
[[文件:NIS模型框架图.png|居中|480x480像素|替代=NIS模型框架图|NIS模型框架图|缩略图]]
[[文件:NIS模型框架图.png|居中|480x480像素|替代=NIS模型框架图|NIS模型框架图|缩略图]]
具体来说，模型输入是微观状态<math>X_t\ (X_t^1,X_t^2,…,X_t^p ) </math>，<math>p </math>表示输入数据的维数，输出预测下一个时刻的微观状态<math>\hat{X}_{t+1}\left(\hat{X}_{t+1}^1, \hat{X}_{t+1}^2, \ldots, \hat{X}_{t+1}^p\right) </math>，该方法的目标函数是希望保证微观状态预测误差很小的条件下最大化有效信息，在保证预测误差约束足够小的情况下，NIS方法可以避免trivial解的出现。具体计算公式如下所示：
具体来说，模型输入是微观状态<math>X_t\ (X_t^1,X_t^2,…,X_t^p ) </math>，<math>p </math>表示输入数据的维数，输出预测下一个时刻的微观状态<math>\hat{X}_{t+1}\left(\hat{X}_{t+1}^1, \hat{X}_{t+1}^2, \ldots, \hat{X}_{t+1}^p\right) </math>，该方法的目标函数是希望保证微观状态预测误差很小的条件下最大化有效信息，在保证预测误差约束足够小的情况下，NIS方法可以避免trivial解的出现。具体计算公式如下所示：
但是该方法存在一些不足，作者将优化过程分为两个阶段，但是没有真正的最大化有效信息。因此，杨等人进一步改进该方法，通过引入反向动力学以及重加权技术借助变分不等式将原始的最大化有效信息转换成最大化其变分下界来直接优化目标函数。
但是该方法存在一些不足，作者将优化过程分为两个阶段，但是没有真正的最大化有效信息。因此，杨等人进一步改进该方法，通过引入反向动力学以及重加权技术借助变分不等式将原始的最大化有效信息转换成最大化其变分下界来直接优化目标函数。
[[文件:NIS+.png|居中|600x600像素|替代=NIS模型框架图|NIS+模型框架图|缩略图]]
[[文件:NIS+.png|居中|600x600像素|替代=NIS模型框架图|NIS+模型框架图|缩略图]]