558
个编辑
更改
跳到导航
跳到搜索
第59行：
第59行： − + 第177行：
第177行： − + 第251行：
第251行： − + − ==离散TPM基于SVD的因果涌现==+ − ===清晰因果涌现=== 第263行：
第262行： − ===模糊因果涌现===+ 第304行：
第303行： − + + + + + + + + + + + + + + + + + + + + + + + + + + + + + 第323行：
第350行： + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + 第555行：
第691行： − − =量化因果涌现的实例= − ==离散系统== − 使用基于可逆性和SVD分解的因果涌现理论允许我们直接量化一个实际系统的因果涌现现象。下面分别针对布尔网络和复杂网络进行说明。 − − ===布尔网络=== − 下面基于Hoel等人的论文<ref name="Hoel2013">Hoel, E.P., Albantakis, L., Tononi, G.: Quantifying causal emergence shows that macro can beat micro. Proceedings of the National Academy of Sciences of the United States of America 110(49), 19790–19795 (2013) https://doi.org/10.1073/ pnas.1314922110</ref><ref name="Hoel2017">Hoel, E.P.: When the map is better than the territory. Entropy 19(5) (2017) https://doi.org/10.3390/e19050188</ref>中提出的几种布尔网络马尔可夫动力学来测试清晰和模糊因果涌现的定义。 − − 下图(a)-(i)分别显示了从具有相同节点机制的相同布尔网络模型生成的用于清晰因果涌现和模糊因果涌现的TPM的两个示例。图(c) 表示通过粗粒化(a)得到的新布尔网络，粗粒化策略是从 (f) 和 (i) 的 TPM 中提取的。图(d)中的TPM直接源自图(a)和(b)中的布尔网络及其节点机制。它们的奇异值谱分别如图(e)和(h)所示。(d)中的例子只有4个非零奇异值，奇异值谱如图(e)所示，因此，出现明显的因果涌现，且因果涌现的程度为<math>\Delta\Gamma=0.75</math>。 这一对因果涌现的判断与参考文献<ref name="Hoel2013" />相同。(f) 和 (i) 分别是对 (d) 和 (g) 中的原始 TPM 应用粗粒化方法后缩减的TPM和投影矩阵。 − − 图(g)中的TPM可以显示出模糊的因果涌现，这是在(d)中的TPM上添加强度为（std = 0.03）的随机高斯噪声后得到的。因此，奇异频谱如图(h)所示。我们选择<math>\epsilon=0.2</math>作为阈值，这样就只剩下4个大的奇异值。因果涌现程度为<math>\Delta\Gamma(0.2)=0.69</math>。<math>\epsilon</math>值是根据图(h)中的奇异值频谱选择的，在图(h)中可以观察到指数为3和<math>\epsilon=0.2</math>时有一个明显的分界点。 − − [[文件:截屏2024-08-27_14.58.17.png|替代=|740x740像素]] − − 下图显示了另一个更复杂的布尔网络模型的明显因果涌现例子，该模型来自参考文献<ref name="Hoel2013" />，其中具有相同节点机制的6个节点可归类为3个超级节点，以显示因果涌现。(a)为6节点12条边的布尔网络模型。 (b)是根据(e)中的TPM得出的粗粒化后的布尔网络模型。原始布尔网络模型的相应TPM如图(c)所示。奇异值谱如图(d）所示，其中有8个非零值。这个清晰因果涌现的程度为<math>\Delta\Gamma=2.23</math>。对因果涌现的判断与<ref name="Hoel2013" />相同。(e) 是对(c)的粗粒化。(f) 是根据基于 SVD 的粗粒化方法得到的从微观状态到宏观状态的投影矩阵。 − − [[文件:截屏2024-08-31_20.54.36.png|替代=|702x702像素]] − − ===复杂网络=== − 对因果涌现的量化可应用于复杂网络，如下图所示。图（a)-(c）显示了由随机块模型（SBM）生成的具有三组参数（内部连接概率）的复杂网络的模糊因果涌现例子。TPM是通过对网络的邻接矩阵按每个节点的度进行归一化得到的。图(a)显示了一个有 100 个节点和 5 个区块（社区）的示例网络，图(b)显示了其奇异值谱，同图中还显示了另外两个由SBM生成的网络谱，它们的大小和块数相同，但参数不同。图(c) 是利用基于SVD的粗粒化方法进行缩减后的 (a) 网络。图(b)中，在与区块数相同的横坐标上可以观察到一个明显的分界点<math>(\epsilon=0.3,r_{\epsilon}=5)</math>。可以确定，在这个网络模型中出现了模糊的因果涌现，程度为<math>\Delta\Gamma(0.3)=0.56</math>。 − − [[文件:截屏2024-08-31_21.01.3211.png|替代=|931x931像素]] − − ===元胞自动机=== − 如下图所示，关于清晰因果涌现的定义可应用于元胞自动机，以发现其局部涌现结构。在这个例子里刻画了元胞自动机（编号40的基本一维元胞自动机）局部TPM的清晰因果涌现。(a)是第40号元胞自动机的演化（规则是：000 → 0, 001 → 0, 010 → 1, 011 → 0, 100 → 1, 101 → 0, 110 → 0, 111 → 0）。局部TPM 由包括每个单元及其两个相邻单元的局部窗口获得。图(b) 显示了这些局部 TPM 的奇异值的可能频谱，在这些频谱中可能出现也可能不出现清晰因果涌现。图(c)用红点标记显示了所有单元和时间步长的清晰因果涌现分布（<math> − \Delta\Gamma</math>）。 − − [[文件:截屏2024-08-30_10.05.1111.png|替代=|935x935像素]] − − ==连续系统== − ===增长模型=== − 假设一个4维的向量，前两个维度<math>x_1,x_2</math>遵循增长率为0.2和0.05的马尔萨斯增长模型。同时另外两个维度<math>x_3,x_4</math>直接复制了前两个维度的状态如图a所示，他们和前两个维度高度相关，甚至可以视为冗余的维度，最终生成数据如图d所示，其中<math>x_1,...,x_4</math>表示不同维度的增长曲线，<math>y_1y_2</math>表示粗粒化后的宏观态。我们设微观态<math>x=(x_1,x_2,x_3,x_4)</math>, 模型的动力学可以写成<math>x_{t+1}=a_0+Ax_t+\varepsilon_t, \varepsilon_t\sim\mathcal{N}(0,\sigma^2 I_4)</math>，其中<math>x_t,x_{t+1}\in\mathcal{R}^{4}</math>, <math>A</math>是增长率构成的矩阵， <math>\sigma^2=0.1</math>是对角化的协方差矩阵, <math>a_0=0</math>是自然参数, 并且 − <blockquote> − <math> − A = \left(\begin{matrix} − 1.2 & 0 &0 &0 \\ − 0 & 1.05 &0 &0 \\ − 1.2 & 0 &0 &0 \\ − 0 & 1.05 &0 &0 − \end{matrix}\right). − </math> − </blockquote> − 该矩阵只有两个奇异值矩阵秩<math>r=2<4</math>。由于正向矩阵是对角单位阵和常数数乘得到，因此我们只需要考虑逆向动力学的矩阵，如图b所示。如图c所示，横轴表示逆向动力学协方差矩阵的奇异值<math>s_1\geq\dots\geq s_4</math>, 纵轴表示奇异值大小, 通过计算我们可以得知清晰因果涌现为<math>\Delta\Gamma_\alpha(0)=0.4034</math>，逆向动力学协方差矩阵如图b所示。 − − 同时我们可以对矩阵A增加一些扰动，使 − <blockquote> − <math> − A = \left(\begin{matrix} − 1.2 & 0 &0 &0 \\ − 0 & 1.05 &0.001 &0 \\ − 1.22 & 0 &0.4 &0.1 \\ − 0 & 1.06 &0.03 &0.5 − \end{matrix}\right) − </math> − </blockquote> − 此时增长率参数矩阵<math>A</math>和<math>A^T\Sigma^{-1}A</math>（图e所示）都是满秩矩阵，但是通过观察图f所示的奇异值谱，我们只能看到两个较大的逆向动力学奇异值<math>s_1，s_2</math>，此时我们就需要引入模糊因果涌现。我们规定阈值<math>\epsilon=2</math>, 模糊因果涌现可以计算得到<math>\Delta\Gamma_\alpha(\epsilon)=0.4195</math>。 − − 我们可以直接得到图g和h中的粗粒化策略参数矩阵，可以看到A不满秩的时候，粗粒化策略只保留了前两个维度的信息，而A满秩的时候，粗粒化策略将<math>x_1,x_3</math>信息合并，<math>x_2,x_4</math>信息合并，达到降维的效果。如图d所示，其中<math>x_1,...,x_4</math>表示不同维度的增长曲线，可见宏观态近似于于微观态<math>x_1,x_3</math>和<math>x_2,x_4</math>两组变量分别求平均得到的结果。 − − [[文件:马尔萨斯增长.png|替代=|935x935像素]] − − ===离散化布朗运动=== − − 离散布朗运动是离散时间内连续布朗运动的近似，常用于数值模拟和随机过程建模。方程<math>x_{t+1}=Ax_t+\varepsilon_t</math>可以被视为奥恩斯坦-乌伦贝克（OU）过程的离散版本方法，如图a所示。在这个模型中，<math>\mu=a_0+Ax_t</math>是影响状态演化的漂移向量，协方差矩阵<math>\Sigma</math>表示扩散系数，它决定了<math>\varepsilon_t</math>维度上随机波动的幅度和相关性。 − − 对<math>\Sigma^{-1}</math>和<math>A^T\Sigma^{-1}A</math>（如图b、c所示）进行SVD分解之后我们可以得到奇异向量矩阵<math>U=(u_1,\cdots,u_n)</math>和<math>V=(v_1,\cdots,v_n)</math>其中 − <blockquote> − <math> − \begin{aligned} − U=\begin{pmatrix} − 1& 0& 0& 0& 0& 0& 0& 0 \\ − 0& 1& 0& 0& 0& 0& 0& 0 \\ − 0& 0& 1& 0& 0& 0& 0& 0 \\ − 0& 0& 0& 1& 0& 0& 0& 0 \\ − 0& 0& 0& 0& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0\\ − 0& 0& 0& 0& -\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0\\ − 0& 0& 0& 0& 0& 0& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}\\ − 0& 0& 0& 0& 0& 0& -\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}} − \end{pmatrix}, − V=\begin{pmatrix} − 0& 0& 0& 0& \frac{1}{\sqrt{2}}& 0& 0& \frac{1}{\sqrt{2}} \\ − 0& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0& 0& 0& 0 \\ − 0& -\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0& 0& 0& 0 \\ − 0& 0& 0& 0& -\frac{1}{\sqrt{2}}& 0& 0& \frac{1}{\sqrt{2}} \\ − 1& 0& 0& 0& 0& 0& 0& 0\\ − 0& 0& 0& 0& 0& 1& 0& 0\\ − 0& 0& 0& 0& 0& 0&1& 0\\ − 0& 0& 0& 1& 0& 0& 0& 0 − \end{pmatrix} − \end{aligned} − </math> − </blockquote> − 对角化的奇异值矩阵 − <blockquote> − <math> − \begin{aligned} − S&={\rm diag}(2,1.5,1.3,1.01,0.2,0.12,0.1,0.05)\\ − K&={\rm diag}(1.6,1.25,1.1,1.05,0.5,0.4,0.25,0.1). − \end{aligned} − </math> − </blockquote> − 在得到图d中的奇异值谱之后，规定<math>\epsilon=0.6</math>，我们可以得到<math>\Delta\Gamma_\alpha(\epsilon)=0.5167</math>，其中有效秩<math>r_\epsilon=4</math>， <math>s_1,\cdots,s_4</math>和<math>\kappa_1,\cdots,\kappa_4</math>需要被保留。 − − 通过粗粒化策略的求解，我们可以得到如图f所示的粗粒化参数矩阵<math>W</math>，其保留了<math>x_1,x_2,x_3,x_5</math>四个维度，从图e可看出在使用高斯噪声迭代系统基于SVD的粗粒化策略后得到的粗粒化策略，会比直接截取<math>U</math>或<math>V</math>得到的粗粒化策略更接近理论最大的<math>\Delta\Gamma_\alpha(\epsilon)</math>。 − − [[文件:离散化布朗运动.png|替代=|935x935像素]] − − ===SIR模型=== − 在NIS+词条中的SIR模型在这里也可以通过可逆性与SVD分解计算因果涌现并研究其底层产生涌现的机理。现实中的大多数系统都无法获得精确的动态模型来计算因果涌现的解析解。然而，我们可以通过观察到的时间序列数据训练神经网络来获得近似动力学。我们用神经网络（NN）在易感-感染-恢复（SIR）模型生成的训练时间序列数据上产生因果涌现现象，模型有两个自由度，如下所示 − <blockquote> − <math> − \begin{aligned} − \begin{cases} − \frac{\mathrm{d}S}{\mathrm{d}t}=-\beta SI, \\ − \frac{\mathrm{d}I}{\mathrm{d}t}=\beta SI - \gamma I, \\ − \frac{\mathrm{d}R}{\mathrm{d}t}= \gamma I, − \end{cases} − \end{aligned} − </math> − </blockquote> − 其中S表示易感态样本的比例，I表示感染态的比例，R表示恢复态的比例，三者的关系如图a所示，<math> − \beta − </math>和<math> − \gamma − − </math>分别表示S与I、I与R之间的转化率。我们可以采取和增长模型相同的数据处理方法，<math>x_3,x_4</math>直接复制了前两个维度的状态，得到<math>x=(S,I,S,I)</math>，之后我们可以将模型离散化，即 − <blockquote> − <math> − x_{t+\Delta t}\approx x_t+\Delta x_t\sim\mathcal{N}(x_t+f(x_t)\Delta t,\Delta t\Sigma) − </math> − </blockquote> − 由此可以得到图b中的生成数据。从图e中可以看出，<math>A^T\Sigma^{-1}A</math>（如图c所示）有两个较大的奇异值，差距比<math>\Sigma^{-1}</math>（如图d所示）更大，<math>r_\epsilon=2</math>，因为<math>\epsilon=5</math>，正逆向的协方差矩阵如图c和d所示。在模型训练中，当训练周期为50000时，我们得到因果涌现的值为<math>\Delta\Gamma\alpha（\epsilon）=0.8685</math>。 − − 图f中可以看出，因果涌现<math>\Delta\Gamma_\alpha</math>并不是恒等的，而是会随S、I的不同发生改变，我们得到的结果0.8685是不同状态的<math>\Delta\Gamma_\alpha</math>求均值后得到的结果；观察规定<math>\epsilon=5</math>下的<math>r_\epsilon</math>均值（图g）也可以得到相似的规律，<math>\Delta\Gamma_\alpha</math>较大的地方，有效秩会相等更接近2。 − − 我们可以得到图h中的粗粒化策略参数矩阵，粗粒化策略将<math>x_1,x_3</math>信息合并，<math>x_2,x_4</math>信息合并，达到降维的效果。 − − [[文件:SIR模型.png|替代=|935x935像素]]
无编辑摘要
我们的思路是，首先利用泛函分析的思想，找到概率转移矩阵的对应物；其次，利用傅里叶变换求出奇异值的表达式，最终写出近似动力学可逆性<math>\Gamma_\alpha</math>的表达式。
我们的思路是，首先利用泛函分析的思想，找到概率转移矩阵的对应物；其次，利用傅里叶变换求出奇异值的表达式，最终写出近似动力学可逆性<math>\Gamma_\alpha</math>的表达式。
==TPM矩阵的近似动力学可逆性与因果涌现==
==TPM矩阵的近似动力学可逆性==
纯粹的置换矩阵在所有可能的TPM中非常稀少，所以大多数的TPM并不是严格动力学可逆的。因此，需要一个指标来刻画任意一个TPM接近动力学可逆的程度。考虑P的秩为r，当且仅当r<N（N为矩阵的维数）的时候，P是不可逆的；且P越退化对应着越小的r。然而，非退化（满秩）的矩阵P并不总是动力学可逆的，因为：
纯粹的置换矩阵在所有可能的TPM中非常稀少，所以大多数的TPM并不是严格动力学可逆的。因此，需要一个指标来刻画任意一个TPM接近动力学可逆的程度。考虑P的秩为r，当且仅当r<N（N为矩阵的维数）的时候，P是不可逆的；且P越退化对应着越小的r。然而，非退化（满秩）的矩阵P并不总是动力学可逆的，因为：
</blockquote>
</blockquote>
==高斯噪声迭代系统的近似动力学可逆性与因果涌现==
==高斯噪声迭代系统的近似动力学可逆性==
TPM矩阵可以通过SVD分解直接得到奇异值谱，在状态空间中基于不同状态对应的奇异值，进行因果涌现的计算，只要状态是离散的，不管是有限的还是可数的，都可以进行因果涌现的计算。但是连续空间上的动力系统的状态数量不可数且是无穷多的，无法用同样的方法削减奇异值数量。因为本质上连续空间之间的势是相同的，无穷集可以与其真子集形成一一映射，因此无论怎么删减状态数量，剩余的状态数量依然是无穷多的，这就如同一条直线上的点其实和平面上一样多类似。因此，对于高斯噪声迭代系统，我们需要用新的方法进行因果涌现的判断和定量化，即从状态空间的奇异值变为欧氏空间的奇异值。TPM矩阵本质上是离散条件概率<math>p(x_{t+1}|x_t)</math>构成的矩阵，矩阵的第i行第j列代表<math>x_t=i</math>的条件下<math>x_{t+1}=j</math>的概率，因此从条件概率的角度类比到连续系统，高斯迭代系统的概率转移矩阵为：
TPM矩阵可以通过SVD分解直接得到奇异值谱，在状态空间中基于不同状态对应的奇异值，进行因果涌现的计算，只要状态是离散的，不管是有限的还是可数的，都可以进行因果涌现的计算。但是连续空间上的动力系统的状态数量不可数且是无穷多的，无法用同样的方法削减奇异值数量。因为本质上连续空间之间的势是相同的，无穷集可以与其真子集形成一一映射，因此无论怎么删减状态数量，剩余的状态数量依然是无穷多的，这就如同一条直线上的点其实和平面上一样多类似。因此，对于高斯噪声迭代系统，我们需要用新的方法进行因果涌现的判断和定量化，即从状态空间的奇异值变为欧氏空间的奇异值。TPM矩阵本质上是离散条件概率<math>p(x_{t+1}|x_t)</math>构成的矩阵，矩阵的第i行第j列代表<math>x_t=i</math>的条件下<math>x_{t+1}=j</math>的概率，因此从条件概率的角度类比到连续系统，高斯迭代系统的概率转移矩阵为：
<blockquote>
<blockquote>
=基于SVD（动力学可逆性）的因果涌现=
=离散TPM基于SVD（动力学可逆性）的因果涌现=
==清晰因果涌现==
对于具有TPM P的给定马尔可夫链<math>
对于具有TPM P的给定马尔可夫链<math>
\chi
\chi
</math>
</math>
</blockquote>
</blockquote>
==模糊因果涌现==
对于具有TPM P的给定马尔可夫链<math>
对于具有TPM P的给定马尔可夫链<math>
\chi
\chi
</math>时，才会出现因果涌现。
</math>时，才会出现因果涌现。
==高斯噪声迭代系统基于SVD的因果涌现==
==具体案例==
使用基于可逆性和SVD分解的因果涌现理论允许我们直接量化一个实际系统的因果涌现现象。下面分别针对布尔网络和复杂网络进行说明。
===布尔网络===
下面基于Hoel等人的论文<ref name="Hoel2013">Hoel, E.P., Albantakis, L., Tononi, G.: Quantifying causal emergence shows that macro can beat micro. Proceedings of the National Academy of Sciences of the United States of America 110(49), 19790–19795 (2013) https://doi.org/10.1073/ pnas.1314922110</ref><ref name="Hoel2017">Hoel, E.P.: When the map is better than the territory. Entropy 19(5) (2017) https://doi.org/10.3390/e19050188</ref>中提出的几种布尔网络马尔可夫动力学来测试清晰和模糊因果涌现的定义。
下图(a)-(i)分别显示了从具有相同节点机制的相同布尔网络模型生成的用于清晰因果涌现和模糊因果涌现的TPM的两个示例。图(c) 表示通过粗粒化(a)得到的新布尔网络，粗粒化策略是从 (f) 和 (i) 的 TPM 中提取的。图(d)中的TPM直接源自图(a)和(b)中的布尔网络及其节点机制。它们的奇异值谱分别如图(e)和(h)所示。(d)中的例子只有4个非零奇异值，奇异值谱如图(e)所示，因此，出现明显的因果涌现，且因果涌现的程度为<math>\Delta\Gamma=0.75</math>。 这一对因果涌现的判断与参考文献<ref name="Hoel2013" />相同。(f) 和 (i) 分别是对 (d) 和 (g) 中的原始 TPM 应用粗粒化方法后缩减的TPM和投影矩阵。
图(g)中的TPM可以显示出模糊的因果涌现，这是在(d)中的TPM上添加强度为（std = 0.03）的随机高斯噪声后得到的。因此，奇异频谱如图(h)所示。我们选择<math>\epsilon=0.2</math>作为阈值，这样就只剩下4个大的奇异值。因果涌现程度为<math>\Delta\Gamma(0.2)=0.69</math>。<math>\epsilon</math>值是根据图(h)中的奇异值频谱选择的，在图(h)中可以观察到指数为3和<math>\epsilon=0.2</math>时有一个明显的分界点。
[[文件:截屏2024-08-27_14.58.17.png|替代=|740x740像素]]
下图显示了另一个更复杂的布尔网络模型的明显因果涌现例子，该模型来自参考文献<ref name="Hoel2013" />，其中具有相同节点机制的6个节点可归类为3个超级节点，以显示因果涌现。(a)为6节点12条边的布尔网络模型。 (b)是根据(e)中的TPM得出的粗粒化后的布尔网络模型。原始布尔网络模型的相应TPM如图(c)所示。奇异值谱如图(d）所示，其中有8个非零值。这个清晰因果涌现的程度为<math>\Delta\Gamma=2.23</math>。对因果涌现的判断与<ref name="Hoel2013" />相同。(e) 是对(c)的粗粒化。(f) 是根据基于 SVD 的粗粒化方法得到的从微观状态到宏观状态的投影矩阵。
[[文件:截屏2024-08-31_20.54.36.png|替代=|702x702像素]]
===复杂网络===
对因果涌现的量化可应用于复杂网络，如下图所示。图（a)-(c）显示了由随机块模型（SBM）生成的具有三组参数（内部连接概率）的复杂网络的模糊因果涌现例子。TPM是通过对网络的邻接矩阵按每个节点的度进行归一化得到的。图(a)显示了一个有 100 个节点和 5 个区块（社区）的示例网络，图(b)显示了其奇异值谱，同图中还显示了另外两个由SBM生成的网络谱，它们的大小和块数相同，但参数不同。图(c) 是利用基于SVD的粗粒化方法进行缩减后的 (a) 网络。图(b)中，在与区块数相同的横坐标上可以观察到一个明显的分界点<math>(\epsilon=0.3,r_{\epsilon}=5)</math>。可以确定，在这个网络模型中出现了模糊的因果涌现，程度为<math>\Delta\Gamma(0.3)=0.56</math>。
[[文件:截屏2024-08-31_21.01.3211.png|替代=|931x931像素]]
===元胞自动机===
如下图所示，关于清晰因果涌现的定义可应用于元胞自动机，以发现其局部涌现结构。在这个例子里刻画了元胞自动机（编号40的基本一维元胞自动机）局部TPM的清晰因果涌现。(a)是第40号元胞自动机的演化（规则是：000 → 0, 001 → 0, 010 → 1, 011 → 0, 100 → 1, 101 → 0, 110 → 0, 111 → 0）。局部TPM 由包括每个单元及其两个相邻单元的局部窗口获得。图(b) 显示了这些局部 TPM 的奇异值的可能频谱，在这些频谱中可能出现也可能不出现清晰因果涌现。图(c)用红点标记显示了所有单元和时间步长的清晰因果涌现分布（<math>
\Delta\Gamma</math>）。
[[文件:截屏2024-08-30_10.05.1111.png|替代=|935x935像素]]
=高斯噪声迭代系统基于SVD的因果涌现=
同样，在规定<math>\epsilon\geq 0</math>之后，我们可以筛选两个协方差矩阵的奇异值来计算因果涌现，即
同样，在规定<math>\epsilon\geq 0</math>之后，我们可以筛选两个协方差矩阵的奇异值来计算因果涌现，即
<blockquote>
<blockquote>
</blockquote>
</blockquote>
这一关系进一步更加精确地证明了<math>\Gamma_\alpha</math>与<math>EI</math>的线性关系，也就意味着它们在一定程度上可以相互替代。
这一关系进一步更加精确地证明了<math>\Gamma_\alpha</math>与<math>EI</math>的线性关系，也就意味着它们在一定程度上可以相互替代。
==连续系统具体案例==
===增长模型===
假设一个4维的向量，前两个维度<math>x_1,x_2</math>遵循增长率为0.2和0.05的马尔萨斯增长模型。同时另外两个维度<math>x_3,x_4</math>直接复制了前两个维度的状态如图a所示，他们和前两个维度高度相关，甚至可以视为冗余的维度，最终生成数据如图d所示，其中<math>x_1,...,x_4</math>表示不同维度的增长曲线，<math>y_1y_2</math>表示粗粒化后的宏观态。我们设微观态<math>x=(x_1,x_2,x_3,x_4)</math>, 模型的动力学可以写成<math>x_{t+1}=a_0+Ax_t+\varepsilon_t, \varepsilon_t\sim\mathcal{N}(0,\sigma^2 I_4)</math>，其中<math>x_t,x_{t+1}\in\mathcal{R}^{4}</math>, <math>A</math>是增长率构成的矩阵， <math>\sigma^2=0.1</math>是对角化的协方差矩阵, <math>a_0=0</math>是自然参数, 并且
<blockquote>
<math>
A = \left(\begin{matrix}
1.2 & 0 &0 &0 \\
0 & 1.05 &0 &0 \\
1.2 & 0 &0 &0 \\
0 & 1.05 &0 &0
\end{matrix}\right).
</math>
</blockquote>
该矩阵只有两个奇异值矩阵秩<math>r=2<4</math>。由于正向矩阵是对角单位阵和常数数乘得到，因此我们只需要考虑逆向动力学的矩阵，如图b所示。如图c所示，横轴表示逆向动力学协方差矩阵的奇异值<math>s_1\geq\dots\geq s_4</math>, 纵轴表示奇异值大小, 通过计算我们可以得知清晰因果涌现为<math>\Delta\Gamma_\alpha(0)=0.4034</math>，逆向动力学协方差矩阵如图b所示。
同时我们可以对矩阵A增加一些扰动，使
<blockquote>
<math>
A = \left(\begin{matrix}
1.2 & 0 &0 &0 \\
0 & 1.05 &0.001 &0 \\
1.22 & 0 &0.4 &0.1 \\
0 & 1.06 &0.03 &0.5
\end{matrix}\right)
</math>
</blockquote>
此时增长率参数矩阵<math>A</math>和<math>A^T\Sigma^{-1}A</math>（图e所示）都是满秩矩阵，但是通过观察图f所示的奇异值谱，我们只能看到两个较大的逆向动力学奇异值<math>s_1，s_2</math>，此时我们就需要引入模糊因果涌现。我们规定阈值<math>\epsilon=2</math>, 模糊因果涌现可以计算得到<math>\Delta\Gamma_\alpha(\epsilon)=0.4195</math>。
我们可以直接得到图g和h中的粗粒化策略参数矩阵，可以看到A不满秩的时候，粗粒化策略只保留了前两个维度的信息，而A满秩的时候，粗粒化策略将<math>x_1,x_3</math>信息合并，<math>x_2,x_4</math>信息合并，达到降维的效果。如图d所示，其中<math>x_1,...,x_4</math>表示不同维度的增长曲线，可见宏观态近似于于微观态<math>x_1,x_3</math>和<math>x_2,x_4</math>两组变量分别求平均得到的结果。
[[文件:马尔萨斯增长.png|替代=|935x935像素]]
===离散化布朗运动===
离散布朗运动是离散时间内连续布朗运动的近似，常用于数值模拟和随机过程建模。方程<math>x_{t+1}=Ax_t+\varepsilon_t</math>可以被视为奥恩斯坦-乌伦贝克（OU）过程的离散版本方法，如图a所示。在这个模型中，<math>\mu=a_0+Ax_t</math>是影响状态演化的漂移向量，协方差矩阵<math>\Sigma</math>表示扩散系数，它决定了<math>\varepsilon_t</math>维度上随机波动的幅度和相关性。
对<math>\Sigma^{-1}</math>和<math>A^T\Sigma^{-1}A</math>（如图b、c所示）进行SVD分解之后我们可以得到奇异向量矩阵<math>U=(u_1,\cdots,u_n)</math>和<math>V=(v_1,\cdots,v_n)</math>其中
<blockquote>
<math>
\begin{aligned}
U=\begin{pmatrix}
1& 0& 0& 0& 0& 0& 0& 0 \\
0& 1& 0& 0& 0& 0& 0& 0 \\
0& 0& 1& 0& 0& 0& 0& 0 \\
0& 0& 0& 1& 0& 0& 0& 0 \\
0& 0& 0& 0& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0\\
0& 0& 0& 0& -\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0\\
0& 0& 0& 0& 0& 0& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}\\
0& 0& 0& 0& 0& 0& -\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}
\end{pmatrix},
V=\begin{pmatrix}
0& 0& 0& 0& \frac{1}{\sqrt{2}}& 0& 0& \frac{1}{\sqrt{2}} \\
0& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0& 0& 0& 0 \\
0& -\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0& 0& 0& 0 \\
0& 0& 0& 0& -\frac{1}{\sqrt{2}}& 0& 0& \frac{1}{\sqrt{2}} \\
1& 0& 0& 0& 0& 0& 0& 0\\
0& 0& 0& 0& 0& 1& 0& 0\\
0& 0& 0& 0& 0& 0&1& 0\\
0& 0& 0& 1& 0& 0& 0& 0
\end{pmatrix}
\end{aligned}
</math>
</blockquote>
对角化的奇异值矩阵
<blockquote>
<math>
\begin{aligned}
S&={\rm diag}(2,1.5,1.3,1.01,0.2,0.12,0.1,0.05)\\
K&={\rm diag}(1.6,1.25,1.1,1.05,0.5,0.4,0.25,0.1).
\end{aligned}
</math>
</blockquote>
在得到图d中的奇异值谱之后，规定<math>\epsilon=0.6</math>，我们可以得到<math>\Delta\Gamma_\alpha(\epsilon)=0.5167</math>，其中有效秩<math>r_\epsilon=4</math>， <math>s_1,\cdots,s_4</math>和<math>\kappa_1,\cdots,\kappa_4</math>需要被保留。
通过粗粒化策略的求解，我们可以得到如图f所示的粗粒化参数矩阵<math>W</math>，其保留了<math>x_1,x_2,x_3,x_5</math>四个维度，从图e可看出在使用高斯噪声迭代系统基于SVD的粗粒化策略后得到的粗粒化策略，会比直接截取<math>U</math>或<math>V</math>得到的粗粒化策略更接近理论最大的<math>\Delta\Gamma_\alpha(\epsilon)</math>。
[[文件:离散化布朗运动.png|替代=|935x935像素]]
===SIR模型===
在NIS+词条中的SIR模型在这里也可以通过可逆性与SVD分解计算因果涌现并研究其底层产生涌现的机理。现实中的大多数系统都无法获得精确的动态模型来计算因果涌现的解析解。然而，我们可以通过观察到的时间序列数据训练神经网络来获得近似动力学。我们用神经网络（NN）在易感-感染-恢复（SIR）模型生成的训练时间序列数据上产生因果涌现现象，模型有两个自由度，如下所示
<blockquote>
<math>
\begin{aligned}
\begin{cases}
\frac{\mathrm{d}S}{\mathrm{d}t}=-\beta SI, \\
\frac{\mathrm{d}I}{\mathrm{d}t}=\beta SI - \gamma I, \\
\frac{\mathrm{d}R}{\mathrm{d}t}= \gamma I,
\end{cases}
\end{aligned}
</math>
</blockquote>
其中S表示易感态样本的比例，I表示感染态的比例，R表示恢复态的比例，三者的关系如图a所示，<math>
\beta
</math>和<math>
\gamma
</math>分别表示S与I、I与R之间的转化率。我们可以采取和增长模型相同的数据处理方法，<math>x_3,x_4</math>直接复制了前两个维度的状态，得到<math>x=(S,I,S,I)</math>，之后我们可以将模型离散化，即
<blockquote>
<math>
x_{t+\Delta t}\approx x_t+\Delta x_t\sim\mathcal{N}(x_t+f(x_t)\Delta t,\Delta t\Sigma)
</math>
</blockquote>
由此可以得到图b中的生成数据。从图e中可以看出，<math>A^T\Sigma^{-1}A</math>（如图c所示）有两个较大的奇异值，差距比<math>\Sigma^{-1}</math>（如图d所示）更大，<math>r_\epsilon=2</math>，因为<math>\epsilon=5</math>，正逆向的协方差矩阵如图c和d所示。在模型训练中，当训练周期为50000时，我们得到因果涌现的值为<math>\Delta\Gamma\alpha（\epsilon）=0.8685</math>。
图f中可以看出，因果涌现<math>\Delta\Gamma_\alpha</math>并不是恒等的，而是会随S、I的不同发生改变，我们得到的结果0.8685是不同状态的<math>\Delta\Gamma_\alpha</math>求均值后得到的结果；观察规定<math>\epsilon=5</math>下的<math>r_\epsilon</math>均值（图g）也可以得到相似的规律，<math>\Delta\Gamma_\alpha</math>较大的地方，有效秩会相等更接近2。
我们可以得到图h中的粗粒化策略参数矩阵，粗粒化策略将<math>x_1,x_3</math>信息合并，<math>x_2,x_4</math>信息合并，达到降维的效果。
[[文件:SIR模型.png|替代=|935x935像素]]
=基于有效信息（EI）与基于可逆性的两种因果涌现的对比=
=基于有效信息（EI）与基于可逆性的两种因果涌现的对比=
</blockquote>
</blockquote>
该策略可以让我们得到的宏观态的近似可逆性，比只使用<math>W=U_1</math>或<math>W=V_1</math>更接近真实的基于有效秩删减奇异值后得到的近似可逆性。
该策略可以让我们得到的宏观态的近似可逆性，比只使用<math>W=U_1</math>或<math>W=V_1</math>更接近真实的基于有效秩删减奇异值后得到的近似可逆性。
=参考文献=
=参考文献=