558
个编辑
更改
跳到导航
跳到搜索
第302行：
第302行： + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + 第350行：
第396行： + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + 第579行：
第694行： − =基于SVD分解的新粗粒化策略= − ==TPM矩阵的粗粒化方法== − 虽然无需粗粒化也能定义和量化清晰或模糊因果涌现，但在一些场合，我们仍然需要对原始系统进行更简单的粗粒化描述，以便与 EI 得出的结果进行比较。因此，该理论提供了一种基于奇异值分解的粗粒化方法，以获得宏观层面的简化TPM。其基本思想是将 P 中的行向量 <math>P_{i},\forall i \in [1,N]</math>投影到<math>P\cdot P^{T}</math>的特征向量张成的子空间上，从而保留P的主要信息，并保持<math>\Gamma</math>不变。 − − 该方法的基本思路是将P中的所有行向量<math>P_{i}</math>视为维数为N的数据向量，然后首先对这些行向量进行PCA降维，其次将其聚类为r个簇，其中r是根据奇异值频谱的阈值<math>\epsilon</math>选取的。有了聚类，我们就可以根据所有平稳流都是保守的原则，对原始TPM进行粗粒化。 − − '''1)''' 对P进行SVD分解（假设P是不可归约的，且具有周期性，从而存在平稳分布）： − <blockquote> − <math>P=U\cdot \Sigma \cdot V^{T},</math> − </blockquote> − 其中，<math>U</math>和<math>V</math>是两个尺寸为N×N的正交归一化矩阵，<math>\Sigma = diag(\sigma_{1},\sigma_{2},...,\sigma_{N})</math> 是一个对角矩阵，包含所有有序奇异值。 − − '''2)'''选择一个<math>\epsilon</math>作为阈值来切断奇异值谱，并得到<math>r_{\epsilon}</math>作为保留状态的个数； − − '''3)'''通过计算<math>\tilde{P}\equiv P\cdot V_{N\times r_{\epsilon}}</math>对P中的所有<math>P_{i}</math>进行降维，其中<math>V_{N\times r_{\epsilon}}</math>由<math>P\cdot P^{T}</math>的前<math>r_{\epsilon}</math>特征向量构成； − − '''4)''' 通过 K-means 算法将<math>\tilde{P}</math>中的所有行向量聚类为r组，得到投影矩阵<math>\Phi</math>，其定义为: − <blockquote> − <math> − \Phi_{ij} =\begin{cases} − 1, & \text{如果}\tilde{P_{i}}\text{属于第r组}\\ − 0, & \text{其他情况} − \end{cases}</math> − </blockquote> − 对<math>\forall i,j \in [1,N]</math>都成立。 − − '''5)''' 利用<math>\Phi</math>和P得到新的TPM。 − − 为了说明如何获得简化的TPM，首先定义一个矩阵，称为平稳流矩阵，如下所示： − <blockquote> − <math>F_{ij} \equiv \mu_i \cdot P_{ij}, \, \forall i,j \in [1, N], − </math> − </blockquote> − 其中，<math>\mu</math>是P的平稳分布，满足<math>P\cdot\mu=\mu</math>。 − − 其次，我们将根据 <math>\Phi</math>和<math>F</math>推导出简化平稳流矩阵： − <blockquote> − <math>F' = \Phi^T \cdot F \cdot \Phi, − </math> − </blockquote> − 其中，F'是简化平稳流矩阵。最后，粗粒化后的TPM可直接通过以下公式得出： − <blockquote> − <math>P'_i = F'_i / \sum_{j=1}^{N} (F'_i)_j, \, \forall i \in [1, N]. − </math> − </blockquote> − 将N个[math]P'_i[/math]拼在一起就能得到最终的TPM。 − − ==高斯噪声迭代系统基于SVD的粗粒化策略== − 在得到基于奇异值的因果涌现之后，和TPM矩阵类似，我们也可以根据逆向动力学的协方差矩阵<math>𝐴^𝑇Σ^{−1}𝐴</math>和正向动力学的协方差矩阵<math>Σ^{−1}</math>的奇异向量，指定在高斯迭代系统上的粗粒化策略，将高维的向量映射到低维空间。基于SVD的理论，<math>𝐴^𝑇Σ^{−1}𝐴</math>和<math>Σ^{−1}</math>都是对称矩阵，因此我们可以直接得到SVD分解 − <blockquote> − <math>A^T\Sigma^{-1}A=USU^T − </math> − </blockquote> − 和 − <blockquote> − <math>\Sigma^{-1}=VKV^T − </math> − </blockquote> − 其中<math>S={\rm diag}(s_1,\cdots,s_n)</math>和<math>K={\rm diag}(\kappa_i,\cdots,\kappa_n)</math>分别是奇异值<math>s_1\geq\cdots\geq s_n</math>和<math>\kappa_1\geq\cdots\geq \kappa_n</math>组成的对角矩阵，奇异向量矩阵<math>U=(u_1,\cdots,u_n)</math>和<math>V=(v_1,\cdots,v_n)</math>分别包含了两组奇异值对应的奇异向量，它们也可以分别看成两个生成空间的正交积。当我们得到<math>r_\epsilon</math>之后, 理论上就分别需要保留奇异值<math>s_1,\cdots,s_{r_\epsilon}</math>和<math>\kappa_1,\cdots, \kappa_{r_\epsilon}</math>，因此粗粒化映射<math>\phi(x_t)=Wx_t</math>中的参数矩阵<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>应与它们对应的奇异向量尽量平行而不是正交。 我们可以根据有效秩，将奇异向量划分为 − <blockquote> − <math>U=(U_1,U_2),U_1\in\mathcal{R}^{n\times r_\epsilon},U_2\in\mathcal{R}^{n\times (n-r_\epsilon)} − </math> − </blockquote> − 和 − <blockquote> − <math>V=(V_1,V_2),V_1\in\mathcal{R}^{n\times r_\epsilon},V_2\in\mathcal{R}^{n\times (n-r_\epsilon)} − </math> − </blockquote> − 两部分，这样对于粗粒化策略的制定就变成了让<math>WU_1</math>,<math>WV_1</math>尽量接近单位矩阵,而让<math>WU_2</math>,<math>WV_2</math>尽量接近0。但是<math>U,V</math>并不是在所有系统中都能保证相等，所以我们就需要对两个矩阵的生成空间进行分类讨论。 − 我们主要讨论两组生成空间 − <blockquote> − <math> − \Omega_{{\rm I}}=\mathcal{M}(U_1)\cap\mathcal{M}(V_1),\Omega_{{\rm II}}=(\mathcal{M}(U_1)\cap\mathcal{M}(V_2))\cup(\mathcal{M}(U_2)\cap\mathcal{M}(V_1)). − </math> − </blockquote> − 其中<math>\Omega_{{\rm I}}</math>对应<math>U_1</math>和<math>V_1</math>生成空间的交空间，若粗粒化策略的几个维度从该空间生成，那么该空间中的奇异向量对应的奇异值都会被保留，不存在冲突。而<math>\Omega_{{\rm II}}</math>中的向量不与<math>U_2</math>和<math>V_2</math>正交，这意味着，在保留大于<math>\epsilon</math>的奇异值的同时，会有理论上应被舍弃的奇异值保留下来。由于<math>\Omega_{{\rm I}}</math>包含于<math>U_1</math>和<math>V_1</math>生成空间，所以它的维度可能会小于<math>r_\epsilon</math>，因此我们仍然需要从<math>\Omega_{{\rm II}}</math>中生成向量补全<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>的维度。因此我们生成粗粒化策略的参数矩阵可以分为两步。 − − ===协同粗粒化=== − 第一步，就是从<math>\Omega_{{\rm I}}</math>中生成可以同时保留大于<math>\epsilon</math>的奇异值，且不存在冲突的部分。首先我们要计算出矩阵<math>(U_1,-V_1)</math>的零空间的施密特正交基， − <blockquote> − <math> − \left(\begin{array}{c} − \mathscr{A} \\ − \mathscr{B} − \end{array}\right)={\rm Schmidt}({\rm Null}(U_1,-V_1))\in\mathcal{R}^{2r_\epsilon\times r_I} − </math> − </blockquote> − 并对正交基进行线性变换，得到<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>矩阵的第一块 − <blockquote> − <math> − W_{\rm I}^T=U_1\mathscr{A} =V_1\mathscr{B} \in\mathcal{R}^{n\times r_{{\rm I}}} − </math> − </blockquote> − − ===调和粗粒化=== − 由于<math>\Omega_{{\rm I}}</math>包含于<math>U_1</math>和<math>V_1</math>生成空间，所以它的维度<math>r_{{\rm I}}\leq r_\epsilon</math>，因此我们仍需要<math>r_{{\rm II}}= r_\epsilon-r_{{\rm I}}</math>个<math>\Omega_{{\rm II}}</math>中的向量来补全<math>W</math>，这里我们就可以尽量将包含于<math>\Omega_{{\rm II}}</math>中的向量对应的较大的奇异值被保留。我们可以将这些奇异值放入向量<math>\mathbf{S}=\{s_i,\kappa_j|u_i,v_j\in\Omega_2\}</math>中，并从大到小进行排列得到<math>Q=(q_i|q_i\in\mathbf{S})</math>后，取其中最大的<math>r_{{\rm II}}</math>个奇异值对应的奇异向量，并进行施密特正交化，得到<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>矩阵的第二块 − <blockquote> − <math> − W_{{\rm II}}^T={\rm Schmidt}(u_{i|s_i\in\hat{Q}},v_{i|\kappa_i\in\hat{Q}})\in\mathcal{R}^{n\times r_{{\rm II}}}. − </math> − </blockquote> − − ===最终粗粒化策略=== − 最终我们可以将<math>W_{\rm I}</math>和<math>W_{\rm II}</math>两个矩阵拼接得到最终的粗粒化参数矩阵 − <blockquote> − <math> − W=\left(\begin{array}{c} − W_{{\rm I}} \\ − W_{{\rm II}} − \end{array}\right)\in\mathcal{R}^{r_\epsilon\times n}. − </math> − </blockquote> − 该策略可以让我们得到的宏观态的近似可逆性，比只使用<math>W=U_1</math>或<math>W=V_1</math>更接近真实的基于有效秩删减奇异值后得到的近似可逆性。
无编辑摘要
</math>，只有当<math>\Delta\Gamma_{\alpha}(\epsilon)>0
</math>，只有当<math>\Delta\Gamma_{\alpha}(\epsilon)>0
</math>时，才会出现因果涌现。
</math>时，才会出现因果涌现。
==TPM矩阵的粗粒化方法==
虽然无需粗粒化也能定义和量化清晰或模糊因果涌现，但在一些场合，我们仍然需要对原始系统进行更简单的粗粒化描述，以便与 EI 得出的结果进行比较。因此，该理论提供了一种基于奇异值分解的粗粒化方法，以获得宏观层面的简化TPM。其基本思想是将 P 中的行向量 <math>P_{i},\forall i \in [1,N]</math>投影到<math>P\cdot P^{T}</math>的特征向量张成的子空间上，从而保留P的主要信息，并保持<math>\Gamma</math>不变。
该方法的基本思路是将P中的所有行向量<math>P_{i}</math>视为维数为N的数据向量，然后首先对这些行向量进行PCA降维，其次将其聚类为r个簇，其中r是根据奇异值频谱的阈值<math>\epsilon</math>选取的。有了聚类，我们就可以根据所有平稳流都是保守的原则，对原始TPM进行粗粒化。
'''1)''' 对P进行SVD分解（假设P是不可归约的，且具有周期性，从而存在平稳分布）：
<blockquote>
<math>P=U\cdot \Sigma \cdot V^{T},</math>
</blockquote>
其中，<math>U</math>和<math>V</math>是两个尺寸为N×N的正交归一化矩阵，<math>\Sigma = diag(\sigma_{1},\sigma_{2},...,\sigma_{N})</math> 是一个对角矩阵，包含所有有序奇异值。
'''2)'''选择一个<math>\epsilon</math>作为阈值来切断奇异值谱，并得到<math>r_{\epsilon}</math>作为保留状态的个数；
'''3)'''通过计算<math>\tilde{P}\equiv P\cdot V_{N\times r_{\epsilon}}</math>对P中的所有<math>P_{i}</math>进行降维，其中<math>V_{N\times r_{\epsilon}}</math>由<math>P\cdot P^{T}</math>的前<math>r_{\epsilon}</math>特征向量构成；
'''4)''' 通过 K-means 算法将<math>\tilde{P}</math>中的所有行向量聚类为r组，得到投影矩阵<math>\Phi</math>，其定义为:
<blockquote>
<math>
\Phi_{ij} =\begin{cases}
1, & \text{如果}\tilde{P_{i}}\text{属于第r组}\\
0, & \text{其他情况}
\end{cases}</math>
</blockquote>
对<math>\forall i,j \in [1,N]</math>都成立。
'''5)''' 利用<math>\Phi</math>和P得到新的TPM。
为了说明如何获得简化的TPM，首先定义一个矩阵，称为平稳流矩阵，如下所示：
<blockquote>
<math>F_{ij} \equiv \mu_i \cdot P_{ij}, \, \forall i,j \in [1, N],
</math>
</blockquote>
其中，<math>\mu</math>是P的平稳分布，满足<math>P\cdot\mu=\mu</math>。
其次，我们将根据 <math>\Phi</math>和<math>F</math>推导出简化平稳流矩阵：
<blockquote>
<math>F' = \Phi^T \cdot F \cdot \Phi,
</math>
</blockquote>
其中，F'是简化平稳流矩阵。最后，粗粒化后的TPM可直接通过以下公式得出：
<blockquote>
<math>P'_i = F'_i / \sum_{j=1}^{N} (F'_i)_j, \, \forall i \in [1, N].
</math>
</blockquote>
将N个[math]P'_i[/math]拼在一起就能得到最终的TPM。
==具体案例==
==具体案例==
</blockquote>
</blockquote>
这一关系进一步更加精确地证明了<math>\Gamma_\alpha</math>与<math>EI</math>的线性关系，也就意味着它们在一定程度上可以相互替代。
这一关系进一步更加精确地证明了<math>\Gamma_\alpha</math>与<math>EI</math>的线性关系，也就意味着它们在一定程度上可以相互替代。
==高斯噪声迭代系统基于SVD的粗粒化策略==
在得到基于奇异值的因果涌现之后，和TPM矩阵类似，我们也可以根据逆向动力学的协方差矩阵<math>𝐴^𝑇Σ^{−1}𝐴</math>和正向动力学的协方差矩阵<math>Σ^{−1}</math>的奇异向量，指定在高斯迭代系统上的粗粒化策略，将高维的向量映射到低维空间。基于SVD的理论，<math>𝐴^𝑇Σ^{−1}𝐴</math>和<math>Σ^{−1}</math>都是对称矩阵，因此我们可以直接得到SVD分解
<blockquote>
<math>A^T\Sigma^{-1}A=USU^T
</math>
</blockquote>
和
<blockquote>
<math>\Sigma^{-1}=VKV^T
</math>
</blockquote>
其中<math>S={\rm diag}(s_1,\cdots,s_n)</math>和<math>K={\rm diag}(\kappa_i,\cdots,\kappa_n)</math>分别是奇异值<math>s_1\geq\cdots\geq s_n</math>和<math>\kappa_1\geq\cdots\geq \kappa_n</math>组成的对角矩阵，奇异向量矩阵<math>U=(u_1,\cdots,u_n)</math>和<math>V=(v_1,\cdots,v_n)</math>分别包含了两组奇异值对应的奇异向量，它们也可以分别看成两个生成空间的正交积。当我们得到<math>r_\epsilon</math>之后, 理论上就分别需要保留奇异值<math>s_1,\cdots,s_{r_\epsilon}</math>和<math>\kappa_1,\cdots, \kappa_{r_\epsilon}</math>，因此粗粒化映射<math>\phi(x_t)=Wx_t</math>中的参数矩阵<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>应与它们对应的奇异向量尽量平行而不是正交。 我们可以根据有效秩，将奇异向量划分为
<blockquote>
<math>U=(U_1,U_2),U_1\in\mathcal{R}^{n\times r_\epsilon},U_2\in\mathcal{R}^{n\times (n-r_\epsilon)}
</math>
</blockquote>
和
<blockquote>
<math>V=(V_1,V_2),V_1\in\mathcal{R}^{n\times r_\epsilon},V_2\in\mathcal{R}^{n\times (n-r_\epsilon)}
</math>
</blockquote>
两部分，这样对于粗粒化策略的制定就变成了让<math>WU_1</math>,<math>WV_1</math>尽量接近单位矩阵,而让<math>WU_2</math>,<math>WV_2</math>尽量接近0。但是<math>U,V</math>并不是在所有系统中都能保证相等，所以我们就需要对两个矩阵的生成空间进行分类讨论。
我们主要讨论两组生成空间
<blockquote>
<math>
\Omega_{{\rm I}}=\mathcal{M}(U_1)\cap\mathcal{M}(V_1),\Omega_{{\rm II}}=(\mathcal{M}(U_1)\cap\mathcal{M}(V_2))\cup(\mathcal{M}(U_2)\cap\mathcal{M}(V_1)).
</math>
</blockquote>
其中<math>\Omega_{{\rm I}}</math>对应<math>U_1</math>和<math>V_1</math>生成空间的交空间，若粗粒化策略的几个维度从该空间生成，那么该空间中的奇异向量对应的奇异值都会被保留，不存在冲突。而<math>\Omega_{{\rm II}}</math>中的向量不与<math>U_2</math>和<math>V_2</math>正交，这意味着，在保留大于<math>\epsilon</math>的奇异值的同时，会有理论上应被舍弃的奇异值保留下来。由于<math>\Omega_{{\rm I}}</math>包含于<math>U_1</math>和<math>V_1</math>生成空间，所以它的维度可能会小于<math>r_\epsilon</math>，因此我们仍然需要从<math>\Omega_{{\rm II}}</math>中生成向量补全<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>的维度。因此我们生成粗粒化策略的参数矩阵可以分为两步。
===协同粗粒化===
第一步，就是从<math>\Omega_{{\rm I}}</math>中生成可以同时保留大于<math>\epsilon</math>的奇异值，且不存在冲突的部分。首先我们要计算出矩阵<math>(U_1,-V_1)</math>的零空间的施密特正交基，
<blockquote>
<math>
\left(\begin{array}{c}
\mathscr{A} \\
\mathscr{B}
\end{array}\right)={\rm Schmidt}({\rm Null}(U_1,-V_1))\in\mathcal{R}^{2r_\epsilon\times r_I}
</math>
</blockquote>
并对正交基进行线性变换，得到<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>矩阵的第一块
<blockquote>
<math>
W_{\rm I}^T=U_1\mathscr{A} =V_1\mathscr{B} \in\mathcal{R}^{n\times r_{{\rm I}}}
</math>
</blockquote>
===调和粗粒化===
由于<math>\Omega_{{\rm I}}</math>包含于<math>U_1</math>和<math>V_1</math>生成空间，所以它的维度<math>r_{{\rm I}}\leq r_\epsilon</math>，因此我们仍需要<math>r_{{\rm II}}= r_\epsilon-r_{{\rm I}}</math>个<math>\Omega_{{\rm II}}</math>中的向量来补全<math>W</math>，这里我们就可以尽量将包含于<math>\Omega_{{\rm II}}</math>中的向量对应的较大的奇异值被保留。我们可以将这些奇异值放入向量<math>\mathbf{S}=\{s_i,\kappa_j|u_i,v_j\in\Omega_2\}</math>中，并从大到小进行排列得到<math>Q=(q_i|q_i\in\mathbf{S})</math>后，取其中最大的<math>r_{{\rm II}}</math>个奇异值对应的奇异向量，并进行施密特正交化，得到<math>W\in\mathcal{R}^{r_\epsilon\times n}</math>矩阵的第二块
<blockquote>
<math>
W_{{\rm II}}^T={\rm Schmidt}(u_{i|s_i\in\hat{Q}},v_{i|\kappa_i\in\hat{Q}})\in\mathcal{R}^{n\times r_{{\rm II}}}.
</math>
</blockquote>
===最终粗粒化策略===
最终我们可以将<math>W_{\rm I}</math>和<math>W_{\rm II}</math>两个矩阵拼接得到最终的粗粒化参数矩阵
<blockquote>
<math>
W=\left(\begin{array}{c}
W_{{\rm I}} \\
W_{{\rm II}}
\end{array}\right)\in\mathcal{R}^{r_\epsilon\times n}.
</math>
</blockquote>
该策略可以让我们得到的宏观态的近似可逆性，比只使用<math>W=U_1</math>或<math>W=V_1</math>更接近真实的基于有效秩删减奇异值后得到的近似可逆性。
==连续系统具体案例==
==连续系统具体案例==
===增长模型===
===增长模型===
至此，从高斯迭代系统，我们可以更清晰的看出可逆性和有效信息的线性相关性，证明两者在一定程度上可以相互验证或替换。
至此，从高斯迭代系统，我们可以更清晰的看出可逆性和有效信息的线性相关性，证明两者在一定程度上可以相互验证或替换。
=参考文献=
=参考文献=