| 第30行: |
第30行: |
| | | | |
| | ===连续动力学=== | | ===连续动力学=== |
| − | TPM矩阵上基于SVD的因果涌现虽然能得到不依赖粗粒化策略的因果涌现,但是也存在一个弊端,就是只能量化离散条件概率空间的因果效应强度和因果涌现。由于离散概率空间和连续概率空间具有本质的不同,对于连续条件概率空间的基于SVD的因果涌现,我们需要单独进行分析,代表性的就是高斯噪声迭代系统的基于SVD的因果涌现<ref name=":15">Kaiwei Liu, Linli Pan, Zhipeng Wang, et al. SVD-based Causal Emergence for Gaussian Iterative Systems. arXiv:2502.08261, 2025.</ref>。
| + | TPM矩阵上基于SVD的因果涌现虽然能得到不依赖粗粒化策略的因果涌现,但是也存在一个弊端,就是只能量化离散条件概率空间的因果效应强度和因果涌现。由于离散概率空间和连续概率空间具有本质的不同,对于连续概率空间的基于SVD的因果涌现,我们需要单独进行分析。这里,我们考虑一个具有代表性的连续变量的动力系统,这就是高斯噪声迭代系统,引入它的基于SVD的因果涌现理论<ref name=":15">Kaiwei Liu, Linli Pan, Zhipeng Wang, et al. SVD-based Causal Emergence for Gaussian Iterative Systems. arXiv:2502.08261, 2025.</ref>。 |
| | | | |
| | 高斯噪声的随机迭代系统可以写成: | | 高斯噪声的随机迭代系统可以写成: |
| | + | {{NumBlk|:| |
| | <blockquote> | | <blockquote> |
| | <math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡 +\xi_𝑡 | | <math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡 +\xi_𝑡 |
| | </math> | | </math> |
| | </blockquote> | | </blockquote> |
| − | 其中<math>𝑋_𝑡</math>是t时刻的状态向量, 维数为<math>n</math>,<math>\xi\sim\mathcal{N}(0,\Sigma)</math>,<math>\Sigma\in\mathcal{R}^{n\times n}</math>是协方差矩阵。这是一种最简单的连续状态空间的马尔科夫动力学,因此,我们要将SVD方法扩展到这类系统上。逆向动力学的协方差矩阵的逆矩阵<math>𝐴^𝑇Σ^{−1}𝐴</math>和正向动力学的协方差矩阵的逆矩阵<math>Σ^{−1}</math>共同影响了近似可逆性的大小,可以理解为,正向、逆向的协方差都很小,或非满秩、病态(对应维度虽然取值非0,但相比其他维度相差过于悬殊)的矩阵对模型整体影响较小的时候,系统动力学有更强的可逆性。 | + | |{{EquationRef|1}}}} |
| | + | 其中<math>𝑋_𝑡</math>是t时刻的状态向量, 维数为<math>n</math>,<math>\xi_t\sim\mathcal{N}(0,\Sigma)</math>为t时刻的噪音变量,<math>\Sigma\in\mathcal{R}^{n\times n}</math>是它的协方差矩阵。这是一种最简单的连续状态空间的马尔科夫动力学,因此,我们要将SVD方法扩展到这类系统上。 |
| | | | |
| − | 对于给定的随机迭代系统 ,如果P同时满足:
| + | 对于给定的随机迭代系统(式{{EquationNote|1}}) ,如果它同时满足: |
| | # <math>A</math>是可逆矩阵,即存在矩阵<math>A^{-1}</math>,使得<math>AA^{-1}=I</math>,[math]I[/math]为单位矩阵; | | # <math>A</math>是可逆矩阵,即存在矩阵<math>A^{-1}</math>,使得<math>AA^{-1}=I</math>,[math]I[/math]为单位矩阵; |
| | # 正逆向动力学协方差矩阵满足<math>(𝐴^𝑇Σ^{−1}𝐴)\to 0, Σ\to 0</math>; | | # 正逆向动力学协方差矩阵满足<math>(𝐴^𝑇Σ^{−1}𝐴)\to 0, Σ\to 0</math>; |
| | 则<math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡 +\xi_𝑡</math>可以称为'''严格动力学可逆的''',此时动力学等价于一一映射<math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡</math>。 | | 则<math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡 +\xi_𝑡</math>可以称为'''严格动力学可逆的''',此时动力学等价于一一映射<math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡</math>。 |
| | | | |
| − | 不难发现,可逆性最强的情况下,动力系统可以直接写成可逆映射
| + | 不难发现,严格可逆的情况下,动力系统可以直接写成可逆映射 |
| | <blockquote> | | <blockquote> |
| − | <math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡, X_t=A^{-1}X_{t+1}-A^{-1}a_0 | + | <math>X_{𝑡+1} = a_0 + 𝐴⋅𝑋_𝑡, |
| | </math> | | </math> |
| | </blockquote> | | </blockquote> |
| − | 此时<math>𝑋_𝑡</math>和<math>𝑋_{t+1}</math>可以相互建立一一映射。而<math>A</math>不可逆或存在噪声<math>\xi\sim\mathcal{N}(0,\Sigma)</math>的情况下,会造成映射的不可逆,因此我们只能通过近似可逆性来度量以上两种情况的可逆性。我们可以发现,当噪声协方差同时满足<math>\Sigma\to 0</math>, <math>A^\dagger\Sigma(A^\dagger)^T\to 0</math>,即正向动力学和逆向动力学的噪声协方差矩阵均接近0的时候,整个动力学可以近似为<math>X_{t+1}=a_0+AX_t+\varepsilon_t\to AX_t+a_0</math>和<math>X_{t}=A^\dagger X_{t+1}-A^\dagger a_0-A^\dagger\varepsilon_t\to A^\dagger X_t-A^\dagger a_0</math>,此时<math>𝑋_𝑡</math>和<math>𝑋_{t+1}</math>之间的的条件概率分布可以写成狄拉克分布 | + | 其逆动力学为: |
| | + | <blockquote> |
| | + | <math>X_t=A^{-1}X_{t+1}-A^{-1}a_0 |
| | + | </math> |
| | + | </blockquote> |
| | + | |
| | + | 此时<math>𝑋_𝑡</math>和<math>𝑋_{t+1}</math>可以相互建立一一映射。而<math>A</math>不可逆或存在噪声<math>\xi\sim\mathcal{N}(0,\Sigma)</math>的情况下,会造成映射的不可逆,因此我们只能通过近似可逆性来度量以上两种情况的可逆性。我们可以发现,当噪声协方差同时满足<math>\Sigma\to 0</math>, <math>A^\dagger\Sigma(A^\dagger)^T\to 0</math>,即正向动力学和逆向动力学的噪声协方差矩阵均接近0的时候,整个动力学可以近似为 |
| | + | <blockquote> |
| | + | <math> |
| | + | X_{t+1}=a_0+AX_t+\varepsilon_t\to AX_t+a_0 |
| | + | </math> |
| | + | </blockquote> |
| | + | 和 |
| | + | <blockquote> |
| | + | <math> |
| | + | X_{t}=A^\dagger X_{t+1}-A^\dagger a_0-A^\dagger\varepsilon_t\to A^\dagger X_t-A^\dagger a_0 |
| | + | </math> |
| | + | </blockquote> |
| | + | |
| | + | 此时<math>𝑋_𝑡</math>和<math>𝑋_{t+1}</math>之间的的条件概率分布可以写成狄拉克分布 |
| | + | <blockquote> |
| | + | <math> |
| | + | p(X_{t+1}|X_t)=\delta(X_{t+1}-AX_t-a_0), |
| | + | </math> |
| | + | </blockquote> |
| | + | 逆过程: |
| | <blockquote> | | <blockquote> |
| | <math> | | <math> |
| − | p(X_{t+1}|X_t)=\delta(X_{t+1}-AX_t-a_0), p(X_t|X_{t+1})=\delta(X_t-A^\dagger X_{t+1}+A^\dagger a_0)
| + | p(X_t|X_{t+1})=\delta(X_t-A^\dagger X_{t+1}+A^\dagger a_0) |
| | </math> | | </math> |
| | </blockquote> | | </blockquote> |
| − | 使动力系统的可逆性达到最强。因此我们只要寻找一种同时包含<math>\Sigma</math>和<math>A^\dagger\Sigma(A^\dagger)^T</math>的指标,来度量近似可逆性。 | + | 使动力系统的可逆性达到最强。因此我们只要寻找一种同时包含<math>\Sigma</math>和<math>A^\dagger\Sigma(A^\dagger)^T</math>的指标,我们就可以度量近似可逆性。逆向动力学的协方差矩阵的逆矩阵<math>𝐴^𝑇Σ^{−1}𝐴</math>和正向动力学的协方差矩阵的逆矩阵<math>Σ^{−1}</math>共同影响了近似可逆性的大小,可以理解为,正向、逆向的协方差都很小,或非满秩、病态(对应维度虽然取值非0,但相比其他维度相差过于悬殊)的矩阵对模型整体影响较小的时候,系统动力学有更强的可逆性。 |
| | | | |
| | <!--我们的思路是,首先利用泛函分析的思想,找到概率转移矩阵的对应物;其次,利用傅里叶变换求出奇异值的表达式,最终写出近似动力学可逆性<math>\Gamma_\alpha</math>的表达式。--> | | <!--我们的思路是,首先利用泛函分析的思想,找到概率转移矩阵的对应物;其次,利用傅里叶变换求出奇异值的表达式,最终写出近似动力学可逆性<math>\Gamma_\alpha</math>的表达式。--> |