更改

跳到导航 跳到搜索

马尔科夫链的粗粒化 (查看源代码)

2026年5月14日 (四) 11:21的版本

添加3,282字节 、 2026年5月14日 (星期四)
→‎近似动力学可逆性
第467行： 第467行：       −
==近似动力学可逆性==
+
==近似动力学可逆性与SVD==
 +
所谓的[[近似动力学可逆性]]定义为概率转移矩阵（TPM）的奇异值之和（[math]\alpha=1[/math]），因此基于近似动力学可逆性的粗粒化方法就是利用TPM的SVD分解，截取前k个大奇异值，并往这k个大奇异值所对应的奇异向量所组成的子空间做投影的方法。因此，这种粗粒化方法的原则就是尽量保证粗粒化后系统的近似动力学可逆性保持不变。
   −
[[基于可逆性的因果涌现理论]]是一种量化[[因果涌现 Causal Emergence|因果涌现]]的新框架。所谓的动力学可逆性（Dynamical Reversibility），是指一个马尔可夫链的转移矩阵[math]P[/math]本身是矩阵可逆的，且逆矩阵满足行归一化特性，可以证明，当[math]P[/math]是一个置换矩阵（Permutation Matrix）的时候，它满足动力学可逆性的要求，但是对于一般的马尔可夫转移矩阵则不满足。为了刻画一个动力学转移矩阵[math]P[/math]是否与一个置换矩阵或动力学可逆矩阵足够接近，该理论提出了'''近似动力学可逆性'''（Approximate Dynamical Reversibility，量化指标为：<math>\Gamma_{\alpha}</math>）的概念，用于量化接近可逆动力学的程度<ref name="reversibility">Zhang, J., Tao, R., Leong, K.H. et al. Dynamical reversibility and a new theory of causal emergence based on SVD. npj Complex 2, 3 (2025).</ref>。该理论的核心思想是：由于对于任意的时齐马尔可夫过程，近似动力学可逆性的对数近似等价于有效信息，即指标[math]\Gamma[/math]与[[有效信息]]高度相关，因此它也可以用来刻画动力学的[[因果效应强度]]，因此'''因果涌现其实也可以近似等价于近似动力学可逆性的涌现'''。
+
 
 +
===动力学可逆性===
 +
所谓的严格意义下的动力学可逆性（Dynamical Reversibility），是指一个马尔可夫链的转移矩阵[math]P[/math]本身是矩阵可逆的，且逆矩阵满足行归一化特性，可以证明，当[math]P[/math]是一个置换矩阵（Permutation Matrix）的时候，它严格地满足动力学可逆性的要求，但是对于一般的马尔可夫转移矩阵则不满足。
 +
 
 +
===近似动力学可逆性===
 +
 
 +
为了刻画一个动力学转移矩阵[math]P[/math]是否与一个置换矩阵或动力学可逆矩阵足够接近，该理论提出了'''近似动力学可逆性'''（Approximate Dynamical Reversibility，量化指标为：<math>\Gamma_{\alpha}</math>）的概念，用于量化接近可逆动力学的程度<ref name="reversibility">Zhang, J., Tao, R., Leong, K.H. et al. Dynamical reversibility and a new theory of causal emergence based on SVD. npj Complex 2, 3 (2025).</ref>。
 +
 
 +
'''定义（近似动力学可逆性）：'''对于给定一个系统的马尔科夫转移矩阵，通过对它进行[[奇异值分解]]，我们把矩阵 <math>P</math> 的 <math>\alpha</math> 阶近似动力学可逆性定义为：
 +
<blockquote>
 +
<math>\begin{aligned}
 +
\Gamma_{\alpha}=\sum_{i=1}^{N}\sigma_{i}^{\alpha}\end{aligned}
 +
</math>
 +
</blockquote>
 +
其中 <math>\sigma_i</math> 是 <math>P</math> 的奇异值。'''<math>\Gamma_{\alpha}</math> 越大，说明动力学越接近可逆、冗余通路越少。'''当 <math>\alpha \to 0</math> 时，<math>\Gamma_0</math> 衡量的是 <math>P</math> 的（非）简并性；而 <math>\alpha \to 2</math> 时，<math>\Gamma_2</math> 衡量的是 <math>P</math> 的确定性。通过调整 <math>\alpha \in (0, 2)</math> 来调整考虑确定性和简并性对最终可逆性度量的影响。更进一步的范数性质和技术证明，请详见[[基于可逆性的因果涌现理论]]。
 +
 
 +
===基于SVD的粗粒化方法===
 +
 
 +
张江等人关于动力学可逆性的文章<ref name="reversibility"/>提供了另一种基于 SVD 的粗粒化方法。它的目标不是恢复某种预设的成块结构，而是把马尔科夫动力学看作一个通信信道，删除马尔科夫动力学中的'''冗余通路'''。这里每个状态的出转移分布都可以看作一条信息通路；如果若干行向量彼此线性相关，那么这些通路在信息上就是冗余的，即使它们在概率分布上看起来并不相似。
 +
 
 +
这也是它和 EI 的一个重要差别：EI 只能度量行向量之间的分布相似性，而动力学可逆性 <math>\Gamma_\alpha</math> 还能捕捉线性依赖关系。换句话说，两个状态的出流模式可以彼此很不像，但只要在代数上是冗余的，<math>\Gamma_\alpha</math> 仍能识别出来。
 +
 
 +
算法的基本流程如下：
 +
 
 +
# 给定含有 <math>N</math> 个状态的马尔科夫矩阵 <math>P</math>，对其做 SVD 分解 <math>P = U \Sigma V^T</math>；
 +
# 根据奇异值谱设定阈值 <math>\epsilon</math>，保留前 <math>r_\epsilon</math> 个右奇异向量，构成 <math>V_{N \times r_\epsilon}</math>；
 +
# 对 <math>P</math> 的行向量做投影：<math>\tilde{P} = P \cdot V_{N \times r_\epsilon}</math>，得到每个状态在“核心通路”子空间中的表示；
 +
# 对 <math>\tilde{P}</math> 的行向量用 K-Means 聚类为 <math>r_\epsilon</math> 组，得到划分 <math>\Phi</math>；
 +
# 基于划分 <math>\Phi</math> 和稳态流矩阵 <math>F = \mathrm{diag}(\pi) P</math>，通过 <math>F' = \Phi^T F \Phi</math> 构建宏观稳态流矩阵，再对每行归一化得到宏观转移矩阵 <math>P'</math>。
 +
 
 +
这里的投影 <math>\tilde{P}</math> 可以理解为：只保留转移矩阵中最主要的几条信息通道，把冗余或近乎无效的方向滤掉，再按照这些主导模式来归组状态。最后用 <math>F' = \Phi^T F \Phi</math> 而不是直接对 <math>P</math> 做行列聚合，是为了保证粗粒化与时间演化尽可能可交换，从而使宏观动力学仍然是合法的马尔科夫链。
 +
 
 +
虽然它与前面的 Zhang & Wang 方法都包含 “SVD + K-Means” 这一步，但两者的目标不同：前者更关心从稳态流结构中恢复成块划分，后者更关心删除 TPM 中的冗余信道。相应地，前者分解的是 <math>F=\mathrm{diag}(\pi)P</math>，因此天然带有稳态权重；后者直接分解 <math>P</math>，更强调转移矩阵本身的线性冗余结构。
 +
 
 +
===与因果涌现理论的关系===
 +
 
 +
事实上，基于动力学可逆性和SVD的粗粒化方法最一开始是作为一种替代最大化有效信息的因果涌现量化方法，即[[基于可逆性的因果涌现理论]]而提出的,它是一种量化[[因果涌现 Causal Emergence|因果涌现]]的新框架。
 +
 
 +
====相似点====
 +
 
 +
该理论的核心思想是：由于对于任意的时齐马尔可夫过程，近似动力学可逆性的对数近似等价于有效信息，即指标[math]\Gamma[/math]与[[有效信息]]高度相关，因此它也可以用来刻画动力学的[[因果效应强度]]，因此'''因果涌现其实也可以近似等价于近似动力学可逆性的涌现'''。
    
我们可以通过最大化EI来寻找最优的马尔可夫链的粗粒化方案，自然也可以通过最大化近似动力学可逆性[math]\Gamma_{\alpha}[/math]来寻找最优的粗粒化方案，只不过在动力学可逆性理论中，这个最大化求解过程可以直接通过对转移概率矩阵进行[[奇异值分解]]而得到。
 
我们可以通过最大化EI来寻找最优的马尔可夫链的粗粒化方案，自然也可以通过最大化近似动力学可逆性[math]\Gamma_{\alpha}[/math]来寻找最优的粗粒化方案，只不过在动力学可逆性理论中，这个最大化求解过程可以直接通过对转移概率矩阵进行[[奇异值分解]]而得到。
 +
 +
基于可逆性的因果涌现理论与其他因果涌现理论最大的区别在于：它不需要指定粗粒化策略，仅从马尔科夫转移矩阵的奇异值谱就能判断因果涌现是否发生，并直接定义'''清晰因果涌现'''（clear causal emergence）和'''模糊因果涌现'''（vague causal emergence）的概念。这在一定程度上规避了因果涌现结果依赖粗粒化策略、以及最大化有效信息难以优化求解的问题。其次，这套理论指出，一个动力系统的因果涌现特性仅由系统线性化算符的奇异值谱决定，因而是一套更能反映系统动力学特性本身的因果涌现理论。相关详情请参照[[基于可逆性的因果涌现理论]]词条。
 +
 +
最大化动力学可逆性的合理性，来源于这套 SVD 方案定义的因果涌现与“最大化有效信息”的因果涌现定义之间的密切关系。在[[基于有效信息的因果涌现理论|Erik Hoel 因果涌现理论]]的框架内，给定马尔科夫动力学系统的因果涌现大小依赖于粗粒化策略的选择，而最优粗粒化策略可以通过最大化宏观动力学的 EI 来寻找。
 +
 +
我们可以证明，要获得最大化有效信息的粗粒化策略，近似等价于采用向最大奇异值对应的奇异向量方向投影的策略。严格推导可见[[基于有效信息的因果涌现理论]]。由于对离散马尔科夫链来说，粗粒化策略往往是由比较严格的 0 或 1 构成的向量，因此不能简单地按奇异向量直接投影。但是，如果粗粒化策略尽可能与最大的几个奇异向量平行，就可以让粗粒化后动力学的 EI 尽可能更大。因此，最大化 EI 的必要条件近似可以理解为：向最大奇异值对应的奇异向量空间做投影。在实际应用中，粗粒化策略 <math>\phi</math> 的约束（例如宏观动力学 TPM 的分组和归一化）会阻止 <math>\phi_j</math> 与奇异向量完美对齐。因此，基于 SVD 的粗粒化策略只是最大化 EI 的近似必要条件。
 +
 +
对上面两个矩阵进行计算，可以得到：
 +
 +
{| style="text-align: center; border-collapse: collapse;" border="1"
 +
|+EI 与动力学可逆性对比
 +
|-
 +
!矩阵!!EI!!非零奇异值!!<math>\Gamma_0</math>!!<math>\Gamma_1</math>!!<math>\Gamma_2</math>
 +
|-
 +
|<math>P_{\mathrm{lin}}</math>||<math>0.559</math> bits||<math>1.281,\ 0.975</math>||<math>2</math>||<math>2.256</math>||<math>2.591</math>
 +
|-
 +
|<math>P_{\mathrm{cmp}}</math>||<math>0.559</math> bits||<math>1.281,\ 0.972,\ 0.074</math>||<math>3</math>||<math>2.327</math>||<math>2.591</math>
 +
|}
 +
 +
这两个矩阵的 EI 完全相同，因为它们的平均输出分布相同，各行转移分布的熵也相同。也就是说，从 EI 的角度看，它们具有相同的因果效应强度。但从奇异值谱看，<math>P_{\mathrm{lin}}</math> 只有两条独立的信息通路，而 <math>P_{\mathrm{cmp}}</math> 有三条独立的信息通路。因此，<math>\Gamma_0</math> 和 <math>\Gamma_1</math> 能区分这两种动力学结构，而 EI 无法区分。这个例子说明，<math>\Gamma_{\alpha}</math> 的优势不在于替代 EI，而在于它能刻画 EI 不敏感的'''线性冗余'''：有些状态转移在概率分布上并不相同，却可能只是已有信息通道的线性混合。需要注意的是，<math>\Gamma_2</math> 在这个例子中相同，因为它更接近于衡量矩阵的确定性或能量大小；真正揭示通路冗余的是更偏向秩结构的 <math>\Gamma_0</math>，以及介于二者之间的 <math>\Gamma_1</math>。
 +
 +
 +
 +
 +
    
===基本原理===
 
===基本原理===
第508行： 第574行：     
所以，EI无法避免刻画这种由线性相关带来的冗余性，但是近似动力学可逆性则可以。
 
所以，EI无法避免刻画这种由线性相关带来的冗余性，但是近似动力学可逆性则可以。
−
  −
===定义===
  −
  −
对于给定一个系统的马尔科夫转移矩阵，通过对它进行[[奇异值分解]]，我们把矩阵 <math>P</math> 的 <math>\alpha</math> 阶近似动力学可逆性定义为：
  −
<blockquote>
  −
<math>\begin{aligned}
  −
\Gamma_{\alpha}=\sum_{i=1}^{N}\sigma_{i}^{\alpha}\end{aligned}
  −
</math>
  −
</blockquote>
  −
其中 <math>\sigma_i</math> 是 <math>P</math> 的奇异值。'''<math>\Gamma_{\alpha}</math> 越大，说明动力学越接近可逆、冗余通路越少。'''当 <math>\alpha \to 0</math> 时，<math>\Gamma_0</math> 衡量的是 <math>P</math> 的（非）简并性；而 <math>\alpha \to 2</math> 时，<math>\Gamma_2</math> 衡量的是 <math>P</math> 的确定性。通过调整 <math>\alpha \in (0, 2)</math> 来调整考虑确定性和简并性对最终可逆性度量的影响。更进一步的范数性质和技术证明，请详见[[基于可逆性的因果涌现理论]]。
  −
  −
对上面两个矩阵进行计算，可以得到：
  −
  −
{| style="text-align: center; border-collapse: collapse;" border="1"
  −
|+EI 与动力学可逆性对比
  −
|-
  −
!矩阵!!EI!!非零奇异值!!<math>\Gamma_0</math>!!<math>\Gamma_1</math>!!<math>\Gamma_2</math>
  −
|-
  −
|<math>P_{\mathrm{lin}}</math>||<math>0.559</math> bits||<math>1.281,\ 0.975</math>||<math>2</math>||<math>2.256</math>||<math>2.591</math>
  −
|-
  −
|<math>P_{\mathrm{cmp}}</math>||<math>0.559</math> bits||<math>1.281,\ 0.972,\ 0.074</math>||<math>3</math>||<math>2.327</math>||<math>2.591</math>
  −
|}
  −
  −
这两个矩阵的 EI 完全相同，因为它们的平均输出分布相同，各行转移分布的熵也相同。也就是说，从 EI 的角度看，它们具有相同的因果效应强度。但从奇异值谱看，<math>P_{\mathrm{lin}}</math> 只有两条独立的信息通路，而 <math>P_{\mathrm{cmp}}</math> 有三条独立的信息通路。因此，<math>\Gamma_0</math> 和 <math>\Gamma_1</math> 能区分这两种动力学结构，而 EI 无法区分。这个例子说明，<math>\Gamma_{\alpha}</math> 的优势不在于替代 EI，而在于它能刻画 EI 不敏感的'''线性冗余'''：有些状态转移在概率分布上并不相同，却可能只是已有信息通道的线性混合。需要注意的是，<math>\Gamma_2</math> 在这个例子中相同，因为它更接近于衡量矩阵的确定性或能量大小；真正揭示通路冗余的是更偏向秩结构的 <math>\Gamma_0</math>，以及介于二者之间的 <math>\Gamma_1</math>。
  −
  −
===基于近似可逆性的粗粒化方案===
  −
  −
基于可逆性的因果涌现理论与其他因果涌现理论最大的区别在于：它不需要指定粗粒化策略，仅从马尔科夫转移矩阵的奇异值谱就能判断因果涌现是否发生，并直接定义'''清晰因果涌现'''（clear causal emergence）和'''模糊因果涌现'''（vague causal emergence）的概念。这在一定程度上规避了因果涌现结果依赖粗粒化策略、以及最大化有效信息难以优化求解的问题。其次，这套理论指出，一个动力系统的因果涌现特性仅由系统线性化算符的奇异值谱决定，因而是一套更能反映系统动力学特性本身的因果涌现理论。相关详情请参照[[基于可逆性的因果涌现理论]]词条。
  −
  −
最大化动力学可逆性的合理性，来源于这套 SVD 方案定义的因果涌现与“最大化有效信息”的因果涌现定义之间的密切关系。在[[基于有效信息的因果涌现理论|Erik Hoel 因果涌现理论]]的框架内，给定马尔科夫动力学系统的因果涌现大小依赖于粗粒化策略的选择，而最优粗粒化策略可以通过最大化宏观动力学的 EI 来寻找。
  −
  −
我们可以证明，要获得最大化有效信息的粗粒化策略，近似等价于采用向最大奇异值对应的奇异向量方向投影的策略。严格推导可见[[基于有效信息的因果涌现理论]]。由于对离散马尔科夫链来说，粗粒化策略往往是由比较严格的 0 或 1 构成的向量，因此不能简单地按奇异向量直接投影。但是，如果粗粒化策略尽可能与最大的几个奇异向量平行，就可以让粗粒化后动力学的 EI 尽可能更大。因此，最大化 EI 的必要条件近似可以理解为：向最大奇异值对应的奇异向量空间做投影。在实际应用中，粗粒化策略 <math>\phi</math> 的约束（例如宏观动力学 TPM 的分组和归一化）会阻止 <math>\phi_j</math> 与奇异向量完美对齐。因此，基于 SVD 的粗粒化策略只是最大化 EI 的近似必要条件。
      
==动力学一致性==
 
==动力学一致性==
取自“https://wiki.swarma.org/index.php/特殊:移动版差异/49996”

导航菜单