更改

马尔科夫链的粗粒化 (查看源代码)

2025年6月5日 (四) 18:19的版本

添加309字节、 2025年6月5日 (四) 18:19

第527行：第527行：

该指标与[[有效信息]]具有高度的相关性，因而也可以用于刻画动力学的[[因果效应强度]]。基于可逆性的因果涌现理论与已有的其他因果涌现理论最大的区别就是不需要指定粗粒化策略，仅从马尔科夫转移矩阵的奇异值谱就能判断因果涌现的发生，直接定义所谓'''清晰因果涌现'''（clear causal emergence）和'''模糊因果涌现'''（vague causal emergence）的概念，在一定程度上规避了因果涌现结果依赖于粗粒化策略的问题和最大化有效信息的难以优化求解的问题。其次，这套理论指出一个动力系统的因果涌现特性仅仅是系统线性化算符的奇异值谱决定的，因而是一套更加反映系统动力学特性本身的因果涌现理论。相关详情请参照[[基于可逆性的因果涌现理论]]词条。

+

===定义===

−

对于给定的马尔可夫链<math>\chi</math>和对应的'''转移概率矩阵(Transitional Probability Matrix，简称TPM)''' P ~~，如果P同时满足：~~

+

对于给定的马尔可夫链<math>\chi</math>和对应的'''转移概率矩阵(Transitional Probability Matrix，简称TPM)''' <math>P</math> ，如果 <math>P</math> 同时满足：

−

# P是可逆矩阵，即存在矩阵<math>P^{-1}</math>，使得<math>PP^{-1}=I</math>，[math]I[/math]为单位矩阵；

+

# P是可逆矩阵，即存在矩阵 <math>P^{-1}</math>，使得 <math>PP^{-1}=I</math>，<math>I</math> 为单位矩阵；

−

# <math>P^{-1}</math>也是另一个马尔可夫链<math>\chi^{-1}</math>的有效TPM，

+

# <math>P^{-1}</math> 也是另一个马尔可夫链 <math>\chi^{-1}</math> 的有效TPM，

−

则<math>\chi</math>~~和P可以称为~~'''严格动力学可逆的'''。

+

则 <math>\chi</math> 和 <math>P</math> 可以称为'''严格动力学可逆的'''。

−

关于动力学可逆性，我们有如下定理：对于一个给定的马尔科夫链<math>\chi</math>和对应的TPM P，'''~~当且仅当P是~~[[置换矩阵]](Permutation Matrix)~~的时候，P是严格动力学可逆的。~~'''所谓的[[置换矩阵]]是指每一个行向量都是独热向量（one-hot vector，即只有一个元素是1，其余元素均为零的向量），每两个行向量都不相同。

+

关于动力学可逆性，我们有如下定理：对于一个给定的马尔科夫链<math>\chi</math>和对应的TPM <math>P</math>，'''当且仅当 <math>P</math> 是[[置换矩阵]](Permutation Matrix)的时候，<math>P</math> 是严格动力学可逆的。'''所谓的[[置换矩阵]]是指每一个行向量都是独热向量（one-hot vector，即只有一个元素是1，其余元素均为零的向量），每两个行向量都不相同。

纯粹的置换矩阵在所有可能的TPM中非常稀少，所以大多数的TPM并不是严格动力学可逆的。因此，需要一个指标来刻画任意一个TPM接近动力学可逆的程度。

−

~~考虑P的秩为r，当且仅当r~~<~~N（N为矩阵的维数）的时候，P是不可逆的；且P越退化对应着越小的r。然而，~~'''~~非退化（满秩）的矩阵P并不总是动力学可逆的~~'''，因为：

+

考虑 <math>P</math> 的秩为 <math>r</math> ，当且仅当 <math>r<N</math> （ <math>N</math> 为矩阵的维数）的时候，<math>P</math> 是不可逆的；且 <math>P</math> 越退化对应着越小的 <math>r</math>。然而，'''非退化（满秩）的矩阵 <math>P</math> 并不总是动力学可逆的'''，因为：

# 尽管<math>P^{-1}</math>存在，<math>P^{-1}</math>并不一定是满足归一化条件的合法TPM（即矩阵中每个元素都大于等于0，小于等于1，且每一行满足加和为1的条件）；

−

# ~~如前所述，若P满足动力学可逆性，则P必为置换矩阵。~~

+

# 如前所述，若 <math>P</math> 满足动力学可逆性，则 <math>P</math> 必为置换矩阵。

第551行：第553行：

所有置换矩阵的行向量都是独热向量。这一特性可以被矩阵 <math>P</math> 的[[弗罗贝尼乌斯范数]]（Frobenius norm，F-norm）刻画。事实上，当且仅当P的行向量是独热向量的时候，矩阵P的弗罗贝尼乌斯范数取最大值。因此，我们可以由矩阵P的秩r和矩阵的弗罗贝尼乌斯范数找到P的近似动力学可逆性与矩阵奇异值之间的联系。

−

首先，矩阵的秩可以被写作：<math>r=\sum_{i=1}^{N}\sigma_{i}^{0}</math>，其中<math>\sigma_{i}</math>~~是矩阵P的第i个奇异值，[~~math]N[/math]是马尔科夫链的状态数。

+

首先，矩阵的秩可以被写作：<math>r=\sum_{i=1}^{N}\sigma_{i}^{0}</math>，其中<math>\sigma_{i}</math>是矩阵 <math>P</math> 的第 <math>i</math> 个奇异值，<math>N</math> 是马尔科夫链的状态数。

紧接着，矩阵的F-norm可以被写作：<math>{||P||}_{F}^{2}=\sum_{i=1}^{N}\sigma_{i}^{2}</math>。这也是所有奇异值的平方和。可以看出矩阵的秩和F-norm都与奇异值相联系。

第561行：第563行：

</math>

</blockquote>

−

其中<math>\alpha\in(0,2)</math>是参数。实际上，当<math>\alpha\ge1</math>时，<math>\Gamma_{\alpha}</math>~~是P的~~[[沙滕范数]]（Schatten norm）；当<math>0<\alpha<1</math>时，<math>\Gamma_{\alpha}</math>是P的准范数（quasinorm）<ref>Schatten norm from Wikipedia. https://en.wikipedia.org/wiki/Schatten norm</ref><ref>Recht, B., Fazel, M., Parrilo, P.A.: Guaranteed minimum-rank solutions of linear matrix equations via nuclear norm minimization. SIAM review 52(3), 471–501 (2010)</ref><ref>Chi, Y., Lu, Y.M., Chen, Y.: Nonconvex optimization meets low-rank matrix factorization: An overview. IEEE Transactions on Signal Processing 67(20), 52395269 (2019)</ref><ref name="Cui">Cui, S., Wang, S., Zhuo, J., Li, L., Huang, Q., Tian, Q.: Towards discriminability and diversity: Batch nuclear-norm maximization under label insufficient situations. In: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, pp. 3941–3950 (2020)</ref>。使用这个定义来刻画近似动力学可逆性是合理的，因为完全动力学可逆性可以通过最大化<math>\Gamma_{\alpha}</math>来得到。我们可以证明如下结论：对于任意<math>\alpha\in(0,2)</math>，<math>\Gamma_{\alpha}</math>的最大值是N，当且仅当P是置换矩阵的时候能取到该最大值。

+

其中<math>\alpha\in(0,2)</math>是参数。实际上，当<math>\alpha\ge1</math>时，<math>\Gamma_{\alpha}</math>是 <math>P</math> 的[[沙滕范数]]（Schatten norm）；当<math>0<\alpha<1</math>时，<math>\Gamma_{\alpha}</math>是P的准范数（quasinorm）<ref>Schatten norm from Wikipedia. https://en.wikipedia.org/wiki/Schatten norm</ref><ref>Recht, B., Fazel, M., Parrilo, P.A.: Guaranteed minimum-rank solutions of linear matrix equations via nuclear norm minimization. SIAM review 52(3), 471–501 (2010)</ref><ref>Chi, Y., Lu, Y.M., Chen, Y.: Nonconvex optimization meets low-rank matrix factorization: An overview. IEEE Transactions on Signal Processing 67(20), 52395269 (2019)</ref><ref name="Cui">Cui, S., Wang, S., Zhuo, J., Li, L., Huang, Q., Tian, Q.: Towards discriminability and diversity: Batch nuclear-norm maximization under label insufficient situations. In: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, pp. 3941–3950 (2020)</ref>。使用这个定义来刻画近似动力学可逆性是合理的，因为完全动力学可逆性可以通过最大化<math>\Gamma_{\alpha}</math>来得到。我们可以证明如下结论：对于任意<math>\alpha\in(0,2)</math>，<math>\Gamma_{\alpha}</math>的最大值是N，当且仅当P是置换矩阵的时候能取到该最大值。

===最大化动力学可逆性的划分===

−

文章<ref name="reversibility"/>~~提供了一种基于奇异值分解的粗粒化方法，以获得宏观层面的简化TPM。其基本思想是将P中的行向量~~ <math>P_{i},\forall i \in [1,N]</math>投影到<math>P</math>的几个较大奇异值对应的奇异向量所张成的子空间上，从而保留P的主要信息，并保持<math>\Gamma</math>不变。

+

文章<ref name="reversibility"/>提供了一种基于奇异值分解的粗粒化方法，以获得宏观层面的简化TPM。其基本思想是将 <math>P</math> 中的行向量 <math>P_{i},\forall i \in [1,N]</math>投影到 <math>P</math> 的几个较大奇异值对应的奇异向量所张成的子空间上，从而保留P的主要信息，并保持 <math>\Gamma</math> 不变。

最大化动力学可逆性的合理性来源于这套SVD方案定义的因果涌现与最大化有效信息的因果涌现定义的密切关系。在[[基于有效信息的因果涌现理论|Erik Hoel因果涌现理论]]的框架内，给定马尔可夫动力学系统的因果涌现的大小依赖于粗粒化策略的选择，可以通过宏观动力学的EI最大化寻找最优的粗粒化策略。

Liangjh

812

个编辑