第1行: |
第1行: |
− | [[基于可逆性的因果涌现理论]]是一种量化[[因果涌现 Causal Emergence|因果涌现]]强度的新框架,该方法基于[[奇异值分解]]和近似动力学可逆性的概念,与基于[[有效信息]](EI)的因果涌现理论不同。 | + | [[基于可逆性的因果涌现理论]]是一种量化[[因果涌现 Causal Emergence|因果涌现]]强度的新框架,该方法基于[[奇异值分解]]和近似动力学可逆性的概念,与基于[[有效信息]](EI)的因果涌现理论不同。kk |
| | | |
| ==理论== | | ==理论== |
− | 下面将定义马尔科夫链上的严格动力学可逆性,并提出了一个量化指标:近似动力学可逆性。来衡量任意马尔可夫链对严格动力学可逆性的接近程度。
| + | 下面将定义马尔科夫链上的动力学可逆性,并提出了一个量化指标:近似动力学可逆性。来衡量任意马尔可夫链对动力学可逆性的接近程度。 |
| | | |
− | == 什么是动力学可逆性 == | + | ==什么是动力学可逆性== |
| 对于给定的马尔可夫链<math> | | 对于给定的马尔可夫链<math> |
| \chi | | \chi |
第17行: |
第17行: |
| </math>的有效TPM,则<math> | | </math>的有效TPM,则<math> |
| \chi | | \chi |
− | </math>和P 可以称为严格动力学可逆的。 | + | </math>和P 可以称为动力学可逆的。 |
| | | |
− | === 定理1 ===
| + | 定理1:对于一个给定的马尔科夫链<math> |
− | 对于一个给定的马尔科夫链<math>
| |
| \chi | | \chi |
− | </math>和对应的TPM P,当且仅当P是[[置换矩阵]]的时候,P是严格动力学可逆的。 | + | </math>和对应的TPM P,当且仅当P是[[置换矩阵]]的时候,P是严格动力学可逆的。 |
| + | |
| | | |
| 纯粹的[[置换矩阵]]在所有可能的TPM中非常稀少,所以大多数的TPM并不是严格动力学可逆的。因此,需要一个指标来刻画任意一个TPM接近动力学可逆的程度。 | | 纯粹的[[置换矩阵]]在所有可能的TPM中非常稀少,所以大多数的TPM并不是严格动力学可逆的。因此,需要一个指标来刻画任意一个TPM接近动力学可逆的程度。 |
第54行: |
第54行: |
| 这也是所有奇异值的平方和。可以看出矩阵的秩和弗罗贝尼乌斯范数都与奇异值相联系。 | | 这也是所有奇异值的平方和。可以看出矩阵的秩和弗罗贝尼乌斯范数都与奇异值相联系。 |
| | | |
− | == 近似动力学可逆性 == | + | ==近似动力学可逆性== |
| 下面定义矩阵P的近似动力学可逆性: | | 下面定义矩阵P的近似动力学可逆性: |
| | | |
第85行: |
第85行: |
| </math>来得到。 | | </math>来得到。 |
| | | |
− | === 定理2 ===
| + | 定理2:对于任意<math> |
| + | \alpha\in(0,2) |
| + | </math>,<math> |
| + | \Gamma_{\alpha} |
| + | </math>的最大值是N,当且仅当P是置换矩阵的时候能取到该最大值. |
| | | |
− | == 决定性和简并性 ==
| + | 证明见附录A.2.2 |
| + | 更进一步来说,可以证明,<math> |
| + | \Gamma_{\alpha} |
| + | </math>的下界可以由<math> |
| + | {||P||}_{F}^{\alpha} |
| + | </math>确定。 |
| | | |
− | == 归一化及例子 == | + | ==决定性和简并性== |
| + | 通过调整参数<math> |
| + | \alpha\in(0,2) |
| + | </math>,我们可以使更好地反映P的确定性或者简并性。当<math> |
| + | \Gamma_{\alpha}\to0,\Gamma_{\alpha} |
| + | </math>收敛到P的秩,这类似于EI定义中的非简并项,因为随着P越来越退化,r越来越小。然而,定义不允许<math> |
| + | \alpha |
| + | </math>精确为零,因为rank(P)不是P的连续函数,而且最大化秩不会导致置换矩阵。 |
| + | 同样,当<math> |
| + | \Gamma_{\alpha}\to2 |
| + | </math>时,<math> |
| + | \Gamma_{\alpha} |
| + | </math>收敛到<math> |
| + | {||P||}_{F}^{2} |
| + | </math>,但是定义不允许<math> |
| + | \alpha |
| + | </math>取2,因为<math> |
| + | \Gamma_{\alpha=2} |
| + | </math>的最大化并不意味着P是可逆的。<math> |
| + | {||P||}_{F} |
| + | </math>与EI定义中的确定性项具有可比性,因为当P具有越来越多的one-hot向量,P的中的最大转移概率也会变得更大,意味着动力学变得更加可逆。 |
| + | 在实践中,我们总是取alpha=1 来平衡gama测量确定性和简并性的倾向,gama被称为核规范。 |
| + | 考虑到alpha=1的重要性,我们将主要展示alpha=1 的结果,在下文中,我们将gama1基座gama。 |
| | | |
− | == <math> | + | ==归一化及例子== |
| + | gamaa受矩阵的大小影响,所以我们需要进行归一化,从而刻画与大小无关的近似动力学可逆性,这样可以更方便地在不同大小的马尔科夫链 |
| + | 之间进行比较。 |
| + | 容易证明,gamaa总是小于1。 |
| + | ==<math> |
| \Gamma_{\alpha} | | \Gamma_{\alpha} |
− | </math>和EI的联系 == | + | </math>和EI的联系== |
| | | |
− | === 定理3 === | + | ===定理3=== |
| | | |
− | === 定理4 === | + | ===定理4=== |
| | | |
− | == 一种新的因果涌现量化方法 == | + | ==一种新的因果涌现量化方法== |