3,094
个编辑
更改
跳到导航
跳到搜索
第362行：
第362行： − − − − 有效信息通常可以分解为两个部分：确定性（Determinism）和简并性（Degeneracy）： − <math> − EI = \frac{1}{N}\cdot \sum_{i=1}^N\left(P_i\cdot \log P_i - P_i\cdot\log \bar{P}\right) =\underbrace{-\langle H(P_i)\rangle}_{确定性项}+\underbrace{H(\bar{P})}_{非简并性项} − </math> − − 确定性是指，在动力学作用下，我们根据系统前一时刻的状态能在多大程度上预测它下一时刻的状态；简并性是指：如果知道了系统当前状态，能否反推系统上一时刻状态的能力。如果可以较好地推断，则这个马尔科夫矩阵的简并性较低，也就是非简并；如果很难推断，则马尔科夫矩阵就是简并的，也即退化的。如果确定性越大，或简并性越小，则系统的有效信息就越大。其他相关详情请参照[[有效信息]]词条。 第413行：
第404行： − 开头提到，对马尔科夫链做粗粒化的一个动机，就是想抹除一些微观动力学上的噪音，从而得到在宏观上更具规律性和因果性的动力学。所以，我们可以利用 EI 这一马尔科夫链的因果效应度量，来衡量聚类后宏观动力学的因果强度。+
→因果涌现：最大化有效信息
其中 <math>\bar{P}</math> 是转移矩阵各行的平均转移向量。这个表达式说明，EI 本质上度量的是：不同初始状态所对应的转移分布，与“平均转移分布”之间到底有多可区分。若各行彼此差异很大，动力学的因果效应就更强；若各行非常相似，EI 就会较小。
其中 <math>\bar{P}</math> 是转移矩阵各行的平均转移向量。这个表达式说明，EI 本质上度量的是：不同初始状态所对应的转移分布，与“平均转移分布”之间到底有多可区分。若各行彼此差异很大，动力学的因果效应就更强；若各行非常相似，EI 就会较小。
下表展示的是三个不同的转移概率矩阵，以及它们的EI数值：
下表展示的是三个不同的转移概率矩阵，以及它们的EI数值：
===最大化有效信息的划分===
===最大化有效信息的划分===
前面提到，对马尔科夫链做粗粒化的一个动机，就是想抹除一些微观动力学上的噪音，从而得到在宏观上更具规律性和因果性的动力学。所以，我们可以利用 EI 这一马尔科夫链的因果效应度量，来衡量聚类后宏观动力学的因果强度。
但是，EI 的大小和状态空间大小有关，这一性质在比较不同尺度的[[马尔科夫链]]时很不方便。我们需要一个尽可能不受尺度效应影响的[[因果效应度量]]，因此需要对有效信息 EI 做归一化处理，得到一个和系统尺寸无关的量化指标。根据[[Erik Hoel]]和[[Tononi]]等人的工作，应使用[[均匀分布]]即[[最大熵分布]]下的熵值 <math>\log N</math> 作为分母对 EI 进行归一化，这里的[math]N[/math]为状态空间[math]\mathcal{X}[/math]中的状态数<ref name="hoel_2013">{{cite journal|last1=Hoel|first1=Erik P.|last2=Albantakis|first2=L.|last3=Tononi|first3=G.|title=Quantifying causal emergence shows that macro can beat micro|journal=Proceedings of the National Academy of Sciences|volume=110|issue=49|page=19790–19795|year=2013|url=https://doi.org/10.1073/pnas.1314922110}}</ref>。那么归一化后的 EI 为：
但是，EI 的大小和状态空间大小有关，这一性质在比较不同尺度的[[马尔科夫链]]时很不方便。我们需要一个尽可能不受尺度效应影响的[[因果效应度量]]，因此需要对有效信息 EI 做归一化处理，得到一个和系统尺寸无关的量化指标。根据[[Erik Hoel]]和[[Tononi]]等人的工作，应使用[[均匀分布]]即[[最大熵分布]]下的熵值 <math>\log N</math> 作为分母对 EI 进行归一化，这里的[math]N[/math]为状态空间[math]\mathcal{X}[/math]中的状态数<ref name="hoel_2013">{{cite journal|last1=Hoel|first1=Erik P.|last2=Albantakis|first2=L.|last3=Tononi|first3=G.|title=Quantifying causal emergence shows that macro can beat micro|journal=Proceedings of the National Academy of Sciences|volume=110|issue=49|page=19790–19795|year=2013|url=https://doi.org/10.1073/pnas.1314922110}}</ref>。那么归一化后的 EI 为：