| 第40行: |
第40行: |
| | ===定义有效信息=== | | ===定义有效信息=== |
| | | | |
| − | 将随机游走子放在节点上,等价于对节点做[[干预]]<math>do(·) </math>,即所有的节点都分别进行随机游走,相当于对所有节点进行均分分布的干预。基于随机游走概率可以定义节点的转移概率矩阵,建立了有效信息与[[网络连通性]]的联系,将网络节点类比系统状态构建网络动力学的有效信息。
| + | 对于一般的N个状态的马尔科夫链,其概率转移矩阵为:[math]P[/math],则其有效信息可以由下式计算: |
| | | | |
| − | 网络中的连通性可通过节点出边与入边的权重的不确定性来表征,包括两项:
| + | <math> |
| | + | \begin{aligned} |
| | + | EI &\equiv I(S_{t+1};S_t|do(S_t\sim U))= \frac{1}{N}\cdot \sum_{i=1}^N\left(P_i\cdot \log P_i - P_i\cdot\log \bar{P}\right)\\ |
| | + | &=\underbrace{-\langle H(P_i)\rangle}_{确定性项}+\underbrace{H(\bar{P})}_{非简并性项} |
| | + | \end{aligned} |
| | + | </math> |
| | | | |
| − | 1)节点输出的不确定性可通过节点出边权重<math>W_i^{out}</math>的[[香农熵]]定义,即<math>H(W_i^{out})</math>,因此整个网络的不确定性可通过所有节点香农熵的平均值<math><H(W_i^{out})></math>得到;
| + | 这里,[math]P_i[/math]为P的第i个行向量,[math]\cdot[/math]为向量的内积,且[math]\bar{P}=\sum_{i=1}^N P_i/N[/math]为P的所有行向量求平均得到的平均向量。根据上式,EI可以分为两项,刚好对应两种计算下的[[Shannon信息熵]],即[math]-\langle H(P_i)\rangle}[/math],它描述了P的确定性;还有[math]H(\bar{P})[/math],它刻画了P的非简并性。 |
| | | | |
| − | 2)基于网络的出边权重分布计算,所有节点出边权重平均值的熵<math>H(<W_i^{out}>)</math>反映了简并性如何在网络中分布。通过这2项就可得到复杂网络中的有效信息定义,输入<math>w_{ij}</math>是节点<math>i</math>和<math>j</math>之间的转移概率,输出是有效信息值。
| + | 下面,我们把这个公式套用到复杂网络上的随机游走子定义的马尔科夫链上: |
| | | | |
| | + | {{NumBlk|:| |
| | <math> | | <math> |
| | \begin{aligned} | | \begin{aligned} |
| 第56行: |
第62行: |
| | \end{aligned} | | \end{aligned} |
| | </math> | | </math> |
| | + | |{{EquationRef|1}}}} |
| | + | |
| | + | 其中<math>W_j=\frac{1}{N}\sum_{i=1}^N w_{ij}</math>,表示节点<math>j</math>入边权重的平均值。 同样,有效信息可以分解为[[确定性]]和[[简并性]](参考[[有效信息]])。 |
| | + | |
| | + | 这两项分别是: |
| | + | |
| | + | 1)节点输出的不确定性可通过节点出边权重<math>W_i^{out}</math>的[[香农熵]]定义,即<math>H(W_i^{out})</math>,因此整个网络的不确定性可通过所有节点香农熵的平均值<math><H(W_i^{out})></math>得到; |
| | + | |
| | + | 2)基于网络的出边权重分布计算,所有节点出边权重平均值的熵<math>H(<W_i^{out}>)</math>反映了简并性如何在网络中分布。通过这2项就可得到复杂网络中的有效信息定义,输入<math>w_{ij}</math>是节点<math>i</math>和<math>j</math>之间的转移概率,输出是有效信息值。 |
| | + | |
| | + | {{EquationNote|1}}式还可以用有效信息的原始定义来理解。在初始时刻,我们假设随机子的初始状态分布为: |
| | + | <math> |
| | + | (1/N,1/N,\cdots,1/N), |
| | + | </math> |
| | + | |
| | + | 这相当于游走子会等概率地分布在所有网络节点上,这种初始分布相当于我们对随机游走子的初始分布进行了[[do干预]],把该分布干预为了[[均匀分布]]。计算在这个do干预下的前后两状态的[[互信息]],我们同样可以得到{{EquationNote|1}}式。 |
| | | | |
| − | 其中<math>W_j=\frac{1}{N}\sum_{i=1}^N w_{ij}</math>,表示节点<math>j</math>入边权重的平均值。 同样进一步,有效信息可以分解为[[确定性]]和[[简并性]](参考[[有效信息]])。
| + | {{EquationNote|1}}式表示任意复杂网络G的有效信息的定义式。 |
| | | | |
| | ===粗粒化复杂网络=== | | ===粗粒化复杂网络=== |