第731行: |
第731行: |
| | | |
| ==维度平均的EI与因果涌现== | | ==维度平均的EI与因果涌现== |
− | 在[[神经信息压缩器]](Neural information squeezer, NIS)的框架被提出时<ref name=zhang_nis />,作者们发明了另一种有效信息的归一化方式,即用连续马尔科夫动力系统的状态空间维数来归一化EI,从而解决连续状态变量上的EI比较问题,这一指标被称为'''维度求平均的有效信息'''(Dimension Averaged Effective Information,简称dEI)。其描述为: | + | |
| + | 归一化的EI是除以[math]\log N[/math],这里[math]N=\#(\mathcal{X})[/math]为离散状态空间[math]\mathcal{X}]/math]中的元素个数。 |
| + | |
| + | 然而,在针对连续变量的扩展中,状态空间的元素个数为无穷大。一种解决办法是将空间的体积视作个数N,因此应该除以归一化变量为:[math]n \log L[/math],由此可见它是正比于n和log L的。 |
| + | |
| + | 在[[神经信息压缩器]](Neural information squeezer, NIS)的框架被提出时<ref name=zhang_nis />,作者们发明了另一种有效信息的归一化方式,即用状态空间维数来归一化EI,从而解决连续状态变量上的EI比较问题,这一指标被称为'''维度求平均的有效信息'''(Dimension Averaged Effective Information,简称dEI)。其描述为: |
| | | |
| <math> | | <math> |
− | \mathcal{J}=\frac{EI}{D} | + | \mathcal{J}=\frac{EI}{n} |
| </math> | | </math> |
| | | |
− | 这里,[math]D[/math]为状态空间的维度。可以证明,在离散的状态空间中,'''维度平均的EI'''和'''有效性'''指标实际上是等价的。关于连续变量上的EI,我们将在下文进一步详述。 | + | 这里,[math]n[/math]为状态空间的维度。可以证明,在离散的状态空间中,'''维度平均的EI'''和'''有效性'''指标实际上是等价的。关于连续变量上的EI,我们将在下文进一步详述。 |
| | | |
| ==随机迭代系统== | | ==随机迭代系统== |