有效信息(Effective Information,简称EI)是[[因果涌现 Causal Emergence]]理论中的一个核心概念,它可以用来衡量一个马尔科夫动力学的[[因果效应]]的强度。这里,因果效应是指这个系统的上一时刻状态的概率分布是如何通过动力学对下一个时刻的状态分布产生影响的。具体地,这种因果效应可以通过强制干预系统处于上一时刻的状态分布为均匀分布,从而观察系统经由动力学的作用产生的下一时刻的状态分布是什么,那么在这种干预下,上一时刻和下一时刻状态分布之间的互信息就被定义为有效信息。尽管在有效信息的定义中引入了干预操作,但是本质上这是一种假想的干预,目的是为了切断因果度量与状态本身分布的联系,从而刻画出系统的动力学特性。另外,有效信息通常可以分解为两个部分:确定性(Determinism)和简并性(Degeneracy)。确定性是指,在动力学的作用下,我们根据系统前一时刻的状态会以多大程度预测它的下一时刻状态;简并性是指:我们能够以多大程度从下一时刻的状态预测上一时刻的状态。如果确定性越大,简并性越小,则系统的有效信息就会越大。在本页中,所有的[math]\log[/math]都表示以2为底的对数运算。 | 有效信息(Effective Information,简称EI)是[[因果涌现 Causal Emergence]]理论中的一个核心概念,它可以用来衡量一个马尔科夫动力学的[[因果效应]]的强度。这里,因果效应是指这个系统的上一时刻状态的概率分布是如何通过动力学对下一个时刻的状态分布产生影响的。具体地,这种因果效应可以通过强制干预系统处于上一时刻的状态分布为均匀分布,从而观察系统经由动力学的作用产生的下一时刻的状态分布是什么,那么在这种干预下,上一时刻和下一时刻状态分布之间的互信息就被定义为有效信息。尽管在有效信息的定义中引入了干预操作,但是本质上这是一种假想的干预,目的是为了切断因果度量与状态本身分布的联系,从而刻画出系统的动力学特性。另外,有效信息通常可以分解为两个部分:确定性(Determinism)和简并性(Degeneracy)。确定性是指,在动力学的作用下,我们根据系统前一时刻的状态会以多大程度预测它的下一时刻状态;简并性是指:我们能够以多大程度从下一时刻的状态预测上一时刻的状态。如果确定性越大,简并性越小,则系统的有效信息就会越大。在本页中,所有的[math]\log[/math]都表示以2为底的对数运算。 |