5,443
个编辑
更改
跳到导航
跳到搜索
第37行：
第37行： + 第49行：
第50行： − +
→有效信息
有效信息（Effective Information，简称EI）是因果涌现理论中的一个核心概念，它可以用来度量一个马尔科夫动力学的因果效应强度。
有效信息（Effective Information，简称EI）是因果涌现理论中的一个核心概念，它可以用来度量一个马尔科夫动力学的因果效应强度。
* EI定义
首先，我们先介绍一般情况下的有效信息的定义。因果效应所反映的是动力学机制的有效性，即在给定动力学的情况下，因、果变量状态分布之间的关联程度（其中不能有混淆变量干扰）。由此可见，EI核心目标并非衡量是否存在因果效应，而是关注效应的强度，且更适用于已经明确存在因果关联的场合。更正式地，EI是因果机制的函数，而与其它因素无关，定义如下：
首先，我们先介绍一般情况下的有效信息的定义。因果效应所反映的是动力学机制的有效性，即在给定动力学的情况下，因、果变量状态分布之间的关联程度（其中不能有混淆变量干扰）。由此可见，EI核心目标并非衡量是否存在因果效应，而是关注效应的强度，且更适用于已经明确存在因果关联的场合。更正式地，EI是因果机制的函数，而与其它因素无关，定义如下：
do干预这一步是根据[[Judea Pearl]]的[[因果阶梯理论]]<ref name=pearl_causality />提出的。该理论中，[[因果推断]]包含了三个层次，分别是：关联、[[干预]]和[[反事实]]。阶梯层级越高，因果特征越明显。在EI的定义中引入了[math]do[/math]操作上升到干预层级，即设定变量为某个值或服从某个分布，使得EI能够比直接计算[[互信息]]更能体现因果特征。从实际意义上来讲，在EI的计算中引入[[do操作]]，可以把数据和动力学分开，消除数据分布（即[math]X[/math]的分布）对EI度量所带来的影响，均匀分布也避免了对数据的“偏见”。从因果图角度来看，[[do操作]]可以消除EI中的所有指向因变量[math]X[/math]的因果箭头，包括其它变量（包括不可观测的变量）对[math]X[/math]的影响，从而使得EI更能够刻画动力学本身的特性。
do干预这一步是根据[[Judea Pearl]]的[[因果阶梯理论]]<ref name=pearl_causality />提出的。该理论中，[[因果推断]]包含了三个层次，分别是：关联、[[干预]]和[[反事实]]。阶梯层级越高，因果特征越明显。在EI的定义中引入了[math]do[/math]操作上升到干预层级，即设定变量为某个值或服从某个分布，使得EI能够比直接计算[[互信息]]更能体现因果特征。从实际意义上来讲，在EI的计算中引入[[do操作]]，可以把数据和动力学分开，消除数据分布（即[math]X[/math]的分布）对EI度量所带来的影响，均匀分布也避免了对数据的“偏见”。从因果图角度来看，[[do操作]]可以消除EI中的所有指向因变量[math]X[/math]的因果箭头，包括其它变量（包括不可观测的变量）对[math]X[/math]的影响，从而使得EI更能够刻画动力学本身的特性。
* 马尔科夫动力系统EI
回到离散状态的马尔科夫链中，任意时刻的状态变量[math]X_t[/math]可以看作是原因，而下一时刻的状态变量[math]X_{t+1}[/math]就可以看作是结果，[[马尔科夫链]]的[[状态转移矩阵]]就是它的[[因果机制]]。因此，马尔科夫链的有效信息定义如下：
回到离散状态的马尔科夫链中，任意时刻的状态变量[math]X_t[/math]可以看作是原因，而下一时刻的状态变量[math]X_{t+1}[/math]就可以看作是结果，[[马尔科夫链]]的[[状态转移矩阵]]就是它的[[因果机制]]。因此，马尔科夫链的有效信息定义如下：