| 第1行: |
第1行: |
| − | 基于有效信息的因果涌现理论是因果涌现领域最早提出的一种用于定量刻画因果涌现强度的方法。该方法由Erik Hoel等人提出,其基本方法是将微观系统进行粗粒化后使用一种因果效应度量指标有效信息(EI)来量化一个马尔科夫动力学的因果性强弱。
| + | 基于有效信息的因果涌现理论是该领域最早提出的一种用于定量刻画因果涌现强度的方法。该方法由Erik Hoel等人提出,其基本思想是将微观系统进行粗粒化后,使用一种因果效应度量指标[[有效信息]]来量化一个马尔科夫动力学的因果性强弱改变。如果粗粒化后的宏观系统的有效信息大于微观系统,那么就认为发生了因果涌现现象。 |
| | | | |
| | == 起源 == | | == 起源 == |
| 第31行: |
第31行: |
| | === 量化方法 === | | === 量化方法 === |
| | | | |
| − | 接下来将引入有效信息这一关键指标,介绍如何量化马尔科夫动力系统的因果效应。
| + | 下面将引入有效信息这一关键指标,介绍如何基于该指标量化马尔科夫动力系统的因果效应。 |
| | | | |
| | ==== 有效信息 ==== | | ==== 有效信息 ==== |
| | | | |
| − | 有效信息(Effective Information,简称EI)是因果涌现理论中的一个核心概念,它可以用来度量一个马尔科夫动力学的因果效应强度。因果效应反映的是动力学机制的有效性,即在给定动力学的情况下,因、果变量分布之间的关联程度(要求不能有混淆变量干扰)。由此可见,EI核心目标并非衡量是否存在因果效应,而是关注效应的强度。因此,EI更适用于已经明确因、果变量之间存在着因果关联的场合。 | + | 有效信息(Effective Information,简称EI)是因果涌现理论中的一个核心概念,它可以用来度量一个马尔科夫动力学的因果效应强度。因果效应所反映的是动力学机制的有效性,即在给定马尔科夫动力学的情况下,前后两个时刻状态分布之间的关联程度(要求不能有混淆变量干扰)。由此可见,EI核心目标并非衡量是否存在因果效应,而是关注效应的强度,且更适用于已经明确存在因果关联的场合。更正式地,EI是因果机制的函数,而与其它因素无关。 |
| | | | |
| − | 更正式地,EI是因果机制的函数,而与其它因素无关。EI的正式定义为:
| + | 离散状态的马尔科夫链中,任意时刻的状态变量[math]X_t[/math]可以看作是原因,而下一时刻的状态变量[math]X_{t+1}[/math]就可以看作是结果,[[马尔科夫链]]的[[状态转移矩阵]]就是它的[[因果机制]]。因此,马尔科夫链的有效信息的定义如下: |
| − | | |
| − | <math>
| |
| − | EI(P)\equiv I(Y;X|do(X\sim U))
| |
| − | </math>
| |
| − | | |
| − | 这里,P代表X到Y的因果机制,它是一个概率转移矩阵,即[math]p_{ij}\equiv Pr(Y=j|X=i)[/math];X是因变量,Y是果变量,[math]do(X\sim U)[/math]表示对因变量X进行[[do干预]],将X的分布变为均匀分布。在这一干预下,同时假设X到Y的因果机制P保持不变,那么,Y就会间接地受到X的do干预的影响而发生变化。则EI度量的是经过干预后的X和Y之间的互信息。
| |
| − | | |
| − | 之所以引入do操作,目的是为了消除数据X的分布对EI的影响,以使得最后的EI度量仅仅是因果机制f的函数,而与数据X无关。
| |
| − | | |
| − | 这里,[math]do(X\sim U(\mathcal{X}))[/math]代表对[math]X[/math]实施[[do干预]](或称[[do操作]],英文是do-operator),使其服从[math]\mathcal{X}[/math]上的均匀分布[math]U(\mathcal{X})[/math],也即是[[最大熵分布]]。[math]\tilde{X}[/math]与[math]\tilde{Y}[/math]分别代表在经过[math]do[/math]干预后的[math]X[/math]和[math]Y[/math]变量
| |
| − | | |
| − | 在离散状态的马尔科夫链中,任意时刻的状态变量[math]X_t[/math]都可以看作是原因,而下一时刻的状态变量[math]X_{t+1}[/math]就可以看作是结果,[[马尔科夫链]]的[[状态转移矩阵]]就是它的[[因果机制]]。因此,马尔科夫链的有效信息的定义如下:
| |
| | | | |
| | <math> | | <math> |
| 第62行: |
第50行: |
| | | | |
| | 其中<math>\tilde{X}_t,\tilde{X}_{t+1}</math>分别为把t时刻的[math]X_t[/math][[干预]]为[[均匀分布]]后,前后两个时刻的状态。<math>p_{ij}</math>为第i个状态转移到第j个状态的转移概率。从这个式子,不难看出,EI仅仅是概率转移矩阵[math]P[/math]的函数。 | | 其中<math>\tilde{X}_t,\tilde{X}_{t+1}</math>分别为把t时刻的[math]X_t[/math][[干预]]为[[均匀分布]]后,前后两个时刻的状态。<math>p_{ij}</math>为第i个状态转移到第j个状态的转移概率。从这个式子,不难看出,EI仅仅是概率转移矩阵[math]P[/math]的函数。 |
| | + | |
| | + | 在这一干预下,同时假设X到Y的因果机制P保持不变,那么,Y就会间接地受到X的do干预的影响而发生变化。则EI度量的是经过干预后的X和Y之间的互信息。 |
| | + | |
| | + | 之所以引入do操作,目的是为了消除数据X的分布对EI的影响,以使得最后的EI度量仅仅是因果机制f的函数,而与数据X无关。 |
| | + | |
| | + | 这里,[math]do(X\sim U(\mathcal{X}))[/math]代表对[math]X[/math]实施[[do干预]](或称[[do操作]],英文是do-operator),使其服从[math]\mathcal{X}[/math]上的均匀分布[math]U(\mathcal{X})[/math],也即是[[最大熵分布]]。[math]\tilde{X}[/math]与[math]\tilde{Y}[/math]分别代表在经过[math]do[/math]干预后的[math]X[/math]和[math]Y[/math]变量 |
| | + | |
| | + | |
| | | | |
| | | | |