更改

== 基于有效信息的因果效应度量 ==

== 基于有效信息的因果效应度量 ==

[[有效信息]]（Effective Information，简称EI）这个概念最早由Giulio Tononi等人在2003年提出<ref name=tononi_2003>{{cite journal |last1=Tononi|first1=G.|last2=Sporns|first2=O.|title=Measuring information integration|journal=BMC Neuroscience|volume=4 |issue=31 |year=2003|url=https://doi.org/10.1186/1471-2202-4-31}}</ref>，作为[[整合信息论]]中的一个关键指标。当一个系统各个部分之间具有很强的因果关联的时候，可以说这个系统便具备很高的整合程度，而有效信息便是用来度量这种因果关联程度的关键指标。到了2013年，Giulio Tononi的学生Erik Hoel等人将有效信息这个概念进一步提炼出来，用来度量马尔科夫动力学的因果效应强度，并提出了[[因果涌现]]理论<ref name=hoel_2013>{{cite journal|last1=Hoel|first1=Erik P.|last2=Albantakis|first2=L.|last3=Tononi|first3=G.|title=Quantifying causal emergence shows that macro can beat micro|journal=Proceedings of the National Academy of Sciences|volume=110|issue=49|page=19790–19795|year=2013|url=https://doi.org/10.1073/pnas.1314922110}}</ref>。在这个理论中，Hoel使用了[[Judea Pearl]]的[[do演算]]来改造一般的[[互信息]]指标<ref name="pearl_causality">{{cite book|title=因果论——模型、推理和推断|author1=Judea Pearl|author2=刘礼|author3=杨矫云|author4=廖军|author5=李廉|publisher=机械工业出版社|year=2022|month=4}}</ref>，这使得EI本质上与[[互信息]]不同。[[互信息]]度量的是相关性，而有效信息因为引入了[[do演算]]，从而可以度量因果效应。

[[有效信息]]（Effective Information，简称EI）是一种信息论的因果效应度量指标，具体定义为在把因变量X干预为均匀分布的条件下，因变量X与果变量Y的互信息。这个概念最早由Giulio Tononi等人在2003年提出<ref name=tononi_2003>{{cite journal |last1=Tononi|first1=G.|last2=Sporns|first2=O.|title=Measuring information integration|journal=BMC Neuroscience|volume=4 |issue=31 |year=2003|url=https://doi.org/10.1186/1471-2202-4-31}}</ref>，作为[[整合信息论]]中的一个关键指标。当一个系统各个部分之间具有很强的因果关联的时候，可以说这个系统便具备很高的整合程度，而有效信息便是用来度量这种因果关联程度的关键指标。到了2013年，Giulio Tononi的学生Erik Hoel等人将有效信息这个概念进一步提炼出来，用来度量马尔科夫动力学的因果效应强度，并提出了[[因果涌现]]理论<ref name=hoel_2013>{{cite journal|last1=Hoel|first1=Erik P.|last2=Albantakis|first2=L.|last3=Tononi|first3=G.|title=Quantifying causal emergence shows that macro can beat micro|journal=Proceedings of the National Academy of Sciences|volume=110|issue=49|page=19790–19795|year=2013|url=https://doi.org/10.1073/pnas.1314922110}}</ref>。在这个理论中，Hoel使用了[[Judea Pearl]]的[[do演算]]来改造一般的[[互信息]]指标<ref name="pearl_causality">{{cite book|title=因果论——模型、推理和推断|author1=Judea Pearl|author2=刘礼|author3=杨矫云|author4=廖军|author5=李廉|publisher=机械工业出版社|year=2022|month=4}}</ref>，这使得EI本质上与[[互信息]]不同。[[互信息]]度量的是相关性，而有效信息因为引入了[[do演算]]，从而可以度量因果效应。

===形式定义===

===形式定义===

其中，[math]\tilde{Y}[/math]则代表：在保持因果机制[math]f[/math]不变的情况下，[math]Y[/math]变量被[math]X[/math]的do干预所间接改变了的Y变量，这种变化主要体现在概率分布的变化上。

其中，[math]\tilde{Y}[/math]则代表：在保持因果机制[math]f[/math]不变的情况下，[math]Y[/math]变量被[math]X[/math]的do干预所间接改变了的Y变量，这种变化主要体现在概率分布的变化上。

因此，所谓一个因果机制[math]f[/math]的有效信息EI，就是被干预后的因变量[math]\tilde{X}[/math]和果变量[math]\tilde{Y}[/math]之间的[[互信息]]。

因此，所谓一个因果机制[math]f[/math]的有效信息EI，就是被干预后的因变量[math]\tilde{X}[/math]和果变量[math]\tilde{Y}[/math]之间的[[互信息]]，该指标即可度量X与Y之间的因果效应强度。

 

===有效性===

===有效性===

根据Erik Hoel等人在文章<ref name=hoel_2013 />中的描述，EI的大小和状态空间大小有关，这一性质在我们比较不同尺度的[[马尔科夫链]]的时候非常不方便，我们需要一个尽可能不受尺度效应影响的因果效应度量。因此，我们需要对有效信息EI做一个归一化处理，得到和系统尺寸无关的一个量化指标。

根据Erik Hoel等人在文章<ref name=hoel_2013 />中的描述，EI的大小和状态空间大小有关，这一性质在我们比较不同尺度的[[马尔科夫链]]的时候非常不方便，所以，Hoel定义了一个不受尺度效应影响的因果效应度量，即有效性（Effectiveness）。该变量定义为用[[均匀分布]]即[[最大熵分布]]下的熵值，即<math>\log N</math>来做分母对EI进行归一化，这里的[math]N[/math]为状态空间[math]\mathcal{X}[/math]中的状态的数量。那么归一化后的EI便等于：

 

根据Erik Hoel和Tononi等人的工作，要用[[均匀分布]]即[[最大熵分布]]下的熵值，即<math>\log N</math>来做分母对EI进行归一化，这里的[math]N[/math]为状态空间[math]\mathcal{X}[/math]中的状态的数量。那么归一化后的EI便等于：

<math>

<math>