因果效应度量

因果效应（Causal Effect）是指当一个变量X发生变化时，它会导致另一个变量Y也发生变化。换句话说，就是量化X的变化对Y有多大的影响。它是一种客观的，建立在数学的基础之上的量化因果关系的指标。在当前的有关因果的数学定义中，基本上采取因果效应的说法来取代因果关系。

历史渊源

ohn Locke在他1690年发表的著作《人类理解论》中首次正式提出了因和果的概念：把产生观念的事物叫做原因，把所产生的东西叫做结果。在18世纪David Hume进一步发展了这个概念，提出因果不是事实之间的概念，而是经验之间的习惯性联想。他强调判断因果关系的三条准则：空间邻近性、时间连续性、恒常连结性。

19世纪末皮尔逊从高尔顿那里学会并发展了建立事物之间相关性的方法，通过一个特定的数值（皮尔逊相关系数）来简单直观地告诉人们两个事物（或变量）之间在变化趋势上的关联紧密程度，是朝着相同方向变化还是相反方向变化，以及这种变化的相关程度到底有多大。并认为相关性足以说明事物之间的联系，完全不需要在数学中定义因果关系，因果关系只是相关性一个特例。由皮尔逊的压制，因果以及因果关系的研究被沉淀了将近半个世纪。

现代因果关系研究的新曙光出现在20世纪20年代，其代表人物是美国科学家杰西·内曼（Jery Neyman），内曼研究了随机对照试验(RCT)，并且指出从随机对照试验中发现因果关系的可能性和必要性，并提出了“潜在结果”的思想，潜在结果的思想是对于每个人或事物在面对不同情况（比如做与不做某件事、接受不同处理等）时都有相应的可能结果，但通常我们只能看到实际发生情况对应的那个结果，其他没发生情况对应的结果就是潜在的，我们可以通过一些方法来推断这些潜在结果以及不同情况带来的影响差异。由于研究结果是用波兰文发表的，所以当时并未引起关注。

克莱夫・格兰杰（Clive W.J. Granger）于 1969 年提出了一种用于分析基于时间序列的变量之间因果关系的方法，它的定义是在时间序列情形下，对于两个变量X、Y，若在包含了变量X、Y的过去信息的条件下，对变量Y的预测效果要优于只单独由Y的过去信息对Y进行的预测效果，即变量X的过去信息有助于解释变量Y的变化，则认为变量X是引致变量Y的格兰杰原因。

内曼关于“潜在结果”的思想，被唐纳德·鲁宾(DonaldRubin)于1974年独立地再次发现，并且加以丰富和提升，正式提出了因果效应的的概念，使之成为当前因果分析的重要模型之一，称为“鲁宾因果模型”或者“潜在结果模型”。

朱迪亚・珀尔（Judea Pearl）在 1995 年提出的结构因果模型（SCM）是一种以有向无环图和结构方程为基础，通过清晰描绘变量间因果结构、进行反事实推理和因果效应估计，来帮助人们理解和分析变量之间因果关系，广泛应用于多领域的因果分析工具。并在此基础上提出了因果分析框架，为因果分析提供了一套系统的、形式化的理论和方法体系，将因果关系划分为关联、干预、反事实三个层级，使得因果推理更加精确和实用。

进入21世纪初Giulio Tononi 和 Olaf Sporns 提出有效信息 (EI)的概念，它可以用来衡量一个马尔科夫动力学的因果效应强度。它通过干预实验来排除其他因素的影响，通过比较干预前后状态之间的互信息来量化因果效应。

因果关系和因果效应

因果关系是指一个事件（原因）与另一个事件（结果）之间存在的导致与被导致的关系，强调的是事件之间的逻辑联系和先后顺序，是一种定性的、结构性的关系描述。比如，“吸烟”与“肺癌”之间存在因果关系，即吸烟是导致肺癌的一个原因。 因果效应则侧重于描述原因对结果产生影响的具体程度或效果，是对因果关系在数量或程度上的量化表达，具有定量的性质。例如，研究发现长期大量吸烟的人患肺癌的风险比不吸烟的人高80%，这80%就是吸烟对患肺癌这一结果的因果效应的一种量化体现。因果效应能够为因果关系提供更具体、更精确的信息，帮助人们更深入地理解因果关系的本质和特征。通过因果效应的估计，可以明确原因变量对结果变量影响的具体程度和方式，使因果关系从定性的认知上升到定量的分析。

前提假设

在现代的因果关系研究中，人们都是使用数学语言将因果关系量化为因果效应，这样才能把对因果的研究建立在一个客观和科学的基础之上。数学的推理都是从公理或基本假设出发的，因此因果效应的度量也有着它的前提和基本假设。

变量处于同一个尺度

自然界的现象很多，从量子到宇宙，从微观到宏观，就算同一个现象也可以具有不同量级的尺度视角。一般而言，因果关系是指同尺度现象之间的关系。例如对于疾病的研究般是从分子水平或者病菌水平考察与疾病的关系，尽管从根本上说疾病总是与物质的量子行为有关，但是因果关系不会从这个角度来研究，这种在同尺度下比较的相互关系奠定了因果关系的基石，同样道理，因果效应的度量也是在同尺度下的两个变量之间因果关联强度的度量。

共因原理

共因原理(common causeprinciple，CCP):如果两个可观察变量X和Y在统计上是关联的，那么就存在一组变量U(也可能是X或者Y)，它会对这两个变量产生共同的影响，这一条也经常被解释为“每一个关联关系背后都有某种因果关系”。如“冰淇淋销量高-犯罪率高”的例子，在冰淇淋销量高和犯罪率高关联的背后，一定有第三个变量，即气温，使得在表观层面上两个毫无瓜葛的现象产生了强烈的关联，气温就是冰淇销量和犯罪率之间的共同原因。共因原理的理论基础是是拉普拉斯提出的“决定论”以及爱因斯坦等提出的“隐变量理论”，这两个理论认为因果关系是具备确定性的，因必然导致果，其中出现的一些误差或者不确定性是由未知变量(隐变量)造成的。因果效应的度量也遵循共因原理，共因原理也是不同原因和结果变量之间因果效应的大小存在差异的原因之一。

独立因果机制

独立因果机制(independence causal mechanism，ICM):它是指不同的因果关系之间相互独立的机制。假设我们有变量X导致变量Y，以及变量Z导致变量W，这两种因果关系之间的变量XY和ZW是相互独立的，无论XY的因果关系怎么变化都不会影响ZW之间的因果关系。这意味着因果关系具有稳健性、不变性和可重复性。例如太阳每天都会升起落下，这个因果关系就很稳定，不会因为今天路上车多了，太阳升起落下的规律就变了。因此，ICM允许把样本中的每个个体的因果关系看作独立事件，从而降低了计算因果效应需要的样本数量、模型规模和建模时间。例如在医学中，一项手术对了某个患者的治疗效果不会因为其他患者接受手术的情况而变化，一些细心的读者可能会想到，有些患者在看到别的手术出现不良效果时情绪产生波动、从而影响了自身的手术效果，在这种情况下，所考虑的原因变量要增加一个，即情绪。在新的变量环境下，手术的效果还是独立的(当然与不考虑情绪是有区别的)。不考虑患者的情绪,手术效果完全取决于手术本身。考虑患者的情绪，则手术效果取决于手术和情绪。在这两种情况下，系统都是独立的，不受外部影响。也就是说，一项治疗措施对一个患者的效果，只和这个患者自身的情况有关，和其他患者以及非患者都没关系。所以，我们在研究时，只需要收集和这个患者有关的数据就可以了。

基于时间序列的因果效应度量

在现代社会，数据易于获取且数量庞大。此外，为了推断某些类型的因果关系，进行干预实验可能会很困难或根本不可能。因此，越来越多的研究正在使用基于时间序列数据驱动的因果效应度量方法。它们都是根据诺伯特·维纳提出的思想，该思想定义了一种从时间序列数据估计因果效应的简单而优雅的方法。根据维纳的说法，“如果一个时间序列[math]\displaystyle{ X }[/math]导致一个时间序列[math]\displaystyle{ Y }[/math]，那么[math]\displaystyle{ X }[/math]的过去值应该包含有助于预测[math]\displaystyle{ Y }[/math]的信息，且这些信息超出了仅包含在[math]\displaystyle{ Y }[/math]过去值中的信息”。

下面的三种方法都是基于此思想，下面阐述每种方法背后的思想。如果包含[math]\displaystyle{ X }[/math]的过去值：

[math]\displaystyle{ Y }[/math]的预测能力提高，那么从[math]\displaystyle{ X }[/math]到[math]\displaystyle{ Y }[/math]存在非零的格兰杰因果关系。

[math]\displaystyle{ Y }[/math]的不确定性降低，那么从[math]\displaystyle{ X }[/math]到[math]\displaystyle{ Y }[/math]存在非零的转移熵。

[math]\displaystyle{ Y }[/math]的动态复杂性降低/提高，那么从[math]\displaystyle{ X }[/math]到[math]\displaystyle{ Y }[/math]存在非零的压缩复杂性因果关系。

格兰杰因果（GC）

格兰杰因果是一种基于预测的因果关系统计概念。这是第一个直接基于维纳方法的方法，因此它通常被称为维纳 - 格兰杰因果关系[20]。要检查一个过程[math]\displaystyle{ X }[/math]是否格兰杰导致另一个过程[math]\displaystyle{ Y }[/math]，需要为[math]\displaystyle{ Y }[/math]建模两个单独的自回归过程以供考虑：

[math]\displaystyle{ Y(t)=\sum_{\tau = 1}^{\infty}(a_{\tau}Y(t - \tau))+\sum_{\tau = 1}^{\infty}(c_{\tau}X(t - \tau))+\varepsilon_{c} }[/math]（1）

[math]\displaystyle{ Y(t)=\sum_{\tau = 1}^{\infty}(b_{\tau}Y(t - \tau))+\varepsilon }[/math]（2）

其中[math]\displaystyle{ t }[/math]表示任何时间实例，[math]\displaystyle{ a_{\tau} }[/math]、[math]\displaystyle{ b_{\tau} }[/math]、[math]\displaystyle{ c_{\tau} }[/math]是滞后[math]\displaystyle{ \tau }[/math]时的系数，[math]\displaystyle{ \varepsilon_{c} }[/math]、[math]\displaystyle{ \varepsilon }[/math]是两个模型中的误差项。假设[math]\displaystyle{ X }[/math]和[math]\displaystyle{ Y }[/math]是协方差平稳的，[math]\displaystyle{ X }[/math]是否导致[math]\displaystyle{ Y }[/math]可以通过预测误差方差的对数比来预测：

[math]\displaystyle{ F_{X \to Y}=\ln\frac{\varepsilon}{\varepsilon_{c}} }[/math]（3）

这个度量被称为[math]\displaystyle{ F }[/math] - 统计量。如果由方程（1）表示的模型比方程（2）更适合[math]\displaystyle{ Y(t) }[/math]，那么[math]\displaystyle{ var(\varepsilon_{c})\lt var(\varepsilon) }[/math]且[math]\displaystyle{ F_{X \to Y} }[/math]将大于0，这表明[math]\displaystyle{ X }[/math]格兰杰导致[math]\displaystyle{ Y }[/math]。尽管这种因果关系概念使用自回归模型，但由于模型的通用性质对潜在机制做了最小假设，因此该方法广泛用于不同学科的数据驱动因果效应度量。

转移熵（TE）

转移熵量化过程[math]\displaystyle{ J }[/math]对系统[math]\displaystyle{ I }[/math]的转移概率的影响[18]。它衡量假设变量[math]\displaystyle{ I }[/math]的当前状态[math]\displaystyle{ i_{n + 1} }[/math]与变量[math]\displaystyle{ J }[/math]的过去状态[math]\displaystyle{ j_{n}^{(l)} }[/math]独立（即假设其分布为[math]\displaystyle{ q = p(i_{n + 1}|i_{n}^{(k)}) }[/math]而不是[math]\displaystyle{ p(i_{n + 1}|i_{n}^{(k)}, j_{n}^{(l)}) }[/math]）时需要付出的信息论比特的额外代价。这里[math]\displaystyle{ k }[/math]和[math]\displaystyle{ l }[/math]分别表示[math]\displaystyle{ I }[/math]和[math]\displaystyle{ J }[/math]的过去状态的数量，过程[math]\displaystyle{ I }[/math]的任何状态[math]\displaystyle{ i_{n + 1} }[/math]的概率分布依赖于这些过去状态。数学上，

[math]\displaystyle{ TE_{J \to I}=\sum_{i, j}(p(i_{n + 1}, i_{n}^{(k)}, j_{n}^{(l)})\log\frac{p(i_{n + 1}, i_{n}^{(k)}, j_{n}^{(l)})}{p(i_{n + 1}, i_{n}^{(k)})}) }[/math]（4）

如果[math]\displaystyle{ I }[/math]和[math]\displaystyle{ J }[/math]是独立过程，那么对于所有[math]\displaystyle{ n }[/math]、[math]\displaystyle{ k }[/math]、[math]\displaystyle{ l }[/math]，[math]\displaystyle{ p(i_{n + 1}, i_{n}^{(k)}, j_{n}^{(l)}) = p(i_{n + 1}, i_{n}^{(k)}) }[/math]，因此上述数量将为零。直观地说，[math]\displaystyle{ TE_{J \to I} }[/math]捕捉了从过程[math]\displaystyle{ J }[/math]到过程[math]\displaystyle{ I }[/math]的信息流。一般来说，[math]\displaystyle{ TE_{J \to I} \neq TE_{I \to J} }[/math]。

压缩复杂性因果（CCC）

像GC和TE这样的度量假设时间序列数据中“原因”和“效果”样本具有内在的可分离性，因此只能估计因果关系之梯第一层级的关联因果关系（图3）。然而，很多时候，原因和效果可能在测量块或单个测量中同时存在。这可能是过程动态的固有性质，或者是由于采样尺度与因果动态的时空尺度不同（例如，在测量采集期间）导致的结果。在这种情况下，关联因果关系度量是不合适的。对于一对时间序列[math]\displaystyle{ X }[/math]和[math]\displaystyle{ Y }[/math]，假设[math]\displaystyle{ X }[/math]导致[math]\displaystyle{ Y }[/math]，关联因果关系及其局限性如图4所示。

压缩复杂性因果关系（CCC）是最近提出的一种因果关系度量，它不做关联因果关系度量（如GC和TE）所做的可分离性假设。为了确定[math]\displaystyle{ X }[/math]对[math]\displaystyle{ Y }[/math]的因果影响，CCC捕获当引入[math]\displaystyle{ X }[/math]的过去信息时[math]\displaystyle{ Y }[/math]的“动态复杂性”如何变化。CCC通过插入[math]\displaystyle{ X }[/math]的块并将其与[math]\displaystyle{ Y }[/math]的适当块拼接来对[math]\displaystyle{ Y }[/math]进行干预。当无法对实验设置进行干预时，这是对数据能做的最好操作[19]。因此，CCC属于因果关系之梯的第二层级（干预因果关系）。

在CCC的情况下，时间序列数据块的复杂性是基于压缩努力（ETC）度量来计算的[24]。为了从[math]\displaystyle{ X }[/math]估计CCC到[math]\displaystyle{ Y }[/math]，我们计算[math]\displaystyle{ CC(\Delta Y|Y_{past}) }[/math]——时间序列[math]\displaystyle{ Y }[/math]的当前数据窗口[math]\displaystyle{ \Delta Y }[/math]在其自身过去[math]\displaystyle{ Y_{past} }[/math]条件下的动态复杂性。将其与[math]\displaystyle{ CC(\Delta Y|Y_{past}, X_{past}) }[/math]——[math]\displaystyle{ \Delta Y }[/math]在[math]\displaystyle{ Y }[/math]和[math]\displaystyle{ X }[/math]的过去[math]\displaystyle{ (Y_{past}, X_{past}) }[/math]共同条件下的动态复杂性进行比较。数学上，

[math]\displaystyle{ CC(\Delta Y|Y_{past}) = ETC(Y_{past}+\Delta Y)-ETC(Y_{past}) }[/math]（5）

[math]\displaystyle{ CC(\Delta Y|Y_{past}, X_{past}) = ETC(Y_{past}+\Delta Y, X_{past}+\Delta Y)-ETC(Y_{past}, X_{past}) }[/math]（6）

[math]\displaystyle{ CCC_{X_{past} \to \Delta Y}=CC(\Delta Y|Y_{past})-CC(\Delta Y|Y_{past}, X_{past}) }[/math]（7）

在整个时间序列长度上，随着窗口[math]\displaystyle{ \Delta Y }[/math]以步长[math]\displaystyle{ \delta }[/math]滑动，从[math]\displaystyle{ Y }[/math]到[math]\displaystyle{ X }[/math]的平均CCC估计为：

[math]\displaystyle{ CCC_{X \to Y}=\overline{CCC}_{X_{past} \to \Delta Y}=\overline{CC}(\Delta Y|Y_{past})-\overline{CC}(\Delta Y|Y_{past}, X_{past}) }[/math]（8）