集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织 - 用户贡献 [zh-cn]

主分层

2022-08-15T14:03:15Z

我是猫：

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

[[文件:主分层案例2.png]]

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的。例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种朴素的方法是简单地比较所有观察到的在干预后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一。一组无论干预与否都会被录用，一组无论干预与否都不会被录用，一组只有在接受干预时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响。

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

[[文件:主分层案例3.png]]

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。

[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==
基于主要分层的分析分为三个阶段。第一阶段是确定我们前面描述的主要层次。总的来说，这个过程涉及到以一种相对高层次的方式思考实质性问题。下一阶段是将这些层次正式化，并编码进一步的实质性信息，以便日后进行估计。我们将在本节中讨论前两个阶段。最后一个阶段是估算，在第四部分中讨论。

首先，为了更好地界定层组，我们需要对随机试验的工作方式做一些假设。主要分层是基于潜在结果框架，它有效地考虑了每个研究个体具有个体的潜在结果和相关的潜在治疗效果。Yi (1)和 Yi (0)是如果进行治疗或不治疗的人的潜在结果。

鉴于这些数值，一个关键的感兴趣的数量，整体平均治疗效果，是这些个别治疗效果的平均值。

因果影响是明确的，不依赖于任何分布或抽样假设: 人口由个人在实验中，而不是更多。挑战在于，虽然所有的潜在结果都已确定，但根据随机治疗分配，对于每个人来说，实际上只观察到一个潜在结果。

=== 基础假设 ===
为了从这些基本定义出发，我们首先做出两个普遍接受的假设。首先，治疗实际上是随机的，我们将其表述为一个独立的假设，即在个体是否接受治疗和个体的潜在结果之间是相互独立的。第二个，通常被称为稳定单位治疗价值假设(SUTVA)(Rubin，1978,1980,1990) ，有效地说明治疗一个人不会影响另一个人(即，治疗一个学生没有溢出效应，不会帮助其他学生)。

上述假设为我们提供了明确的地层和明确的治理效果在每一个层。推理如下: 给定 SUTVA，个体对任何一种实验条件的反应本质上是个体的特征。这反过来又意味着，每个个体的成员阶层在本质上是个体的特征。鉴于治疗分配是随机的，它与阶层成员无关。因此，阶层内治疗效果是因果效应，就像其他亚组治疗效果一样。随着地层和地层水平处理效应的确定，我们进入下一阶段，我们增加了实质性的假设，对地层施加约束。这些限制非常重要，因为如果没有这些限制，通常很难在估计关键的利息数量方面取得进展。

更重要的是，假设使我们能够正式地将我们对问题的实质性知识纳入我们的分析。这是主要分层框架的一个特别好处。在讨论前面提到的主体分层的其他设置之前，我们简要讨论了在标准不遵从性、单调性和排除限制的背景下最常见的两个假设

=== 二元不遵从语境中的单调性和排除限制假设 ===
在随机实验中，关于不遵从性的两个常见假设是单调性和排除约束，单调性关联到人们实际上如何回应随机提出采取给定的干预措施。

==== 单调性假设 ====
单调性是这样一种假设，即一个人至少有可能接受分配给治疗条件的治疗，就像分配给控制条件的治疗一样。回到图1，其中显示了在纽约市学校教育券实验的背景下为二元不遵守建立的主要分层，单调性假设排除了任何“违背者”的可能性，因为这个阶层的儿童会在没有教育券提供的情况下进入私立学校。

==== [[文件:主分层案例1.png]] 排除限制假设 ====
第二个主要假设是排除限制，它涉及到分配到治疗条件将如何影响那些实际上不接受治疗的个人，如果提供的话。同样，在图1所示的例子的上下文中，这些孩子的学校类型将被随机优惠券提供保持不变。总是接受教育的学生总是进入私立学校，有或没有教育券，而从不接受教育的学生总是进入公立学校。鉴于随机化不会改变这些亚组儿童的学校教育类型，我们假设随机化同样不会影响这些儿童的后续结果。同样地，我们假设，在这些层组中，治疗的效果为零
== 估计随机试验中的关键主要因果效应 ==
估算随机实验的主要因果效应的策略可以分为基于矩的方法(非参数)和基于模型的方法。

首先，我们纯粹依赖于我们最初的假设来表达目标数量(例如层组的特定的平均处理效应)作为数据的直接可观察特征的函数。当这不可能实现时，可以削弱基于矩的方法，转而试图约束目标数量。第二种方法是直接对部分或全部数据建模。这通常需要对主要阶层的结果做出分布假设，并利用基线协变量来预测个人层组的成员。

我们把第一种方法称为“基于矩”，因为我们可以根据可估计的“矩”或数量(如平均值和比例)来估计相关的特定层次的治疗效果。第二种方法是“基于模型的”，因为我们的评估过程涉及从连接模型估计参数。

这两种方法之间的关键区别在于，基于矩的方法只使用样本级信息，而基于模型的方法使用个体级信息，正如我们下面所讨论的。

在不遵从的情况下，第一种策略可能对应用的定量研究者更为熟悉，而与第二种策略相关的工具和程序对于在更复杂的主体分层应用中估计主要因果效应通常是必要的。

基于矩的非参数方法依赖于较弱的假设，并允许考虑的结果的非标准和未知的分布形式。然而，这种结构的缺乏使得解开许多层组变得更加困难。

至少在原则上，基于模型的方法可以分离出多层，以便洞察治疗影响的复杂模式。然而，重要的是，基本的分析工作是分离混合物之一ーー这是一个出了名的困难问题ーー而且这样做可能有些微妙，因为治疗效果的估计可能对建模选择敏感。

== 主分层框架的好处和局限性 ==

=== 主分层框架的好处 ===
由前面例子中所强调的反事实问题分析可见，主分层框架为思考这类问题提供了便利。

首先，主分层框架的使用需要非常清晰地阐明，对于特定研究问题相关的实验对象在治疗和控制下所采取的后随机化经验、决定或行动。这本身就很有用。

其次，在确定了相关的层组之后，该框架还突出了估计治疗效果所依赖的假设。例如，在上述应用中，单调性假设排除了某些层组的存在和排除限制，固定处理效应在某些层组为零。

主体分层框架有利于培养对利益关键数量界定的清晰思维。然而，估算的过程相对不那么简单。尽管如此，一些标准模型已经得到了很好的理解，例如处理二元不遵从性的应用程序，以及单调性和排除限制假设实质上是站得住脚的。

在这里，基于矩的工具变量是一个经典的解决方案，基于模型的 IV 产生了非常相似的 ITTc 估计值(Imbens & Rubin，1997)。在样本量大、服从者比例高的情况下，这种等效性通常是正确的。

然而，更重要的是，基于模型的方法提供了一个灵活的框架，可以在其中处理额外的分析复杂性，例如缺少数据和放松某些建模假设的需要。例如，使用基于模型的方法，我们可以通过允许 ITTa 为非零来评估 ITTc 的估计对于从未接受者的排除限制的敏感性。

基于模型的方法的最后一个好处，也是对于上面讨论的主体分层的一些更复杂的应用来说特别重要的一个好处，就是它很容易扩展到利益层不再由二元变量定义的环境(如上面的开端和职业学院的例子) ，以及单调性和排除限制不是有效假设的环境(如上面的工作团队的例子)。

=== 主分层框架的局限性 ===
这种分析策略有潜在的缺点。

首先，基于模型的方法可以对模型的偏离敏感。

第二，对于基于模型的 IV 估计没有一个封闭的解决方案，这会使估计过程看起来不透明，难以向从业人员解释，并且难以执行计算。

最后，正如我们前面所描述的，基于模型的方法将结果纳入到地层成员的预测中。虽然从贝叶斯的角度来看是明智的，但这可能是一种强行推销。然而，我们指出，结果对建模选择的敏感性并不是像这里讨论的那些分析策略所特有的问题。

然而，由于我们强调的许多原因，像前面描述的那些灵敏度检查是分析过程的一个关键组成部分。最后，必须指出，该领域尚未取得进展，以便为应用研究人员提供强有力的指导和统计软件，使他们能够在主体分层框架内广泛利用基于模型的估计战略。

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，我是猫补充，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

主分层

2022-08-15T14:02:28Z

我是猫：/* 二元不遵从语境中的单调性和排除限制假设 */

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}本词条尚未编辑完毕

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

[[文件:主分层案例2.png]]

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的。例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种朴素的方法是简单地比较所有观察到的在干预后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一。一组无论干预与否都会被录用，一组无论干预与否都不会被录用，一组只有在接受干预时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响。

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

[[文件:主分层案例3.png]]

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。

[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==
基于主要分层的分析分为三个阶段。第一阶段是确定我们前面描述的主要层次。总的来说，这个过程涉及到以一种相对高层次的方式思考实质性问题。下一阶段是将这些层次正式化，并编码进一步的实质性信息，以便日后进行估计。我们将在本节中讨论前两个阶段。最后一个阶段是估算，在第四部分中讨论。

首先，为了更好地界定层组，我们需要对随机试验的工作方式做一些假设。主要分层是基于潜在结果框架，它有效地考虑了每个研究个体具有个体的潜在结果和相关的潜在治疗效果。Yi (1)和 Yi (0)是如果进行治疗或不治疗的人的潜在结果。

鉴于这些数值，一个关键的感兴趣的数量，整体平均治疗效果，是这些个别治疗效果的平均值。

因果影响是明确的，不依赖于任何分布或抽样假设: 人口由个人在实验中，而不是更多。挑战在于，虽然所有的潜在结果都已确定，但根据随机治疗分配，对于每个人来说，实际上只观察到一个潜在结果。

=== 基础假设 ===
为了从这些基本定义出发，我们首先做出两个普遍接受的假设。首先，治疗实际上是随机的，我们将其表述为一个独立的假设，即在个体是否接受治疗和个体的潜在结果之间是相互独立的。第二个，通常被称为稳定单位治疗价值假设(SUTVA)(Rubin，1978,1980,1990) ，有效地说明治疗一个人不会影响另一个人(即，治疗一个学生没有溢出效应，不会帮助其他学生)。

上述假设为我们提供了明确的地层和明确的治理效果在每一个层。推理如下: 给定 SUTVA，个体对任何一种实验条件的反应本质上是个体的特征。这反过来又意味着，每个个体的成员阶层在本质上是个体的特征。鉴于治疗分配是随机的，它与阶层成员无关。因此，阶层内治疗效果是因果效应，就像其他亚组治疗效果一样。随着地层和地层水平处理效应的确定，我们进入下一阶段，我们增加了实质性的假设，对地层施加约束。这些限制非常重要，因为如果没有这些限制，通常很难在估计关键的利息数量方面取得进展。

更重要的是，假设使我们能够正式地将我们对问题的实质性知识纳入我们的分析。这是主要分层框架的一个特别好处。在讨论前面提到的主体分层的其他设置之前，我们简要讨论了在标准不遵从性、单调性和排除限制的背景下最常见的两个假设

=== 二元不遵从语境中的单调性和排除限制假设 ===
在随机实验中，关于不遵从性的两个常见假设是单调性和排除约束，单调性关联到人们实际上如何回应随机提出采取给定的干预措施。

==== 单调性假设 ====
单调性是这样一种假设，即一个人至少有可能接受分配给治疗条件的治疗，就像分配给控制条件的治疗一样。回到图1，其中显示了在纽约市学校教育券实验的背景下为二元不遵守建立的主要分层，单调性假设排除了任何“违背者”的可能性，因为这个阶层的儿童会在没有教育券提供的情况下进入私立学校。

==== [[文件:主分层案例1.png]] 排除限制假设 ====
第二个主要假设是排除限制，它涉及到分配到治疗条件将如何影响那些实际上不接受治疗的个人，如果提供的话。同样，在图1所示的例子的上下文中，这些孩子的学校类型将被随机优惠券提供保持不变。总是接受教育的学生总是进入私立学校，有或没有教育券，而从不接受教育的学生总是进入公立学校。鉴于随机化不会改变这些亚组儿童的学校教育类型，我们假设随机化同样不会影响这些儿童的后续结果。同样地，我们假设，在这些层组中，治疗的效果为零
== 估计随机试验中的关键主要因果效应 ==
估算随机实验的主要因果效应的策略可以分为基于矩的方法(非参数)和基于模型的方法。

首先，我们纯粹依赖于我们最初的假设来表达目标数量(例如层组的特定的平均处理效应)作为数据的直接可观察特征的函数。当这不可能实现时，可以削弱基于矩的方法，转而试图约束目标数量。第二种方法是直接对部分或全部数据建模。这通常需要对主要阶层的结果做出分布假设，并利用基线协变量来预测个人层组的成员。

我们把第一种方法称为“基于矩”，因为我们可以根据可估计的“矩”或数量(如平均值和比例)来估计相关的特定层次的治疗效果。第二种方法是“基于模型的”，因为我们的评估过程涉及从连接模型估计参数。

这两种方法之间的关键区别在于，基于矩的方法只使用样本级信息，而基于模型的方法使用个体级信息，正如我们下面所讨论的。

在不遵从的情况下，第一种策略可能对应用的定量研究者更为熟悉，而与第二种策略相关的工具和程序对于在更复杂的主体分层应用中估计主要因果效应通常是必要的。

基于矩的非参数方法依赖于较弱的假设，并允许考虑的结果的非标准和未知的分布形式。然而，这种结构的缺乏使得解开许多层组变得更加困难。

至少在原则上，基于模型的方法可以分离出多层，以便洞察治疗影响的复杂模式。然而，重要的是，基本的分析工作是分离混合物之一ーー这是一个出了名的困难问题ーー而且这样做可能有些微妙，因为治疗效果的估计可能对建模选择敏感。

== 主分层框架的好处和局限性 ==

=== 主分层框架的好处 ===
由前面例子中所强调的反事实问题分析可见，主分层框架为思考这类问题提供了便利。

首先，主分层框架的使用需要非常清晰地阐明，对于特定研究问题相关的实验对象在治疗和控制下所采取的后随机化经验、决定或行动。这本身就很有用。

其次，在确定了相关的层组之后，该框架还突出了估计治疗效果所依赖的假设。例如，在上述应用中，单调性假设排除了某些层组的存在和排除限制，固定处理效应在某些层组为零。

主体分层框架有利于培养对利益关键数量界定的清晰思维。然而，估算的过程相对不那么简单。尽管如此，一些标准模型已经得到了很好的理解，例如处理二元不遵从性的应用程序，以及单调性和排除限制假设实质上是站得住脚的。

在这里，基于矩的工具变量是一个经典的解决方案，基于模型的 IV 产生了非常相似的 ITTc 估计值(Imbens & Rubin，1997)。在样本量大、服从者比例高的情况下，这种等效性通常是正确的。

然而，更重要的是，基于模型的方法提供了一个灵活的框架，可以在其中处理额外的分析复杂性，例如缺少数据和放松某些建模假设的需要。例如，使用基于模型的方法，我们可以通过允许 ITTa 为非零来评估 ITTc 的估计对于从未接受者的排除限制的敏感性。

基于模型的方法的最后一个好处，也是对于上面讨论的主体分层的一些更复杂的应用来说特别重要的一个好处，就是它很容易扩展到利益层不再由二元变量定义的环境(如上面的开端和职业学院的例子) ，以及单调性和排除限制不是有效假设的环境(如上面的工作团队的例子)。

=== 主分层框架的局限性 ===
这种分析策略有潜在的缺点。

首先，基于模型的方法可以对模型的偏离敏感。

第二，对于基于模型的 IV 估计没有一个封闭的解决方案，这会使估计过程看起来不透明，难以向从业人员解释，并且难以执行计算。

最后，正如我们前面所描述的，基于模型的方法将结果纳入到地层成员的预测中。虽然从贝叶斯的角度来看是明智的，但这可能是一种强行推销。然而，我们指出，结果对建模选择的敏感性并不是像这里讨论的那些分析策略所特有的问题。

然而，由于我们强调的许多原因，像前面描述的那些灵敏度检查是分析过程的一个关键组成部分。最后，必须指出，该领域尚未取得进展，以便为应用研究人员提供强有力的指导和统计软件，使他们能够在主体分层框架内广泛利用基于模型的估计战略。

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

主分层

2022-08-15T13:58:39Z

我是猫：/* 估计随机试验中的关键主要因果效应 */

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}本词条尚未编辑完毕

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

[[文件:主分层案例2.png]]

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的。例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种朴素的方法是简单地比较所有观察到的在干预后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一。一组无论干预与否都会被录用，一组无论干预与否都不会被录用，一组只有在接受干预时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响。

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

[[文件:主分层案例3.png]]

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。

[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==
基于主要分层的分析分为三个阶段。第一阶段是确定我们前面描述的主要层次。总的来说，这个过程涉及到以一种相对高层次的方式思考实质性问题。下一阶段是将这些层次正式化，并编码进一步的实质性信息，以便日后进行估计。我们将在本节中讨论前两个阶段。最后一个阶段是估算，在第四部分中讨论。

首先，为了更好地界定层组，我们需要对随机试验的工作方式做一些假设。主要分层是基于潜在结果框架，它有效地考虑了每个研究个体具有个体的潜在结果和相关的潜在治疗效果。Yi (1)和 Yi (0)是如果进行治疗或不治疗的人的潜在结果。

鉴于这些数值，一个关键的感兴趣的数量，整体平均治疗效果，是这些个别治疗效果的平均值。

因果影响是明确的，不依赖于任何分布或抽样假设: 人口由个人在实验中，而不是更多。挑战在于，虽然所有的潜在结果都已确定，但根据随机治疗分配，对于每个人来说，实际上只观察到一个潜在结果。

=== 基础假设 ===
为了从这些基本定义出发，我们首先做出两个普遍接受的假设。首先，治疗实际上是随机的，我们将其表述为一个独立的假设，即在个体是否接受治疗和个体的潜在结果之间是相互独立的。第二个，通常被称为稳定单位治疗价值假设(SUTVA)(Rubin，1978,1980,1990) ，有效地说明治疗一个人不会影响另一个人(即，治疗一个学生没有溢出效应，不会帮助其他学生)。

上述假设为我们提供了明确的地层和明确的治理效果在每一个层。推理如下: 给定 SUTVA，个体对任何一种实验条件的反应本质上是个体的特征。这反过来又意味着，每个个体的成员阶层在本质上是个体的特征。鉴于治疗分配是随机的，它与阶层成员无关。因此，阶层内治疗效果是因果效应，就像其他亚组治疗效果一样。随着地层和地层水平处理效应的确定，我们进入下一阶段，我们增加了实质性的假设，对地层施加约束。这些限制非常重要，因为如果没有这些限制，通常很难在估计关键的利息数量方面取得进展。

更重要的是，假设使我们能够正式地将我们对问题的实质性知识纳入我们的分析。这是主要分层框架的一个特别好处。在讨论前面提到的主体分层的其他设置之前，我们简要讨论了在标准不遵从性、单调性和排除限制的背景下最常见的两个假设

=== 二元不遵从语境中的单调性和排除限制假设 ===
人们实际上如何回应随机提出采取给定的干预措施。

==== 单调性假设 ====
单调性是这样一种假设，即一个人至少有可能接受分配给治疗条件的治疗，就像分配给控制条件的治疗一样。回到图1，其中显示了在纽约市学校教育券实验的背景下为二元不遵守建立的主要分层，单调性假设排除了任何“违背者”的可能性，因为这个阶层的儿童会在没有教育券提供的情况下进入私立学校。

==== [[文件:主分层案例1.png]] 排除限制假设 ====
第二个主要假设是排除限制，它涉及到分配到治疗条件将如何影响那些实际上不接受治疗的个人，如果提供的话。同样，在图1所示的例子的上下文中，这些孩子的学校类型将被随机优惠券提供保持不变。总是接受教育的学生总是进入私立学校，有或没有教育券，而从不接受教育的学生总是进入公立学校。鉴于随机化不会改变这些亚组儿童的学校教育类型，我们假设随机化同样不会影响这些儿童的后续结果。同样地，我们假设，在这些层组中，治疗的效果为零

重要的是，这些假设本质上是实质性的，而非统计性的。因此，至关重要的是通过推理来判断这些假设在每个实质性应用的背景下是否合理。就代金券研究而言，单调性似乎完全合理，因为很难想象一个学生或家庭在没有代金券提供的财政援助的情况下更有可能接受私立学校教育。然而，对于总是接受者和从不接受者的排除限制值得进一步考虑。绝不接受的是那些不管有没有优惠券都会去上公立学校的孩子。由于这些儿童的学校环境和实际的学校建筑很可能没有改变，因此可以合理地假设，治疗方案不会影响随后与学校有关的结果。然而，对于总是接受教育的人来说，可以想象的是，教育券的提供可能导致家庭为子女选择不同的私立学校。如果优惠券允许一些家庭选择进入更高质量的私立学校，那么总是接受优惠券的学生的待遇效果可能不会为零。有鉴于此，研究必须严格考虑并捍卫排除限制对总是服药者的适用或不适用这一假设，而是估计对这一亚群的治疗效果。正如我们在下面的评估部分中所讨论的，这些假设在某些情况下可以被测试。

== 估计随机试验中的关键主要因果效应 ==
估算随机实验的主要因果效应的策略可以分为基于矩的方法(非参数)和基于模型的方法。

首先，我们纯粹依赖于我们最初的假设来表达目标数量(例如层组的特定的平均处理效应)作为数据的直接可观察特征的函数。当这不可能实现时，可以削弱基于矩的方法，转而试图约束目标数量。第二种方法是直接对部分或全部数据建模。这通常需要对主要阶层的结果做出分布假设，并利用基线协变量来预测个人层组的成员。

我们把第一种方法称为“基于矩”，因为我们可以根据可估计的“矩”或数量(如平均值和比例)来估计相关的特定层次的治疗效果。第二种方法是“基于模型的”，因为我们的评估过程涉及从连接模型估计参数。

这两种方法之间的关键区别在于，基于矩的方法只使用样本级信息，而基于模型的方法使用个体级信息，正如我们下面所讨论的。

在不遵从的情况下，第一种策略可能对应用的定量研究者更为熟悉，而与第二种策略相关的工具和程序对于在更复杂的主体分层应用中估计主要因果效应通常是必要的。

基于矩的非参数方法依赖于较弱的假设，并允许考虑的结果的非标准和未知的分布形式。然而，这种结构的缺乏使得解开许多层组变得更加困难。

至少在原则上，基于模型的方法可以分离出多层，以便洞察治疗影响的复杂模式。然而，重要的是，基本的分析工作是分离混合物之一ーー这是一个出了名的困难问题ーー而且这样做可能有些微妙，因为治疗效果的估计可能对建模选择敏感。

== 主分层框架的好处和局限性 ==

=== 主分层框架的好处 ===
由前面例子中所强调的反事实问题分析可见，主分层框架为思考这类问题提供了便利。

首先，主分层框架的使用需要非常清晰地阐明，对于特定研究问题相关的实验对象在治疗和控制下所采取的后随机化经验、决定或行动。这本身就很有用。

其次，在确定了相关的层组之后，该框架还突出了估计治疗效果所依赖的假设。例如，在上述应用中，单调性假设排除了某些层组的存在和排除限制，固定处理效应在某些层组为零。

主体分层框架有利于培养对利益关键数量界定的清晰思维。然而，估算的过程相对不那么简单。尽管如此，一些标准模型已经得到了很好的理解，例如处理二元不遵从性的应用程序，以及单调性和排除限制假设实质上是站得住脚的。

在这里，基于矩的工具变量是一个经典的解决方案，基于模型的 IV 产生了非常相似的 ITTc 估计值(Imbens & Rubin，1997)。在样本量大、服从者比例高的情况下，这种等效性通常是正确的。

然而，更重要的是，基于模型的方法提供了一个灵活的框架，可以在其中处理额外的分析复杂性，例如缺少数据和放松某些建模假设的需要。例如，使用基于模型的方法，我们可以通过允许 ITTa 为非零来评估 ITTc 的估计对于从未接受者的排除限制的敏感性。

基于模型的方法的最后一个好处，也是对于上面讨论的主体分层的一些更复杂的应用来说特别重要的一个好处，就是它很容易扩展到利益层不再由二元变量定义的环境(如上面的开端和职业学院的例子) ，以及单调性和排除限制不是有效假设的环境(如上面的工作团队的例子)。

=== 主分层框架的局限性 ===
这种分析策略有潜在的缺点。

首先，基于模型的方法可以对模型的偏离敏感。

第二，对于基于模型的 IV 估计没有一个封闭的解决方案，这会使估计过程看起来不透明，难以向从业人员解释，并且难以执行计算。

最后，正如我们前面所描述的，基于模型的方法将结果纳入到地层成员的预测中。虽然从贝叶斯的角度来看是明智的，但这可能是一种强行推销。然而，我们指出，结果对建模选择的敏感性并不是像这里讨论的那些分析策略所特有的问题。

然而，由于我们强调的许多原因，像前面描述的那些灵敏度检查是分析过程的一个关键组成部分。最后，必须指出，该领域尚未取得进展，以便为应用研究人员提供强有力的指导和统计软件，使他们能够在主体分层框架内广泛利用基于模型的估计战略。

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

主分层

2022-08-15T11:54:20Z

我是猫：

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}本词条尚未编辑完毕

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

[[文件:主分层案例2.png]]

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的。例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种朴素的方法是简单地比较所有观察到的在干预后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一。一组无论干预与否都会被录用，一组无论干预与否都不会被录用，一组只有在接受干预时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响。

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

[[文件:主分层案例3.png]]

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。

[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==
基于主要分层的分析分为三个阶段。第一阶段是确定我们前面描述的主要层次。总的来说，这个过程涉及到以一种相对高层次的方式思考实质性问题。下一阶段是将这些层次正式化，并编码进一步的实质性信息，以便日后进行估计。我们将在本节中讨论前两个阶段。最后一个阶段是估算，在第四部分中讨论。

首先，为了更好地界定地层，我们需要对随机试验的工作方式做一些假设。主要分层是基于潜在结果框架(Frangakis & Rubin，2002; Neyman，1923; Rubin，2005) ，它有效地考虑了每个研究个体具有个体的潜在结果和相关的潜在治疗效果。人 i，Yi (1)和 Yi (0)的潜在结果是我们可能看到的结果，如果我们治疗或不治疗的人，分别。

鉴于这些数值，一个关键的感兴趣的数量，整体平均治疗效果，是这些个别治疗效果的平均值。

因果影响是明确的，不依赖于任何分布或抽样假设: 人口由个人在实验中，而不是更多。挑战在于，虽然所有的潜在结果都已确定，但根据随机治疗分配，对于每个人来说，实际上只观察到一个潜在结果。

为了从这些基本定义出发，我们首先做出两个普遍接受的假设。首先，治疗实际上是随机的，我们将其表述为一个独立的假设，在个体是否接受治疗和个体的潜在结果是什么之间。第二个，通常被称为稳定单位治疗价值假设(SUTVA)(Rubin，1978,1980,1990) ，有效地说明治疗一个人不会影响另一个人(即，治疗一个学生没有溢出效应，不会帮助其他学生)。对于那些不熟悉潜在结果框架，我们建议 Angrist 等人的研究(1996年) ，其中讨论了这种情况下的不遵守。进一步的讨论，见 Imbens 和 Rubin (2015)或 Rosenbaum 的前三分之一(2010)。

上述假设为我们提供了明确的地层和明确的治理效果在每一个层。推理如下: 给定 SUTVA，个体对任何一种实验条件的反应本质上是个体的特征。这反过来又意味着，每个个体的成员阶层在本质上是个体的特征。鉴于治疗分配是随机的，它与阶层成员无关。因此，阶层内治疗效果是因果效应，就像其他亚组治疗效果一样。随着地层和地层水平处理效应的确定，我们进入下一阶段，我们增加了实质性的假设，对地层施加约束。这些限制非常重要，因为如果没有这些限制，通常很难在估计关键的利息数量方面取得进展。更重要的是，假设使我们能够正式地将我们对问题的实质性知识纳入我们的分析。这是主要分层框架的一个特别好处。在讨论前面提到的主体分层的其他设置之前，我们简要讨论了在标准不遵从性、单调性和排除限制的背景下最常见的两个假设

=== 二元不遵从语境中的单调性和排除限制 ===
人们实际上如何回应随机提出采取给定的干预措施。单调性是这样一种假设，即一个人至少有可能接受分配给治疗条件的治疗，就像分配给控制条件的治疗一样。回到图1，其中显示了在纽约市学校教育券实验的背景下为二元不遵守建立的主要分层，单调性假设排除了任何“违背者”的可能性，因为这个阶层的儿童会在没有教育券提供但没有教育券提供的情况下进入私立学校。

第二个主要假设是排除限制，它涉及到分配到治疗条件将如何影响那些实际上不接受治疗的个人，如果提供的话。同样，在图1所示的例子的上下文中，这些孩子的学校类型将被随机优惠券提供保持不变。总是接受教育的学生总是进入私立学校，有或没有教育券，而从不接受教育的学生总是进入公立学校。鉴于随机化不会改变这些亚组儿童的学校教育类型，我们假设随机化同样不会影响这些儿童的后续结果。同样地，我们假设，在这些地层中，治疗的效果为零

重要的是，这些假设本质上是实质性的，而非统计性的。因此，至关重要的是通过推理来判断这些假设在每个实质性应用的背景下是否合理。就代金券研究而言，单调性似乎完全合理，因为很难想象一个学生或家庭在没有代金券提供的财政援助的情况下更有可能接受私立学校教育。然而，对于总是接受者和从不接受者的排除限制值得进一步考虑。绝不接受的是那些不管有没有优惠券都会去上公立学校的孩子。由于这些儿童的学校环境和实际的学校建筑很可能没有改变，因此可以合理地假设，治疗方案不会影响随后与学校有关的结果。然而，对于总是接受教育的人来说，可以想象的是，教育券的提供可能导致家庭为子女选择不同的私立学校。如果优惠券允许一些家庭选择进入更高质量的私立学校，那么总是接受优惠券的学生的待遇效果可能不会为零。有鉴于此，研究必须严格考虑并捍卫排除限制对总是服药者的适用或不适用这一假设，而是估计对这一亚群的治疗效果。正如我们在下面的评估部分中所讨论的，这些假设在某些情况下可以被测试。

== 估计随机试验中的关键主要因果效应 ==
正如上述讨论所表明的，主层的定义和实质性的假设，以限制这些地层的特点是没有参考或事先估计。在我们看来，这种分离是利用主要分层框架的一个有益的方面: 第一个表达兴趣的组和数量，第二个确定可能有助于进一步限制或通知这些数量的实质性知识(例如假设) ，然后才能评估估计是否可能以及如何可能。简而言之，估算过程是独立的，有别于阐明这些数量的估算过程。根据对问题施加的约束，可以采取不同的一般策略进行估计。这些策略可以分为基于矩的方法(非参数)和基于模型的方法。首先，我们纯粹依赖于我们最初的假设来表达目标数量(例如地层特定的平均处理效应)作为数据的直接可观察特征的函数。当这不可能实现时，可以削弱基于矩的方法，转而试图约束目标数量。第二种方法是直接对部分或全部数据建模。这通常需要对主要阶层的结果做出分布假设，并利用基线协变量来预测个人的阶层成员。

我们把第一种方法称为“基于时刻”，因为我们可以根据可估计的“时刻”或数量(如平均值和比例)来估计相关的特定层次的治疗效果。第二种方法是“基于模型的”，因为我们的评估过程涉及

从铰接模型估计参数(Imbens & Rubin，1997)。这两种方法之间的关键区别在于，基于矩的方法只使用样本级信息，而基于模型的方法使用个体级信息，正如我们下面所讨论的。在不遵从的情况下，第一种策略可能对应用的定量研究者更为熟悉，而与第二种策略相关的工具和程序对于在更复杂的主体分层应用中估计主要因果效应通常是必要的。关于比较这两种方法的教科书讨论，参见 Imbens 和 Rubin (2015)。还可以看到 Stuart，Perry，Le 和 Ialongo (2008)的介绍。这两种通用的方法有不同的优点和缺点。基于矩的非参数方法依赖于较弱的假设，并允许考虑的结果的非标准和未知的分布形式。然而，这种结构的缺乏使得解开许多地层变得更加困难。至少在原则上，基于模型的方法可以分离出多层，以便洞察治疗影响的复杂模式。然而，重要的是，基本的分析工作是分离混合物之一ーー这是一个出了名的困难问题ーー而且这样做可能有些微妙，因为治疗效果的估计可能对建模选择敏感

== 主分层框架的好处和局限性 ==

=== 主分层框架的好处 ===
由前面例子中所强调的反事实问题分析可见，主分层框架为思考这类问题提供了便利。

首先，主分层框架的使用需要非常清晰地阐明，对于特定研究问题相关的实验对象在治疗和控制下所采取的后随机化经验、决定或行动。这本身就很有用。

其次，在确定了相关的层组之后，该框架还突出了估计治疗效果所依赖的假设。例如，在上述应用中，单调性假设排除了某些层组的存在和排除限制，固定处理效应在某些层组为零。

主体分层框架有利于培养对利益关键数量界定的清晰思维。然而，估算的过程相对不那么简单。尽管如此，一些标准模型已经得到了很好的理解，例如处理二元不遵从性的应用程序，以及单调性和排除限制假设实质上是站得住脚的。

在这里，基于矩的工具变量是一个经典的解决方案，基于模型的 IV 产生了非常相似的 ITTc 估计值(Imbens & Rubin，1997)。在样本量大、服从者比例高的情况下，这种等效性通常是正确的。

然而，更重要的是，基于模型的方法提供了一个灵活的框架，可以在其中处理额外的分析复杂性，例如缺少数据和放松某些建模假设的需要。例如，使用基于模型的方法，我们可以通过允许 ITTa 为非零来评估 ITTc 的估计对于从未接受者的排除限制的敏感性。

基于模型的方法的最后一个好处，也是对于上面讨论的主体分层的一些更复杂的应用来说特别重要的一个好处，就是它很容易扩展到利益层不再由二元变量定义的环境(如上面的开端和职业学院的例子) ，以及单调性和排除限制不是有效假设的环境(如上面的工作团队的例子)。

=== 主分层框架的局限性 ===
这种分析策略有潜在的缺点。

首先，基于模型的方法可以对模型的偏离敏感。

第二，对于基于模型的 IV 估计没有一个封闭的解决方案，这会使估计过程看起来不透明，难以向从业人员解释，并且难以执行计算。

最后，正如我们前面所描述的，基于模型的方法将结果纳入到地层成员的预测中。虽然从贝叶斯的角度来看是明智的，但这可能是一种强行推销。然而，我们指出，结果对建模选择的敏感性并不是像这里讨论的那些分析策略所特有的问题。

然而，由于我们强调的许多原因，像前面描述的那些灵敏度检查是分析过程的一个关键组成部分。最后，必须指出，该领域尚未取得进展，以便为应用研究人员提供强有力的指导和统计软件，使他们能够在主体分层框架内广泛利用基于模型的估计战略。

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

主分层

2022-08-14T08:47:01Z

我是猫：/* 主分层的关键假设 */

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}本词条尚未编辑完毕

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

[[文件:主分层案例2.png]]

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的。例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种朴素的方法是简单地比较所有观察到的在干预后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一。一组无论干预与否都会被录用，一组无论干预与否都不会被录用，一组只有在接受干预时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响。

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

[[文件:主分层案例3.png]]

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。

[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==
基于主要分层的分析分为三个阶段。第一阶段是确定我们前面描述的主要层次。总的来说，这个过程涉及到以一种相对高层次的方式思考实质性问题。下一阶段是将这些层次正式化，并编码进一步的实质性信息，以便日后进行估计。我们将在本节中讨论前两个阶段。最后一个阶段是估算，在第四部分中讨论。

首先，为了更好地界定地层，我们需要对随机试验的工作方式做一些假设。主要分层是基于潜在结果框架(Frangakis & Rubin，2002; Neyman，1923; Rubin，2005) ，它有效地考虑了每个研究个体具有个体的潜在结果和相关的潜在治疗效果。人 i，Yi (1)和 Yi (0)的潜在结果是我们可能看到的结果，如果我们治疗或不治疗的人，分别。

鉴于这些数值，一个关键的感兴趣的数量，整体平均治疗效果，是这些个别治疗效果的平均值。

因果影响是明确的，不依赖于任何分布或抽样假设: 人口由个人在实验中，而不是更多。挑战在于，虽然所有的潜在结果都已确定，但根据随机治疗分配，对于每个人来说，实际上只观察到一个潜在结果。

为了从这些基本定义出发，我们首先做出两个普遍接受的假设。首先，治疗实际上是随机的，我们将其表述为一个独立的假设，在个体是否接受治疗和个体的潜在结果是什么之间。第二个，通常被称为稳定单位治疗价值假设(SUTVA)(Rubin，1978,1980,1990) ，有效地说明治疗一个人不会影响另一个人(即，治疗一个学生没有溢出效应，不会帮助其他学生)。对于那些不熟悉潜在结果框架，我们建议 Angrist 等人的研究(1996年) ，其中讨论了这种情况下的不遵守。进一步的讨论，见 Imbens 和 Rubin (2015)或 Rosenbaum 的前三分之一(2010)。

上述假设为我们提供了明确的地层和明确的治理效果在每一个层。推理如下: 给定 SUTVA，个体对任何一种实验条件的反应本质上是个体的特征。这反过来又意味着，每个个体的成员阶层在本质上是个体的特征。鉴于治疗分配是随机的，它与阶层成员无关。因此，阶层内治疗效果是因果效应，就像其他亚组治疗效果一样。随着地层和地层水平处理效应的确定，我们进入下一阶段，我们增加了实质性的假设，对地层施加约束。这些限制非常重要，因为如果没有这些限制，通常很难在估计关键的利息数量方面取得进展。更重要的是，假设使我们能够正式地将我们对问题的实质性知识纳入我们的分析。这是主要分层框架的一个特别好处。在讨论前面提到的主体分层的其他设置之前，我们简要讨论了在标准不遵从性、单调性和排除限制的背景下最常见的两个假设

=== 二元不遵从语境中的单调性和排除限制 ===
人们实际上如何回应随机提出采取给定的干预措施。单调性是这样一种假设，即一个人至少有可能接受分配给治疗条件的治疗，就像分配给控制条件的治疗一样。回到图1，其中显示了在纽约市学校教育券实验的背景下为二元不遵守建立的主要分层，单调性假设排除了任何“违背者”的可能性，因为这个阶层的儿童会在没有教育券提供但没有教育券提供的情况下进入私立学校。

第二个主要假设是排除限制，它涉及到分配到治疗条件将如何影响那些实际上不接受治疗的个人，如果提供的话。同样，在图1所示的例子的上下文中，这些孩子的学校类型将被随机优惠券提供保持不变。总是接受教育的学生总是进入私立学校，有或没有教育券，而从不接受教育的学生总是进入公立学校。鉴于随机化不会改变这些亚组儿童的学校教育类型，我们假设随机化同样不会影响这些儿童的后续结果。同样地，我们假设，在这些地层中，治疗的效果为零

重要的是，这些假设本质上是实质性的，而非统计性的。因此，至关重要的是通过推理来判断这些假设在每个实质性应用的背景下是否合理。就代金券研究而言，单调性似乎完全合理，因为很难想象一个学生或家庭在没有代金券提供的财政援助的情况下更有可能接受私立学校教育。然而，对于总是接受者和从不接受者的排除限制值得进一步考虑。绝不接受的是那些不管有没有优惠券都会去上公立学校的孩子。由于这些儿童的学校环境和实际的学校建筑很可能没有改变，因此可以合理地假设，治疗方案不会影响随后与学校有关的结果。然而，对于总是接受教育的人来说，可以想象的是，教育券的提供可能导致家庭为子女选择不同的私立学校。如果优惠券允许一些家庭选择进入更高质量的私立学校，那么总是接受优惠券的学生的待遇效果可能不会为零。有鉴于此，研究必须严格考虑并捍卫排除限制对总是服药者的适用或不适用这一假设，而是估计对这一亚群的治疗效果。正如我们在下面的评估部分中所讨论的，这些假设在某些情况下可以被测试。

== 估计随机试验中的关键主要因果效应 ==
正如上述讨论所表明的，主层的定义和实质性的假设，以限制这些地层的特点是没有参考或事先估计。在我们看来，这种分离是利用主要分层框架的一个有益的方面: 第一个表达兴趣的组和数量，第二个确定可能有助于进一步限制或通知这些数量的实质性知识(例如假设) ，然后才能评估估计是否可能以及如何可能。简而言之，估算过程是独立的，有别于阐明这些数量的估算过程。根据对问题施加的约束，可以采取不同的一般策略进行估计。这些策略可以分为基于矩的方法(非参数)和基于模型的方法。首先，我们纯粹依赖于我们最初的假设来表达目标数量(例如地层特定的平均处理效应)作为数据的直接可观察特征的函数。当这不可能实现时，可以削弱基于矩的方法，转而试图约束目标数量。第二种方法是直接对部分或全部数据建模。这通常需要对主要阶层的结果做出分布假设，并利用基线协变量来预测个人的阶层成员。

我们把第一种方法称为“基于时刻”，因为我们可以根据可估计的“时刻”或数量(如平均值和比例)来估计相关的特定层次的治疗效果。第二种方法是“基于模型的”，因为我们的评估过程涉及

从铰接模型估计参数(Imbens & Rubin，1997)。这两种方法之间的关键区别在于，基于矩的方法只使用样本级信息，而基于模型的方法使用个体级信息，正如我们下面所讨论的。在不遵从的情况下，第一种策略可能对应用的定量研究者更为熟悉，而与第二种策略相关的工具和程序对于在更复杂的主体分层应用中估计主要因果效应通常是必要的。关于比较这两种方法的教科书讨论，参见 Imbens 和 Rubin (2015)。还可以看到 Stuart，Perry，Le 和 Ialongo (2008)的介绍。这两种通用的方法有不同的优点和缺点。基于矩的非参数方法依赖于较弱的假设，并允许考虑的结果的非标准和未知的分布形式。然而，这种结构的缺乏使得解开许多地层变得更加困难。至少在原则上，基于模型的方法可以分离出多层，以便洞察治疗影响的复杂模式。然而，重要的是，基本的分析工作是分离混合物之一ーー这是一个出了名的困难问题ーー而且这样做可能有些微妙，因为治疗效果的估计可能对建模选择敏感

== 主分层框架的好处和局限性 ==
主要分层框架为审议诸如前面例子中强调的那些重要的反事实问题提供了一些好处。首先，框架的使用需要非常清晰地阐明与特定研究问题相关的实验对象在治疗和控制下所采取的后随机化经验、决定或行动。这本身就很有用。其次，在确定了相关地层之后，该框架还突出了估计治疗效果所依赖的假设。例如，在上述应用中，单调性假设排除了某些地层的存在和排除限制，固定处理效应在某些地层为零。

主体分层框架有利于培养对利益关键数量界定的清晰思维。然而，估算的过程相对不那么简单。尽管如此，一些标准模型已经得到了很好的理解，例如处理二元不遵从性的应用程序，以及单调性和排除限制假设实质上是站得住脚的。在这里，基于矩的 IV 是一个经典的解决方案，基于模型的 IV 产生了非常相似的 ITTc 估计值(Imbens & Rubin，1997)。在样本量大、编制者比例高的情况下，这种等效性通常是正确的。在这种情况下，一个合理的问题是为什么

更复杂的基于模型的 IV？一个原因是，如果提出的参数模型近似正确(这里，最重要的是，阶层结果分布是正态分布) ，基于模型的方法可以导致更精确的估计(Imbens & Rubin，1997)。然而，更重要的是，基于模型的方法提供了一个灵活的框架，可以在其中处理额外的分析复杂性，例如缺少数据和放松某些建模假设的需要。例如，使用基于模型的方法，我们可以通过允许 ITTa 为非零来评估 ITTc 的估计对于从未接受者的排除限制的敏感性。回顾上文关于总是接受私立学校教育券的学生可能有机会进入更好的私立学校的讨论。正如预期的那样，模型的稳定性通常随着额外假设的施加而增加，但在许多情况下，这种类型的灵敏度检查可以用来说明 ITTc 的估计对这种排除限制并不特别敏感(Hirano，Imbens，Rubin，& Zhou，2000)。基于模型的方法的最后一个好处，也是对于上面讨论的主体分层的一些更复杂的应用来说特别重要的一个好处，就是它很容易扩展到利益层不再由二元变量定义的环境(如上面的开端和职业学院的例子) ，以及单调性和排除限制不是有效假设的环境(如上面的工作团队的例子)。这种分析策略有潜在的缺点。首先，基于模型的方法可以对模型的偏离敏感。第二，对于基于模型的 IV 估计没有一个封闭的解决方案，这会使估计过程看起来不透明，难以向从业人员解释，并且难以执行计算。最后，正如我们前面所描述的，基于模型的方法将结果纳入到地层成员的预测中。虽然从贝叶斯的角度来看是明智的，但这可能是一种强行推销。然而，我们指出，结果对建模选择的敏感性并不是像这里讨论的那些分析策略所特有的问题。然而，由于我们强调的许多原因，像前面描述的那些灵敏度检查是分析过程的一个关键组成部分。最后，必须指出，该领域尚未取得进展，以便为应用研究人员提供强有力的指导和统计软件，使他们能够在主体分层框架内广泛利用基于模型的估计战略。在我们自己的工作中，我们试图提供可用的教程和代码，使得复制我们自己的分析成为可能(例如，Feller 等，2014) ，但是认识到更广泛的采用将需要开发分析例程和用户友好的软件包。然而，对于有兴趣进一步了解主要分层的读者，我们推荐 Imbens 和 Rubin (2015) ，Mealli 和 Mattei (2012)以及 Schochet，Puma 和 Deke (2014)提供的概述作为下一组参考进行调查。

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

主分层

2022-08-10T13:57:21Z

我是猫：/* 处理未观察到或未定义的结果 */

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

[[文件:主分层案例2.png]]

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的。例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种朴素的方法是简单地比较所有观察到的在干预后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一。一组无论干预与否都会被录用，一组无论干预与否都不会被录用，一组只有在接受干预时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响。

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

[[文件:主分层案例3.png]]

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。

[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==

== 估计随机试验中的关键主要因果效应 ==

== 主分层框架的好处和局限性 ==

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

主分层

2022-08-10T13:53:21Z

我是猫：

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

[[文件:主分层案例2.png]]

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的

例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种幼稚的方法是简单地比较所有观察到的在治疗后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一

一组无论治疗与否都会被录用，一组无论治疗与否都不会被录用，一组只有在接受治疗时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人

(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

[[文件:主分层案例3.png]]

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。

[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==

== 估计随机试验中的关键主要因果效应 ==

== 主分层框架的好处和局限性 ==

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

主分层

2022-08-10T13:52:30Z

我是猫：/* 主分层的应用 */

{{#seo:
|keywords=因果推断，统计技术
|description=是一种应用于因果推断的统计技术
}}

== 研究动机 ==
社会科学研究的一个真理，一切都是变化的。虽然我们不能期望了解影响变化的所有因素，但我们经常可以了解在特定的亚种发生的变化。例如，我们可能会根据某些可观察到的个体特征(如性别、种族/民族或社会经济地位)来估计干预的效果是如何变化的。

在随机对照试验(RCT)的背景下，估计这些亚组处理效果通常是一个直接的分析练习，通常通过估计亚组特征定义的子样本内的处理-对照差异，或通过在线性模型中包括处理和亚组指标之间的交互项来完成。

这些方法给出了每个亚组的估计治疗效果，并通过似然比检验等测试程序确定亚组效应是否存在显著差异。本质上，这些方法将感兴趣的分组视为小型实验，并返回每个此类实验的处理影响的估计。

然而，越来越多的研究人员对部分观察到的甚至完全潜在的亚组的治疗效果变化感兴趣，这些亚组不是由标准的预处理特征(如性别或种族/民族)定义的，而是由随机化后的行为、行动或决定定义的。

例如

1.私立学校提供代金券对那些只在获得代金券后才会就读私立学校的孩子，而在其他情况下会就读公立学校的孩子有什么影响?

2. 对于那些无论是否有机会参加该计划都无法完成高中学业的学生来说，多层面预防辍学计划的影响是什么? 相比之下，该项目是否只改善了那些因有机会参加该项目而从高中毕业的学生的成绩?

3.对于那些有机会参加但没有机会接受家庭护理的儿童来说，参加幼儿计划会有什么影响?这与那些本可以参加其他中心护理的儿童的影响相比如何?

与标准的子组分析相比，在这些例子中，我们无法观察到相关子组中的个体成员，从而阻止了经典的子组方法。两个关键特征是值得强调的亚组的研究兴趣是由这些研究问题确定的。

首先，子组是由特定的随机化后行为定义的。其次，为了将研究参与者分成这些兴趣的亚组，我们需要能够在观察到的和未观察到的(即反事实)实验条件下观察个体水平的行为。

在前面提到的第一个问题中，我们感兴趣的是那些在对照条件下将被分配到公立学校，但在收到随机分配的代金券后将被分配到私立学校的孩子

在第二种情况下，我们感兴趣的是那些无论他们被分配到何种实验条件下都无法从高中毕业的学生。

第三，我们感兴趣的是那些接受早期儿童项目的孩子，如果这些孩子被分配到控制条件下，按照他们将经历的护理环境进行分组。

所有这些类型的问题都允许我们进一步解读整体的治疗意图(ITT)效应，以了解特定的干预措施对儿童和家庭的影响。答案可以帮助确定所观察到的ITT效应是否由一个特定的潜在亚组驱动，如果是，如何调整干预以更好地服务于所有预期参与者。

当然，在现实中，我们只能观察研究参与者在分配治疗或控制下的随机化后行为——但不能同时观察两者。'''处理这类研究问题的一个分析框架是主要分层'''(Frangakis & Rubin, 2002)。主要分层背后的思想是首先根据样本成员在随机化后的选择、行动或经验定义内生(或与规划相关)子组，简称为'''主分层'''。

在统计学上，'''“主要分层”一词源于医学试验中的并发症，并最终由Frangakis和Rubin(2002)正式确定'''。该框架的一个特殊贡献是，它提供了清晰的区分过程，确定治疗效果的兴趣，从分析策略用于估计这些数量，我们将在下面进一步说明。

== 概念定义 ==
'''主分层 Principal stratification'''是指按照某处理后变量的潜在结果对总体分层，然后考察某一层内的因果作用，例如含有非依从性的试验中的依从者，含有死亡截断的试验中的永远幸存者'''。它'''是一种应用于因果推断的统计技术，它根据处置后协变量来调整因果效应。其基本思想是识别潜在的分层结构，然后只计算每一层的因果效应。这就是所谓的'''局部平均处理效应 local average treatment effect（LATE）'''。

在从在非依从现象时，我们能够识别的只是依从者——也就是人群中的某一“层”的平均因果作用。Frangakis和Rubin把这一观察总结为主分层（principal stratification）的概念，即按照某种处理后的潜在结果对总体进行分层，而真正关心的因果作用被局限在某一个主层内。

本文旨在作为主要分层的非技术入门。

在第二部分中，我们强调主要分层框架的几种不同应用，以说明它可以应用的实质性问题和方法问题的广度。

在第三部分中，我们将重点放在识别和估计地层特定处理效果的关键假设上。

在第四部分中，我们提出了两种不同的方法来估计随机试验中存在简单(即二元)不符合的关键主要因果效应。并强调某些估计程序如何可以扩展，以处理更复杂的应用的主要分层框架。

最后，我们将重点介绍主要分层框架的好处和局限性，以及该领域的分析工具的现状，这些分析工具将对应用定量研究人员产生兴趣和价值。

在整个过程中，我们强调了这种分析的反事实逻辑基础，以及支撑这种方法并使分析挑战更易于处理的假设。

==示例1==
主分层的一个例子是随机对照试验的退出偏移问题。使用处置后的二元协变量(例如：退出)和二元处置变量(例如：“处置”和“对照”) ，受试者可能有四种情形：

# 总是留在研究中的受试者，不管他们被分配了哪种治疗；
# 总是会退出研究的受试者，不管他们被分配了哪种治疗；
# 只有在分配到处置组时才退出的受试者；
# 只有在分配到对照组时才退出的受试者。
如果研究人员知道每个受试者属于哪种情形，那么研究人员只需比较第一种情况下的结果，并估计出对该群提有效的因果效应。然而，研究人员并不知道这些信息，因此这种方法需要模型假设。

使用主分层框架还允许为估计效应提供界限（在不同的界限假设下），这在退出偏移的情况下很常见。

在评价研究应用中，主成分层通常被称为'''内生 endogenous'''层或'''亚群体 subgroups'''，并涉及专门的分析方法，用来检查医学和社会科学中的干预或处置的效果。

== 示例2 ==
考虑一项激励试验，医生随机地鼓励或不鼓励患者打疫苗。实际上，患者即使被鼓励打疫苗，他也有可能不打疫苗，而没有被鼓励的患者也可能自己去打疫苗。用Z表示医生是否鼓励患者打疫苗（Z=1表示鼓励，Z=0表示不鼓励），用A表示患者实际上是否打了疫苗（A=1表示打疫苗了，A=0表示没有打疫苗），用Y表示患者是否得了流感（Y=1表示得流感，Y=0表示没有得流感）。注意到A可以表示为Z的潜在结果，记为A(z)；Y可以表示为Z和A的潜在结果，记为Y(z,a)。我们可以根据A(z)把人群分为四层：

a) A(0)=0, A(1)=0。即无论医生是否鼓励打疫苗，患者都不会打疫苗，称这些人为拒不服药者。

b) A(0)=1, A(1)=1。即无论医生是否鼓励打疫苗，患者都会打疫苗，称这些人为永远服药者。

c) A(1)=1, A(0)=0。即患者会按照医生的建议打疫苗，称这些人为依从者。

d) A(0)=1, A(1)=0。即患者会做出与医生建议相反的决策，称这些人为抵抗者。

假设排他性成立，即Y(0,a)=Y(1,a)，一个人是否会得流感只依赖于他有没有打疫苗，与医生是否鼓励他并不直接相关。稍加观察我们就会发现，第a组人和第b组人对于估计打疫苗的真正作用是没有帮助的，因为他们得流感的潜在结果都相等，要么都是Y(0)，要么都是Y(1)。只有第c组人和第d组人对于估计打疫苗的真正因故作用有帮助，因为对于这两组人来说，每一组内同时存在打疫苗的人和不打疫苗的人。

医学上常用意向治疗策略来描述激励试验，用E[Y|Z=1]-E[Y|Z=0]来描述鼓励患者打疫苗带来的作用。然而，这个量并没有因果解释，它并不能反映打疫苗的因果作用。利用主分层的框架，我们就能清楚地看到，只有在依从者或抵抗者这两个人群上才能定义因果作用。如果再假设单调性，认为抵抗者不存在，那么感兴趣的因果量就只能在依从者中定义了，这个量也就是前面提到的依从者平均因果作用了。

当然，主分层也能处理非依从以外的问题。假设我们想要知道某种治疗方案对于患者生活质量的改善情况，记Z为治疗方案（Z=1为积极治疗，Z=0为保守治疗），记Y为治疗两年后生活质量是否改善（Y=1为改善，Y=0为未改善），Y是Z的潜在结果，记为Y(z)。实际研究常遇到的一个问题是，患者可能再两年内死掉，导致收集不到结局变量。试想一下，如果一个人没有活着，那谈论他的生活质量还有意义吗？所以，只有对存活个体，才能定义结局变量，这一问题被叫作死亡截断问题。用S表示个体的存活状态（S=1表示存活，S=0表示死亡），S其实是Z的潜在结果，记为S(z)。按照S(z)可以把人群分为四层：

a) S(0)=0, S(1)=0。即无论采取何种治疗方案，患者都会死亡。

b) S(0)=1, S(1)=1。即无论采取何种治疗方案，患者都会存活。

c) S(1)=1, S(0)=0。即如果接受积极治疗会存活，如果接受保守治疗会死亡。

d) S(0)=1, S(1)=0。即如果接受积极治疗会死亡，如果接受保守治疗会存活。

对于第a、c、d这三组人群，至少有一个潜在结果Y(z)是无定义的，所以在这三层中我们无法给出良定义的因果参数。只有第b组人群的两个潜在结果Y(z)都有定义，我们可以在这一层内定义幸存者平均因果作用，即E[Y(1)-Y(0)|S(0)=1,S(1)=1]。

仅仅通过观察数据无法判断出一个个体属于哪个主层，所以需要为所定义的因果量找到合理的解释才有实际意义。值得一提的是，死亡截断的问题在其他领域中也会遇到。比如要研究给学生奖学金能否会提高学生成绩，学生成绩只有在其不辍学时才能定义；要研究疫苗对于病毒载量的影响，病毒载量只有当一个人感染了才能定义。

== 主分层的应用 ==

=== 不符合分配治疗的简单和复杂模式 ===
在社会科学的实验研究中，研究参与者往往不遵守随机分配的积极干预。那些被分配到治疗条件可能会失败，接受治疗后，那些被分配到控制条件的人仍然可以获得治疗。

例如，Barnard, Frangakis, Hill和Rubin (2003)在分析纽约市学校选择奖学金项目时遇到了这个挑战。通过这种干预，符合条件的学生被随机挑选出来领取奖学金券，以帮助支付纽约私立(主要是教区)学校的入学费用。在这种情况下，学生对随机分配会有不同的反应。对于随机获得代金券的学生(治疗组)，学生可以使用代金券进入私立学校，也可以拒绝代金券进入公立学校。对于那些没有获得代金券的学生(对照组)，学生可以在被拒绝经济支持的情况下就读私立学校，也可以就读公立学校。

图1显示了对随机分配的这些可能的响应，最初由Angrist, Imbens和Rubin(1996)提出。在这个图中，行标题对应的是学生在分配到代金券(治疗)条件下的反应——他们要么注册私立学校，要么不注册。栏目标题同样表明了学生在没有凭证(控制)条件下的反应。在治疗和控制条件下，四对可能的潜在反应将个体分为四种反应“概况”之一，我们在此上下文中感兴趣的主要层次，如图1所示

[[文件:主分层案例1.png]]

干预的一个关键目标是了解私立学校对学生教育结果的影响。因此，从分析的角度来看，对于作为“合规者”的学生，也就是那些在获得代金券后才进入私立学校的学生来说，干预的影响是非常重要的。

作为参考，其他在定义上可能存在的群体是“总是索取者”，即不考虑分配代金券而就读私立学校的学生;“从不接受”的学生，无论他们的分配是什么，都不会进入私立学校;还有“对抗者”，指的是那些如果得到代金券就会去公立学校上学，但如果没有得到代金券就会去私立学校上学的学生。

在这种情况下，巴纳德和他的同事(2003年)发现，对于那些在研究之前就读于低于全市平均水平的学校的学生来说，教育券提供了更好的数学成绩。

因为不完美的依从性在社会科学实验中是典型的，这样的目标估计治疗效果的子集的个人参与实验的预期是相当普遍的。除了理解合规者之间的影响，这个框架还鼓励政策制定者考虑为什么某些个体没有按照实验设计的意图做出反应。事实上，以这种方式看待简单的不符合现在是标准的做法。

=== 反事实条件下的变化 ===
Feller, Grindal, Miratrix和Page最近转发的另一个主要分层的使用(2014)是在反事实条件下调查自然发生的变异。利用启智教育影响研究(HSIS)的数据，可以观察到，没有机会参加启智教育的儿童经历了不同形式的儿童护理，如替代的、非启智教育儿童护理中心，或由父母或其他亲属在家里提供的护理。

这种差异引发了这样一个问题:如果没有学前教育，孩子们所经历的护理环境不同，学前教育参与的影响是否会有差异。

在这里，主要的兴趣层次是由儿童在分配治疗和分配控制时所经历的护理环境确定的，如图2所示。

图2中的这些主要层概括了图1所示的不符合情况。

在这个应用中，关键的亚组是两种类型的实验人群:一种是本应接受中心护理的人(图2中的单元2)，另一种是本应接受家庭护理的人(单元3)。

重要的是，Feller和他的同事发现了启智式干预的主要实验效果很大程度上被那些被诱导进入的孩子所意识到，而作为随机注册的结果，启智计划和家庭护理设置，而注册启智计划的影响基本上为零，否则那些孩子会在另一个非启智计划中心的设置。这样的结果对决定项目的有效性和项目扩展的目标有影响

=== [[文件:主分层案例2.png]] ===

=== 处理未观察到或未定义的结果 ===
另一种情况下，当一个感兴趣的结果只对经历了另一个相关结果的个体子集可见时，主体分层是有用的

例如，考虑以劳动力发展为重点的干预措施，如就业团队(例如:Frumento等人，2012;Zhang, Rubin， & Mealli, 2008)。在评估这类项目的影响时，我们可能会特别关注项目分配对工资的影响。

复杂的是，工资只对被雇佣的个人可见和明确。一种幼稚的方法是简单地比较所有观察到的在治疗后被雇用的个人的工资。然而，这种方法的一个明显问题是，干预可能会诱导那些在就业时挣得特别低的人进入劳动力市场。如果是这样的话，我们可能会错误地得出这样的结论:干预对工资有负面影响。

另一种选择是为那些不工作的人的工资赋值为零。然而，这一决定将导致对该计划对就业和以就业为条件的工资的综合影响的估计。

主分层为这一常见的分析问题提供了一个有用的解决方案。Zhang, Rubin和Mealli(2008)使用了一个主要分层框架，并根据分配给处理和控制的就业状态来定义地层，如图3所示。在这里，个体可以属于四种可能的群体之一

一组无论治疗与否都会被录用，一组无论治疗与否都不会被录用，一组只有在接受治疗时才会被录用，还有一组只有在接受控制条件时才会被录用。这个框架允许作者估计对理解项目影响特别有意义的影响

首先，通过估计各阶层参与者的比例，作者估计了干预对就业的影响。他们通过比较两个阶层的人的比例来得出结论:那些只有在得到治疗后才会被雇用的人

(即，该计划对就业有积极影响的个人)和那些只有在不被对待的情况下才会被雇用的人(即，该计划对就业有负面影响的个人)第二种和第一种的份额之间的差异是对就业的影响。

其次，对于那些在任何一种实验条件下被聘用的人，他们可以研究分配待遇对工资的影响。例如，在相关工作中，Lee(2009)发现，对于那些在两种实验条件下会被雇佣的人来说，工作团队确实会导致工资的增加，并基于这些结果得出结论，该项目通过增加人力资本(通过在这部分研究参与者中增加工资来衡量)和通过增加那些没有机会而不会被雇佣的人的就业率来影响劳动力市场结果。

=== [[文件:主分层案例3.png]] ===

=== 替代结果和调解 ===
主体分层的第三个应用涉及替代结果和调解问题。当追踪长期结果的成本过高或不可行时，替代结果就变得重要起来。调解问题对于理解干预行动的因果途径非常重要。

在这个领域最近的一个应用是Page(2012)对职业学院高中的研究。人力示范研究公司（MDRC）对这一高中模型的实验评估发现，随机录取进入职业学院对传统教育结果例如高中成绩，高中完成度，或者大学学历等没有影响。然而，高中毕业几年后，随机分配到职业学院的学生比对照组的学生收入要高得多。鉴于我们经常把这些传统教育里程碑视为未来劳动力市场成功的重要途径，这一组结果令人困惑。Page(2012)探索了一个假设，即通过项目提供的实习和工作见习等机会接触工作世界有助于这些积极的影响。为了探索这一假设，一个关键的分析步骤是根据学生如果有机会参加职业学院将会经历的劳动力市场暴露的变化程度来分层。

因此，这项分析的兴趣层次是由学生在实验和控制条件下所获得的工作环境接触程度来定义的。
根据学生报告的参与劳动力市场暴露活动的信息，Page将处理和控制条件下的学生分为低、中、高水平暴露。
[[文件:主分层案例4.png]]

图4说明了此应用程序中感兴趣的层次。通过估算各个阶层的待遇效应，Page发现，那些由于职业学院的提供而在工作领域经历了最大变化的学生，待遇对他们以后收入的影响最大。

这一发现是相关的，因为它与关于职业学院的关键项目组成部分的假设是一致的，这些部分导致了学生在劳动力市场的后续成功。然而，要得出替代结果是一个中介的结论，需要对机制作进一步的假设。目前，关于如何在主要分层框架内做到这一点存在一些争论。

== 主分层的关键假设 ==

== 估计随机试验中的关键主要因果效应 ==

== 主分层框架的好处和局限性 ==

==另见==
*[[工具变量]]
*[[虚拟事实模型]]
==参考文献==
*{{Cite journal|doi=10.1111/j.0006-341X.2002.00021.x |first1=Constantine E. |last1=Frangakis |first2=Donald B. |last2=Rubin |title=Principal stratification in causal inference |journal=Biometrics |volume=58 |issue=1 |pages=21–9 |date=March 2002 |pmid=11890317|pmc=4137767 }} [http://www.biostat.jhsph.edu/~cfrangak/papers/preffects.pdf Preprint]
* Zhang, Junni L.; Rubin, Donald B. (2003) "Estimation of Causal Effects via Principal Stratification When Some Outcomes are Truncated by "Death"", ''Journal of Educational and Behavioral Statistics'', 28: 353–368 {{doi|10.3102/10769986028004353}}
*Barnard, John; Frangakis, Constantine E.; Hill, Jennifer L.; Rubin, Donald B. (2003) "Principal Stratification Approach to Broken Randomized Experiments", ''[[Journal of the American Statistical Association]]'', 98, 299–323 {{doi|10.1198/016214503000071}}
*Roy, Jason; Hogan, Joseph W.; [[Bess Marcus|Marcus, Bess H.]] (2008) "Principal stratification with predictors of compliance for randomized trials with 2 active treatments", ''Biostatistics'', 9 (2), 277–289. {{doi|10.1093/biostatistics/kxm027}}
*Egleston, Brian L.; Cropsey, Karen L.; Lazev, Amy B.; Heckman, Carolyn J.; (2010) "A tutorial on principal stratification-based sensitivity analysis: application to smoking cessation studies", ''Clinical Trials'', 7 (3), 286–298. {{doi|10.1177/1740774510367811 }}
* Peck, L. R.; (2013) "On estimating experimental impacts on endogenous subgroups: Part one of a methods note in three parts", ''American Journal of Evaluation'', 34 (2), 225–236.

==编者推荐==
===课程推荐===

* [https://campus.swarma.org/mobile/course/4101/study 因果推断在医学、药学、生物学中的应用 | 因果科学第三季第七期]

这个视频内容来自集智俱乐部读书会因果科学读书会第三季内容的分享，主题是”因果推断在医学、药学、生物学中的应用“，由北京大学数学科学学院统计学2018级博士生邓宇昊分享。本

次分享关注因果推断框架在近二十年的两项重要进展：主分层（principal stratification）和再随机化（rerandomization）。

1.主分层。主分层的思路是根据处理后、结局前的潜在中间变量对总体进行分层，由于潜在中间变量（潜在结果）不受处理分配的影响，因此主层可被看作是处理前的基线协变量。主分层通常被

应用于两个场景中：非依从和死亡截断，尽管也存在其他场景。

2.再随机化。当面临不合适的随机分配时，Fisher建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是

否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准

则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

===文章总结===

* [https://www.math.pku.edu.cn/teachers/yaoy/math112230/lecture10_DingP_causal091101.pdf 因果推断简介|丁鹏]

北京大学数学科学学院概率统计系的丁鹏老师在因果推断一文中第四章第一节详细介绍了主分层与工具变量

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:Jlyt007|Jlyt007]]翻译，[[用户:薄荷|薄荷]]编辑，如有问题，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

[[Category:因果推理]]
[[Category:统计方法]]

文件:主分层案例1.png

2022-08-10T13:23:29Z

我是猫：

文件:主分层案例4.png

2022-08-10T13:17:25Z

我是猫：

文件:主分层案例2.png

2022-08-10T13:06:36Z

我是猫：

文件:主分层案例3.png

2022-08-10T12:39:15Z

我是猫：

主分层

2022-08-09T15:16:54Z

我是猫：

Peter Spirtes

2022-07-30T14:57:02Z

我是猫：

== 个人简介 ==
[[文件:Peter spirtes public photo.jpg|缩略图]]

Peter Spirtes是卡内基梅隆大学的Marianna Brown Dietrich教授和哲学系主任。他的研究兴趣跨越多个基础学科，涉及哲学、统计学、图论和计算机科学。他的研究对一些需要从统计数据中进行因果推断的学科有着深刻的影响。

Peter Spirtes与Clark Glymour一起提出了最早的因果发现算法之一，即PC。他还发表了该领域广泛使用的参考书之一（"Causation, Prediction, and Search<ref>Spirtes, Peter, et al. ''Causation, prediction, and search''. MIT press, 2000.</ref>"）。他的工作表明，在某些情况下，有一些计算机程序可以在合理的假设下从实验或非实验数据，或两者的组合中，可靠地得出有用的因果结论。他目前的研究集中如何将因果科学的基础假设弱化，从而将结果的应用扩展到更广泛，更通用的场景中。同时，他也关注因果发现在大规模数据上的引用。

Peter Spirtes的研究对包括生物学在内的许多不同学科都有重要的理论和实践意义。在理论上，它帮助我们理解了概率和因果关系之间的关系，以及在各种不同的假设下，从各种数据中进行可靠的因果推断的确切限度是什么。在实践上，它为科学家提供了一个有用的工具，帮助他们建立因果模型。

== 研究成果 ==
许多流行病学、计量经济学、社会学和政治学都试图利用在不可能进行完全控制实验的情况下收集的数据来推断因果关系。

Peter Spirtes目前研究的目标(称为 TETRAD 项目)可以分为两个主要部分。第一个目标是具体说明并证明在什么条件下可以从未在完全受控条件下获得的背景知识和统计数据可靠地推断出因果关系。第二个目标是开发、分析、实施、测试和应用实用的、可证明正确的计算机程序，在可能的情况下推断因果结构。这项研究的结果可在 TETRAD II 计算机程序中找到。

== PC算法 ==
PC算法是Peter Spirtes与Clark Glymour于一起提出了最早的因果发现算法之一。PC算法旨在对于未知图结构的因果推理，可以利用PC算法构造DAG图。

== 代表工作 ==

Spirtes, P., Zhang, J. (forthcoming) “A Uniformly Consistent Estimator of Causal Effects Under The k-Triangle-Faithfulness Assumption”, ''Statistical Science''.

Spirtes, P., (2013) "Calculation of Entailed Rank Constraints in Partially Non-Linear and Cyclic Models", ''Proceedings of the Twenty-Ninth Conference Annual Conference on Uncertainty in Artificial Intelligence (UAI-13)'', AUAI Press, 2013, pp. 606-615.

Ramsey, J., Spirtes, P, and Glymour, C. (2011) “On meta-analyses of imaging data and the mixture of records.” ''NeuroImage'' '''57'''(2): 323-330.

Zhang, J., and Spirtes, P. (2011) "Intervention, Determinism, and the Causal Minimality Condition”, ''Synthese'', 2011, '''182:13''', pp. 335-347.

Ali, A., Richardson, T., Spirtes, P. (2009) “Markov Equivalence For Ancestral Graphs”, ''Annals of Statistics'', '''37''', 5B, 2808-2837.

Tillman, R., Gretton, A. and Spirtes, P. (2009) “Nonlinear directed acyclic structure learning with weakly additive noise models”, ''NIPS 2009''.

Spirtes, P. (2009) "Variable Definition and Causal Inference", ''Proceedings of the 13th International Congress of Logic Methodology and Philosophy of Science'', pp. 514-53.

Zhang, J., and Spirtes, P. (2009) "Detection of Unfaithfulness and Robust Causal Inference", ''Minds and Machines'', 18:2, pp. 239-272.

Silva, R., Glymour, C., Scheines, R. and Spirtes, P. (2006) “Learning the Structure of Latent Linear Structure Models,” ''Journal of Machine Learning Research'', 7, 191-246.

Ramsey, J., Zhang, J., and Spirtes, P., (2006) “Adjacency-Faithfulness and Conservative Causal Inference”, ''Uncertainty in Artificial Intelligence 2006'', Boston, MA.

Spirtes, P. (2005) “Graphical Models, Causal Inference, and Econometric Models”, ''Journal of Economic Methodology''. 2005 '''12:1''', pp. 1–33.

Zhang, J., and Spirtes, P. (2005) “A Transformational Characterization of Markov Equivalence for Directed Acyclic Graphs with Latent Variables”, ''Uncertainty in Artificial Intelligence 2005'', Edinboro, Scotland.

Ali, R., Richardson, T., Spirtes, P., and Zhang, J. (2005) “Towards Characterizing Markov Equivalence Classes for Directed Acyclic Graph Models with Latent Variables”, ''Uncertainty in Artificial Intelligence 2005'', Edinboro, Scotland.

Spirtes, P., and Scheines, R. (2004). “Causal Inference of Ambiguous Manipulations”, in ''Proceedings of the Philosophy of Science Association Meetings'', 2002.

Chu, T., Glymour, C., Scheines, R., Spirtes, P. (2003) “A Statistical Problem for Inference to Regulatory Structure from Associations of Gene Expression Measurements with Microarrays”, ''Bioinformatics'', '''19''', pp. 1147-1152.

Robins, J., Scheines, R., Spirtes, P., and Wasserman, L. (2003). “Uniform Consistency in Causal Inference”, ''Biometrika'', September, '''90''': pp. 491 – 515.

Zhang, J., and Spirtes, P. (2003) “Strong Faithfulness and Uniform Consistency in Causal Inference”, ''UAI '03, Proceedings of the 19th Conference in Uncertainty in Artificial Intelligence'', August 7-10 2003, Acapulco, Mexico, ed. by Christopher Meek and Uffe Kjarulff, Morgan Kaufmann.

Richardson, T., Spirtes, P. (2002) “Ancestral Graph Markov Models”, ''Annals of Statistics'', 2002, '''30''' pp. 962-1030.

Spirtes, P., Glymour, C. and Scheines, R. (2000). Causation, Prediction, and Search, 2nd ed. New York, N.Y.: MIT Press.

Spirtes, P., Glymour, C., and Scheines, R. (2000) Constructing Bayesian Network Models of Gene Expression Networks from Microarray Data, to appear in the Proceedings of the Atlantic Symposium on Computational Biology, Genome Information Systems & Technology.

Robins, J., Scheines, R., Spirtes, P., and Wasserman, L. (2000) Uniform Consistency in Causal Inference, Carnegie Mellon University Department of Statistics Technical Report 725.

Richardson, T., and Spirtes, P. (2000) Ancestral Markov Graphical Models, University of Washington Department of Statistics Technical Report 375.

Spirtes, P. (2000) An Anytime Algorithm for Causal Inference, to be presented at AI and Statistics 2001.

Spirtes, P. (1997). Limits on Causal Inference from Statistical Data, presented at American Economics Association Meeting.

Spirtes, P., Cooper, G. (1997). An Experiment in Causal Discovery Using a Pneumonia Database, Proceedings of AI and Statistics 99.

Spirtes, P., Richardson, T., Meek, C. (1997). The Dimensionality of Mixed Ancestral Graphs, Technical Report CMU-83-Phil.

Spirtes, P., Richardson, T., Meek, C., Scheines, R., and Glymour, C. (1997). Using Path Diagrams as a Structural Equation Modelling Tool, Technical Report CMU-82-Phil.

Scheines, R., Spirtes, P., Glymour, C., Meek, C., and Richardson, T. (forthcoming). The TETRAD Project: Constraint Based Aids to Causal Model Specification, Multivariate Behavioral Research

Spirtes, P., Glymour, C. and Scheines, R. (1993). Causation, Prediction, and Search, New York, N.Y.: Springer-Verlag.

Scheines, R. (forthcoming). An Introduction to Causal Inference, in Causality in Crisis, ed. by Steven Turner and Vaughan McKim, University of Notre Dame Press.

Spirtes, P., Richardson, T., Meek, C., Scheines, R., and Glymour, C., (1996). Using D-separation to Calculate Zero Partial Correlations in Linear Models with Correlated Errors, Technical Report CMU-72-Phil.

Spirtes, P., and Richardson, T. (1996). A Polynomial Time Algorithm For Determining DAG Equivalence in the Presence of Latent Variables and Selection Bias, Proceedings of the 6th International Workshop on Artificial Intelligence and Statistics.

Spirtes, P., Richardson, T., and Meek, C. (1996). Heuristic Greedy Search Algorithms for Latent Variable Models, Proceedings of the 6th International Workshop on Artificial Intelligence and Statistics.

Richardson, T., and Spirtes, P. (1996). Automated discovery of linear feedback models, Technical Report CMU-75-Phil.

Spirtes, P., and Scheines, R. (forthcoming). Reply to Freedman, in Causality in Crisis, ed. by Steven Turner and Vaughan McKim, University of Notre Dame Press.

Spirtes, P., Meek, C., and Richardson, T. (1996). Causal Inference in the Presence of Latent Variables and Selection Bias, Technical Report CMU-77-Phil.

Spirtes, P. (1995). Directed Cyclic Graphical Representation of Feedback Models, Proceedings of the Eleventh Conference on Uncertainty in Artificial Intelligence, ed. by Philippe Besnard and Steve Hanks, Morgan Kaufmann Publishers, Inc., San Mateo, 1995.

== 编者推荐 ==

=== 学者相关链接 ===
[[Peter Spirtes - Department of Philosophy - Dietrich College of Humanities and Social Sciences - Carnegie Mellon University (cmu.edu)|Peter Spirtes 主页]]

[https://www.researchgate.net/profile/Peter-Spirtes Peter SPIRTES | Professor (Full)]

===集智学园课程推荐===

* [https://campus.swarma.org/course/4315 夜谈：Python因果发现算法包casual-learn实战 (swarma.org)]

本次报告将简要示范如何使用causal-learn的因果发现python包，并使用一个开源的数据集展示数据清理和因果发现的流程细节。

* [https://campus.swarma.org/course/1856 复杂系统自动建模与因果发现 (swarma.org)]

本讲座将站在一种较宏观的视角对这些技术进行概述，内容将涉及但不限于：运用 Reservior 计算预测混沌、基于图网络的自动建模与控制、基于最优控制的可微分 ODE 求解技术、基于自注意力机制的人工智能统计物理学家、基于 Gumbel softmax 技术的网络重构、基于神经网络的格兰杰因果检验、基于强化学习的干预因果模型等。

* [https://campus.swarma.org/course/3217 B 实践课程 I&II：因果发现介绍及 Tetrad 工具包使用教程 (swarma.org)]

主要介绍因果发现的基础背景知识，并带领大家使用Tetrad工具包，熟悉该软件的基本操作。通过实操，使参与者对结构因果模型，因果发现等概念有基础的认知。

* [https://campus.swarma.org/course/2769 基于观测数据的因果发现简介 | 第二季第八期 (swarma.org)]

本期分享，我们将一起阅读Elements of Causal Inference 这本书的第四章和第七章，补充因果发现领域的基础知识。探讨多变量因果模型和双变量因果模型的可识别性问题，和相应的一些经典的因果发现算法，包括但不限于多变量模型中基于约束的方法、基于打分函数的方法，双变量模型中基于加性噪声模型、信息几何（Information-Geometric Causal Inference）等方法。

* [https://campus.swarma.org/course/2815 基于因果发现的算法实战 | 第二季第九期（一） (swarma.org)]

本次分享会分析三种基于条件约束的算法：SGS算法、IC算法和PC算法，梳理这些算法的发展历史，比较他们的异同，分析算法的细节，并结合他们的思想设计一个因果发现算法的小实验，展示基于条件约束的因果发现发现算法的运作方法。

* [https://campus.swarma.org/course/1970 因果发现算法概述与挑战 | 因果科学与Causal AI读书会第 3 期 (swarma.org)]

'''不同数据缺失机制下如何进行因果发现？'''

'''分享者：屠睿博''' 瑞典皇家工学院博士在读

在许多因果发现的许多应用领域之中，数据缺失是一个极其常见的现象。通常的处理方法是删除含有缺失数据的记录或者做简单的数据填充，然而这样做很有可能引入由数据丢失机制带来的系统误差，从而影响因果发现的结果。此次分享的第一个部分将先介绍不同的丢失机制，并在因果图中表示数据丢失机制；然后依此回答：

* 哪些丢失机制会带来系统误差？
* 系统误差会给因果发现带来什么影响？
* 如何找出可能错误的因果关系？
* 如何能够在潜在错误的因果关系中还原回正确的因果关系？

此次分享第一个部分的最后将在此次分享中介绍关于评估因果发现方法的困难和现状。

'''因果发现算法'''

'''分享者：黄碧薇''' 卡耐基梅隆大学博士在读

因果发现能够在不引入先验知识的情况下，自动化地在大规模时序数据中找到因果联系，本次会详细介绍因果发现的两类方法: 基于条件约束的方法 (constraint-based methods) 的和基于功能因果模型的方法 (functional causal model-based approaches)。

对于基于条件约束的方法，我们除了介绍well-known的PC算法和FCI算法，还会进一步探讨最新的进展。比如当部分数据缺失时，或者非稳态的情况下，如何实现因果发现？

对于基于功能因果模型的方法，我们会着重讨论LiNGAM, nonlinear additive-noise model, 以及post-nonlinear model。并且会进一步拓展到当出现cycle, 或者存在hidden confounder的情况。
===文章推荐===
[https://swarma.org/?p=33783 会议预告丨CLeaR (Causal Learning and Reasoning) 2022国际会议4月11-13日举办 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=33470 因果发现工具箱 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=30132 causal-learn：基于Python的因果发现算法平台 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=28706 因果发现最新进展及其在电信网络运营维护的实践探讨 | 集智俱乐部 (swarma.org)]

[https://mp.weixin.qq.com/s/mOdTI0gR9rsRyX4fz3mYNA 因果科学入门读什么书？Y. Bengio博士候选人的研读路径推荐]

[https://mp.weixin.qq.com/s/pRgLZFJpbgmAyI7LgOnHug 历时3个月，全球32位讲者，共同讲述因果科学与Causal AI的全景框架！]

[https://mp.weixin.qq.com/s/l-05jRYabGI-JoXedU-PLA 因果科学：连接统计学、机器学习与自动推理的新兴交叉领域]

[https://mp.weixin.qq.com/s/ZOUeF_HEFneYVi2BPe8LFg 因果观念新革命？万字长文，解读复杂系统背后的暗因果]
===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

Peter Spirtes

2022-07-30T14:40:56Z

我是猫：/* 个人简介 */

== 个人简介 ==
[[文件:Peter spirtes public photo.jpg|缩略图]]

Peter Spirtes是卡内基梅隆大学的Marianna Brown Dietrich教授和哲学系主任。他的研究兴趣跨越多个基础学科，涉及哲学、统计学、图论和计算机科学。他的研究对一些需要从统计数据中进行因果推断的学科有着深刻的影响。

Peter Spirtes与Clark Glymour一起提出了最早的因果发现算法之一，即PC。他还发表了该领域广泛使用的参考书之一（"Causation, Prediction, and Search<ref>Spirtes, Peter, et al. ''Causation, prediction, and search''. MIT press, 2000.</ref>"）。他的工作表明，在某些情况下，有一些计算机程序可以在合理的假设下从实验或非实验数据，或两者的组合中，可靠地得出有用的因果结论。他目前的研究集中如何将因果科学的基础假设弱化，从而将结果的应用扩展到更广泛，更通用的场景中。同时，他也关注因果发现在大规模数据上的引用。

Peter Spirtes的研究对包括生物学在内的许多不同学科都有重要的理论和实践意义。在理论上，它帮助我们理解了概率和因果关系之间的关系，以及在各种不同的假设下，从各种数据中进行可靠的因果推断的确切限度是什么。在实践上，它为科学家提供了一个有用的工具，帮助他们建立因果模型。

== 研究成果 ==
许多流行病学、计量经济学、社会学和政治学都试图利用在不可能进行完全控制实验的情况下收集的数据来推断因果关系。

Peter Spirtes目前研究的目标(称为 TETRAD 项目)可以分为两个主要部分。第一个目标是具体说明并证明在什么条件下可以从未在完全受控条件下获得的背景知识和统计数据可靠地推断出因果关系。第二个目标是开发、分析、实施、测试和应用实用的、可证明正确的计算机程序，在可能的情况下推断因果结构。这项研究的结果可在 TETRAD II 计算机程序中找到。

== 代表工作 ==

Spirtes, P., Zhang, J. (forthcoming) “A Uniformly Consistent Estimator of Causal Effects Under The k-Triangle-Faithfulness Assumption”, ''Statistical Science''.

Spirtes, P., (2013) "Calculation of Entailed Rank Constraints in Partially Non-Linear and Cyclic Models", ''Proceedings of the Twenty-Ninth Conference Annual Conference on Uncertainty in Artificial Intelligence (UAI-13)'', AUAI Press, 2013, pp. 606-615.

Ramsey, J., Spirtes, P, and Glymour, C. (2011) “On meta-analyses of imaging data and the mixture of records.” ''NeuroImage'' '''57'''(2): 323-330.

Zhang, J., and Spirtes, P. (2011) "Intervention, Determinism, and the Causal Minimality Condition”, ''Synthese'', 2011, '''182:13''', pp. 335-347.

Ali, A., Richardson, T., Spirtes, P. (2009) “Markov Equivalence For Ancestral Graphs”, ''Annals of Statistics'', '''37''', 5B, 2808-2837.

Tillman, R., Gretton, A. and Spirtes, P. (2009) “Nonlinear directed acyclic structure learning with weakly additive noise models”, ''NIPS 2009''.

Spirtes, P. (2009) "Variable Definition and Causal Inference", ''Proceedings of the 13th International Congress of Logic Methodology and Philosophy of Science'', pp. 514-53.

Zhang, J., and Spirtes, P. (2009) "Detection of Unfaithfulness and Robust Causal Inference", ''Minds and Machines'', 18:2, pp. 239-272.

Silva, R., Glymour, C., Scheines, R. and Spirtes, P. (2006) “Learning the Structure of Latent Linear Structure Models,” ''Journal of Machine Learning Research'', 7, 191-246.

Ramsey, J., Zhang, J., and Spirtes, P., (2006) “Adjacency-Faithfulness and Conservative Causal Inference”, ''Uncertainty in Artificial Intelligence 2006'', Boston, MA.

Spirtes, P. (2005) “Graphical Models, Causal Inference, and Econometric Models”, ''Journal of Economic Methodology''. 2005 '''12:1''', pp. 1–33.

Zhang, J., and Spirtes, P. (2005) “A Transformational Characterization of Markov Equivalence for Directed Acyclic Graphs with Latent Variables”, ''Uncertainty in Artificial Intelligence 2005'', Edinboro, Scotland.

Ali, R., Richardson, T., Spirtes, P., and Zhang, J. (2005) “Towards Characterizing Markov Equivalence Classes for Directed Acyclic Graph Models with Latent Variables”, ''Uncertainty in Artificial Intelligence 2005'', Edinboro, Scotland.

Spirtes, P., and Scheines, R. (2004). “Causal Inference of Ambiguous Manipulations”, in ''Proceedings of the Philosophy of Science Association Meetings'', 2002.

Chu, T., Glymour, C., Scheines, R., Spirtes, P. (2003) “A Statistical Problem for Inference to Regulatory Structure from Associations of Gene Expression Measurements with Microarrays”, ''Bioinformatics'', '''19''', pp. 1147-1152.

Robins, J., Scheines, R., Spirtes, P., and Wasserman, L. (2003). “Uniform Consistency in Causal Inference”, ''Biometrika'', September, '''90''': pp. 491 – 515.

Zhang, J., and Spirtes, P. (2003) “Strong Faithfulness and Uniform Consistency in Causal Inference”, ''UAI '03, Proceedings of the 19th Conference in Uncertainty in Artificial Intelligence'', August 7-10 2003, Acapulco, Mexico, ed. by Christopher Meek and Uffe Kjarulff, Morgan Kaufmann.

Richardson, T., Spirtes, P. (2002) “Ancestral Graph Markov Models”, ''Annals of Statistics'', 2002, '''30''' pp. 962-1030.

Spirtes, P., Glymour, C. and Scheines, R. (2000). Causation, Prediction, and Search, 2nd ed. New York, N.Y.: MIT Press.

Spirtes, P., Glymour, C., and Scheines, R. (2000) Constructing Bayesian Network Models of Gene Expression Networks from Microarray Data, to appear in the Proceedings of the Atlantic Symposium on Computational Biology, Genome Information Systems & Technology.

Robins, J., Scheines, R., Spirtes, P., and Wasserman, L. (2000) Uniform Consistency in Causal Inference, Carnegie Mellon University Department of Statistics Technical Report 725.

Richardson, T., and Spirtes, P. (2000) Ancestral Markov Graphical Models, University of Washington Department of Statistics Technical Report 375.

Spirtes, P. (2000) An Anytime Algorithm for Causal Inference, to be presented at AI and Statistics 2001.

Spirtes, P. (1997). Limits on Causal Inference from Statistical Data, presented at American Economics Association Meeting.

Spirtes, P., Cooper, G. (1997). An Experiment in Causal Discovery Using a Pneumonia Database, Proceedings of AI and Statistics 99.

Spirtes, P., Richardson, T., Meek, C. (1997). The Dimensionality of Mixed Ancestral Graphs, Technical Report CMU-83-Phil.

Spirtes, P., Richardson, T., Meek, C., Scheines, R., and Glymour, C. (1997). Using Path Diagrams as a Structural Equation Modelling Tool, Technical Report CMU-82-Phil.

Scheines, R., Spirtes, P., Glymour, C., Meek, C., and Richardson, T. (forthcoming). The TETRAD Project: Constraint Based Aids to Causal Model Specification, Multivariate Behavioral Research

Spirtes, P., Glymour, C. and Scheines, R. (1993). Causation, Prediction, and Search, New York, N.Y.: Springer-Verlag.

Scheines, R. (forthcoming). An Introduction to Causal Inference, in Causality in Crisis, ed. by Steven Turner and Vaughan McKim, University of Notre Dame Press.

Spirtes, P., Richardson, T., Meek, C., Scheines, R., and Glymour, C., (1996). Using D-separation to Calculate Zero Partial Correlations in Linear Models with Correlated Errors, Technical Report CMU-72-Phil.

Spirtes, P., and Richardson, T. (1996). A Polynomial Time Algorithm For Determining DAG Equivalence in the Presence of Latent Variables and Selection Bias, Proceedings of the 6th International Workshop on Artificial Intelligence and Statistics.

Spirtes, P., Richardson, T., and Meek, C. (1996). Heuristic Greedy Search Algorithms for Latent Variable Models, Proceedings of the 6th International Workshop on Artificial Intelligence and Statistics.

Richardson, T., and Spirtes, P. (1996). Automated discovery of linear feedback models, Technical Report CMU-75-Phil.

Spirtes, P., and Scheines, R. (forthcoming). Reply to Freedman, in Causality in Crisis, ed. by Steven Turner and Vaughan McKim, University of Notre Dame Press.

Spirtes, P., Meek, C., and Richardson, T. (1996). Causal Inference in the Presence of Latent Variables and Selection Bias, Technical Report CMU-77-Phil.

Spirtes, P. (1995). Directed Cyclic Graphical Representation of Feedback Models, Proceedings of the Eleventh Conference on Uncertainty in Artificial Intelligence, ed. by Philippe Besnard and Steve Hanks, Morgan Kaufmann Publishers, Inc., San Mateo, 1995.

== 编者推荐 ==

=== 学者相关链接 ===
[[Peter Spirtes - Department of Philosophy - Dietrich College of Humanities and Social Sciences - Carnegie Mellon University (cmu.edu)|Peter Spirtes 主页]]

[https://www.researchgate.net/profile/Peter-Spirtes Peter SPIRTES | Professor (Full)]

===集智学园课程推荐===

* [https://campus.swarma.org/course/4315 夜谈：Python因果发现算法包casual-learn实战 (swarma.org)]

本次报告将简要示范如何使用causal-learn的因果发现python包，并使用一个开源的数据集展示数据清理和因果发现的流程细节。

* [https://campus.swarma.org/course/1856 复杂系统自动建模与因果发现 (swarma.org)]

本讲座将站在一种较宏观的视角对这些技术进行概述，内容将涉及但不限于：运用 Reservior 计算预测混沌、基于图网络的自动建模与控制、基于最优控制的可微分 ODE 求解技术、基于自注意力机制的人工智能统计物理学家、基于 Gumbel softmax 技术的网络重构、基于神经网络的格兰杰因果检验、基于强化学习的干预因果模型等。

* [https://campus.swarma.org/course/3217 B 实践课程 I&II：因果发现介绍及 Tetrad 工具包使用教程 (swarma.org)]

主要介绍因果发现的基础背景知识，并带领大家使用Tetrad工具包，熟悉该软件的基本操作。通过实操，使参与者对结构因果模型，因果发现等概念有基础的认知。

* [https://campus.swarma.org/course/2769 基于观测数据的因果发现简介 | 第二季第八期 (swarma.org)]

本期分享，我们将一起阅读Elements of Causal Inference 这本书的第四章和第七章，补充因果发现领域的基础知识。探讨多变量因果模型和双变量因果模型的可识别性问题，和相应的一些经典的因果发现算法，包括但不限于多变量模型中基于约束的方法、基于打分函数的方法，双变量模型中基于加性噪声模型、信息几何（Information-Geometric Causal Inference）等方法。

* [https://campus.swarma.org/course/2815 基于因果发现的算法实战 | 第二季第九期（一） (swarma.org)]

本次分享会分析三种基于条件约束的算法：SGS算法、IC算法和PC算法，梳理这些算法的发展历史，比较他们的异同，分析算法的细节，并结合他们的思想设计一个因果发现算法的小实验，展示基于条件约束的因果发现发现算法的运作方法。

* [https://campus.swarma.org/course/1970 因果发现算法概述与挑战 | 因果科学与Causal AI读书会第 3 期 (swarma.org)]

'''不同数据缺失机制下如何进行因果发现？'''

'''分享者：屠睿博''' 瑞典皇家工学院博士在读

在许多因果发现的许多应用领域之中，数据缺失是一个极其常见的现象。通常的处理方法是删除含有缺失数据的记录或者做简单的数据填充，然而这样做很有可能引入由数据丢失机制带来的系统误差，从而影响因果发现的结果。此次分享的第一个部分将先介绍不同的丢失机制，并在因果图中表示数据丢失机制；然后依此回答：

* 哪些丢失机制会带来系统误差？
* 系统误差会给因果发现带来什么影响？
* 如何找出可能错误的因果关系？
* 如何能够在潜在错误的因果关系中还原回正确的因果关系？

此次分享第一个部分的最后将在此次分享中介绍关于评估因果发现方法的困难和现状。

'''因果发现算法'''

'''分享者：黄碧薇''' 卡耐基梅隆大学博士在读

因果发现能够在不引入先验知识的情况下，自动化地在大规模时序数据中找到因果联系，本次会详细介绍因果发现的两类方法: 基于条件约束的方法 (constraint-based methods) 的和基于功能因果模型的方法 (functional causal model-based approaches)。

对于基于条件约束的方法，我们除了介绍well-known的PC算法和FCI算法，还会进一步探讨最新的进展。比如当部分数据缺失时，或者非稳态的情况下，如何实现因果发现？

对于基于功能因果模型的方法，我们会着重讨论LiNGAM, nonlinear additive-noise model, 以及post-nonlinear model。并且会进一步拓展到当出现cycle, 或者存在hidden confounder的情况。
===文章推荐===
[https://swarma.org/?p=33783 会议预告丨CLeaR (Causal Learning and Reasoning) 2022国际会议4月11-13日举办 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=33470 因果发现工具箱 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=30132 causal-learn：基于Python的因果发现算法平台 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=28706 因果发现最新进展及其在电信网络运营维护的实践探讨 | 集智俱乐部 (swarma.org)]

[https://mp.weixin.qq.com/s/mOdTI0gR9rsRyX4fz3mYNA 因果科学入门读什么书？Y. Bengio博士候选人的研读路径推荐]

[https://mp.weixin.qq.com/s/pRgLZFJpbgmAyI7LgOnHug 历时3个月，全球32位讲者，共同讲述因果科学与Causal AI的全景框架！]

[https://mp.weixin.qq.com/s/l-05jRYabGI-JoXedU-PLA 因果科学：连接统计学、机器学习与自动推理的新兴交叉领域]

[https://mp.weixin.qq.com/s/ZOUeF_HEFneYVi2BPe8LFg 因果观念新革命？万字长文，解读复杂系统背后的暗因果]
===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

因果表征学习

2022-07-24T14:58:52Z

我是猫：

此词条由因果科学读书会词条梳理志愿者我是猫（74989）翻译审校，未经专家审核，带来阅读不便，请见谅。

== 定义 ==
因果表征学习是指从海量数据中学习，可以用于因果模型的表征，即将图像这样的原始数据转化为可用于因果模型的结构化变量，解决将知识转移到新问题上的能力，是连接因果科学与机器学习的桥梁，是构建下一代更强大AI的重要突破领域。

2021年一篇名为Towards Causal Representation Learning的综述文章横空出世，由因果领域领军人物马普智能系统所所长Bernhard Schölkopf及深度学习三巨头之一的Yoshua Bengio等人撰写。文章详细的探讨描述物理世界的不同模型的层次，统计模型与因果模型的区别包括模型的能力相关的假设及挑战，学习因果模型所必需的独立因果机制原则，学习因果模型的方法，如何学习因果表征，以及从因果的角度重新审视了诸多机器学习的挑战并指出了因果带来的启示。

== 概念来源 ==
这篇名为Towards Causal Representation Learning的综述文章由因果领域领军人物马普智能系统所所长Bernhard Schölkopf及深度学习三巨头之一的Yoshua Bengio等人撰写。顾名思义，何为因果表征causal representation呢？其又拥有怎样优良的性质使我们想要学习因果表征呢？为了回答这些问题，让我们从表征学习说起。

表征学习Representation Learning是机器学习中的重要问题，良好的表征是机器学习算法成功的重要条件；正因如此，近十年来深度学习借助神经网络强大的表达能力、海量的数据以及强大的算力，自动地从数据中学习表征，取代了传统的人工制作的特征，取得了瞩目的成就。由深度学习三巨头之二的Yoshua Bengio和Yann LeCun牵头创办的深度学习顶会，即命名为国际学习表征会议International Conference on Learning Representations，足见表征学习的重要性。尽管深度学习在近十年极大地推动了机器学习的发展，但是仍有许多问题亟待解决，例如将知识迁移到新问题上的能力。

许多关键问题都可以归结为OOD(out-of-distribution)问题。因为统计学习模型需要独立同分布(i.i.d.)假设，若测试数据与训练数据来自不同的分布，统计学习模型往往会出错。然而在很多情况下，i.i.d.的假设是不成立的，而因果推断所研究的正是这样的情形：如何学习一个可以在不同分布下工作、蕴含因果机制的因果模型(Causal Model)，并使用因果模型进行干预或反事实推断。我们可以很自然地想到将因果推断的优点结合到机器学习中，然而现实没有这么容易。因果模型往往处理的是结构化的数据，并不能处理机器学习中常见的高维的低层次的原始数据，例如图像。为此，让我们回到最初的问题，因果表征即可理解为可以用于因果模型的表征，因果表征学习即为将图像这样的原始数据转化为可用于因果模型的结构化变量。因果表征学习就是连接因果科学与机器学习的桥梁，解决这一及相关问题，就可以很好的将因果推断与机器学习结合起来，构建下一代更强大的AI。

== 因果模型的层次 ==
谈及对自然现象建模，自然而然就可想到黄金标准——微分方程组。它根据时间的演变建模物理机制，可以让我们预测物理系统未来的行为，推断干预的效果以及预测变量间的统计相关性；还可以提供物理本质，让我们可以解读因果结构。如果说微分方程是对物理系统全面详尽的表述，那么统计模型(Statistical Model)可被看作表面的粗糙的描述。它无法预测干预的效果，但是的优点在于通常可以从观察数据中学习，而前者通常需要专家来提出。因果建模则存在于这两个极端之间，它期望能够像物理模型一样预测干预的效果，但同时可以在一些假设下，通过数据驱动的方法找到这样的模型，来取代专家知识。基于上文的表述，表一给出了模型的分类与层级，并且给出了分级的依据——越高层的模型拥有更多更强的能力，这些能力从低到高分别是：在i.i.d.条件下预测的能力，在分布偏移/干预下预测的能力，回答反事实问题的能力，是否蕴含物理本质。接下来首先讨论这些能力，并在下一个章节具体解析统计模型与因果模型的区别。具体地说，基于统计模型的机器学习模型只能建模相关关系，而相关关系往往会随着数据分布的变化而变化；而因果模型所建模的因果关系则是更本质的，反应数据生成机制的关系，这样的关系是更鲁棒的，具有OOD泛化的能力。[[文件:建模频谱·.png]]

=== 在独立同分布条件下预测的能力 ===
统计模型只是对现实的粗浅描述，因为它们只关注关联关系。对于样本和标签，我们可以通过估计来回答这样的问题：“这张特定照片中中有狗的概率是多少？”，“给定一些症状，心力衰竭的概率是多少？”。这样的问题是可以通过观察足够多的)产生的i.i.d.数据来回答的。尽管机器学习算法可以把这些事做的很好，但是准确的预测对于我们的决策是不够，而因果科学提供了一个尚未完全探索的补充。举例来说，鹳出现的频率是和欧洲的人口出生率正相关的，我们的确可以训练一个统计学习模型来通过鹳的频率预测出生率，但显然这两者并没有什么直接的因果关系。统计模型只有在i.i.d.的情况下才是准确的，如果我们做任何的干预来改变数据分布，就会导致统计学习模型出错。

=== 在分布偏移/干预条件下预测的能力 ===
我们进一步讨论干预问题，它是更具挑战性的，因为干预会使我们跳出统计学习中i.i.d.的假设。继续用鹳的例子，“在一个国家中增加鹳的数量会增加该国的出生率吗？”就是一个干预问题。显然，人为的干预会使得数据分布发生变化，统计学习依赖的条件就会被打破，所以它会失效；另一方面，如果我们可以在干预的情况下学习一个预测模型，那么这有可能让我们得到一个对现实环境中的分布变化鲁棒的模型。实际上这里所谓的干预并不是什么新鲜事，很多事情本身就是随时间变化的，例如人的兴趣偏好，或者模型的训练集与测试集本身就有分布的不匹配。对神经网络的鲁棒性，已经有越来越多的关注，成为了一个与因果推断紧密连接的研究话题。作者认为对于在分布偏移下预测的研究不能只局限于在测试集上取得高准确率，如果我们希望在实际决策中使用学习算法，那么我们必须相信在实验条件改变的情况下，模型的预测也是有效的。笔者认为，作者在此处的意思是，实际应用中的分布偏移是任意多样的，仅仅在某些测试集上取得好效果不能代表我们可以在任何情况下都信任该模型，它可能只是恰好符合这些测试集的偏置。

为了使我们可以在尽可能多的情况下信任预测模型，就要采用具有回答干预问题能力的模型，至少统计学习模型是不行的。

=== 回答反事实问题的能力 ===
反事实问题涉及到推理事情为什么会发生，想象不同行为的后果，并由此可以决定采取何种行为来达到期望的结果。回答反事实问题更加困难的，但也是对于AI非常关键的挑战。如果一个干预问题是“如果我们说服一个病人规律的锻炼，那么它心力衰竭的概率会如何变化？”，那么对应的反事实问题就是“如果这个已经心力衰竭的病人一年前就开始锻炼，那他还会心力衰竭吗？”。显然回答这样的反事实问题对于强化学习中的智能体是很重要的，它们可以通过反思自己的决策，制定假说，再通过实践验证，就像我们的科学研究一样。

=== 数据的特点：观察的—干预的，结构化的-非结构化的 ===
数据的形式往往决定了我们可以推断什么样的关系。作者将数据分为两个维度：观察的与因果的，人工总结的（结构化的）与原始的（非结构化的）。

* '''''观察的与干预的数据'''''

一个极端情况是，我们常假设的从同一个分布中i.i.d.采样的观察数据，但这样的条件很少能被严格的满足；另一个极端是在已知的不同的干预下的产生的数据。在这两者之间，是偏移或者干预未知的数据。

* '''''结构化的与非结构化的数据'''''

在传统的AI中，数据常被假设为高层有语义的结构化变量，它们有些可能对应着潜在图中的因果变量。而非结构化原始数据是指那些无法直接提供因果信息的数据，例如图像。

尽管统计模型比因果模型要弱，但是它们可以同时有效地在结构化或者非结构化学习。另一方面，尽管只从观察数据中学习因果关系的方法是存在的，但常常还是需要从多个环境中收集数据，或者需要能够做干预。至此，我们已经可以一窥问题的核心：因果模型具有回答干预问题和反事实问题的能力，然而只能用于结构化的数据，ML模型虽然可以从raw data中有效的学习，但却逃不出i.i.d.设定的桎梏，那么如何将两者结合，使机器学习突破当前的瓶颈呢？答案即如本文题目所言'''Towards Causal Representation Learning'''！因果表征学习，即从非结构化的数据中提取出可以用于因果推断的结构化变量。一言以蔽之，如果解决了因果表征学习的问题，就克服了因果推断领域和机器学习领域间的最关键障碍，就可构建下一代更强大的AI。

愿景虽好，脚踏实地才可为其提供保证，在接下来的章节中，作者一步一个脚印地介绍了因果模型和相关假设及挑战、估计因果关系的必要机制、传统的和与神经网络结合的因果发现方法、学习因果变量(表征)的关键问题，最后用因果的语言讨论了对机器学习领域诸多问题的启示。

== 因果模型和推断 ==

=== 独立同分布数据驱动的方法 ===
我们还是从传统机器学习模型谈起，机器学习的成功有4个重要的因素：

(1)大量基于模拟器或人工标注的数据，

(2)强大的机器学习系统，如神经网络，

(3)高性能计算系统，这对因果推断也至关重要，

(4)问题是i.i.d.的。对于i.i.d.的数据，统计学习理论对模型提供了强大的保证，因此取得超越人类的表现也不足为奇。

但是却在对人类很简单的不满足i.i.d.的情景下表现很差，即在不同问题间迁移的能力。为了进一步理解，i.i.d.带来的问题，让我们考虑下面的例子。

Alice在想在网上买一个笔记本电脑包，网上商店的推荐系统于是向Alice推荐了笔记本电脑。这个推荐看起来很不合理，因为很可能Alice是已经买了电脑才去买包。假设该网站推荐系统使用统计模型仅仅基于统计相关性来推荐，那么我们已知事件“Alice买了包”对于事件“Alice是否会买电脑”的不确定性减少，和已知事件“Alice买了电脑”对于事件“Alice是否会买包”的不确定性减少是相等的，都为两个随机事件的互信息。这就导致我们丢失了重要的方向信息，即买电脑往往导致买包。

=== The Reichenbach Principle：从统计到因果 ===
说了这么多，如何实现从统计相关到因果的跨越呢？Reichenbach清晰的阐述了二者的联系：Common Cause Principle：如果两个可观察量和是统计相关的，那么一定存在一个变量因果的影响和，并且可以解释它们之间全部的相关性，即给定，和是条件独立的。这里需要注意的是，上述原理包含Z与X或Y重合的特殊情况。沿用前文鹳的例子，鹳的频率为X，出生率为Y，二者统计相关。如果鹳能带来孩子则是，孩子会吸引鹳则是，有其他因素导致两者则为。没有额外的假设，我们不能从观察数据中根据统计相关性区分这三种情况，所以因果模型比统计模型包含更多信息。尽管只有两个变量情况下的因果发现很困难，但是在有更多变量的情况下则会简单很多，因为多变量情况下，因果图会蕴含更多条件独立性质。这会将Reichenbach Principle推广到接下来介绍的因果图模型或结构因果模型。结构因果模型

=== 结构因果模型 ===
结构因果模型(Structural causal models, SCM)，是考虑一系列变量作为有向无环图(DAG)的顶点，每个变量值都由如下结构方程赋予

（1）其中为确定型方程，依赖于的父母()，为无法解释的随机变量。因此在数学上，也是随机变量。图中的有向边代表直接的因果效应。噪声的存在使得上式可以表示成通用的条件概率的形式，并且是相互独立的，否则根据Common Cause Principle还存在其他变量造成了他们的相关性，这代表我们的模型不是因果充分的(因果充分性假设)。如果我们确定了的分布，那么就可以根据上述DAG结合因果马尔可夫性计算联合分布。

* '''因果图模型'''

上述的DAG(被称为因果图，Causal Graph)，以及噪声的独立性蕴含了联合分布的规范分解，称之为因果(解耦)分解，(causal(disentangled) factorization)

（2）当然其他的纠缠分解(entangeld factorization)也可能是成立的，例如

（3）相比来说，因果分解可以把联合分布表示为因果机制的乘积。

* '''隐变量和混淆因子'''

上述的图模型其实需要一个因果充分性假设，即不存在未观察到的共同原因变量。若该假设不满足，则会让因果推断变得很困难。因为它可能会让两个因果无关的可观测变量产生统计相关性，或者它们之间的因果关系被混淆因子的所污染(是因，而是的共因，则被称为混淆因子(confounder))。这些是因果推断领域的重要问题，在此不多赘述。

* '''干预'''

所谓干预，即为修改SCM(1)中结构方程的一部分，例如改变，设置(即)为定值，或者改变的函数形式。

=== 统计模型，因果图模型，结构因果模型的区别 ===
统计模型也可以被定义成一个图(例如贝叶斯网络)，图中变量的概率分布与因果图模型一样可以根据因果马尔可夫性进行分解，但这样的模型中的边并不一定是因果的。只依赖于统计独立性，无法分辨马尔可夫等价类，和，因为他们依赖同样的条件独立。故因果马尔可夫条件是不足以用来进行因果发现的。另外如图1所示，因果图模型允许计算干预的分布，当一个变量被干预时，就把它设为固定值，并且切断与其父母节点的边，在新的图中计算出的即为该干预的分布。结构因果模型则包含因果变量和带有独立噪声的结构方程，也可以计算干预分布，因为他可以表达成因果图模型的概率分解的形式；也可以进行反事实推理。在进行反事实推理的时候，我们需要噪声变量的值固定。小结一下，统计学习的概念基础是联合分布，期望通过特定模型在i.i.d.情况下学习。因果学习(发现)需要考虑更多的假设，希望把联合分布进行因果分解，当得到因果模型后，就可以进行干预或反事实推理。

[[文件:统计模型与因果模型的差别.png]]

== 独立因果机制 ==
那么如何保证因果模型对联合分布分解是有意义的呢？在噪声独立的情况下，根据因果图对联合分布进行因果分解(4)总是可行的，为此我们需要考虑与(4)中因子的独立机制。让我们考虑海拔与年平均气温的例子。和显然相关，因为我们认为海拔升高会导致温度降低。假设我们有两个数据集分别来自瑞士和奥地利，两个联合分布是不同的，因为边际分布不同。但是条件概率很可能大致不变，因为它蕴含了海拔对气温影响的物理机制。因果分解包含了可以在不同国家泛化的，而纠缠分解则不具有这样的鲁棒性。当我们考虑到这也同时成立。对因果模型来说(1)(2)，对任意变量或模块、的干预不会影响其他模块，即为独立因果机制原则(Independent Causal Mechanisms Principle, ICM Principle)：一个系统的变量的因果生成过程使由一系列自主模块构成，它们不会影响彼此，也无法提供彼此的信息（a）改变(干预)一个机制不会改变其他机制（b）知道其他机制不会提供的任何信息作者进一步提出了与ICM的(a)中相符的**稀疏机制偏移(Sparse Mechanism Shift, SMS)**假说：微小的分布改变一般是稀疏地或局部地体现在因果分解(2)中，即它们通常不会同时影响所有的机制相反，如果我们考虑非因果的分解，例如(3)，那么大多数机制，即使不是全部会被同时影响。SMS假说近期已经被用来学习因果模型、模块化结构和解耦表征。需要注意的是在ICM中讨论的和的独立性与随机变量和独立性并无关系。事实上，在因果图中所有因果机制都独立的情况下，很多变量都是相关的。例如，那么和一定是相关的，但和是独立的。同样，噪声的独立性也与的独立性是无关的。直观地讲，噪声项提供并参数化了机制中的不确定性，并且保证了不同机制有相互独立的不确定性。在这种意义上，ICM原则包含了SCM这种特殊情况中，不可解释的噪声项的不确定性(如果噪声项不独立，机制就不独立了)。

四、因果发现与机器学习上两部分介绍了因果模型，和一些必要的因果假设与因果机制，在这一部分我们讨论如何在上述的框架下学到因果模型，即因果发现。在满足因果忠诚性假设的情况下，即不存在条件独立之外的独立性(这是为了保证独立性检验可以确定因果图中所有的边)，我们可以通过在观察数据中进行条件独立测试来发现因果图。但是这种方法存在一些问题：一是数据量总是有限的，而条件独立测试是很难的，尤其是在连续和高维的情况下，没有额外的假设，条件独立测试很难进行；二是条件独立测试可能会产生无法分辨边方向的马尔可夫等价类。近年来通过假设结构方程的类型，我们发现这两个问题都可以被解决。下面的例子，可以很好地说明为什么假设SCM中的方程形式是必要的。考虑一个简单的SCM，只有两个变量，(1)可以写为

(4)

且。现在假设是一个随机选择变量来从决定，且是不光滑的依赖于，那么从有限的数据中是很难得到SCM的足够信息。因为是不可观测的，且是任意不同的。所以我们需要限制关于的复杂度，一个自然的限制为加性噪声模型

(5)如果(4)中对是光滑的，且是相对集中的，那么(5)可以看做(4)的局部泰勒展开。另外，对函数形式的限制不仅使得的学习变得容易，还被发现可以打破双变量情况下的因果对称性，即可以确定马尔可夫等价类中边的方向。例如，如果加性噪声模型(5)中的为非线性的，那么是不可以从相反的方向(即)来拟合出一个加性噪声模型的。具有这样性质的函数假设有许多，例如线型非高斯无环模型，后非线性模型等。限制函数类型只是一种辨识因果结构的方法，其他可能性依然存在。根据SMS假说，不同环境的分布偏移可以极大的帮助我们辨识因果结构。这些环境可以来自于干预、不平稳的时间序列或者不同的视角。不变因果预测(Invariant Causal Prediction, ICP)框架就是考虑这样的情形。这些不同的环境可以理解为不同的任务，这可以联系到元学习(meta learning)。Bengio的工作就借助因果模型应该比一般的预测模型更快的适应干预这样的思想，把元学习中的泛化与因果模型的不变形绑定在一起。这项工作被推广到多变量与未知的干预的情形，并且通过把离散的图搜索转化为连续优化问题，提出了一个用神经网络进行因果发现的框架。也有人探索了如何用强化学习来学习因果模型。上述的所有因果发现的方法，不论传统的还是结合机器学习的，都是在有语义的抽象表征已经给定的情形，不需要从高维的低层次的数据中学习。所以传统的因果发现算法无法应用在机器学习领域的数据上。若想利用因果推断来解决当前机器学习领域的难题，从非结构化数据中学习因果变量是一个绕不开的关键问题。

== 学习因果变量 ==
为此，我们尝试将因果变量与观察量通过因果表示学习联系起来

(6)其中是一个非线性函数。如图二所示，高维的观察量(图像)是由未知的因果系统的状态产生，然后我们希望用一个神经网络提取这些高层变量，以求在下游任务中取得更好的效果。在什么条件下我们可以找到这些可以用于因果模型的粗略变量呢？解答这个问题是很有挑战的。定义因果关联的对象或变量，可以被归结为估计这个世界的更细致的模型，例如微观结构方程模型、常微分方程、temporally aggregated time series等。定义可用于因果模型的单元，对人和机器都是有挑战的，这与现代机器学习领域试图学习鲁棒、可解释、公平的数据表征的目标是一致的。

[[文件:因果表征学习.png]]

我们应该尝试将SCM嵌入到等大的机器学习模型中，它的输入输出可能是高维非结构化的，但内部有一部分是由SCM决定的。这样的模型可能会是模块化的架构，不同的模块可以被微调或用于新的任务，SMS假说也可被用于学习合适的结构。图三展示了，对因果变量稀疏的干预(改变个别变量)，会造成图像中稠密的变化(很多像素发生变化)，在有些情况下，例如改变光照或视角，会导致所有像素都变化。

[[文件:SMS假设的样例.png]]

接下来我们讨论考虑因果表征学习的三个机器学习问题。

=== 问题一：学习解耦的表征 ===
如我们前文讨论的，ICM原则蕴含了(1)中SCM噪声项的独立性，并因此也蕴含了如下解耦表征的可行性（7）现在设想，我们想要利用数据中的独立机制重建这样一个解耦表征，但是因果变量都未给定，只有是给定的，我们想要重建因果变量和因果机制（8）为此，我们可以有一个编码器，将编码为组成不可解释噪声项的“瓶颈”隐表征。接下来我们定义映射，它是由结构方程确定的。最后我们还需解码器。对于一个合适的，系统可以通过重建误差来训练。如果因果图是已知的，的神经网络实现可以相应地确定下来；如果因果图未知，神经网络编码器则学习。在实践中，往往未知(即因果图未知)，自编码器的学习是有可能通过选择合适的结构来实现的。当前的许多学习解耦表征的研究关注独立变化的因子，这可以被可看作一种特例，即因果图(8)中。另外面向对象的表示学习，也可看作我们讨论的解耦表征的特例。目前，从i.i.d.设定下重建外生噪声变量的问题是定义不清的，因为有无数的等价解可以对应相同的数据分布。所以我们应该进一步利用ICM原则与SMS假说。在实践中，即使是在这样的一般情况下，SMS假说可以被用作监督信号。即我们应该从多环境、不同干预的数据中学习因果变量。当然，那些因子可以被分解取决于，我们有什么样的干预。在因果表征学习中，哪些变量可以被抽象出来以及它们的粒度，取决于我们可以获取什么样的分布偏移、明确的干预以及其他监督信号。

=== 问题二：学习可迁移的机制 ===
一个人工或自然的智能能只能得到有限的资源和信息，这有关训练数据：与现代工业实践中的大规模人工标注相比，许多领域的数据都很少，所以需要池化活重复利用数据；也有关计算资源：动物的大脑尺寸是有限的，进化神经学表明在很多例子中，脑区可以用于不同的目的。在很多应用场景中，部署在嵌入式系统中的机器学习模型也面临这样的算力限制。所以未来的AI模型应该拥有动物一样，可以在鲁棒的解决一系列现实问题的能力，因此也应该应该有相似的可复用的组件。一个优雅的方法则是使用可以对应世界中模块化的模块化模型，换句话说，如果世界是模块化的，包括它的成份、机制，那么模型采用相应的模块是明智的。例如，在模式识别任务中，学习包含独立机制的因果模型，可以帮助模型在不同领域迁移。自我意识这样的生物功能，可能和在洛伦兹的想象空间中，表示自我的变量是相关的；而且自由意志可能将会成为这个自我变量与它所采取行动沟通的方式。

=== 问题三：学习可被干预世界模型与推理 ===
因果表示学习应该要比传统的只关注统计相关性的表示学习更进一步，去学习支持干预、规划、推理的模型，实现康拉德·洛伦兹的“思考即为在想象中行动”的概念。这最终需要反思行为，想象可能的情况的能力，甚至可能需要自由意志(的幻觉)。这对社会和文化学习是至关重要的，是一个尚未登上机器学习领域舞台，但却是人类智能的核心。

== 对机器学习研究的启示 ==
上述的所有关于学习范式的讨论，都不基于常用的i.i.d.假设。因此，我们需要一个更弱的假设：模型将要被应用的数据是来自不同的分布，但设计几乎相同的因果机制。这会带来几个严肃的挑战：我们需要从给定的低层次输入特征中抽象因果变量哪方面的数据可以揭示因果关系尚无共识传统的实验方案不足以推断和评估因果模型，我们需要新的基准测试即使是在我们了解的有限案例中，仍然缺乏可大规模使用的算法尽管如此，这样的努力对于机器学习有很多具体的影响。

=== 半监督学习 ===
假定一个潜在的因果图为，且我们想学习的映射。在这种情况下，因果分解为

(9)根据ICM原理，不包含任何的信息，这意味着半监督学习是无效的，即利用的额外信息(没有标签的数据)，是无法帮助我们提升的估计的。即只有在相反(反因果)方向才可使用半监督学习。

=== 对抗漏洞 ===
有人提出假说，因果方向应该对分类器是否易受对抗攻击也有影响。对机器学习系统的对抗攻击可以使用微小的人类不可见的扰动，改变分类器的输出。这与因果有下面几方面的联系。首先，这些对抗攻击显然是违反了统计机器学习中i.i.d.的假设，所以模型出现错误是很自然的。这也揭示了，这些分类器所具有的鲁棒性与人类的是不同的。如果这两个鲁棒性的测度都已知，就可以在最小化一个时最大化另一个来找到攻击的手段。现在的对抗学习的方法可大致归结于此，把人的鲁棒性测度建模成一个数学上简单的集合，在这个集合中找到使分类器的输出发生最大变化的样本。考虑到因果，最近有研究证实了：那么如果预测器是近似了内在的可迁移且鲁棒的因果机制，那么对抗样本应该是更难被找到的。所以结合因果，可以使机器学习模型更好的抵御对抗攻击。

=== 鲁棒性与强泛化性 ===
承接上文，我们可以大胆的假设，有自主模块构成的结构，例如因果分解(1)，对换出或者求个单个组件更加鲁棒。而鲁棒性对于策略型行为同样重要，即那些需要考虑其他参与者行为的决策。例如，一个人可以通过例如搬到富裕的街区来改变银行对其信用的评级，对于银行来说，则只有用影响信用的真正原因变量构建模型，才能保证系统的鲁棒性。因此，让我们考虑OOD(out-of-distribution)泛化的形式。设想我们又从中采样的数据，在空间(例如一个特定结构的神经网络)中训练一个预测器来最小化经验风险（10）其中（11）OOD泛化指的是，我们希望在一个不同的分布中经验风险也比较小（12）从因果的角度看可以看做特定干预的中的一个，即，是干预分布的集合。OOD风险的最差情况可表达为，（13）为了学习一个鲁棒的预测器，我们应该从一个环境子集中，求解一下优化问题（14）

=== 预训练、数据增强与自监督 ===
通过求解(14)中的最小最大问题是困难的，我们现在介绍几种机器学习中常用的技术作为近似(14)的手段。

第一种是让训练集的分布更加丰富，即可以通过在海量和多样数据中进行预训练。只有当训练分布是足够丰富已涵盖其他分布的信息时才是有效的。

第二种方法常与上一种一起使用，数据增强，即通过特定人工生成的干预生成新数据来获得更加丰富的分布。例如图像中的旋转、翻转等。

第三种是通过自监督学习来学习。自监督学习即通过一些自动生成的无需人工标注的标签，把无监督学习转化为监督学习。这样的前置任务是为了迫使模型学习的信息，这会对下游任务起到帮助。而ICM原则可以帮助发展自动构建这些前置任务的方法。

=== 强化学习 ===
强化学习是机器学习中更为接近因果研究的一个领域，它常常会直接有效的估计do-probabilities，即干预效果。例如on-policy学习就直接估计当前策略干预的do-probabilities。但当涉及off-policy学习或者离线强化学习时，与因果相关的问题就变得十分精妙。强化学习和因果结合的可以大致分为两类：一是在强化学习中解和因果发现，例如智能体可以学到环境的因果模型；二是学习利用因果模型进行规划和行动。已经有越来越多的证据表明，使用恰当的结构化表征是很用帮助的。

* '''世界模型'''

基于模型的强化学习是和因果紧密相连的，它期望学到一个环境的模型来代替与环境的交互，来解决目前强化学习的种种问题。所以利用因果推断的方法来帮助智能体学习一个更好的世界模型是很直观的想法。

* '''泛化性、鲁棒性和更快的迁移性'''

尽管强化学习已经取得了瞩目的成功，但它需要的样本量往往是现实应用中无法满足的。而且，强化学习智能体在面对一些训练时没有见过的微小的环境变化时是十分脆弱的。这在理论和实践上对这一领域的未来都是至关重要的。一种思路即为学习不同环境间的不变性。学习不变性的一个关键要求很可能是可以实施干预并从干预中学习。发展心理学认为，只有通过实验才能发现因果关系，这恰好可以建模为强化学习环境，智能体从中通过干预和观察效果来发现因果关系。另一方面，因果模型可以学到具有一系列独立因果机制的环境模型，即使有一些分布的变化，也无需全部推倒重来。当然，关于如何明确的定义与思考强化学习的泛化性，仍然有许多开放问题需要研究。

* '''反事实推理'''

反事实推理已经被证明可以提高强化学习算法的样本效率和性能。这与发展心理学是相符的，反思可以让我们推断过去行为的作用，以在未来可以根据目的选择相应的行为。所以未来强化学习的研究应该重点考虑反事实推理：智能体可以在想象空间中行动，构想假说，并用合适的干预来验证。

* '''离线强化学习'''

监督学习的成功很大程度上取决大量的标注的数据，而在强化学习中，从头收集大量高保真的多样数据在很多实际应用场景是昂贵甚至有伦理问题的。离线强化学习就致力于在已有的决策序列数据中学习，不需额外的实验或干预数据。有效利用观察数据可以使强化学习更加实用。为此，智能体需要推断与观察数据中不同的动作的效果，这实际上就是反事实推理的问题。另外，当前学习策略与收集数据策略的分布不匹配也会带来非i.i.d.的困难。所以，考虑不变形，将知识分解为独立因果机制可以对离线强化学习起到很大帮助。

=== 科学应用 ===
在自然科学中应用机器学习时的一个基本问题是：在多大程度上，我们可以通过机器学习来补充我们对物理系统的理解。一个有序的领域是用神经网络进行物理仿真，大大的提高了效率。如果实验条件是精密控制的，OOD泛化能力往往不是必须的，尽管仿真器需要在实验条件变化是重新训练。但另一方面，缺少系统性实验常常是其他应用领域的问题，例如医疗领域。如果我们想通过一系列数据建模病人的健康状况，并使用受控条件下医生的决策来训练一个诊断系统，那么在部署该系统是往往会失败。尽管在特定的决策中是有用的，但是理解抉择背后的因果机制是提供个性化和可靠的治疗建议所必须的。因果对于理解医学现象也有很多潜在的帮助，例如，新冠疫情中，在例如辛普森悖论存在的情况下，因果中介分析可以就帮助区分各种因素对于病死率的不同效果。另一个例子是宇宙学，因果模型被用来在分析工具会造成混淆的情况下分辨系外行星。

=== 多任务学习和持续学习 ===
当前的AI是狭隘的，即只能训练去在特定任务上使用。多任务学习就致力于构建可以在跨越不同环境的多个任务上工作的系统。这些任务通常拥有一些相同的特点，通过学习任务之间的相似性，系统可以在遇到新任务时高效的使用从先前任务中学到的知识。这种相似性的一种可能性，就是任务间共享的可以用因果模型建模的数据生成过程。与此同时，我们已经在不考虑因果的情况下处理多任务问题很久了，并且取得了很多成果。于是一个关键的问题提出：“为什么我们不能训练一个巨大模型来学习环境的动力学，并且包含所有可能的干预呢？毕竟如果我们训练了大量的干预且我们期望神经网络可以在他们中泛化的话，分布式表征就可以泛化到没有见过的例子中”。对此，有以下几点需要考虑。首先，如果数据不够多样，最差情形误差总是会任意的高。尽管在短期内可以通过更大的模型和数据集来通过非OOD的基准测试，因果总是提供了一个重要的补充。模型的泛化性能是和它的假设(结构及如何训练)紧密相关的，而因果提供了更明确以及符合物理和人类认知的假设，例如ICM原则。如果这些假设是有效的，使用这些假设模型理应比没有使用的要好。更进一步，如果我们有一个对特定环境的所有干预都有效的模型，我们自然想要将它运用在动力学相似大不完全相同其他环境中。因果方法恰好指出了，这样组需要将知识分解为独立可重组的机制。所以我们应该在模块化机器学习或者其他遵循ICM原则的机器学习方法上做更多的工作。独立同分布的机器学习只不过是一种数学抽象，而因果可能是大多数生命学习的根本。到目前为止，机器学习忽略了因果的整合，而实际上却可以获得诸多好处，将因果与深度学习结合很可能是通往多用途AI的必经之路。

== 总结 ==
本文讨论了描述世界的不同模型，包括因果模型和统计模型，以及这些模型在建模和数据方面的一系列假设。为努力将因果与机器学习领域相结合，文章首先介绍了因果推断的基本原理；然后讨论了独立因果机制及相关概念，例如不变性，可以为因果学习带来怎样的帮助；在此基础上，讨论因果变量已知的情况下，如何从观察及干预数据中学习因果关系；更进一步，提出了关于因果表示学习的开放问题；最后讨论了机器学习领域的问题可以如何更好的从因果的角度理解和解决。

基于本文的讨论，相信如下几个领域将会对未来的研究至关重要：

学习大规模非线性因果关系

学习因果变量

理解现存深度学习方法的归纳偏置

学习正确建模世界因果的模型和智能体

== 编辑推荐 ==

=== 集智课程推荐 ===
[https://pattern.swarma.org/study_group/4 因果科学与Causal AI读书会第二季 | 集智斑图 (swarma.org)]

因果推断与机器学习领域的结合已经吸引了越来越多来自学界业界的关注，为深入探讨、普及推广因果科学议题，智源社区携手集智俱乐部将举办第二期「因果科学与CausalAI读书会」。本期读书会着力于实操性、基础性，将带领大家精读因果科学方向两本非常受广泛认可的入门教材。

1. Pearl, Judea, Madelyn Glymour, and Nicholas P. Jewell. Causal inference in statistics: A primer. John Wiley & Sons, 2016.（本书中译版《统计因果推理入门（翻译版）》已由高等教育出版社出版）

2. Peters, Jonas, Dominik Janzing, and Bernhard Schölkopf. Elements of causal inference: foundations and learning algorithms. The MIT Press, 2017.

因果表征学习

2022-07-24T14:57:30Z

我是猫：

== 定义 ==
因果表征学习是指从海量数据中学习，可以用于因果模型的表征，即将图像这样的原始数据转化为可用于因果模型的结构化变量，解决将知识转移到新问题上的能力，是连接因果科学与机器学习的桥梁，是构建下一代更强大AI的重要突破领域。

2021年一篇名为Towards Causal Representation Learning的综述文章横空出世，由因果领域领军人物马普智能系统所所长Bernhard Schölkopf及深度学习三巨头之一的Yoshua Bengio等人撰写。文章详细的探讨描述物理世界的不同模型的层次，统计模型与因果模型的区别包括模型的能力相关的假设及挑战，学习因果模型所必需的独立因果机制原则，学习因果模型的方法，如何学习因果表征，以及从因果的角度重新审视了诸多机器学习的挑战并指出了因果带来的启示。

== 概念来源 ==
这篇名为Towards Causal Representation Learning的综述文章由因果领域领军人物马普智能系统所所长Bernhard Schölkopf及深度学习三巨头之一的Yoshua Bengio等人撰写。顾名思义，何为因果表征causal representation呢？其又拥有怎样优良的性质使我们想要学习因果表征呢？为了回答这些问题，让我们从表征学习说起。

表征学习Representation Learning是机器学习中的重要问题，良好的表征是机器学习算法成功的重要条件；正因如此，近十年来深度学习借助神经网络强大的表达能力、海量的数据以及强大的算力，自动地从数据中学习表征，取代了传统的人工制作的特征，取得了瞩目的成就。由深度学习三巨头之二的Yoshua Bengio和Yann LeCun牵头创办的深度学习顶会，即命名为国际学习表征会议International Conference on Learning Representations，足见表征学习的重要性。尽管深度学习在近十年极大地推动了机器学习的发展，但是仍有许多问题亟待解决，例如将知识迁移到新问题上的能力。

许多关键问题都可以归结为OOD(out-of-distribution)问题。因为统计学习模型需要独立同分布(i.i.d.)假设，若测试数据与训练数据来自不同的分布，统计学习模型往往会出错。然而在很多情况下，i.i.d.的假设是不成立的，而因果推断所研究的正是这样的情形：如何学习一个可以在不同分布下工作、蕴含因果机制的因果模型(Causal Model)，并使用因果模型进行干预或反事实推断。我们可以很自然地想到将因果推断的优点结合到机器学习中，然而现实没有这么容易。因果模型往往处理的是结构化的数据，并不能处理机器学习中常见的高维的低层次的原始数据，例如图像。为此，让我们回到最初的问题，因果表征即可理解为可以用于因果模型的表征，因果表征学习即为将图像这样的原始数据转化为可用于因果模型的结构化变量。因果表征学习就是连接因果科学与机器学习的桥梁，解决这一及相关问题，就可以很好的将因果推断与机器学习结合起来，构建下一代更强大的AI。

== 因果模型的层次 ==
谈及对自然现象建模，自然而然就可想到黄金标准——微分方程组。它根据时间的演变建模物理机制，可以让我们预测物理系统未来的行为，推断干预的效果以及预测变量间的统计相关性；还可以提供物理本质，让我们可以解读因果结构。如果说微分方程是对物理系统全面详尽的表述，那么统计模型(Statistical Model)可被看作表面的粗糙的描述。它无法预测干预的效果，但是的优点在于通常可以从观察数据中学习，而前者通常需要专家来提出。因果建模则存在于这两个极端之间，它期望能够像物理模型一样预测干预的效果，但同时可以在一些假设下，通过数据驱动的方法找到这样的模型，来取代专家知识。基于上文的表述，表一给出了模型的分类与层级，并且给出了分级的依据——越高层的模型拥有更多更强的能力，这些能力从低到高分别是：在i.i.d.条件下预测的能力，在分布偏移/干预下预测的能力，回答反事实问题的能力，是否蕴含物理本质。接下来首先讨论这些能力，并在下一个章节具体解析统计模型与因果模型的区别。具体地说，基于统计模型的机器学习模型只能建模相关关系，而相关关系往往会随着数据分布的变化而变化；而因果模型所建模的因果关系则是更本质的，反应数据生成机制的关系，这样的关系是更鲁棒的，具有OOD泛化的能力。[[文件:建模频谱·.png]]

=== 在独立同分布条件下预测的能力 ===
统计模型只是对现实的粗浅描述，因为它们只关注关联关系。对于样本和标签，我们可以通过估计来回答这样的问题：“这张特定照片中中有狗的概率是多少？”，“给定一些症状，心力衰竭的概率是多少？”。这样的问题是可以通过观察足够多的)产生的i.i.d.数据来回答的。尽管机器学习算法可以把这些事做的很好，但是准确的预测对于我们的决策是不够，而因果科学提供了一个尚未完全探索的补充。举例来说，鹳出现的频率是和欧洲的人口出生率正相关的，我们的确可以训练一个统计学习模型来通过鹳的频率预测出生率，但显然这两者并没有什么直接的因果关系。统计模型只有在i.i.d.的情况下才是准确的，如果我们做任何的干预来改变数据分布，就会导致统计学习模型出错。

=== 在分布偏移/干预条件下预测的能力 ===
我们进一步讨论干预问题，它是更具挑战性的，因为干预会使我们跳出统计学习中i.i.d.的假设。继续用鹳的例子，“在一个国家中增加鹳的数量会增加该国的出生率吗？”就是一个干预问题。显然，人为的干预会使得数据分布发生变化，统计学习依赖的条件就会被打破，所以它会失效；另一方面，如果我们可以在干预的情况下学习一个预测模型，那么这有可能让我们得到一个对现实环境中的分布变化鲁棒的模型。实际上这里所谓的干预并不是什么新鲜事，很多事情本身就是随时间变化的，例如人的兴趣偏好，或者模型的训练集与测试集本身就有分布的不匹配。对神经网络的鲁棒性，已经有越来越多的关注，成为了一个与因果推断紧密连接的研究话题。作者认为对于在分布偏移下预测的研究不能只局限于在测试集上取得高准确率，如果我们希望在实际决策中使用学习算法，那么我们必须相信在实验条件改变的情况下，模型的预测也是有效的。笔者认为，作者在此处的意思是，实际应用中的分布偏移是任意多样的，仅仅在某些测试集上取得好效果不能代表我们可以在任何情况下都信任该模型，它可能只是恰好符合这些测试集的偏置。

为了使我们可以在尽可能多的情况下信任预测模型，就要采用具有回答干预问题能力的模型，至少统计学习模型是不行的。

=== 回答反事实问题的能力 ===
反事实问题涉及到推理事情为什么会发生，想象不同行为的后果，并由此可以决定采取何种行为来达到期望的结果。回答反事实问题更加困难的，但也是对于AI非常关键的挑战。如果一个干预问题是“如果我们说服一个病人规律的锻炼，那么它心力衰竭的概率会如何变化？”，那么对应的反事实问题就是“如果这个已经心力衰竭的病人一年前就开始锻炼，那他还会心力衰竭吗？”。显然回答这样的反事实问题对于强化学习中的智能体是很重要的，它们可以通过反思自己的决策，制定假说，再通过实践验证，就像我们的科学研究一样。

=== 数据的特点：观察的—干预的，结构化的-非结构化的 ===
数据的形式往往决定了我们可以推断什么样的关系。作者将数据分为两个维度：观察的与因果的，人工总结的（结构化的）与原始的（非结构化的）。

* '''''观察的与干预的数据'''''

一个极端情况是，我们常假设的从同一个分布中i.i.d.采样的观察数据，但这样的条件很少能被严格的满足；另一个极端是在已知的不同的干预下的产生的数据。在这两者之间，是偏移或者干预未知的数据。

* '''''结构化的与非结构化的数据'''''

在传统的AI中，数据常被假设为高层有语义的结构化变量，它们有些可能对应着潜在图中的因果变量。而非结构化原始数据是指那些无法直接提供因果信息的数据，例如图像。

尽管统计模型比因果模型要弱，但是它们可以同时有效地在结构化或者非结构化学习。另一方面，尽管只从观察数据中学习因果关系的方法是存在的，但常常还是需要从多个环境中收集数据，或者需要能够做干预。至此，我们已经可以一窥问题的核心：因果模型具有回答干预问题和反事实问题的能力，然而只能用于结构化的数据，ML模型虽然可以从raw data中有效的学习，但却逃不出i.i.d.设定的桎梏，那么如何将两者结合，使机器学习突破当前的瓶颈呢？答案即如本文题目所言'''Towards Causal Representation Learning'''！因果表征学习，即从非结构化的数据中提取出可以用于因果推断的结构化变量。一言以蔽之，如果解决了因果表征学习的问题，就克服了因果推断领域和机器学习领域间的最关键障碍，就可构建下一代更强大的AI。

愿景虽好，脚踏实地才可为其提供保证，在接下来的章节中，作者一步一个脚印地介绍了因果模型和相关假设及挑战、估计因果关系的必要机制、传统的和与神经网络结合的因果发现方法、学习因果变量(表征)的关键问题，最后用因果的语言讨论了对机器学习领域诸多问题的启示。

== 因果模型和推断 ==

=== 独立同分布数据驱动的方法 ===
我们还是从传统机器学习模型谈起，机器学习的成功有4个重要的因素：

(1)大量基于模拟器或人工标注的数据，

(2)强大的机器学习系统，如神经网络，

(3)高性能计算系统，这对因果推断也至关重要，

(4)问题是i.i.d.的。对于i.i.d.的数据，统计学习理论对模型提供了强大的保证，因此取得超越人类的表现也不足为奇。

但是却在对人类很简单的不满足i.i.d.的情景下表现很差，即在不同问题间迁移的能力。为了进一步理解，i.i.d.带来的问题，让我们考虑下面的例子。

Alice在想在网上买一个笔记本电脑包，网上商店的推荐系统于是向Alice推荐了笔记本电脑。这个推荐看起来很不合理，因为很可能Alice是已经买了电脑才去买包。假设该网站推荐系统使用统计模型仅仅基于统计相关性来推荐，那么我们已知事件“Alice买了包”对于事件“Alice是否会买电脑”的不确定性减少，和已知事件“Alice买了电脑”对于事件“Alice是否会买包”的不确定性减少是相等的，都为两个随机事件的互信息。这就导致我们丢失了重要的方向信息，即买电脑往往导致买包。

=== The Reichenbach Principle：从统计到因果 ===
说了这么多，如何实现从统计相关到因果的跨越呢？Reichenbach清晰的阐述了二者的联系：Common Cause Principle：如果两个可观察量和是统计相关的，那么一定存在一个变量因果的影响和，并且可以解释它们之间全部的相关性，即给定，和是条件独立的。这里需要注意的是，上述原理包含Z与X或Y重合的特殊情况。沿用前文鹳的例子，鹳的频率为X，出生率为Y，二者统计相关。如果鹳能带来孩子则是，孩子会吸引鹳则是，有其他因素导致两者则为。没有额外的假设，我们不能从观察数据中根据统计相关性区分这三种情况，所以因果模型比统计模型包含更多信息。尽管只有两个变量情况下的因果发现很困难，但是在有更多变量的情况下则会简单很多，因为多变量情况下，因果图会蕴含更多条件独立性质。这会将Reichenbach Principle推广到接下来介绍的因果图模型或结构因果模型。结构因果模型

=== 结构因果模型 ===
结构因果模型(Structural causal models, SCM)，是考虑一系列变量作为有向无环图(DAG)的顶点，每个变量值都由如下结构方程赋予

（1）其中为确定型方程，依赖于的父母()，为无法解释的随机变量。因此在数学上，也是随机变量。图中的有向边代表直接的因果效应。噪声的存在使得上式可以表示成通用的条件概率的形式，并且是相互独立的，否则根据Common Cause Principle还存在其他变量造成了他们的相关性，这代表我们的模型不是因果充分的(因果充分性假设)。如果我们确定了的分布，那么就可以根据上述DAG结合因果马尔可夫性计算联合分布。

* '''因果图模型'''

上述的DAG(被称为因果图，Causal Graph)，以及噪声的独立性蕴含了联合分布的规范分解，称之为因果(解耦)分解，(causal(disentangled) factorization)

（2）当然其他的纠缠分解(entangeld factorization)也可能是成立的，例如

（3）相比来说，因果分解可以把联合分布表示为因果机制的乘积。

* '''隐变量和混淆因子'''

上述的图模型其实需要一个因果充分性假设，即不存在未观察到的共同原因变量。若该假设不满足，则会让因果推断变得很困难。因为它可能会让两个因果无关的可观测变量产生统计相关性，或者它们之间的因果关系被混淆因子的所污染(是因，而是的共因，则被称为混淆因子(confounder))。这些是因果推断领域的重要问题，在此不多赘述。

* '''干预'''

所谓干预，即为修改SCM(1)中结构方程的一部分，例如改变，设置(即)为定值，或者改变的函数形式。

=== 统计模型，因果图模型，结构因果模型的区别 ===
统计模型也可以被定义成一个图(例如贝叶斯网络)，图中变量的概率分布与因果图模型一样可以根据因果马尔可夫性进行分解，但这样的模型中的边并不一定是因果的。只依赖于统计独立性，无法分辨马尔可夫等价类，和，因为他们依赖同样的条件独立。故因果马尔可夫条件是不足以用来进行因果发现的。另外如图1所示，因果图模型允许计算干预的分布，当一个变量被干预时，就把它设为固定值，并且切断与其父母节点的边，在新的图中计算出的即为该干预的分布。结构因果模型则包含因果变量和带有独立噪声的结构方程，也可以计算干预分布，因为他可以表达成因果图模型的概率分解的形式；也可以进行反事实推理。在进行反事实推理的时候，我们需要噪声变量的值固定。小结一下，统计学习的概念基础是联合分布，期望通过特定模型在i.i.d.情况下学习。因果学习(发现)需要考虑更多的假设，希望把联合分布进行因果分解，当得到因果模型后，就可以进行干预或反事实推理。

[[文件:统计模型与因果模型的差别.png]]

== 独立因果机制 ==
那么如何保证因果模型对联合分布分解是有意义的呢？在噪声独立的情况下，根据因果图对联合分布进行因果分解(4)总是可行的，为此我们需要考虑与(4)中因子的独立机制。让我们考虑海拔与年平均气温的例子。和显然相关，因为我们认为海拔升高会导致温度降低。假设我们有两个数据集分别来自瑞士和奥地利，两个联合分布是不同的，因为边际分布不同。但是条件概率很可能大致不变，因为它蕴含了海拔对气温影响的物理机制。因果分解包含了可以在不同国家泛化的，而纠缠分解则不具有这样的鲁棒性。当我们考虑到这也同时成立。对因果模型来说(1)(2)，对任意变量或模块、的干预不会影响其他模块，即为独立因果机制原则(Independent Causal Mechanisms Principle, ICM Principle)：一个系统的变量的因果生成过程使由一系列自主模块构成，它们不会影响彼此，也无法提供彼此的信息（a）改变(干预)一个机制不会改变其他机制（b）知道其他机制不会提供的任何信息作者进一步提出了与ICM的(a)中相符的**稀疏机制偏移(Sparse Mechanism Shift, SMS)**假说：微小的分布改变一般是稀疏地或局部地体现在因果分解(2)中，即它们通常不会同时影响所有的机制相反，如果我们考虑非因果的分解，例如(3)，那么大多数机制，即使不是全部会被同时影响。SMS假说近期已经被用来学习因果模型、模块化结构和解耦表征。需要注意的是在ICM中讨论的和的独立性与随机变量和独立性并无关系。事实上，在因果图中所有因果机制都独立的情况下，很多变量都是相关的。例如，那么和一定是相关的，但和是独立的。同样，噪声的独立性也与的独立性是无关的。直观地讲，噪声项提供并参数化了机制中的不确定性，并且保证了不同机制有相互独立的不确定性。在这种意义上，ICM原则包含了SCM这种特殊情况中，不可解释的噪声项的不确定性(如果噪声项不独立，机制就不独立了)。

四、因果发现与机器学习上两部分介绍了因果模型，和一些必要的因果假设与因果机制，在这一部分我们讨论如何在上述的框架下学到因果模型，即因果发现。在满足因果忠诚性假设的情况下，即不存在条件独立之外的独立性(这是为了保证独立性检验可以确定因果图中所有的边)，我们可以通过在观察数据中进行条件独立测试来发现因果图。但是这种方法存在一些问题：一是数据量总是有限的，而条件独立测试是很难的，尤其是在连续和高维的情况下，没有额外的假设，条件独立测试很难进行；二是条件独立测试可能会产生无法分辨边方向的马尔可夫等价类。近年来通过假设结构方程的类型，我们发现这两个问题都可以被解决。下面的例子，可以很好地说明为什么假设SCM中的方程形式是必要的。考虑一个简单的SCM，只有两个变量，(1)可以写为

(4)

且。现在假设是一个随机选择变量来从决定，且是不光滑的依赖于，那么从有限的数据中是很难得到SCM的足够信息。因为是不可观测的，且是任意不同的。所以我们需要限制关于的复杂度，一个自然的限制为加性噪声模型

(5)如果(4)中对是光滑的，且是相对集中的，那么(5)可以看做(4)的局部泰勒展开。另外，对函数形式的限制不仅使得的学习变得容易，还被发现可以打破双变量情况下的因果对称性，即可以确定马尔可夫等价类中边的方向。例如，如果加性噪声模型(5)中的为非线性的，那么是不可以从相反的方向(即)来拟合出一个加性噪声模型的。具有这样性质的函数假设有许多，例如线型非高斯无环模型，后非线性模型等。限制函数类型只是一种辨识因果结构的方法，其他可能性依然存在。根据SMS假说，不同环境的分布偏移可以极大的帮助我们辨识因果结构。这些环境可以来自于干预、不平稳的时间序列或者不同的视角。不变因果预测(Invariant Causal Prediction, ICP)框架就是考虑这样的情形。这些不同的环境可以理解为不同的任务，这可以联系到元学习(meta learning)。Bengio的工作就借助因果模型应该比一般的预测模型更快的适应干预这样的思想，把元学习中的泛化与因果模型的不变形绑定在一起。这项工作被推广到多变量与未知的干预的情形，并且通过把离散的图搜索转化为连续优化问题，提出了一个用神经网络进行因果发现的框架。也有人探索了如何用强化学习来学习因果模型。上述的所有因果发现的方法，不论传统的还是结合机器学习的，都是在有语义的抽象表征已经给定的情形，不需要从高维的低层次的数据中学习。所以传统的因果发现算法无法应用在机器学习领域的数据上。若想利用因果推断来解决当前机器学习领域的难题，从非结构化数据中学习因果变量是一个绕不开的关键问题。

== 学习因果变量 ==
为此，我们尝试将因果变量与观察量通过因果表示学习联系起来

(6)其中是一个非线性函数。如图二所示，高维的观察量(图像)是由未知的因果系统的状态产生，然后我们希望用一个神经网络提取这些高层变量，以求在下游任务中取得更好的效果。在什么条件下我们可以找到这些可以用于因果模型的粗略变量呢？解答这个问题是很有挑战的。定义因果关联的对象或变量，可以被归结为估计这个世界的更细致的模型，例如微观结构方程模型、常微分方程、temporally aggregated time series等。定义可用于因果模型的单元，对人和机器都是有挑战的，这与现代机器学习领域试图学习鲁棒、可解释、公平的数据表征的目标是一致的。

[[文件:因果表征学习.png]]

我们应该尝试将SCM嵌入到等大的机器学习模型中，它的输入输出可能是高维非结构化的，但内部有一部分是由SCM决定的。这样的模型可能会是模块化的架构，不同的模块可以被微调或用于新的任务，SMS假说也可被用于学习合适的结构。图三展示了，对因果变量稀疏的干预(改变个别变量)，会造成图像中稠密的变化(很多像素发生变化)，在有些情况下，例如改变光照或视角，会导致所有像素都变化。

[[文件:SMS假设的样例.png]]

接下来我们讨论考虑因果表征学习的三个机器学习问题。

=== 问题一：学习解耦的表征 ===
如我们前文讨论的，ICM原则蕴含了(1)中SCM噪声项的独立性，并因此也蕴含了如下解耦表征的可行性（7）现在设想，我们想要利用数据中的独立机制重建这样一个解耦表征，但是因果变量都未给定，只有是给定的，我们想要重建因果变量和因果机制（8）为此，我们可以有一个编码器，将编码为组成不可解释噪声项的“瓶颈”隐表征。接下来我们定义映射，它是由结构方程确定的。最后我们还需解码器。对于一个合适的，系统可以通过重建误差来训练。如果因果图是已知的，的神经网络实现可以相应地确定下来；如果因果图未知，神经网络编码器则学习。在实践中，往往未知(即因果图未知)，自编码器的学习是有可能通过选择合适的结构来实现的。当前的许多学习解耦表征的研究关注独立变化的因子，这可以被可看作一种特例，即因果图(8)中。另外面向对象的表示学习，也可看作我们讨论的解耦表征的特例。目前，从i.i.d.设定下重建外生噪声变量的问题是定义不清的，因为有无数的等价解可以对应相同的数据分布。所以我们应该进一步利用ICM原则与SMS假说。在实践中，即使是在这样的一般情况下，SMS假说可以被用作监督信号。即我们应该从多环境、不同干预的数据中学习因果变量。当然，那些因子可以被分解取决于，我们有什么样的干预。在因果表征学习中，哪些变量可以被抽象出来以及它们的粒度，取决于我们可以获取什么样的分布偏移、明确的干预以及其他监督信号。

=== 问题二：学习可迁移的机制 ===
一个人工或自然的智能能只能得到有限的资源和信息，这有关训练数据：与现代工业实践中的大规模人工标注相比，许多领域的数据都很少，所以需要池化活重复利用数据；也有关计算资源：动物的大脑尺寸是有限的，进化神经学表明在很多例子中，脑区可以用于不同的目的。在很多应用场景中，部署在嵌入式系统中的机器学习模型也面临这样的算力限制。所以未来的AI模型应该拥有动物一样，可以在鲁棒的解决一系列现实问题的能力，因此也应该应该有相似的可复用的组件。一个优雅的方法则是使用可以对应世界中模块化的模块化模型，换句话说，如果世界是模块化的，包括它的成份、机制，那么模型采用相应的模块是明智的。例如，在模式识别任务中，学习包含独立机制的因果模型，可以帮助模型在不同领域迁移。自我意识这样的生物功能，可能和在洛伦兹的想象空间中，表示自我的变量是相关的；而且自由意志可能将会成为这个自我变量与它所采取行动沟通的方式。

=== 问题三：学习可被干预世界模型与推理 ===
因果表示学习应该要比传统的只关注统计相关性的表示学习更进一步，去学习支持干预、规划、推理的模型，实现康拉德·洛伦兹的“思考即为在想象中行动”的概念。这最终需要反思行为，想象可能的情况的能力，甚至可能需要自由意志(的幻觉)。这对社会和文化学习是至关重要的，是一个尚未登上机器学习领域舞台，但却是人类智能的核心。

== 对机器学习研究的启示 ==
上述的所有关于学习范式的讨论，都不基于常用的i.i.d.假设。因此，我们需要一个更弱的假设：模型将要被应用的数据是来自不同的分布，但设计几乎相同的因果机制。这会带来几个严肃的挑战：我们需要从给定的低层次输入特征中抽象因果变量哪方面的数据可以揭示因果关系尚无共识传统的实验方案不足以推断和评估因果模型，我们需要新的基准测试即使是在我们了解的有限案例中，仍然缺乏可大规模使用的算法尽管如此，这样的努力对于机器学习有很多具体的影响。

=== 半监督学习 ===
假定一个潜在的因果图为，且我们想学习的映射。在这种情况下，因果分解为

(9)根据ICM原理，不包含任何的信息，这意味着半监督学习是无效的，即利用的额外信息(没有标签的数据)，是无法帮助我们提升的估计的。即只有在相反(反因果)方向才可使用半监督学习。

=== 对抗漏洞 ===
有人提出假说，因果方向应该对分类器是否易受对抗攻击也有影响。对机器学习系统的对抗攻击可以使用微小的人类不可见的扰动，改变分类器的输出。这与因果有下面几方面的联系。首先，这些对抗攻击显然是违反了统计机器学习中i.i.d.的假设，所以模型出现错误是很自然的。这也揭示了，这些分类器所具有的鲁棒性与人类的是不同的。如果这两个鲁棒性的测度都已知，就可以在最小化一个时最大化另一个来找到攻击的手段。现在的对抗学习的方法可大致归结于此，把人的鲁棒性测度建模成一个数学上简单的集合，在这个集合中找到使分类器的输出发生最大变化的样本。考虑到因果，最近有研究证实了：那么如果预测器是近似了内在的可迁移且鲁棒的因果机制，那么对抗样本应该是更难被找到的。所以结合因果，可以使机器学习模型更好的抵御对抗攻击。

=== 鲁棒性与强泛化性 ===
承接上文，我们可以大胆的假设，有自主模块构成的结构，例如因果分解(1)，对换出或者求个单个组件更加鲁棒。而鲁棒性对于策略型行为同样重要，即那些需要考虑其他参与者行为的决策。例如，一个人可以通过例如搬到富裕的街区来改变银行对其信用的评级，对于银行来说，则只有用影响信用的真正原因变量构建模型，才能保证系统的鲁棒性。因此，让我们考虑OOD(out-of-distribution)泛化的形式。设想我们又从中采样的数据，在空间(例如一个特定结构的神经网络)中训练一个预测器来最小化经验风险（10）其中（11）OOD泛化指的是，我们希望在一个不同的分布中经验风险也比较小（12）从因果的角度看可以看做特定干预的中的一个，即，是干预分布的集合。OOD风险的最差情况可表达为，（13）为了学习一个鲁棒的预测器，我们应该从一个环境子集中，求解一下优化问题（14）

=== 预训练、数据增强与自监督 ===
通过求解(14)中的最小最大问题是困难的，我们现在介绍几种机器学习中常用的技术作为近似(14)的手段。

第一种是让训练集的分布更加丰富，即可以通过在海量和多样数据中进行预训练。只有当训练分布是足够丰富已涵盖其他分布的信息时才是有效的。

第二种方法常与上一种一起使用，数据增强，即通过特定人工生成的干预生成新数据来获得更加丰富的分布。例如图像中的旋转、翻转等。

第三种是通过自监督学习来学习。自监督学习即通过一些自动生成的无需人工标注的标签，把无监督学习转化为监督学习。这样的前置任务是为了迫使模型学习的信息，这会对下游任务起到帮助。而ICM原则可以帮助发展自动构建这些前置任务的方法。

=== 强化学习 ===
强化学习是机器学习中更为接近因果研究的一个领域，它常常会直接有效的估计do-probabilities，即干预效果。例如on-policy学习就直接估计当前策略干预的do-probabilities。但当涉及off-policy学习或者离线强化学习时，与因果相关的问题就变得十分精妙。强化学习和因果结合的可以大致分为两类：一是在强化学习中解和因果发现，例如智能体可以学到环境的因果模型；二是学习利用因果模型进行规划和行动。已经有越来越多的证据表明，使用恰当的结构化表征是很用帮助的。

* '''世界模型'''

基于模型的强化学习是和因果紧密相连的，它期望学到一个环境的模型来代替与环境的交互，来解决目前强化学习的种种问题。所以利用因果推断的方法来帮助智能体学习一个更好的世界模型是很直观的想法。

* '''泛化性、鲁棒性和更快的迁移性'''

尽管强化学习已经取得了瞩目的成功，但它需要的样本量往往是现实应用中无法满足的。而且，强化学习智能体在面对一些训练时没有见过的微小的环境变化时是十分脆弱的。这在理论和实践上对这一领域的未来都是至关重要的。一种思路即为学习不同环境间的不变性。学习不变性的一个关键要求很可能是可以实施干预并从干预中学习。发展心理学认为，只有通过实验才能发现因果关系，这恰好可以建模为强化学习环境，智能体从中通过干预和观察效果来发现因果关系。另一方面，因果模型可以学到具有一系列独立因果机制的环境模型，即使有一些分布的变化，也无需全部推倒重来。当然，关于如何明确的定义与思考强化学习的泛化性，仍然有许多开放问题需要研究。

* '''反事实推理'''

反事实推理已经被证明可以提高强化学习算法的样本效率和性能。这与发展心理学是相符的，反思可以让我们推断过去行为的作用，以在未来可以根据目的选择相应的行为。所以未来强化学习的研究应该重点考虑反事实推理：智能体可以在想象空间中行动，构想假说，并用合适的干预来验证。

* '''离线强化学习'''

监督学习的成功很大程度上取决大量的标注的数据，而在强化学习中，从头收集大量高保真的多样数据在很多实际应用场景是昂贵甚至有伦理问题的。离线强化学习就致力于在已有的决策序列数据中学习，不需额外的实验或干预数据。有效利用观察数据可以使强化学习更加实用。为此，智能体需要推断与观察数据中不同的动作的效果，这实际上就是反事实推理的问题。另外，当前学习策略与收集数据策略的分布不匹配也会带来非i.i.d.的困难。所以，考虑不变形，将知识分解为独立因果机制可以对离线强化学习起到很大帮助。

=== 科学应用 ===
在自然科学中应用机器学习时的一个基本问题是：在多大程度上，我们可以通过机器学习来补充我们对物理系统的理解。一个有序的领域是用神经网络进行物理仿真，大大的提高了效率。如果实验条件是精密控制的，OOD泛化能力往往不是必须的，尽管仿真器需要在实验条件变化是重新训练。但另一方面，缺少系统性实验常常是其他应用领域的问题，例如医疗领域。如果我们想通过一系列数据建模病人的健康状况，并使用受控条件下医生的决策来训练一个诊断系统，那么在部署该系统是往往会失败。尽管在特定的决策中是有用的，但是理解抉择背后的因果机制是提供个性化和可靠的治疗建议所必须的。因果对于理解医学现象也有很多潜在的帮助，例如，新冠疫情中，在例如辛普森悖论存在的情况下，因果中介分析可以就帮助区分各种因素对于病死率的不同效果。另一个例子是宇宙学，因果模型被用来在分析工具会造成混淆的情况下分辨系外行星。

=== 多任务学习和持续学习 ===
当前的AI是狭隘的，即只能训练去在特定任务上使用。多任务学习就致力于构建可以在跨越不同环境的多个任务上工作的系统。这些任务通常拥有一些相同的特点，通过学习任务之间的相似性，系统可以在遇到新任务时高效的使用从先前任务中学到的知识。这种相似性的一种可能性，就是任务间共享的可以用因果模型建模的数据生成过程。与此同时，我们已经在不考虑因果的情况下处理多任务问题很久了，并且取得了很多成果。于是一个关键的问题提出：“为什么我们不能训练一个巨大模型来学习环境的动力学，并且包含所有可能的干预呢？毕竟如果我们训练了大量的干预且我们期望神经网络可以在他们中泛化的话，分布式表征就可以泛化到没有见过的例子中”。对此，有以下几点需要考虑。首先，如果数据不够多样，最差情形误差总是会任意的高。尽管在短期内可以通过更大的模型和数据集来通过非OOD的基准测试，因果总是提供了一个重要的补充。模型的泛化性能是和它的假设(结构及如何训练)紧密相关的，而因果提供了更明确以及符合物理和人类认知的假设，例如ICM原则。如果这些假设是有效的，使用这些假设模型理应比没有使用的要好。更进一步，如果我们有一个对特定环境的所有干预都有效的模型，我们自然想要将它运用在动力学相似大不完全相同其他环境中。因果方法恰好指出了，这样组需要将知识分解为独立可重组的机制。所以我们应该在模块化机器学习或者其他遵循ICM原则的机器学习方法上做更多的工作。独立同分布的机器学习只不过是一种数学抽象，而因果可能是大多数生命学习的根本。到目前为止，机器学习忽略了因果的整合，而实际上却可以获得诸多好处，将因果与深度学习结合很可能是通往多用途AI的必经之路。

== 总结 ==
本文讨论了描述世界的不同模型，包括因果模型和统计模型，以及这些模型在建模和数据方面的一系列假设。为努力将因果与机器学习领域相结合，文章首先介绍了因果推断的基本原理；然后讨论了独立因果机制及相关概念，例如不变性，可以为因果学习带来怎样的帮助；在此基础上，讨论因果变量已知的情况下，如何从观察及干预数据中学习因果关系；更进一步，提出了关于因果表示学习的开放问题；最后讨论了机器学习领域的问题可以如何更好的从因果的角度理解和解决。

基于本文的讨论，相信如下几个领域将会对未来的研究至关重要：

学习大规模非线性因果关系

学习因果变量

理解现存深度学习方法的归纳偏置

学习正确建模世界因果的模型和智能体

== 编辑推荐 ==

=== 集智课程推荐 ===
[https://pattern.swarma.org/study_group/4 因果科学与Causal AI读书会第二季 | 集智斑图 (swarma.org)]

因果推断与机器学习领域的结合已经吸引了越来越多来自学界业界的关注，为深入探讨、普及推广因果科学议题，智源社区携手集智俱乐部将举办第二期「因果科学与CausalAI读书会」。本期读书会着力于实操性、基础性，将带领大家精读因果科学方向两本非常受广泛认可的入门教材。

1. Pearl, Judea, Madelyn Glymour, and Nicholas P. Jewell. Causal inference in statistics: A primer. John Wiley & Sons, 2016.（本书中译版《统计因果推理入门（翻译版）》已由高等教育出版社出版）

2. Peters, Jonas, Dominik Janzing, and Bernhard Schölkopf. Elements of causal inference: foundations and learning algorithms. The MIT Press, 2017.

因果表征学习

2022-07-24T14:56:49Z

我是猫：建立内容为“== 定义 == 因果表征学习是指从海量数据中学习，可以用于因果模型的表征，即将图像这样的原始数据转化为可用于因果模…”的新页面

== 定义 ==
因果表征学习是指从海量数据中学习，可以用于因果模型的表征，即将图像这样的原始数据转化为可用于因果模型的结构化变量，解决将知识转移到新问题上的能力，是连接因果科学与机器学习的桥梁，是构建下一代更强大AI的重要突破领域。

2021年一篇名为Towards Causal Representation Learning的综述文章横空出世，由因果领域领军人物马普智能系统所所长Bernhard Schölkopf及深度学习三巨头之一的Yoshua Bengio等人撰写。文章详细的探讨描述物理世界的不同模型的层次，统计模型与因果模型的区别包括模型的能力相关的假设及挑战，学习因果模型所必需的独立因果机制原则，学习因果模型的方法，如何学习因果表征，以及从因果的角度重新审视了诸多机器学习的挑战并指出了因果带来的启示。

== 概念来源 ==
这篇名为Towards Causal Representation Learning的综述文章由因果领域领军人物马普智能系统所所长Bernhard Schölkopf及深度学习三巨头之一的Yoshua Bengio等人撰写。顾名思义，何为因果表征causal representation呢？其又拥有怎样优良的性质使我们想要学习因果表征呢？为了回答这些问题，让我们从表征学习说起。

表征学习Representation Learning是机器学习中的重要问题，良好的表征是机器学习算法成功的重要条件；正因如此，近十年来深度学习借助神经网络强大的表达能力、海量的数据以及强大的算力，自动地从数据中学习表征，取代了传统的人工制作的特征，取得了瞩目的成就。由深度学习三巨头之二的Yoshua Bengio和Yann LeCun牵头创办的深度学习顶会，即命名为国际学习表征会议International Conference on Learning Representations，足见表征学习的重要性。尽管深度学习在近十年极大地推动了机器学习的发展，但是仍有许多问题亟待解决，例如将知识迁移到新问题上的能力。

许多关键问题都可以归结为OOD(out-of-distribution)问题。因为统计学习模型需要独立同分布(i.i.d.)假设，若测试数据与训练数据来自不同的分布，统计学习模型往往会出错。然而在很多情况下，i.i.d.的假设是不成立的，而因果推断所研究的正是这样的情形：如何学习一个可以在不同分布下工作、蕴含因果机制的因果模型(Causal Model)，并使用因果模型进行干预或反事实推断。我们可以很自然地想到将因果推断的优点结合到机器学习中，然而现实没有这么容易。因果模型往往处理的是结构化的数据，并不能处理机器学习中常见的高维的低层次的原始数据，例如图像。为此，让我们回到最初的问题，因果表征即可理解为可以用于因果模型的表征，因果表征学习即为将图像这样的原始数据转化为可用于因果模型的结构化变量。因果表征学习就是连接因果科学与机器学习的桥梁，解决这一及相关问题，就可以很好的将因果推断与机器学习结合起来，构建下一代更强大的AI。

== 因果模型的层次 ==
谈及对自然现象建模，自然而然就可想到黄金标准——微分方程组。它根据时间的演变建模物理机制，可以让我们预测物理系统未来的行为，推断干预的效果以及预测变量间的统计相关性；还可以提供物理本质，让我们可以解读因果结构。如果说微分方程是对物理系统全面详尽的表述，那么统计模型(Statistical Model)可被看作表面的粗糙的描述。它无法预测干预的效果，但是的优点在于通常可以从观察数据中学习，而前者通常需要专家来提出。因果建模则存在于这两个极端之间，它期望能够像物理模型一样预测干预的效果，但同时可以在一些假设下，通过数据驱动的方法找到这样的模型，来取代专家知识。基于上文的表述，表一给出了模型的分类与层级，并且给出了分级的依据——越高层的模型拥有更多更强的能力，这些能力从低到高分别是：在i.i.d.条件下预测的能力，在分布偏移/干预下预测的能力，回答反事实问题的能力，是否蕴含物理本质。接下来首先讨论这些能力，并在下一个章节具体解析统计模型与因果模型的区别。具体地说，基于统计模型的机器学习模型只能建模相关关系，而相关关系往往会随着数据分布的变化而变化；而因果模型所建模的因果关系则是更本质的，反应数据生成机制的关系，这样的关系是更鲁棒的，具有OOD泛化的能力。

=== [[文件:建模频谱·.png]] ===

=== 在独立同分布条件下预测的能力 ===
统计模型只是对现实的粗浅描述，因为它们只关注关联关系。对于样本和标签，我们可以通过估计来回答这样的问题：“这张特定照片中中有狗的概率是多少？”，“给定一些症状，心力衰竭的概率是多少？”。这样的问题是可以通过观察足够多的)产生的i.i.d.数据来回答的。尽管机器学习算法可以把这些事做的很好，但是准确的预测对于我们的决策是不够，而因果科学提供了一个尚未完全探索的补充。举例来说，鹳出现的频率是和欧洲的人口出生率正相关的，我们的确可以训练一个统计学习模型来通过鹳的频率预测出生率，但显然这两者并没有什么直接的因果关系。统计模型只有在i.i.d.的情况下才是准确的，如果我们做任何的干预来改变数据分布，就会导致统计学习模型出错。

=== 在分布偏移/干预条件下预测的能力 ===
我们进一步讨论干预问题，它是更具挑战性的，因为干预会使我们跳出统计学习中i.i.d.的假设。继续用鹳的例子，“在一个国家中增加鹳的数量会增加该国的出生率吗？”就是一个干预问题。显然，人为的干预会使得数据分布发生变化，统计学习依赖的条件就会被打破，所以它会失效；另一方面，如果我们可以在干预的情况下学习一个预测模型，那么这有可能让我们得到一个对现实环境中的分布变化鲁棒的模型。实际上这里所谓的干预并不是什么新鲜事，很多事情本身就是随时间变化的，例如人的兴趣偏好，或者模型的训练集与测试集本身就有分布的不匹配。对神经网络的鲁棒性，已经有越来越多的关注，成为了一个与因果推断紧密连接的研究话题。作者认为对于在分布偏移下预测的研究不能只局限于在测试集上取得高准确率，如果我们希望在实际决策中使用学习算法，那么我们必须相信在实验条件改变的情况下，模型的预测也是有效的。笔者认为，作者在此处的意思是，实际应用中的分布偏移是任意多样的，仅仅在某些测试集上取得好效果不能代表我们可以在任何情况下都信任该模型，它可能只是恰好符合这些测试集的偏置。

为了使我们可以在尽可能多的情况下信任预测模型，就要采用具有回答干预问题能力的模型，至少统计学习模型是不行的。

=== 回答反事实问题的能力 ===
反事实问题涉及到推理事情为什么会发生，想象不同行为的后果，并由此可以决定采取何种行为来达到期望的结果。回答反事实问题更加困难的，但也是对于AI非常关键的挑战。如果一个干预问题是“如果我们说服一个病人规律的锻炼，那么它心力衰竭的概率会如何变化？”，那么对应的反事实问题就是“如果这个已经心力衰竭的病人一年前就开始锻炼，那他还会心力衰竭吗？”。显然回答这样的反事实问题对于强化学习中的智能体是很重要的，它们可以通过反思自己的决策，制定假说，再通过实践验证，就像我们的科学研究一样。

=== 数据的特点：观察的—干预的，结构化的-非结构化的 ===
数据的形式往往决定了我们可以推断什么样的关系。作者将数据分为两个维度：观察的与因果的，人工总结的（结构化的）与原始的（非结构化的）。

* '''''观察的与干预的数据'''''

一个极端情况是，我们常假设的从同一个分布中i.i.d.采样的观察数据，但这样的条件很少能被严格的满足；另一个极端是在已知的不同的干预下的产生的数据。在这两者之间，是偏移或者干预未知的数据。

* '''''结构化的与非结构化的数据'''''

在传统的AI中，数据常被假设为高层有语义的结构化变量，它们有些可能对应着潜在图中的因果变量。而非结构化原始数据是指那些无法直接提供因果信息的数据，例如图像。

尽管统计模型比因果模型要弱，但是它们可以同时有效地在结构化或者非结构化学习。另一方面，尽管只从观察数据中学习因果关系的方法是存在的，但常常还是需要从多个环境中收集数据，或者需要能够做干预。至此，我们已经可以一窥问题的核心：因果模型具有回答干预问题和反事实问题的能力，然而只能用于结构化的数据，ML模型虽然可以从raw data中有效的学习，但却逃不出i.i.d.设定的桎梏，那么如何将两者结合，使机器学习突破当前的瓶颈呢？答案即如本文题目所言'''Towards Causal Representation Learning'''！因果表征学习，即从非结构化的数据中提取出可以用于因果推断的结构化变量。一言以蔽之，如果解决了因果表征学习的问题，就克服了因果推断领域和机器学习领域间的最关键障碍，就可构建下一代更强大的AI。

愿景虽好，脚踏实地才可为其提供保证，在接下来的章节中，作者一步一个脚印地介绍了因果模型和相关假设及挑战、估计因果关系的必要机制、传统的和与神经网络结合的因果发现方法、学习因果变量(表征)的关键问题，最后用因果的语言讨论了对机器学习领域诸多问题的启示。

== 因果模型和推断 ==

=== 独立同分布数据驱动的方法 ===
我们还是从传统机器学习模型谈起，机器学习的成功有4个重要的因素：

(1)大量基于模拟器或人工标注的数据，

(2)强大的机器学习系统，如神经网络，

(3)高性能计算系统，这对因果推断也至关重要，

(4)问题是i.i.d.的。对于i.i.d.的数据，统计学习理论对模型提供了强大的保证，因此取得超越人类的表现也不足为奇。

但是却在对人类很简单的不满足i.i.d.的情景下表现很差，即在不同问题间迁移的能力。为了进一步理解，i.i.d.带来的问题，让我们考虑下面的例子。

Alice在想在网上买一个笔记本电脑包，网上商店的推荐系统于是向Alice推荐了笔记本电脑。这个推荐看起来很不合理，因为很可能Alice是已经买了电脑才去买包。假设该网站推荐系统使用统计模型仅仅基于统计相关性来推荐，那么我们已知事件“Alice买了包”对于事件“Alice是否会买电脑”的不确定性减少，和已知事件“Alice买了电脑”对于事件“Alice是否会买包”的不确定性减少是相等的，都为两个随机事件的互信息。这就导致我们丢失了重要的方向信息，即买电脑往往导致买包。

=== The Reichenbach Principle：从统计到因果 ===
说了这么多，如何实现从统计相关到因果的跨越呢？Reichenbach清晰的阐述了二者的联系：Common Cause Principle：如果两个可观察量和是统计相关的，那么一定存在一个变量因果的影响和，并且可以解释它们之间全部的相关性，即给定，和是条件独立的。这里需要注意的是，上述原理包含Z与X或Y重合的特殊情况。沿用前文鹳的例子，鹳的频率为X，出生率为Y，二者统计相关。如果鹳能带来孩子则是，孩子会吸引鹳则是，有其他因素导致两者则为。没有额外的假设，我们不能从观察数据中根据统计相关性区分这三种情况，所以因果模型比统计模型包含更多信息。尽管只有两个变量情况下的因果发现很困难，但是在有更多变量的情况下则会简单很多，因为多变量情况下，因果图会蕴含更多条件独立性质。这会将Reichenbach Principle推广到接下来介绍的因果图模型或结构因果模型。结构因果模型

=== 结构因果模型 ===
结构因果模型(Structural causal models, SCM)，是考虑一系列变量作为有向无环图(DAG)的顶点，每个变量值都由如下结构方程赋予

（1）其中为确定型方程，依赖于的父母()，为无法解释的随机变量。因此在数学上，也是随机变量。图中的有向边代表直接的因果效应。噪声的存在使得上式可以表示成通用的条件概率的形式，并且是相互独立的，否则根据Common Cause Principle还存在其他变量造成了他们的相关性，这代表我们的模型不是因果充分的(因果充分性假设)。如果我们确定了的分布，那么就可以根据上述DAG结合因果马尔可夫性计算联合分布。

* '''因果图模型'''

上述的DAG(被称为因果图，Causal Graph)，以及噪声的独立性蕴含了联合分布的规范分解，称之为因果(解耦)分解，(causal(disentangled) factorization)

（2）当然其他的纠缠分解(entangeld factorization)也可能是成立的，例如

（3）相比来说，因果分解可以把联合分布表示为因果机制的乘积。

* '''隐变量和混淆因子'''

上述的图模型其实需要一个因果充分性假设，即不存在未观察到的共同原因变量。若该假设不满足，则会让因果推断变得很困难。因为它可能会让两个因果无关的可观测变量产生统计相关性，或者它们之间的因果关系被混淆因子的所污染(是因，而是的共因，则被称为混淆因子(confounder))。这些是因果推断领域的重要问题，在此不多赘述。

* '''干预'''

所谓干预，即为修改SCM(1)中结构方程的一部分，例如改变，设置(即)为定值，或者改变的函数形式。

=== 统计模型，因果图模型，结构因果模型的区别 ===
统计模型也可以被定义成一个图(例如贝叶斯网络)，图中变量的概率分布与因果图模型一样可以根据因果马尔可夫性进行分解，但这样的模型中的边并不一定是因果的。只依赖于统计独立性，无法分辨马尔可夫等价类，和，因为他们依赖同样的条件独立。故因果马尔可夫条件是不足以用来进行因果发现的。另外如图1所示，因果图模型允许计算干预的分布，当一个变量被干预时，就把它设为固定值，并且切断与其父母节点的边，在新的图中计算出的即为该干预的分布。结构因果模型则包含因果变量和带有独立噪声的结构方程，也可以计算干预分布，因为他可以表达成因果图模型的概率分解的形式；也可以进行反事实推理。在进行反事实推理的时候，我们需要噪声变量的值固定。小结一下，统计学习的概念基础是联合分布，期望通过特定模型在i.i.d.情况下学习。因果学习(发现)需要考虑更多的假设，希望把联合分布进行因果分解，当得到因果模型后，就可以进行干预或反事实推理。

[[文件:统计模型与因果模型的差别.png]]

== 独立因果机制 ==
那么如何保证因果模型对联合分布分解是有意义的呢？在噪声独立的情况下，根据因果图对联合分布进行因果分解(4)总是可行的，为此我们需要考虑与(4)中因子的独立机制。让我们考虑海拔与年平均气温的例子。和显然相关，因为我们认为海拔升高会导致温度降低。假设我们有两个数据集分别来自瑞士和奥地利，两个联合分布是不同的，因为边际分布不同。但是条件概率很可能大致不变，因为它蕴含了海拔对气温影响的物理机制。因果分解包含了可以在不同国家泛化的，而纠缠分解则不具有这样的鲁棒性。当我们考虑到这也同时成立。对因果模型来说(1)(2)，对任意变量或模块、的干预不会影响其他模块，即为独立因果机制原则(Independent Causal Mechanisms Principle, ICM Principle)：一个系统的变量的因果生成过程使由一系列自主模块构成，它们不会影响彼此，也无法提供彼此的信息（a）改变(干预)一个机制不会改变其他机制（b）知道其他机制不会提供的任何信息作者进一步提出了与ICM的(a)中相符的**稀疏机制偏移(Sparse Mechanism Shift, SMS)**假说：微小的分布改变一般是稀疏地或局部地体现在因果分解(2)中，即它们通常不会同时影响所有的机制相反，如果我们考虑非因果的分解，例如(3)，那么大多数机制，即使不是全部会被同时影响。SMS假说近期已经被用来学习因果模型、模块化结构和解耦表征。需要注意的是在ICM中讨论的和的独立性与随机变量和独立性并无关系。事实上，在因果图中所有因果机制都独立的情况下，很多变量都是相关的。例如，那么和一定是相关的，但和是独立的。同样，噪声的独立性也与的独立性是无关的。直观地讲，噪声项提供并参数化了机制中的不确定性，并且保证了不同机制有相互独立的不确定性。在这种意义上，ICM原则包含了SCM这种特殊情况中，不可解释的噪声项的不确定性(如果噪声项不独立，机制就不独立了)。

四、因果发现与机器学习上两部分介绍了因果模型，和一些必要的因果假设与因果机制，在这一部分我们讨论如何在上述的框架下学到因果模型，即因果发现。在满足因果忠诚性假设的情况下，即不存在条件独立之外的独立性(这是为了保证独立性检验可以确定因果图中所有的边)，我们可以通过在观察数据中进行条件独立测试来发现因果图。但是这种方法存在一些问题：一是数据量总是有限的，而条件独立测试是很难的，尤其是在连续和高维的情况下，没有额外的假设，条件独立测试很难进行；二是条件独立测试可能会产生无法分辨边方向的马尔可夫等价类。近年来通过假设结构方程的类型，我们发现这两个问题都可以被解决。下面的例子，可以很好地说明为什么假设SCM中的方程形式是必要的。考虑一个简单的SCM，只有两个变量，(1)可以写为

(4)

且。现在假设是一个随机选择变量来从决定，且是不光滑的依赖于，那么从有限的数据中是很难得到SCM的足够信息。因为是不可观测的，且是任意不同的。所以我们需要限制关于的复杂度，一个自然的限制为加性噪声模型

(5)如果(4)中对是光滑的，且是相对集中的，那么(5)可以看做(4)的局部泰勒展开。另外，对函数形式的限制不仅使得的学习变得容易，还被发现可以打破双变量情况下的因果对称性，即可以确定马尔可夫等价类中边的方向。例如，如果加性噪声模型(5)中的为非线性的，那么是不可以从相反的方向(即)来拟合出一个加性噪声模型的。具有这样性质的函数假设有许多，例如线型非高斯无环模型，后非线性模型等。限制函数类型只是一种辨识因果结构的方法，其他可能性依然存在。根据SMS假说，不同环境的分布偏移可以极大的帮助我们辨识因果结构。这些环境可以来自于干预、不平稳的时间序列或者不同的视角。不变因果预测(Invariant Causal Prediction, ICP)框架就是考虑这样的情形。这些不同的环境可以理解为不同的任务，这可以联系到元学习(meta learning)。Bengio的工作就借助因果模型应该比一般的预测模型更快的适应干预这样的思想，把元学习中的泛化与因果模型的不变形绑定在一起。这项工作被推广到多变量与未知的干预的情形，并且通过把离散的图搜索转化为连续优化问题，提出了一个用神经网络进行因果发现的框架。也有人探索了如何用强化学习来学习因果模型。上述的所有因果发现的方法，不论传统的还是结合机器学习的，都是在有语义的抽象表征已经给定的情形，不需要从高维的低层次的数据中学习。所以传统的因果发现算法无法应用在机器学习领域的数据上。若想利用因果推断来解决当前机器学习领域的难题，从非结构化数据中学习因果变量是一个绕不开的关键问题。

== 学习因果变量 ==
为此，我们尝试将因果变量与观察量通过因果表示学习联系起来

(6)其中是一个非线性函数。如图二所示，高维的观察量(图像)是由未知的因果系统的状态产生，然后我们希望用一个神经网络提取这些高层变量，以求在下游任务中取得更好的效果。在什么条件下我们可以找到这些可以用于因果模型的粗略变量呢？解答这个问题是很有挑战的。定义因果关联的对象或变量，可以被归结为估计这个世界的更细致的模型，例如微观结构方程模型、常微分方程、temporally aggregated time series等。定义可用于因果模型的单元，对人和机器都是有挑战的，这与现代机器学习领域试图学习鲁棒、可解释、公平的数据表征的目标是一致的。

[[文件:因果表征学习.png]]

我们应该尝试将SCM嵌入到等大的机器学习模型中，它的输入输出可能是高维非结构化的，但内部有一部分是由SCM决定的。这样的模型可能会是模块化的架构，不同的模块可以被微调或用于新的任务，SMS假说也可被用于学习合适的结构。图三展示了，对因果变量稀疏的干预(改变个别变量)，会造成图像中稠密的变化(很多像素发生变化)，在有些情况下，例如改变光照或视角，会导致所有像素都变化。

[[文件:SMS假设的样例.png]]

接下来我们讨论考虑因果表征学习的三个机器学习问题。

=== 问题一：学习解耦的表征 ===
如我们前文讨论的，ICM原则蕴含了(1)中SCM噪声项的独立性，并因此也蕴含了如下解耦表征的可行性（7）现在设想，我们想要利用数据中的独立机制重建这样一个解耦表征，但是因果变量都未给定，只有是给定的，我们想要重建因果变量和因果机制（8）为此，我们可以有一个编码器，将编码为组成不可解释噪声项的“瓶颈”隐表征。接下来我们定义映射，它是由结构方程确定的。最后我们还需解码器。对于一个合适的，系统可以通过重建误差来训练。如果因果图是已知的，的神经网络实现可以相应地确定下来；如果因果图未知，神经网络编码器则学习。在实践中，往往未知(即因果图未知)，自编码器的学习是有可能通过选择合适的结构来实现的。当前的许多学习解耦表征的研究关注独立变化的因子，这可以被可看作一种特例，即因果图(8)中。另外面向对象的表示学习，也可看作我们讨论的解耦表征的特例。目前，从i.i.d.设定下重建外生噪声变量的问题是定义不清的，因为有无数的等价解可以对应相同的数据分布。所以我们应该进一步利用ICM原则与SMS假说。在实践中，即使是在这样的一般情况下，SMS假说可以被用作监督信号。即我们应该从多环境、不同干预的数据中学习因果变量。当然，那些因子可以被分解取决于，我们有什么样的干预。在因果表征学习中，哪些变量可以被抽象出来以及它们的粒度，取决于我们可以获取什么样的分布偏移、明确的干预以及其他监督信号。

=== 问题二：学习可迁移的机制 ===
一个人工或自然的智能能只能得到有限的资源和信息，这有关训练数据：与现代工业实践中的大规模人工标注相比，许多领域的数据都很少，所以需要池化活重复利用数据；也有关计算资源：动物的大脑尺寸是有限的，进化神经学表明在很多例子中，脑区可以用于不同的目的。在很多应用场景中，部署在嵌入式系统中的机器学习模型也面临这样的算力限制。所以未来的AI模型应该拥有动物一样，可以在鲁棒的解决一系列现实问题的能力，因此也应该应该有相似的可复用的组件。一个优雅的方法则是使用可以对应世界中模块化的模块化模型，换句话说，如果世界是模块化的，包括它的成份、机制，那么模型采用相应的模块是明智的。例如，在模式识别任务中，学习包含独立机制的因果模型，可以帮助模型在不同领域迁移。自我意识这样的生物功能，可能和在洛伦兹的想象空间中，表示自我的变量是相关的；而且自由意志可能将会成为这个自我变量与它所采取行动沟通的方式。

=== 问题三：学习可被干预世界模型与推理 ===
因果表示学习应该要比传统的只关注统计相关性的表示学习更进一步，去学习支持干预、规划、推理的模型，实现康拉德·洛伦兹的“思考即为在想象中行动”的概念。这最终需要反思行为，想象可能的情况的能力，甚至可能需要自由意志(的幻觉)。这对社会和文化学习是至关重要的，是一个尚未登上机器学习领域舞台，但却是人类智能的核心。

== 对机器学习研究的启示 ==
上述的所有关于学习范式的讨论，都不基于常用的i.i.d.假设。因此，我们需要一个更弱的假设：模型将要被应用的数据是来自不同的分布，但设计几乎相同的因果机制。这会带来几个严肃的挑战：我们需要从给定的低层次输入特征中抽象因果变量哪方面的数据可以揭示因果关系尚无共识传统的实验方案不足以推断和评估因果模型，我们需要新的基准测试即使是在我们了解的有限案例中，仍然缺乏可大规模使用的算法尽管如此，这样的努力对于机器学习有很多具体的影响。

=== 半监督学习 ===
假定一个潜在的因果图为，且我们想学习的映射。在这种情况下，因果分解为

(9)根据ICM原理，不包含任何的信息，这意味着半监督学习是无效的，即利用的额外信息(没有标签的数据)，是无法帮助我们提升的估计的。即只有在相反(反因果)方向才可使用半监督学习。

=== 对抗漏洞 ===
有人提出假说，因果方向应该对分类器是否易受对抗攻击也有影响。对机器学习系统的对抗攻击可以使用微小的人类不可见的扰动，改变分类器的输出。这与因果有下面几方面的联系。首先，这些对抗攻击显然是违反了统计机器学习中i.i.d.的假设，所以模型出现错误是很自然的。这也揭示了，这些分类器所具有的鲁棒性与人类的是不同的。如果这两个鲁棒性的测度都已知，就可以在最小化一个时最大化另一个来找到攻击的手段。现在的对抗学习的方法可大致归结于此，把人的鲁棒性测度建模成一个数学上简单的集合，在这个集合中找到使分类器的输出发生最大变化的样本。考虑到因果，最近有研究证实了：那么如果预测器是近似了内在的可迁移且鲁棒的因果机制，那么对抗样本应该是更难被找到的。所以结合因果，可以使机器学习模型更好的抵御对抗攻击。

=== 鲁棒性与强泛化性 ===
承接上文，我们可以大胆的假设，有自主模块构成的结构，例如因果分解(1)，对换出或者求个单个组件更加鲁棒。而鲁棒性对于策略型行为同样重要，即那些需要考虑其他参与者行为的决策。例如，一个人可以通过例如搬到富裕的街区来改变银行对其信用的评级，对于银行来说，则只有用影响信用的真正原因变量构建模型，才能保证系统的鲁棒性。因此，让我们考虑OOD(out-of-distribution)泛化的形式。设想我们又从中采样的数据，在空间(例如一个特定结构的神经网络)中训练一个预测器来最小化经验风险（10）其中（11）OOD泛化指的是，我们希望在一个不同的分布中经验风险也比较小（12）从因果的角度看可以看做特定干预的中的一个，即，是干预分布的集合。OOD风险的最差情况可表达为，（13）为了学习一个鲁棒的预测器，我们应该从一个环境子集中，求解一下优化问题（14）

=== 预训练、数据增强与自监督 ===
通过求解(14)中的最小最大问题是困难的，我们现在介绍几种机器学习中常用的技术作为近似(14)的手段。

第一种是让训练集的分布更加丰富，即可以通过在海量和多样数据中进行预训练。只有当训练分布是足够丰富已涵盖其他分布的信息时才是有效的。

第二种方法常与上一种一起使用，数据增强，即通过特定人工生成的干预生成新数据来获得更加丰富的分布。例如图像中的旋转、翻转等。

第三种是通过自监督学习来学习。自监督学习即通过一些自动生成的无需人工标注的标签，把无监督学习转化为监督学习。这样的前置任务是为了迫使模型学习的信息，这会对下游任务起到帮助。而ICM原则可以帮助发展自动构建这些前置任务的方法。

=== 强化学习 ===
强化学习是机器学习中更为接近因果研究的一个领域，它常常会直接有效的估计do-probabilities，即干预效果。例如on-policy学习就直接估计当前策略干预的do-probabilities。但当涉及off-policy学习或者离线强化学习时，与因果相关的问题就变得十分精妙。强化学习和因果结合的可以大致分为两类：一是在强化学习中解和因果发现，例如智能体可以学到环境的因果模型；二是学习利用因果模型进行规划和行动。已经有越来越多的证据表明，使用恰当的结构化表征是很用帮助的。

* '''世界模型'''

基于模型的强化学习是和因果紧密相连的，它期望学到一个环境的模型来代替与环境的交互，来解决目前强化学习的种种问题。所以利用因果推断的方法来帮助智能体学习一个更好的世界模型是很直观的想法。

* '''泛化性、鲁棒性和更快的迁移性'''

尽管强化学习已经取得了瞩目的成功，但它需要的样本量往往是现实应用中无法满足的。而且，强化学习智能体在面对一些训练时没有见过的微小的环境变化时是十分脆弱的。这在理论和实践上对这一领域的未来都是至关重要的。一种思路即为学习不同环境间的不变性。学习不变性的一个关键要求很可能是可以实施干预并从干预中学习。发展心理学认为，只有通过实验才能发现因果关系，这恰好可以建模为强化学习环境，智能体从中通过干预和观察效果来发现因果关系。另一方面，因果模型可以学到具有一系列独立因果机制的环境模型，即使有一些分布的变化，也无需全部推倒重来。当然，关于如何明确的定义与思考强化学习的泛化性，仍然有许多开放问题需要研究。

* '''反事实推理'''

反事实推理已经被证明可以提高强化学习算法的样本效率和性能。这与发展心理学是相符的，反思可以让我们推断过去行为的作用，以在未来可以根据目的选择相应的行为。所以未来强化学习的研究应该重点考虑反事实推理：智能体可以在想象空间中行动，构想假说，并用合适的干预来验证。

* '''离线强化学习'''

监督学习的成功很大程度上取决大量的标注的数据，而在强化学习中，从头收集大量高保真的多样数据在很多实际应用场景是昂贵甚至有伦理问题的。离线强化学习就致力于在已有的决策序列数据中学习，不需额外的实验或干预数据。有效利用观察数据可以使强化学习更加实用。为此，智能体需要推断与观察数据中不同的动作的效果，这实际上就是反事实推理的问题。另外，当前学习策略与收集数据策略的分布不匹配也会带来非i.i.d.的困难。所以，考虑不变形，将知识分解为独立因果机制可以对离线强化学习起到很大帮助。

=== 科学应用 ===
在自然科学中应用机器学习时的一个基本问题是：在多大程度上，我们可以通过机器学习来补充我们对物理系统的理解。一个有序的领域是用神经网络进行物理仿真，大大的提高了效率。如果实验条件是精密控制的，OOD泛化能力往往不是必须的，尽管仿真器需要在实验条件变化是重新训练。但另一方面，缺少系统性实验常常是其他应用领域的问题，例如医疗领域。如果我们想通过一系列数据建模病人的健康状况，并使用受控条件下医生的决策来训练一个诊断系统，那么在部署该系统是往往会失败。尽管在特定的决策中是有用的，但是理解抉择背后的因果机制是提供个性化和可靠的治疗建议所必须的。因果对于理解医学现象也有很多潜在的帮助，例如，新冠疫情中，在例如辛普森悖论存在的情况下，因果中介分析可以就帮助区分各种因素对于病死率的不同效果。另一个例子是宇宙学，因果模型被用来在分析工具会造成混淆的情况下分辨系外行星。

=== 多任务学习和持续学习 ===
当前的AI是狭隘的，即只能训练去在特定任务上使用。多任务学习就致力于构建可以在跨越不同环境的多个任务上工作的系统。这些任务通常拥有一些相同的特点，通过学习任务之间的相似性，系统可以在遇到新任务时高效的使用从先前任务中学到的知识。这种相似性的一种可能性，就是任务间共享的可以用因果模型建模的数据生成过程。与此同时，我们已经在不考虑因果的情况下处理多任务问题很久了，并且取得了很多成果。于是一个关键的问题提出：“为什么我们不能训练一个巨大模型来学习环境的动力学，并且包含所有可能的干预呢？毕竟如果我们训练了大量的干预且我们期望神经网络可以在他们中泛化的话，分布式表征就可以泛化到没有见过的例子中”。对此，有以下几点需要考虑。首先，如果数据不够多样，最差情形误差总是会任意的高。尽管在短期内可以通过更大的模型和数据集来通过非OOD的基准测试，因果总是提供了一个重要的补充。模型的泛化性能是和它的假设(结构及如何训练)紧密相关的，而因果提供了更明确以及符合物理和人类认知的假设，例如ICM原则。如果这些假设是有效的，使用这些假设模型理应比没有使用的要好。更进一步，如果我们有一个对特定环境的所有干预都有效的模型，我们自然想要将它运用在动力学相似大不完全相同其他环境中。因果方法恰好指出了，这样组需要将知识分解为独立可重组的机制。所以我们应该在模块化机器学习或者其他遵循ICM原则的机器学习方法上做更多的工作。独立同分布的机器学习只不过是一种数学抽象，而因果可能是大多数生命学习的根本。到目前为止，机器学习忽略了因果的整合，而实际上却可以获得诸多好处，将因果与深度学习结合很可能是通往多用途AI的必经之路。

== 总结 ==
本文讨论了描述世界的不同模型，包括因果模型和统计模型，以及这些模型在建模和数据方面的一系列假设。为努力将因果与机器学习领域相结合，文章首先介绍了因果推断的基本原理；然后讨论了独立因果机制及相关概念，例如不变性，可以为因果学习带来怎样的帮助；在此基础上，讨论因果变量已知的情况下，如何从观察及干预数据中学习因果关系；更进一步，提出了关于因果表示学习的开放问题；最后讨论了机器学习领域的问题可以如何更好的从因果的角度理解和解决。

基于本文的讨论，相信如下几个领域将会对未来的研究至关重要：

学习大规模非线性因果关系

学习因果变量

理解现存深度学习方法的归纳偏置

学习正确建模世界因果的模型和智能体

== 编辑推荐 ==

=== 集智课程推荐 ===
[https://pattern.swarma.org/study_group/4 因果科学与Causal AI读书会第二季 | 集智斑图 (swarma.org)]

因果推断与机器学习领域的结合已经吸引了越来越多来自学界业界的关注，为深入探讨、普及推广因果科学议题，智源社区携手集智俱乐部将举办第二期「因果科学与CausalAI读书会」。本期读书会着力于实操性、基础性，将带领大家精读因果科学方向两本非常受广泛认可的入门教材。

1. Pearl, Judea, Madelyn Glymour, and Nicholas P. Jewell. Causal inference in statistics: A primer. John Wiley & Sons, 2016.（本书中译版《统计因果推理入门（翻译版）》已由高等教育出版社出版）

2. Peters, Jonas, Dominik Janzing, and Bernhard Schölkopf. Elements of causal inference: foundations and learning algorithms. The MIT Press, 2017.

文件:SMS假设的样例.png

2022-07-24T14:45:27Z

我是猫：

文件:因果表征学习.png

2022-07-24T14:44:41Z

我是猫：

文件:统计模型与因果模型的差别.png

2022-07-24T14:43:36Z

我是猫：

文件:建模频谱·.png

2022-07-24T14:00:57Z

我是猫：

重随机化 Rerandomization

2022-07-23T16:39:01Z

我是猫：

== 动机来源 ==
在临床上及社会实验中，随机化（Randomization）通常被认为是衡量因果结论的“黄金标准”，因为它平均平衡了各治疗组的基准协变量（baseline covariates），得到了无偏的因果效应。然而，尽管随机化平均平衡了基准协变量，但协变量在某些情况下由于随机机会（Random Chance）仍可能不平衡，进而影响结果的有效性。虽然机会不平衡通常被认为是一种不幸的罕见现象，但实际上是很常见的。例如，仅10个独立协变量，就有40%的几率存在至少一个变量在基线时显著不同（使用α=0.05），而这还是随机情况下！为什么要让RCT方法存在这种风险化，如果基线协变量很重要的话，就应该在进行实验之前检查随机化的平衡，并去除产生不可接受平衡的分配方案。

为解决以上问题，重随机化（Rerandomization）（Morgan和Rubin，2012）提供了一种可以避免随机化时基线协变量机会不平衡的方法。重随机化的工作方式是在随机化结果不满足预先规定的平衡标准时重新进行随机，直到随即结果符合平衡标准后再开始正式治疗（Treatment）。当平衡标准是客观且事先规定的，并且各治疗组的规模相等时，重随机化可以保持总体无偏，并防止由于机会不平衡而产生的条件偏差。因此，我们既保留了随机化“黄金标准”的优势，同时避免了有害的机会失衡，Tukey（1993）把它称为“白金标准”。

== 实施方法 ==
虽然最初的目的是为了防止混淆，但通过改善协变量平衡，在结果与平衡的协变量相关时，重随机化也可以提高精确度。当然，为了利用这些精度的提高，分析也必须反映重随机化的过程，例如通过基于随机化的推理。而在分析中不考虑重随机性仍将导致“有效”结果，即可以信任显著的p值，I类错误率将不大于所述，置信区间将至少具有标称覆盖率。（The Type I error rate will no larger than as stated, and confidence intervals will have at least the nominal coverage.）然而，结果是保守的意味着如果考虑重随机化，p值可能更小，区间可能更窄。

由于长期以来随机化一直被当成是评估因果作用的金标准。在随机化试验中，每个个体被随机分配到各个处理组，因此理论上各个处理组下的协变量X的分布相似。使用各个处理组下的观察到的结局均值差异能对平均因果作用进行无偏估计。然而，随机实验的这些性质只对大量重复实验平均而言成立，在实际只做一次实验的情形下，不同处理组下的协变量的分布可能有显著差异，均值差异估计量可能离因果作用的真实值很远。举一个简单的例子，假设在某次随机化临床试验中，随机分配一些个体接受治疗或对照，但治疗组中恰巧大部分都是身体虚弱的个体，而对照组中恰巧大部分都是身体健壮的个体，这样，两组的观测结局均值受到患者身体状况这一不容忽视的混杂因素的影响。

如果协变量的个数很多，单个或多个协变量不平衡的现象就越有可能发生。即使增大样本量，单次试验的因果作用估计偏差问题也得不到解决。这是因为，虽然随着样本量n的增大，协变量以根号n的速度趋于平衡，但平均因果作用的估计量也以根号n的速度收敛，这导致协变量不平衡造成的偏差与因果作用的量级仍然处于同一尺度。

当面临不合适的随机分配时，Fisher曾建议进行再随机化。Morgan和Rubin首次对再随机化进行了正规的数学描述，其基本思路是：预先指定某种衡量协变量在不同处理组之间分布是否平衡的准则，不采纳那些协变量不平衡的随机分配，而是一直进行随机化，直到获得协变量平衡的随机分配为止。Morgan和Rubin建议使用处理组和对照组协变量均值的平方马氏距离作为准则，只接受平方马氏距离小于某个阈值的随机分配。他们还指出，通过再随机化，可以实现平均因果作用估计的方差下降。

再随机化实验的统计推断比完全随机化实验的统计推断更加复杂。有一个处理组和一个对照组并使用平方马氏距离准则进行再随机化的情形下，Morgan和Rubin建议使用Fisher随机化检验进行统计推断。由于限制了处理组和对照组之间的协变量分布，所以处理组和对照组的平均结局差异并不再服从正态分布，而是服从一个正态分布和另一个截断正态分布的线性组合。近些年来，再随机化受到了越来越多的关注，例如协变量存在不同重要梯度时的再随机化、序贯实验中的再随机化。

==编者推荐==
===集智学园课程推荐===
*[https://campus.swarma.org/course/1798 因果科学与 Causal AI 系列读书会]
图灵奖得主朱迪亚·珀尔教授认为，当下正在进行一场改变数据科学的新革命 ”因果革命“。它以科学为中心，涉及从数据到政策、可解释性、机制的泛化，再到一些社会科学中的归因和公平性问题，甚至哲学中的创造性和自由意志。本季读书会以Elements of Causal Inference一书为线索，主要展现因果科学在机器学习各个方向上的影响，包括强化学习、迁移学习、表示学习等等，并分享在工业界的部分应用成果。本季读书会梳理了因果科学的核心内容，理解它如何改变数据科学，助力 AI 系统超越曲线拟合和获得回答因果问题的能力。
*[https://campus.swarma.org/course/2460 因果科学与Causal AI读书会第二季]
因果推断与机器学习领域的结合已经吸引了越来越多来自学界业界的关注。第一季读书会主要关注了因果科学在机器学习方向上的前沿应用，为深入探讨、普及推广因果科学议题，第二季读书会着力于实操性、基础性，带领大家精读因果科学方向两本非常受广泛认可的入门教材：Causal inference in statistics: A primer和Elements of causal inference: foundations and learning algorithms。读书会以直播讨论为主，结合习题交流、夜谈、编程实践、前沿讲座等多类型内容，主要面向有机器学习背景、希望深入学习因果科学基础知识和重要模型方法、寻求解决相关研究问题的研究人员。
*[https://campus.swarma.org/course/3527 因果科学读书会第三季：因果+X]
“因果”并不是一个新概念，而是一个已经在多个学科中使用了数十年的分析技术。通过前两季的分享，我们主要梳理了因果科学在计算机领域的前沿进展。如要融会贯通，我们需要回顾数十年来在社会学、经济学、医学、生物学等多个领域中，都是使用了什么样的因果模型、以什么样的范式、解决了什么样的问题。我们还要尝试进行对比和创新，看能否以现在的眼光，用其他的模型，为这些研究提供新的解决思路。

“因果+X”就是要让因果真正地应用于我们的科学研究中，不管你是来自计算机、数理统计领域，还是社会学、经济学、管理学领域，还是医学、生物学领域，我们希望共同探究出因果研究的范式，真正解决因果的多学科应用问题，乃至解决工业界的问题。
===文章推荐===
[https://swarma.org/?p=33119 推荐系统中的因果学习：基础、估计、预测和挑战]

[https://swarma.org/?p=28539 丁鹏：多角度回顾因果推断的模型方法]

[https://swarma.org/?p=28989 一作解读DeepMind最新论文：连接图神经网络与结构因果模型丨周五直播]

[https://swarma.org/?p=34329 福利 | 因果推断会是下一个AI热潮吗？Judea Pearl《因果论》重磅上市！]

[https://mp.weixin.qq.com/s/mOdTI0gR9rsRyX4fz3mYNA 因果科学入门读什么书？Y. Bengio博士候选人的研读路径推荐]

[https://mp.weixin.qq.com/s/TtYsTyyGEX7U1ZOSl-lsPw 前沿综述：因果推断与因果性学习研究进展]

[https://mp.weixin.qq.com/s/W6PIE211TavEgg_s3adDdg 因果表征学习最新综述：连接因果科学和机器学习的桥梁]

[https://mp.weixin.qq.com/s/pRgLZFJpbgmAyI7LgOnHug 历时3个月，全球32位讲者，共同讲述因果科学与Causal AI的全景框架！]

[https://mp.weixin.qq.com/s/f-rI5W6tc6qOzthbzK4oAw 崔鹏：稳定学习——挖掘因果推理和机器学习的共同基础]

[https://mp.weixin.qq.com/s/l-05jRYabGI-JoXedU-PLA 因果科学：连接统计学、机器学习与自动推理的新兴交叉领域]

[https://mp.weixin.qq.com/s/ZOUeF_HEFneYVi2BPe8LFg 因果观念新革命？万字长文，解读复杂系统背后的暗因果]

[https://mp.weixin.qq.com/s/dVxgHcQAz_VjT-HDa2fXgg 周晓华：因果推断的数学基础和在医学中的应用]
===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。
*[https://pattern.swarma.org/path?id=114 因果纠缠集智年会——因果推荐系统分论坛]关于因果推荐系统的参考文献和主要嘉宾介绍，来源是集智俱乐部的因果纠缠年会。

Morgan, K. L., & Rubin, D. B. (2012). Rerandomization to improve covariate balance in experiments. The Annals of Statistics, 40(2), 1263-1282.

倾向评分

2022-07-23T16:32:38Z

我是猫：

== 定义 ==
记X为协变量，W为处理变量，倾向得分（Propensity score）定义为

<math>e(x)=P(W=1|X=x)</math>

 

== 性质 ==
给定倾向得分e(X)的值，协变量分布在处理组和对照组间是平衡的，即倾向得分是平衡得分：

<math>X \perp W|e(X)</math>

记Y(w)为处理w对应的潜在结果，Y为观测到的结局，那么在无混淆性假设<math>W \perp (Y(1),Y(0))|X</math>下，有

<math>W \perp (Y(1),Y(0))|e(X)</math>

因此，只要给定了倾向得分，[[潜在结果]]就和处理变量独立。为了估计平均因果作用，不需要控制所有的协变量，而只需要控制倾向得分。

== 倾向得分的估计 ==
最常见的倾向得分估计方法是逻辑斯谛回归，

<math>e(x) =\frac{exp(X\beta )}{1+exp(X\beta )}</math>

可由广义线性模型估出。此外，可利用非参数估计，如核估计、局部线性回归。

在用[[逆概率加权]]方法估计平均因果作用时，利用了倾向得分的平衡得分性质。因此，逆概率加权估计的准确性主要受制于倾向得分能否很好地平衡协变量，而倾向得分本身估计的准确性并不会对平均因果作用估计的准确性造成直接影响。为了检验倾向得分是否能较好地平衡协变量，可以按照倾向得分的估计值对样本分成k层（0=b_0<b_1<⋯<b_k=1），检验每一层内处理组和对照组的协变量分布是否平衡，或检验在每一层内

<math>E\left [ W|X, b_{j-1} < \hat{e(X)} \leq b_{j}\right ]=E\left [ W| b_{j-1} < \hat{e(X)} \leq b_{j}\right ]</math>

亦即检验每一层内W对X回归系数为0。

在有限样本特别是低维协变量的情形中，为了达到倾向得分的平衡得分性质，可通过求解

<math>\sum_{i=1}^{n}\frac{W_{I}}{e(X_{i})}X_{i}=\sum_{i=1}^{n}X_{i}</math>

从而估计倾向得分。

== 利用倾向得分估计平均因果作用 ==

=== ——逆概率加权估计 ===
在无混淆性假设下，平均因果作用的逆概率加权（Inverse probability weighting）利用了倾向得分：

<math>E\left [ Y(1)-Y(0) \right ]=E\left [ \frac{WY}{e(X)} \right ]-E\left [ \frac{1-WY}{1-e(X)} \right ]</math>

为了保证上式良定义，需要倾向得分满足<math>0<e(X)<1</math>。否则，需要截断（Trimming），只保留倾向得分远离0或1的样本，但由于截断后估计平均因果作用时只使用了一部分样本，因此截断后的估计并不是真正的因果作用。如果有n个样本，并且有倾向得分的估计<math>\hat{e(x)}</math>，平均因果作用的逆概率加权估计量可由

<math>\sum_{i=1}^{n}\left [ \frac{W_{i}Y_{i}}{\hat{e(X_{i})}}-\frac{(1-W_{i})Y_{i}}{1-\hat{e(X_{i})}} \right ]</math>

给出。

类似地，处理组上的平均因果作用

<math>E[Y(1)-Y(0)|W=1]=E[WY]-E\left [ e(X)\frac{(1-W)Y}{1-e(X)} \right ]</math>

对照组上的平均因果作用

<math>E[Y(1)-Y(0)|W=1]=E\left [(1-e(X))\frac{WY}{e(X)} \right ]-E[(1-W)Y)]</math>

=== ——子分类估计 ===
子分类（Subclassification）估计按照倾向得分分层，在每一层内估计平均因果作用

<math>\hat{\tau _{j}}=\frac{\sum_{i=1}^{n}W_{i}Y_{i}1\left \{b_{j-1}<\hat{e(X_{i})}\leq b_{j} \right \}}{\sum_{i=1}^{n}W_{i}1\left \{b_{j-1}<\hat{e(X_{i})}\leq b_{j} \right \}}-\frac{\sum_{i=1}^{n}(1-W_{i})Y_{i}1\left \{b_{j-1}<\hat{e(X_{i})}\leq b_{j} \right \}}{\sum_{i=1}^{n}(1-W_{i})1\left \{b_{j-1}<\hat{e(X_{i})}\leq b_{j} \right \}}</math>

记

<math>n_{j}=\sum_{i=1}^{n}1\left \{b_{j-1}<\hat{e(X_{i})}\leq b_{j} \right \}</math>

于是平均因果作用的子分配估计为

<math>\hat\tau _{j}=\sum_{j=1}^{k}\frac{\hat{n_{j}}}{n}\tau _{j}</math>

可以看出，子分类估计实际上在每一层内使用了常数的倾向得分

<math>\hat{e(x)}=\frac{\sum_{i=1}^{n}W_{i}1\left \{b_{j-1}<\hat{e(X_{i})}\leq b_{j} \right \}}{\sum_{i=1}^{n}1\left \{b_{j-1}<\hat{e(X_{i})}\leq b_{j} \right \}}</math>

常数化的倾向得分能在一定程度上抵抗倾向得分模型设定错误所导致的偏倚，通常子分类估计比逆概率加权估计更稳健

== 编辑推荐 ==

=== 书籍推荐 ===

* [[统计因果推理入门]] 对应英文[[Causal Inference in Statistics: A Primer]]

关于因果的讨论很多，但是许多入门的教材只是为没有统计学基础的读者介绍如何使用统计学技术处理因果性问题，而没有讨论因果模型和因果参数，本书希望协助具有基础统计学知识的教师和学生应对几乎在所有自然科学和社会科学非试验研究中存在的因果性问题。本书聚焦于用简单和自然的方法定义因果参数，并且说明在观察研究中，哪些假设对于估计参数是必要的。我们也证明这些假设可以用显而易见的数学形式描述出来，也可以用简单的数学工具将这些假设转化为量化的因果关系，如治疗效果和政策干预，以确定其可检测的内在关系。

* [[Counterfactuals and causal inference|Counterfactuals and Causal Inference: Methods and Principles for Social Research]]

=== 课程推荐 ===

* [https://campus.swarma.org/course/2526 两套因果框架深度剖析：潜在结果模型与结构因果模型]

:: 这个视频内容来自[https://wiki.swarma.org/index.php/%E9%9B%86%E6%99%BA%E4%BF%B1%E4%B9%90%E9%83%A8%E8%AF%BB%E4%B9%A6%E4%BC%9A 集智俱乐部读书会]-因果科学与Causal AI读书会第二季内容的分享，由英国剑桥大学及其学习组博士陆超超详细的阐述了潜在结果模型和结果因果模型，并介绍了两个框架的相互转化规律。
:: 1. 讲述因果推断的两大框架：潜在结果模型和结构因果模型，讨论他们各自的优缺点以及他们之间的联系，详细介绍他们之间的转化规律。

* [https://www.youtube.com/watch?v=cqkIxuXONGI 倾向性匹配得分分析（PSM）的原理醫學統計學從入門到精通【共28節】 - YouTube]26
*:: Youtube搬运的分享视频，介绍了在医学统计学中应用PSM的原理。

* Average Effect of Treatment on the Treated (ATT) 实验组的平均干预效应/匹配方法

:: B站搬运的杜克大学社会科学研究中心的分享视频，介绍了在使用匹配方法时会涉及到的ATT、CATE、ATE的方法。

=== 文章总结 ===

* [https://swarma.org/?p=22045 《因果科学周刊》第2期：如何解决混淆偏差？]
* [https://swarma.org/?p=21396 如何在观测数据下进行因果效应评估]

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

工具变量

2022-07-23T16:29:21Z

我是猫：

工具变量是与[[do演算]]不同的联系干预层和观测层的一种方法，它通过在观测层模拟随机控制试验来得到干预层的信息，从而实现因果效应估计，它在计量经济学、流行病学中被普遍应用。尽管do演算能够计算出所有可识别的因果效应，但是对于不可识别的情况，do演算无法把干预层表达式变形为观测层表达式。此时，如果满足一定条件，工具变量也许可以发挥作用<ref>https://cosx.org/2013/08/causality6-instrumental-variable</ref><ref>苗旺，刘春辰，耿直 (2018) 因果作用与因果网络. 中国科学-数学, 48, 1753-1778.</ref>。

"它能帮助我们揭示[[do演算]]无法揭示的因果信息"。<ref name=":0">Pearl, Judea, and Dana Mackenzie. ''The book of why: the new science of cause and effect''. Basic books, 2018.</ref>——[[Judea Pearl]]

"虽然关于工具变量集得识别问题超越了do演算的应用范畴，但我们仍然可以借助因果图来解决这个问题"。<ref name=":0" />——[[Judea Pearl]]

== 工具变量概念 ==
[[文件:工具变量图示.png|缩略图|IV是工具变量，T是干预变量，Y是结果变量，U是混杂因子]]

=== 工具变量假定 ===
如图所示，当我们在研究干预变量（治疗变量）对于结果变量的影响时，如果干预变量和结果变量存在不可观测的共同原因，那么干预变量对于结果变量的因果效应是不可识别的。此时，可以通过随机对照实验去混杂，可以引入干预变量和结果变量之间可观测的中介变量去混杂，当满足下列条件时，也可以通过其他变量（工具变量）去混杂：

==== 假设1：相关性（Relevance） ====
存在工具变量指向干预变量的因果箭头

==== 假设2：排除限制（Exclusion Restriction） ====
工具变量对于结果变量的因果效应完全以治疗变量为中介

==== 假设3：工具变量无混杂（Instrumental Unconfoundedness） ====
工具变量与混杂因子之间不存在因果箭头

通常还会有因果机制线性或单调性假设。

== 应用案例 ==
1853-1854年，英格兰爆发了霍乱疫情。霍乱是一种由霍乱细菌引起，主要通过水源传播的疾病，但是当时，人们此一无所知，一种具有竞争力的观点认为霍乱是由某种不可观测的“瘴气”引起该疾病，而且“瘴气”会污染水源。John Snow研究的是水源对于霍乱的影响，“瘴气”是混杂因子，供水公司是工具变量，但他并非有意识的使用工具变量。

1928年，遗传学家Sewall Green Wright的父亲经济学家Philippe Wright写的论文讨论亚麻籽油供给的弹性问题，即研究供应对价格的影响和价格对供应的影响，需求是混淆因子，他引入了亚麻籽每英亩的可变产量作为工具变量。

在临床试验的未履行问题（noncompliance）中，消胆胺服用是干预变量，胆固醇水平是结果变量，药物分配是工具变量，混杂因子可能是身体状况等。

孟德尔随机化是工具变量的另一种衍生版本。

== 代码实现 ==
DAGitty：www.dagitty.net/dags.html

BayesiaLab：www.bayesia.com

== 参考文献 ==
<references />

== 编辑推荐 ==

=== 课程推荐 ===

* [https://pattern.swarma.org/study_group_issue/176 基于工具变量的因果推断和因果可泛化学习 | 周日直播·因果科学读书会 | 集智俱乐部 (swarma.org)]

这个视频内容来自集智俱乐部读书会-因果科学与Causal AI读书会第三季内容的分享，本次读书会邀请到浙江大学况琨老师、吴安鹏和袁俊坤两位博士生从工具变量的视角，介绍如何利用机器学习赋能大数据因果推断。报告将从因果推断的工具变量视角出发，探讨领域泛化问题中存在的偏差问题，并提出因果可泛化学习机制。

第一部分将从解耦表征学习的角度出发，将观察性研究中涉及的协变量区分为工具变量、混淆变量、调整变量三部分。报告将探讨在非混淆性假设不成立时，如何从观察性数据中基于一定先验假设进行简单工具变量识别的方法。最后我们给出了一种结合混淆平衡方法和工具变量方法的最新研究，能够同时消除观察到的混淆变量和观察不到的隐变量带来的混淆偏倚。

第二部分将从因果的角度探讨领域泛化问题，引入工具变量的思路解决领域泛化中关键性的域不变关系学习问题，从多个源域中学习出稳定的因果关系，提升模型在未知数据域上的泛化表现。

=== 相关路径 ===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

中介分析

2022-07-23T16:24:56Z

我是猫：

{{#seo:
|keywords=中介分析,因果科学,统计学
|description=中介分析,因果科学,统计学
}}

在统计学中，中介模型试图通过引入第三个假设变量，即中介变量(也称为中介变量、中介变量或中介变量)，来识别和解释自变量与因变量之间观察到的关系的基础机制或过程。与自变量和因变量之间的直接因果关系不同，中介模型所描绘的图景是自变量通过影响中介变量（不可观测）进而影响因变量。因此，中介变量的作用是澄清自变量和因变量之间关系的本质。<ref>MacKinnon, D. P. (2008). ''Introduction to Statistical Mediation Analysis''. New York: Erlbaum.</ref><references group="MacKinnon, D. P. (2008). Introduction to Statistical Mediation Analysis. New York: Erlbaum." />

Baron and Kenny（1986）<ref name=":0">Baron RM, Kenny DA. The moderator-mediator variable distinction in social psychological research: conceptual, strategic, and statistical considerations. J Pers Soc Psychol. 1986 Dec;51(6):1173-82. doi: 10.1037//0022-3514.51.6.1173. PMID: 3806354.</ref>提出的中介效应(mediation)框架（简称BK框架）在社会心理和消费者行为等诸多社会科学研究中产生了十分深远的影响。

基于回归的分析的传统 BK 框架存在一些局限性。例如，Zhao et al.（2010）<ref>Zhao X, Lynch Jr J G, Chen Q. Reconsidering Baron and Kenny: Myths and truths about mediation analysis[J]. Journal of consumer research, 2010, 37(2): 197-206.</ref>指出了BK框架存在的三点问题：

* 第一，直接效应的缺失不应成为评价中介效应强度的标准；
* 第二，寻找中介效应无需以X对Y存在显著的净效应为前提；
* 第三，Sobel z检验的效力并不强，存在改进方式。

近年来，基于现代因果模型的因果中介分析框架缓解了部分问题，成为了中介分析研究热点。

==BK 框架下的中介效应分析==
Baron and Kenny (1986) <ref name=":0" />提出了形成一个真正的中介关系必须满足的几个条件如下：

1）让因变量对自变量进行回归，以确认自变量是因变量的显著预测因子，即
<math>Y=\beta _{{10}}+\beta _{{11}}X+\varepsilon _{1}</math>
的回归系数<math>β_{11}</math> 是显著的。

2）让中介变量对自变量进行回归，确认自变量是中介变量的显著预测因子，即
<math>Me=\beta _{{20}}+\beta _{{21}}X+\varepsilon _{2}</math>
的回归系数 <math>\beta_{21}</math>是显著的。如果中介变量与自变量没有关联，那么它就不可能中介任何事物。

3）让因变量对中介和自变量同时进行回归，即
<math>Y=\beta _{{30}}+\beta _{{31}}X+\beta _{{32}}Me+\varepsilon _{3}</math>
的回归系数 <math>\beta_{32}是显著的，并且 \beta_{31}</math>的绝对值应该小于自变量的效应 <math>\beta_{11}</math>。从而确保了中介变量是因变量的重要预测因子，并且使得相对于第一步，自变量对结果的解释性降低。

中介变量可以解释两个变量之间观察到的全部或部分关系，如果中介变量的加入使自变量和因变量之间的相关性降为零，则中介的证据最大，也称为完全中介(full mediation)。而部分中介(partial mediation)是指不仅中介变量与因变量之间存在显著的关系，而且自变量与因变量之间也存在某种直接的关系。

我们采用Sobel’s test<ref>''Jump up to: '''a''''' '''''b''''' Sobel, M. E. (1982). "Asymptotic confidence intervals for indirect effects in structural equation models". ''Sociological Methodology''. '''13''': 290–312. ''doi'':''10.2307/270723''. ''JSTOR'' ''270723''.</ref>来检验中介变量加入后自变量与因变量之间的关系是否显著降低，从而评估中介效应是否显著。然而，这种方式的统计效力（Power）很低。因此，为了有足够的效力检测显著性影响，需要大的样本量。这是因为Sobel检验的关键假设是正态性假设。因为Sobel检验是根据正态分布来评估给定样本的，所以样本规模小和抽样分布的偏态可能会有问题(详见正态分布)。因此，MacKinnon et al .,(2002)<ref>MacKinnon, D. P.; Lockwood, C. M.; Lockwood, J. M.; West, S. G.; Sheets, V. (2002). ''"A comparison of methods to test mediation and other intervening variable effects"''. ''Psychological Methods''. '''7''' (1): 83–104. ''doi'':''10.1037/1082-989x.7.1.83''. ''PMC'' ''2819363''. ''PMID'' ''11928892''.</ref>所建议的经验法是，检测较小的效应需要1000个样本，检测中等效应需要100个样本，检测较大效应需要50个样本。基于自助法的检验能减少对样本量的依赖，见 Preacher and Hayes(2004)<ref>Preacher, K.J., Hayes, A.F. SPSS and SAS procedures for estimating indirect effects in simple mediation models. ''Behavior Research Methods, Instruments, & Computers'' 36, 717–731 (2004). <nowiki>https://doi.org/10.3758/BF03206553</nowiki></ref>。

==因果中介分析==
===固定（fixing）与条件化（conditioning）===

中介分析量化了变量参与从原因到其结果的变化传递的程度。它本质上是一个因果概念，因此不能用统计术语来定义。然而，传统上，大量的中介分析是在线性回归的范畴内进行的。统计术语掩盖了所涉及关系的因果特征，这导致了一些困难、偏差（biases）和局限性（limitations）。而基于因果图(causal diagrams)和反事实逻辑的现代因果分析方法缓解了这些困难、偏见和限制。

这些困难的根源在于，在方法上，根据在回归方程中添加第三个变量所引起的变化来定义中介。虽然这种统计上的变化是伴随中介效应而来的附带现象。但这样的做法未能充分捕捉到中介分析的本质，即量化因果关系。

因果方法的基本前提是，当我们试图估计自变量X对因变量 <math>Y </math> 的直接影响时，并不总是适合对中介<math> M </math> 进行“控制”(见上图)。对M进行“控制”的经典理论是，如果我们成功地阻止了<math> M </math> 的变化，那么我们在<math>Y </math> 中测量的任何变化都只能归因于X的变化，然后我们就有理由宣布观察到的效果是“<math>X </math> 对<math>Y </math> 的直接影响”。不幸的是，“控制<math> M </math>”并不能从物理上阻止<math> M </math>的改变；它只是把分析者的注意力集中在相等 <math> M </math> 值的情况下。而且，概率论的语言没有表示“阻止<math> M </math>改变”或“物理上保持<math> M </math>不变”的符号。唯一的运算是“以…为条件”（conditioning)，这是当我们“控制” <math>M </math> 时所做的。或者为<math> Y </math> 的方程添加 <math>M </math> 作为其中的一个回归变量。结果是，与在物理上保持 <math>M </math> 不变（例如<math> M = m </math> ）并将 <math>X = 1 </math> 下 <math>Y </math> 的单位与<math> X = 0 </math> 下 <math> Y </math> 的单位进行比较的方法不同，我们允许 <math>M </math>变化但忽略所有使得 <math>M = m </math> 的其他单位。这两个操作除了没有遗漏变量的情况，本质上是不同的，产生不同的结果<ref>Robins, J.M.; Greenland, S. (1992). "Identifiability and exchangeability for direct and indirect effects". ''Epidemiology''. '''3''' (2): 143–155. ''doi'':''10.1097/00001648-199203000-00013''. ''PMID'' ''1576220''.</ref><ref name=":1">''Jump up to: '''a''''' '''''b''''' Pearl, Judea (1994). Lopez de Mantaras, R.; Poole, D. (eds.). "A probabilistic calculus of actions". ''Uncertainty in Artificial Intelligence 10''. San Mateo, CA: ''Morgan Kaufmann''. '''1302''': 454–462. ''arXiv'':''1302.6835''. ''Bibcode'':''2013arXiv1302.6835P''.</ref>

举例来说，假设 <math> M </math> 和 <math> Y </math> 的误差项是相关的。在这种情况下，通过对 <math>Y </math> 在 <math>X </math> 和 <math>M </math> 上进行回归，就无法对结构系数 <math> B </math> 和 <math>A </math> (在 <math>M </math> 和 <math>Y </math> 之间，在 <math>Y </math> 和 <math>X </math> 之间) 进行估计。事实上，即使当 <math>C </math> 等于 0 的时候，回归斜率也可能不等于 0 。这有两种后果。首先必须设计新的策略来估计结构系数 <math>A </math> 、 <math>B </math> 和 <math>C </math> 。其次，直接和间接效应的基本定义必须超越回归分析，并且应该采用类似于“固定M”的操作，而不是“在 <math> M </math> 的条件下”的操作。
===数学定义===

[[Judea Pearl|Pearl]](1994)<ref name=":1" />中定义了这样一个运算符 <math>do(M = m)</math>，它的作用是去除<math> M </math> 的方程，代之以一个常数<math> m </math> 。例如，如果基本中介模型由以下方程组成:
<math> {\displaystyle X=f(\varepsilon _{1}),M=g(X,\varepsilon _{2}),Y=h(X,M,\varepsilon _{3}),}</math>
那么应用了<math>do(M = m)</math>运算的模型将会变为：
<math>{\displaystyle X=f(\varepsilon _{1}),M=m,Y=h(X,m,\varepsilon _{3})}</math>
同时，应用了<math>do(X = x)</math>运算的模型会变为：
<math>{\displaystyle X=x,M=g(x,\varepsilon _{2}),Y=h(x,M,\varepsilon _{3})}</math>
其中函数 f 和 g 以及误差项 <math> ε1 </math> 和 <math> ε3 </math> 的分布保持不变。如果我们进一步将 <math>do(X = x)</math>得到的变量 <math>M</math> 和 <math>Y</math> 分别重新命名为 <math>M(x)</math>和 <math>Y(x)</math> ，我们得到了所谓的“[[潜在结果]](potential outcome)”<ref>Rubin, D.B. (1974). ''"Estimating causal effects of treatments in randomized and nonrandomized studies"''. ''Journal of Educational Psychology''. '''66''' (5): 688–701. ''doi'':''10.1037/h0037350''.</ref>或“结构[[反事实]](structural counterfactuals)”<ref>Balke, A.; Pearl, J. (1995). Besnard, P.; Hanks, S. (eds.). "Counterfactuals and Policy Analysis in Structural Models". ''Uncertainty in Artificial Intelligence 11''. San Francisco, CA: ''Morgan Kaufmann''. '''1302''': 11–18. ''arXiv'':''1302.4929''. ''Bibcode'':''2013arXiv1302.4929B''.</ref>

这些新变量为定义直接和间接效应提供了便利的描述符号。具体来说，定义了从 <math>X = 0</math> 到 <math>X = 1</math>变化的四种效应:

'''(a) 总体效应 –'''
<math>TE=E[Y(1)-Y(0)]</math>

'''(b) 受控直接效应 -'''
<math>CDE(m)=E[Y(1,m)-Y(0,m)]</math>

'''(c) 自然直接效应 -'''
<math>NDE=E[Y(1,M(0))-Y(0,M(0))]</math>

'''(d) 自然间接效应'''
<math>NIE = E [Y(0,M(1)) - Y(0,M(0))] </math>

其中 <math>E[\cdot ]</math> 表示对误差项的期望，这些效应有如下一些解释：
- <math>TE</math> 表示的 <math>X</math>对 <math>Y</math>的总体因果效应。
- <math>CDE</math> 表示在某个条件 <math>M=m</math>下，<math>X</math>对 <math>Y</math>的因果效应。
- <math>NDE</math> 表示 <math>X</math>对 <math>Y</math>的直接产生的因果效应。
- <math>NIE</math>表示 <math>X</math>对 <math>Y</math>的通过中介变量 <math>M</math>产生的因果效应。
- 对于解释 <math>X</math>和 <math>Y</math>之间的效应，两个效应的差<math>TE-NDE</math> 度量的是中介变量在何种程度上是必要的。而 <math>NIE</math> 度量的是引入中介变量在充分性。
间接效应的受控版本并不存在，因为没有办法通过将一个变量固定到一个常量来屏蔽直接效应。
根据这些定义，总体效应可以如下分解
<math>TE=NDE-NIE_{r}</math>
其中 <math>NIE_r</math>表示在 <math>NIE</math> 的定义中进行 <math>X = 1</math> 到 <math>X = 0</math>的反向转换；线性系统中总体效应等于直接效应与间接效应之和，即负的反转间接效应等于间接效应 <math>-NIE_r = NIE</math>。这些定义的力量在于它们的普适性；它们适用于具有任意非线性相互作用，任意干扰之间的依赖关系，以及连续变量和离散变量的模型。

===中介效应公式===

在线性分析中，所有的效应由结构系数的乘积决定，给出
<math>{\displaystyle {\begin{aligned}TE&=C+AB\\CDE(m)&=NDE=C,{\text{ independent of }}m\\NIE&=AB.\end{aligned}}}</math>
因此，当模型被识别时，所有的效应都是可估计的。在非线性系统中，估计直接和间接效应需要更严格的条件，如不存在混杂因子(即 <math>ε_1、ε_2、ε_3</math> 相互独立)，可推导出如下公式
<math>{\displaystyle {\begin{aligned}TE&=E(Y\mid X=1)-E(Y\mid X=0)\\CDE(m)&=E(Y\mid X=1,M=m)-E(Y\mid X=0,M=m)\\NDE&=\sum _{m}[E(Y|X=1,M=m)-E(Y\mid X=0,M=m)]P(M=m\mid X=0)\\NIE&=\sum _{m}[P(M=m\mid X=1)-P(M=m\mid X=0)]E(Y\mid X=0,M=m).\end{aligned}}}</math>
后两个方程被称为中介公式<ref>''Jump up to: '''a''''' '''''b''''' Pearl, Judea (2009). ''"Causal inference in statistics: An overview"'' (PDF). ''Statistics Surveys''. '''3''': 96–146. ''doi'':''10.1214/09-ss057''.</ref><ref>''Jump up to: '''a''''' '''''b''''' Vansteelandt, Stijn; Bekaert, Maarten; Lange, Theis (2012). "Imputation strategies for the estimation of natural direct and indirect effects". ''Epidemiologic Methods''. '''1''' (1, Article 7). ''doi'':''10.1515/2161-962X.1014''.</ref><ref>''Jump up to: '''a''''' '''''b''''' Albert, Jeffrey (2012). ''"Distribution-Free Mediation Analysis for Nonlinear Models with Confounding"''. ''Epidemiology''. '''23''' (6): 879–888. ''doi'':''10.1097/ede.0b013e31826c2bb9''. ''PMC'' ''3773310''. ''PMID'' ''23007042''.</ref>

已成为许多中介研究的估计对象。他们给出了直接和间接效应的无分布假设(distribution-free)表达式，并证明，尽管误差分布和函数<math> f</math>, <math>g</math>, <math>h</math> 的性质难以确定，中介效应仍然可以通过使用回归方法利用数据来估计。调节中介和中介调节的分析属于因果中介分析的特例。中介公式确定了各种相互作用系数如何贡献于中介的必要和充分成分。

===简单案例===
假设模型采用这种形式
<math>{\displaystyle {\begin{aligned}X&=\varepsilon _{1}\\M&=b_{0}+b_{1}X+\varepsilon _{2}\\Y&=c_{0}+c_{1}X+c_{2}M+c_{3}XM+\varepsilon _{3}\end{aligned}}}</math>
其中，参数 <math>c_{3}</math> 量化了 M 对 X 对 Y 的影响的修正程度。即使所有参数都是从数据中估计出来的，仍然不清楚是哪些参数组合度量了 X 对 Y 的直接和间接影响，或者，更实际的是，如何评估由中介解释的总体效应 TE 的比例以及应归功于中介效应的 TE 的比例。在线性分析中，前者被 <math>b_{1}c_{2}/TE</math>所捕获，后者被差值 <math>(TE-c_{1})/TE</math> 所捕获，并且这两个量重合。然而，在存在交互的情况下，每个部分都需要单独的分析。如中介公式所规定的那样，其结果是:
<math>{\begin{aligned}NDE&=c_{1}+b_{0}c_{3}\\NIE&=b_{1}c_{2}\\TE&=c_{1}+b_{0}c_{3}+b_{1}(c_{2}+c_{3})\\&=NDE+NIE+b_{1}c_{3}.\end{aligned}}</math>
因此，对于中介变量来说足够输出的部分是
<math>{\displaystyle {\frac {NIE}{TE}}={\frac {b_{1}c_{2}}{c_{1}+b_{0}c_{3}+b_{1}(c_{2}+c_{3})}},}</math>

而需要中介的部分是
<math>{\displaystyle 1-{\frac {NDE}{TE}}={\frac {b_{1}(c_{2}+c_{3})}{c_{1}+b_{0}c_{3}+b_{1}(c_{2}+c_{3})}}.}</math>

这些分数涉及模型参数的微妙的组合，并且可以在中介公式的帮助下机械地构造。值得注意的是，由于交互作用，即使参数 <math>c_{1}</math> 为 0，直接效应也可以存在。而且，即使直接和间接效应都为 0，总效应也可以存在。这说明孤立地估计参数几乎无法告诉我们中介的效果。更一般地说，中介和调节是交织在一起的，不能分开评估。

==参考文献==
<references />

==其他推荐论文和资料 ==

* ''[http://www.psychwiki.com/wiki/Mediation Summary of mediation methods at PsychWiki]''

* ''[http://methodology.psu.edu/ra/causal/example Example of Causal Mediation Using Propensity Scores]'' The Methodology Center, Penn State University

* ''[http://www.afhayes.com/introduction-to-mediation-moderation-and-conditional-process-analysis.html Book on moderation and mediation analysis, including an introduction to the PROCESS macro for SPSS and SAS]'' Andrew F. Hayes, Ohio State University

* ''[http://wexler.free.fr/library/files/tolman (1938) the determiners of behavior at a choice-point.pdf Online text of "The Determiner of Behavior at a Choice Point"]''

* Kenneth MacCorquodale and ''Paul E. Meehl'' (1948) ''[http://psychclassics.yorku.ca/MacMeehl/hypcon-intvar.htm ON A DISTINCTION BETWEEN HYPOTHETICAL CONSTRUCTS AND INTERVENING VARIABLES]'' ''Classics in the History of Psychology'', retr. 22 Aug 2011.

== 编者推荐==

===书籍推荐===

[[File:统计因果推理入门.jpg|200px|thumb|right|《统计因果推理入门》封面]]

*[[统计因果推理入门]] 对应英文[[Causal Inference in Statistics: A Primer]]

这本书非常适合初学者入门因果科学，这里面涉及到对结构因果模型的详细定义和阐述，非常清晰易懂。

===课程推荐===
*[https://campus.swarma.org/course/2008 中介分析和路径因果效应（上）| 因果科学与Causal AI读书会第 4 期]

::这个视频内容来自[[集智俱乐部读书会]]-因果科学与Causal AI读书会第一季内容的分享，主题是“中介分析和路径因果效应”，由ThoughtWorks高级咨询师兼东南亚市场技术总监徐培以及辅仁大学心理系在读硕士原显智来进行分享。分享的主题分别是可识别性问题以及在中介效应中的可识别性问题。

*[https://campus.swarma.org/course/2013 中介分析和路径因果效应（下）| 因果科学与Causal AI读书会第 5 期]
::这个视频内容来自[[集智俱乐部读书会]]-因果科学与Causal AI读书会第一季内容的分享，这主题是“中介分析和路径因果效应(论文解读)”，由毕业于北京大学数学学院陆怡舟以及北京大学数学科学学院在读博士胡文杰来进行分享。分别探讨了关于路径效应中的半参数估计方法和基于干预方法的中介分析。

=== 文章总结 ===

*[https://blog.csdn.net/arlionn/article/details/103853712?utm_medium=distribute.pc_feed_404.none-task-blog-2~default~OPENSEARCH~default-7.nonecase&depth_1-utm_source=distribute.pc_feed_404.none-task-blog-2~default~OPENSEARCH~default-7.nonecas Stata+R: 一文读懂中介效应分析]

北京师范大学的莎莎同学分享在CSDN上的一篇文章，金额充好了如何用中介效应进行分析。

[https://mp.weixin.qq.com/s/l-05jRYabGI-JoXedU-PLA 因果科学：连接统计学、机器学习与自动推理的新兴交叉领域]

[https://mp.weixin.qq.com/s/ZOUeF_HEFneYVi2BPe8LFg 因果观念新革命？万字长文，解读复杂系统背后的暗因果]

[https://mp.weixin.qq.com/s/dVxgHcQAz_VjT-HDa2fXgg 周晓华：因果推断的数学基础和在医学中的应用]

=== 相关路径 ===
* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。
* [https://pattern.swarma.org/path?id=28 复杂网络动力学系统重构文献]，这个路径是张江老师梳理了网络动力学重构问题，描述了动力学建模的常用方法和模型，并介绍了一些经典且重要的论文，这也是复杂系统自动建模读书会的主要论文来源，所以大部分都有解读视频。
* [https://pattern.swarma.org/path?id=114 因果纠缠集智年会——因果推荐系统分论坛]关于因果推荐系统的参考文献和主要嘉宾介绍，来源是集智俱乐部的因果纠缠年会。

----
本中文词条由[[用户: 徐培|徐培]]用户参与编译，[[用户:龚鹤扬|龚鹤扬]]参与审校，[[用户:思无涯咿呀咿呀|思无涯咿呀咿呀]]编辑，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

潜在结果

2022-07-23T16:20:20Z

我是猫：

'''潜在结果'''最初由Jerzy Neyman提出，但Neyman只在随机试验的背景下讨论了潜在结果，后来[[Donald Rubin]]将潜在结果拓展到观察性研究中。

== 概念来源 ==
“潜在(potential)”这个词表达的意思是我们并不总是能在现实中观察到这个结果(outcome)，但原则上它们可能发生。潜在结果是指给定一个单元和一系列动作，我们把一个“动作-单元”确定为一个潜在结果。潜在结果最初的提出是在Neyman的论文中，但是这篇文章只在随机对照试验中使用了潜在结果的概念，且直到1990年翻译成英文后才为人所知。[[Donald Rubin]]在他1974年的论文中也提出了潜在结果的概念，并将这个概念推广到了观察性数据中，真正开启了统计学界对因果推断的广泛研究。

'''何为潜在结果？又如何基于潜在结果定义因果？'''

假设我们关心某个变量A（例如，在某个时间点是否服用阿莫西林，A=1是服用，A=0是没有服用）对Y（服用后三小时的是否还感冒，Y=1表示感冒，Y=0表示没有感冒）的因果关系。那么我们观察到的某个个体就存在两个“潜在”的状态：一个是如果他服药，他三小时后是否感冒，不妨记作Y(1)；另一个如果他没有服药，他三小时后是否感冒，不妨记作Y(0)。这里Y(1)和Y(0)就是潜在结果。（注意，在实际中，Y(1)和Y(0)这二者中只有一个可以被观察到。另外，严格地说，此处实际上做了“个体处理稳定性”即SUTVA的假设那么对这个人，就可能有以下四种情况：

a) Y(0)=0, Y(1)=0。即不论吃不吃药，这个人在三小时后均不会感冒。

b) Y(0)=1, Y(1)=1。即不论吃不吃药，这个人在三小时后均会感冒。

c) Y(0)=1, Y(1)=0。即此人如果不吃药，三小时后会感冒，但是如果吃药，三小时后不会感冒。

d) Y(0)=0, Y(1)=1。即此人如果不吃药，三小时后不会感冒，但是如果吃药，三小时后会感冒。

在a和b两种情况下，Y(1)=Y(0)，即吃不吃药不会影响三小时后是否感冒的状态，这种情况下我们说吃药对三小时后是否感冒没有因果作用，相反，在c和d两种情况下，Y(1)≠Y(0)，这种情况下我们说吃药对三小时后是否感冒有因果作用。使用潜在结果，我们便可以方便地定义感兴趣的因果作用，例如平均因果效应E[Y(1)-Y(0)]，这个量代表了在一个群体中，如果每一个人都采取某种处理和都不接受处理相比，这两种情况下平均意义上的结果差值。

使用潜在结果我们或许可以理解为什么人们不会认为“太阳升起是因为鸡打鸣”，因为根据我们的常识，如果某天鸡不打鸣（或许是因为生病或劳累），太阳仍然会照常升起。

'''从分析潜在结果出发，也诞生了潜在结果框架，有时也称为[[鲁宾因果框架]]Rubin Causal Model (RCM)''' ，[[Neyman-Rubin 因果模型]]<ref name="sekhon">{{cite book |last=Sekhon |first=Jasjeet |chapter=The Neyman–Rubin Model of Causal Inference and Estimation via Matching Methods |title=The Oxford Handbook of Political Methodology |year=2007 |chapter-url=http://sekhon.berkeley.edu/papers/SekhonOxfordHandbook.pdf }}</ref>。它是一种基于潜在结果框架的因果统计分析方法，以[[Donald Rubin]]的名字命名。“鲁宾因果模型”这个名字最早是由 Paul W. Holland 创造的。 <ref name="holland:causal86">{{cite journal |last=Holland |first=Paul W. |title=Statistics and Causal Inference |journal=Journal of the American Statistical Association |volume=81 |issue=396 |year=1986 |pages=945–960 |jstor=2289064 |doi=10.1080/01621459.1986.10478354}}</ref> ''' 潜在结果框架 Potential Outcomes Framework'''最初是由 Jerzy Neyman 在他 1923 年的硕士论文中提出的，<ref name="neyman:masters">Neyman, Jerzy. ''Sur les applications de la theorie des probabilites aux experiences agricoles: Essai des principes.'' Master's Thesis (1923). Excerpts reprinted in English, Statistical Science, Vol. 5, pp. 463–472. (Dorota Dabrowska, and T. P. Speed, Translators.)</ref>尽管他只在完全随机实验的背景下讨论了它。 <ref name="Jasa1">{{cite journal |last=Rubin |first=Donald |year=2005 |title=Causal Inference Using Potential Outcomes |journal=Journal of the American Statistical Association|volume=100 |issue=469 |pages=322–331 |doi=10.1198/016214504000001880 }}</ref>[[Donald Rubin]]将其扩展为在观察性和实验性研究中思考因果关系的一般框架。<ref name="sekhon" />

潜在结果框架中有着这三个基本假设，首先，没有干预则没有因果关系，上文提到潜在结果是指给定一个单元和一系列动作，我们把一个“动作-单元”确定为一个潜在结果。若是没有干预措施对目标变量的作用，我们则无法获得对应干预前后的潜在结果，则我们就无法计算出二者的因果效应，其次，为了简化我们的计算方式，我们必须假设研究样本之间每个个体的处理效应都是稳定的，因此有了SUTVA假设，保障了每个处理对应的潜在结果都是稳定的，保证了因果效应的可解释性，最后是分配机制的假设，假设每个实验对象分配到不同的处理组的概率都是大于0小于1的，这样我们可以对所有的对象进行平均因果效应的推断，而不是只局限与某一类别人群。

== 思想介绍 ==
[[鲁宾因果框架|潜在结果模型]]是基于潜在结果的想法。例如，如果一个人上过大学，他在 40 岁时会有特定的收入，而如果他没有上过大学，他在 40 岁时会有不同的收入。为了衡量这个人上大学的因果效应，我们需要比较同一个人在两种不同的未来中的结果。由于不可能同时看到两种潜在结果，因此总是缺少其中一种潜在结果。这种困境就是“因果推理的基本问题”。

因果推理的基本问题无法直接观察到单元级别的因果效应。但由于随机实验允许估计人口水平的因果效应。<ref name=":01">{{cite journal |last=Rubin |first=Donald |title=Estimating Causal Effects of Treatments in Randomized and Nonrandomized Studies |journal=Journal of Educational Psychology|volume=66 |issue=5 |year=1974 |pages=688–701 [p. 689] |doi=10.1037/h0037350 }}</ref> 故可利用随机实验将人们随机分配到对照组：即大学或非大学。由于按照这样的方式进行随机分配，各组（平均）相等，40 岁时的收入差异可归因于大学分配，因为这是各组之间的唯一差异。然后可以通过计算处理（上大学）和对照（非上大学）样本之间的平均值差异来获得平均因果效应（也称为平均处理效应）的估计值。

然而，在许多情况下，由于伦理或实际问题，随机实验是不可能的。在这种情况下，存在非随机分配机制。上大学的例子就是这种情况：人们不是随机分配上大学的。相反，人们可能会根据他们的经济状况、父母的教育等来选择上大学。已经开发了许多用于因果推断的统计方法，例如[[倾向得分匹配]]。这些方法试图通过寻找类似于处理单元的控制单元来纠正分配机制。
== 样例介绍 ==
假设乔正在参与 FDA 对一种新的高血压药物的测试。如果我们是无所不知的，我们就会知道乔在治疗组和控制组下的结果。我们想要探究的因果效应，或者说治疗效果，就是指这两种潜在结果之间的差异。
{| class="wikitable"
!subject
!Yt(u)
!Yc (u)
!Yt (u)-Yc (u）
|-
!乔
|130
|135
|−5
|}
Yt(u) 表示如果乔服用了这种新药物之后对应的血压。一般来说，这个符号表示在个体 u 上的实施治疗 t 的潜在结果。类似地，Yc (u)是在个体 u 上的不做治疗（控制）c 的潜在结果，即Yc (u)表示乔不吃这种新药物时对应的血压。则在这种情况下，Yt (u)-Yc (u)也就是服用这种新药物对乔的血压的因果效应。

从这个表格中我们只知道对乔的因果效应。研究中的其他人如果服用新药，血压可能会升高。然而，不管其他受试者的因果效应如何，我们可以得出结论，对于乔来说，相比于他没有服用新药的情况，服用该药，他的血压会降低。

考虑更多的病患样本，发现每个实验对象的因果效应是不同的。
{| class="wikitable"
!subject
!Yt(u)
!Yc (u)
!Yt (u)-Yc (u）
|-
!乔
|130
|135
|−5
|-
!玛丽
|140
|150
|−10
|-
!莎莉
|135
|125
|10
|-
!鲍勃
|135
|150
|−15
|}
从该表中可知乔，玛丽和鲍勃的因果效应为负值，说明药物仅对乔，玛丽和鲍勃起作用。他们服用这种药物后的血压比没有服用这种药物时的血压要低。另一方面，对于莎莉来说，这种药物会导致血压升高。

在此基础上，必须明确：为了让一个潜在的结果有意义，它必须是可测试的，至少是先验的。

即：如果乔在任何情况下都没有办法获得新药，那么他就不可能获得因果效应。这永远不可能发生在乔身上。如果不能观察到因果效应，即使在理论上，那么治疗对乔的血压的因果效应也不能确定。

== 没有干预就没有因果关系 ==
以上述的例子为例，新药的因果效应是明确定义的，因为它是两种可能发生的潜在结果的简单差异。在这种情况下，我们（或其他事物）可以[[干预]]世界，至少在概念上是这样，因此可能会发生不同的事。

如果永远不可能发生其中一种潜在结果，那么这种因果效应的定义就会变得更加棘手。例如，乔的身高对他的体重有什么因果关系？这似乎与我们的其他示例相似。我们只需要比较两个潜在的结果：乔在处理下的体重（处理被定义为增高3英寸）和乔在控制下的体重（控制被定义为他当前的身高）。

问题在于：我们无法增加乔的身高。没有办法观察如果乔更高，他的体重会是多少，因为我们没有办法[[干预]]乔的身高从而让他变得更高，这就让研究乔的身高和体重的因果关系变得没有意义。由此可说，没有[[干预]]就没有因果关系。

== 个体处理稳定性假设 (SUTVA) ==
我们要求“对一个个体潜在结果的观察不应受到其他个体的特定处理分配的影响”（Cox 1958，第 2.4 节）。这被称为个体处理稳定性假设（SUTVA），它超越了独立性的概念。

在我们的例子中，乔的血压不应该取决于玛丽是否接受了药物。但如果真的发生了呢？假设乔和玛丽住在同一所房子里，玛丽总是做饭。这种药物会导致玛丽渴望咸的食物，所以如果她服用这种药物，她会用比其他情况下更多的盐来烹饪。高盐饮食会增加乔的血压。因此，乔的血压结果将同时取决于他接受的处理和玛丽接受的处理。

在不满足SUTVA的情况下，因果推断会更加困难。我们可以通过考虑更多的处理来解释相关的观察结果。我们通过考虑玛丽是否接受处理来对问题进行分析：
{| class="wikitable" align="center"
!主题||乔 = c，玛丽 = t||乔 = t，玛丽 = t||乔 = c，玛丽 = c||乔 = t，玛丽 = c
|-
!乔||140||130||125||120
|}
回想一下，因果效应被定义为两个潜在结果之间的差异。在这种情况下，存在多种因果效应，因为存在两个以上的潜在结果。一是玛丽接受处理时药物对乔的因果效应{130，140}。另一个是当玛丽没有接受处理时对乔的因果效应{120，125}。第三是在乔没有得到处理的情况下，玛丽的处理对乔的因果效应{125，140}。玛丽接受的处理对乔的因果影响比乔接受的处理对乔的影响更大，而且是相反的方向。

通过以这种方式考虑更多潜在结果，我们可以使SUTVA成立。但是，如果乔以外的任何个体都依赖于玛丽，那么我们必须考虑进一步的潜在结果。依赖个体的数量越多，我们必须考虑的潜在结果就越多，计算也变得越复杂（考虑对不同的20个人进行的实验，每个人的处理状态都会影响其他人的结果）。为了（轻松）估计单一处理相对于对照的因果效应，SUTVA 应该成立。

== 分配机制 ==
分配机制，即给个体分配处理（或者治疗）的方法，影响平均因果效应的计算。换句话说，当把一个接受处理的组和一个没有接受处理的组进行比较时，我们需要知道(或者做出一个假设)为什么某些人被分配到处理组，而其他人没有。

一种分配机制是随机化。对于每个受试者，我们可以抛硬币来确定她是否接受处理。在最简单的情况下，这种分配是随机的(就像在临床试验中一样) ，而且不会混淆，因为分配并不依赖于潜在的结果。

如果我们希望五个受试者接受处理，我们可以将处理分配给我们从组里里挑选出来的前五个名字。当我们随机分配处理时，我们可能会得到不同的答案。

另一种分配机制是非随机化的，如果所有接受处理的个体都是因为他们最有可能受益而接受处理，那么处理结果和对照组之间的直接比较不能代表处理的因果效应。

从以下这个例子来理解分配机制，假设我们同时知道每个个体接受处理和未接受处理的真实潜在结果是什么：
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)||Y_{t}(u)-Y_{c}(u)
|-
!乔||130||115||15
|-
!玛丽||120||125||−5
|-
!莎莉||100||125||−25
|-
!鲍勃||110||130||−20
|-
!詹姆士||115||120||−5
|-
!平均||115||123||−8
|}可以计算得出真实的平均因果效应是-8。但实际上每个人的因果效应各异，都不会等于这个平均值。而且在现实生活中个体因果效应通常是未知的，因为没办法让一个个体即接受处理又不接受处理，而能同时得到两种情况下的潜在结果。但是在随机分配处理后，我们可以对多个人中接受处理的和未接受处理的潜在结果分别求平均，得到人群的平均因果效应：
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)||Y_{t}(u)-Y_{c}(u)
|-
!乔||130||?||?
|-
!玛丽||120||?||?
|-
!莎莉||?||125||?
|-
!鲍勃||?||130||?
|-
!詹姆士||115||?||?
|-
!平均||121.66||127.5||−5.83
|}

当然，不同的随机分配接受处理个体，产生的平均因果效应的估计值也不同：
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)
!Y_{t}(u)-Y_{c}(u)
|-
!乔||130||?||?
|-
!玛丽||120||?||?
|-
!莎莉||100||?||?
|-
!鲍勃||?||130||?
|-
!詹姆士||?||120||?
|-
!平均||116.67||125||−8.33
|}平均因果效应会有所不同，因为我们的样本很小并且反馈效应的方差很大。如果样本较大且方差较小，则无论随机分配给处理的特定单位如何，平均因果效应将更接近真实的平均因果效应。

以上是随机分配机制的结果。再看一种可能不太合理的分配机制，假设仅将处理分配给所有男性。
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)
!Y_{t}(u)-Y_{c}(u)
|-
!乔||130||?||?
|-
!鲍勃||110||?||?
|-
!詹姆士||105||?||?
|-
!玛丽||?||130||?
|-
!莎莉||?||125||?
|-
!苏茜||?||135||?
|-
!平均||115||130||−15
|}虽然在不区分性别的情况下可以得到一个平均因果效应值，但是在这种分配机制下，因为没有接受处理的女性，所以无法单独对女性受试者确定她们的平均因果效应。此时对女性受试者而言，她们接受处理的概率为0，而为了能对受试者做出因果效应的任何推断，受试者接受处理的概率必须大于 0 且小于 1（Positivity 假设）。

== 另见 ==

* [[鲁宾因果框架]]

== 编者推荐 ==

=== '''集智俱乐部文章''' ===
[https://mp.weixin.qq.com/s/vFDu-g2qy-sUfIl8EhrMJg Donald Rubin的因果推断学术贡献：超出统计学范畴的划时代影响]

==='''集智课程'''===

[https://swarma.org/?p=29559 因果推断的潜在结果框架在实验性研究的应用 | 周日直播·因果科学读书会 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=24656 两套因果框架深度剖析：潜在结果模型与结构因果模型 | 因果科学读书会 | 集智俱乐部 (swarma.org)]

[https://campus.swarma.org/course/3527 因果科学读书会第三季：因果+X (swarma.org)]

“因果”并不是一个新概念，而是一个已经在多个学科中使用了数十年的分析技术。通过前两季的分享，我们主要梳理了因果科学在计算机领域的前沿进展。如要融会贯通，我们需要回顾数十年来在社会学、经济学、医学、生物学等多个领域中，都是使用了什么样的因果模型、以什么样的范式、解决了什么样的问题。我们还要尝试进行对比和创新，看能否以现在的眼光，用其他的模型，为这些研究提供新的解决思路。

“因果+X”就是要让因果真正地应用于我们的科学研究中，不管你是来自计算机、数理统计领域，还是社会学、经济学、管理学领域，还是医学、生物学领域，我们希望共同探究出因果研究的范式，真正解决因果的多学科应用问题，乃至解决工业界的问题。

[https://campus.swarma.org/course/2526 两套因果框架深度剖析：潜在结果模型与结构因果模型]

这个视频内容来自[https://wiki.swarma.org/index.php%3Ftitle=%E9%9B%86%E6%99%BA%E4%BF%B1%E4%B9%90%E9%83%A8%E8%AF%BB%E4%B9%A6%E4%BC%9A 集智俱乐部读书会]-因果科学与Causal AI读书会第二季内容的分享，由英国剑桥大学及其学习组博士陆超超详细的阐述了潜在结果模型和结果因果模型，并介绍了两个框架的相互转化规律。讲述因果推断的两大框架：潜在结果模型和结构因果模型，讨论他们各自的优缺点以及他们之间的联系，详细介绍他们之间的转化规律。

[https://campus.swarma.org/course/2030 潜结果框架下的因果效应]

什么是因果呢？“因”其实就是引起某种现象发生的原因，而“果”就是某种现象发生后产生的结果。因果问题在我们日常生活中十分常见，但是不管是传统的统计学还是当下很火的大数据、机器学习，更多的是解决相关性的问题。因果问题存在于很多领域，如医疗健康、经济、政治科学、数字营销等。该课程是由浙江大学助理教授况琨讲授的，主要回答以下一些重要的问题：因果性与相关性的区别是什么？相关性有哪几种来源？如何评估因果效应？有哪些常用且前沿的方法？

===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。
== 参考文献 ==
<references />

Causal Inference: What If

2022-07-23T15:58:29Z

我是猫：

此词条由因果科学读书会词条梳理志愿者雨轩翻译审校，未经专家审核，带来阅读不便，请见谅。

== 概要及简介 ==
这本书描述了各种数据分析方法，以估计在一组特定的假设下，当数据被收集到人口中的每个个体时，利益的因果效应。这本书的一个关键信息是，因果推断不能简化为数据分析的食谱集合。

本书按难度递增分为三个部分:第一部分是关于没有模型的因果推断(即，因果效应的非参数识别)，第二部分是关于有模型的因果推断(即，用参数模型估计因果效应)，第三部分是关于从复杂纵向数据进行因果推断(即，时变处理的因果效应估计)。

在整本书中穿插了诸多精细点和技术点，阐述了在把本书中提到的某些主题。“精细点”面向所有读者，“技术点”面向经过中级统计培训的读者。这本书描述了各种数据分析方法，以估计在一组特定的假设下，当数据被收集到人口中的每个个体时，利益的因果效应。这本书的一个关键信息是，因果推断不能简化为数据分析的集合。

== 作者信息 ==
[[米盖尔·赫尔南 Miguel Hernán|米盖尔.赫尔南]]是西班牙裔美国流行病学家。他是哈佛大学陈曾熙公共卫生学院CAUSALab研究小组的主任以及生物统计学和流行病学教授，也是哈佛-麻省理工医疗科技学院健康科学与技术项目的教员。

[[米盖尔·赫尔南 Miguel Hernán|赫尔南]]进行研究以了解哪些方法可以改善人类健康。他与来自多个国家的合作者一起设计了医疗保健数据库、流行病学研究和随机试验的分析。他是全球高被引科学家<ref>Web of Science Highly Cited Researchers</ref>。他的免费 edX 课程《因果图》<ref>edX Causal Diagrams course</ref>已经有超过 50,000 人注册。他与詹姆斯·罗宾斯合着的著作《因果推理：假设》，也可在线免费获得，并广泛用于研究人员的培训。

埃尔南是Epidemiology（期刊）的名誉编辑，也是Biometrics（期刊）、American Journal of Epidemiology和Journal of the American Statistical Association 的前副主编。他曾是美国食品和药物管理局的特别政府雇员，并曾在美国国家科学院、工程院和医学院的多个委员会任职。

[[James Robins|詹姆斯·罗宾斯]]是一位流行病学家和生物统计学家，他以推进从复杂的观察性研究和随机试验中得出因果推论的方法而闻名，特别是那些治疗随时间变化的试验。他是2013年内森曼特尔统计和流行病学终身成就奖的获得者。

他于 1976 年毕业于圣路易斯华盛顿大学的医学专业。他目前是哈佛大学陈曾熙公共卫生学院的Mitchell L. 和 Robin LaFoley Dong 流行病学教授。他在学术期刊上发表了100 多篇论文，是ISI高被引研究员。<ref>James Robins — Mitchell L. and Robin LaFoley Dong Professor of Epidemiology. Harvard School of Public Health (Accessed 15 March 2008).</ref>

== 目录 ==
一、没有模型的因果推断

1：因果效应的定义

2：随机实验

3：观察研究

4：效应修正

5：交互

6：因果效应的图形表示

7：混淆

8：选择偏差

9：测量偏差

10：随机可变性

二、基于模型的因果推理

11：为什么使用模型?

12：IP加权和边际结构模型

13：标准化与参数g-公式

14：结构嵌套模型的g-估计

15：结果回归和倾向得分

16：[[工具变量]]估计

17：因果生存分析

18：因果推断的变量选择

三、从复杂的纵向数据进行因果推断

19：时变处理

20：实验组-混淆因素反馈

21：G-方法的时变处理

22：目标试验模拟

== 本书数据和代码<ref>https://www.hsph.harvard.edu/miguel-hernan/causal-inference-book/</ref> ==

* NHEFS data
** In [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/2012/10/nhefs_sas.zip SAS], [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/2012/10/nhefs_stata.zip Stata], [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/2017/01/nhefs_excel.zip MS Excel], and [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/1268/20/nhefs.csv CSV] formats
** [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/2012/10/NHEFS_Codebook.xls Codebook]
* Computer code
** [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/2019/01/sas_part2.zip SAS] by Roger Logan
** [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/2022/01/stata_part2.zip Stata] by Eleanor Murray and Roger Logan
** [https://cdn1.sph.harvard.edu/wp-content/uploads/sites/1268/1268/20/Rcode_CIpart2.zip R] by Joy Shi and Sean McGrath. [https://remlapmot.github.io/cibookex-r/ Rendered version] by Tom Palmer.
** [https://github.com/jrfiedler/causal_inference_python_code Python] and [https://github.com/jrfiedler/causal_inference_julia_code Julia] by James Fiedler
** Parametric g-formula software in [https://github.com/CausalInference/gfoRmula R] and [https://github.com/CausalInference/GFORMULA-SAS SAS]

== 参考资料 ==
<references />

== 编辑推荐 ==

=== 书籍推荐 ===
[https://swarma.org/?p=23226 因果推断领域新书（附PDF）：Causal Inference: What If | 集智俱乐部]

在2020年末，由哈佛大学公共卫生学院的 Miguel Hernan 与 Jamie Robins 教授合作完成的因果推断领域的新书 Causal Inference: What If，更是详细全面地阐述了因果推断领域的基本概念与背后的理论基础。可以通过该链接扫码下载

=== 文章总结 ===
[https://uploads.strikinglycdn.com/files/39c2a266-3f68-495a-b28b-9abe92962fe9/%E5%9B%A0%E6%9E%9C%E6%8E%A8%E6%96%AD%EF%BC%9A%E5%A6%82%E6%9E%9C_%E5%AE%8C%E6%95%B4%E7%89%88_2021.04.22.pdf?id=3401023 因果推断：如果_完整版_2021.04.22.pdf (strikinglycdn.com)]

本书由芝加哥大学研究院罗家俊博士翻译为中文，可供参考

=== 相关路径 ===

* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

Causal Inference for Statistics, Social, and Biomedical Sciences

2022-07-23T15:50:52Z

我是猫：

此词条由因果科学读书会词条梳理志愿者四月翻译审校，未经专家审核，带来阅读不便，请见谅。

== 书籍简介 ==
本书<ref>https://www.tandfonline.com/doi/abs/10.1080/15228053.2015.1077672?journalCode=utca20</ref>的基本观点：（1）所有的因果问题都和特点的[[干预]]（intervention）或者实验（treatment）相联系。（2）因果问题被视为对[[潜在结果]]（potential outcome）的比较，每个潜在结果对应于一个实验水平（或条件）。如果采用相应的实验条件，那么每个潜在结果都将被观察到。因果效应涉及到将实际观察结果与其他潜在结果比较。实际上其他潜在结果无法被观察到。因此，从根本上说，因果推断是一个处理缺失数据的问题。

与所有处理缺失数据的问题一样，处理的关键是决定是否被观测到的机制（mechanism）。在因果推断中，被称为分配机制（assignment mechanism）。

本书阐述了因果推断方法所依据的基本理念、潜在结果框架及逐步放宽分配机制的假设时的因果推断方法。

== 作者简介 ==

=== Guido W. Imbens ===
[[吉多·威廉姆斯·因本斯 Guido Wilhelmus Imbens|Guido W. Imbens]]<ref>https://www.gsb.stanford.edu/faculty-research/faculty/guido-w-imbens</ref><ref>https://en.wikipedia.org/wiki/Guido_Imbens</ref>，荷兰裔美国经济学家，于斯坦福大学斯坦福商学院任职应用计量经济学教授和经济学教授，研究领域为经济学和统计学。2021年，与Joshua Angrist共同获得诺贝尔经济学奖，“以表彰他们在分析因果关系方面的方法论贡献”。

Imbens曾分别任教于哈佛大学（1990-1997，2006-2012年），蒂尔堡大学（1989-1990年），加州大学洛杉矶分校（1997-2001年），加州大学伯克利分校（2002-06年）。他主要研究计量经济学，这是一种描绘因果推理的特殊方法。他于2019年成为《Econometrica》杂志的编辑，并将担任这一职务直到2023年。截至2021年，他是斯坦福大学商学院应用计量经济学和经济学教授。他还是斯坦福大学经济政策研究所（SIEPR）的高级研究员，以及该所人文与社会科学学院的经济学教授。因本斯是经济计量学会（2001年）和美国艺术与科学学院的研究员。2017年，因本斯被选为荷兰皇家艺术与科学学院的外籍成员。2020年，他被评选为美国统计协会会员。

与经济学家同行，包括Joshua Angrist和Alan Krueger合作，Imbens致力于开发方法论和框架，帮助经济学家利用现实生活中的情况（即自然试验）来检验现实生活中的理论。通过他的研究，帮助经济学家分析因果关系，通过他研究分析的一些问题，包括大学教育或额外的教育年限对收入的影响，使得因果关系研究框架在很多其他领域也有了应用，包括社会学和生物医学。他的工作为跨学科的研究人员提供了理解现实世界工具，提高了他们更好地理解基于实地和试验数据的干预措施的效果的能力。这些方法有助于研究人员分析各种研究问题，包括研究新政策对经济活动和新药对患者有效性的影响等。

=== Donald B. Rubin ===
[[Donald Rubin|Donald B. Rubin]]<ref>https://statistics.fas.harvard.edu/people/donald-b-rubin</ref><ref>https://en.wikipedia.org/wiki/Donald_Rubin</ref>，哈佛大学统计系名誉教授，曾在那里担任13年统计系主任，同时在清华大学和费城坦普尔大学工作。其研究兴趣为实验和观察研究中的因果推理、在无响应的样本调查和缺失数据问题中的推断、贝叶斯和经验贝叶斯技术的应用和开发统计模型并将其应用于各种科学学科的数据。

Donald Rubin教授是当今世界影响力最深远的统计学家之一，他在现代统计领域做出了许多基础贡献，特别是在缺失数据和因果推断方面。他也是世界上被引用最多的科学作者之一，根据谷歌学者的数据，他被引用超过25万次。此外，截至2019年底，他有10篇单独发表的论文，每一篇都被引用超过1000次。他获得过统计学领域几乎所有著名奖项，是当今世界最具影响力的统计学家。他对科学的贡献已超出统计学范畴，其统计思想对生物医学、经济学、心理学、教育学、社会学及计算机科学等众多领域均产生了重要影响。

== 目录及概要 ==
PART 1: 导论

内容：导论部分阐述了因果推断方法所依据的基本理念，并描述了潜在结果框架，讨论了因果推断方法背后的三个关键概念。首先，讨论的概念是潜在结果，潜在结果框架遵循一个基本理念——"没有干预则没有因果"，一个特定程度的干预措施对应着一种潜在结果。每种潜在结果都是先验观察变量，在某种意义上，如果该研究对象接受相应的治疗水平，就可以观察到。但是另一个角度来说，潜在结果也是一个后验观察变量，也就是说，一旦进行了某一种干预，最多只能观察到一种潜在的结果。其次，讨论了当我们进行因果推论时，多个待观察的实验单位存在的必要性，以及对应稳定性假设的有效性，我们将利用这本书的大部分篇幅里来探讨多实验单位的存在。第三个概念，讨论了分配机制的中心作用，这是推断因果效应的关键，也是这本书的组织原则。

# 因果：基本框架
# 因果推断潜在结果方法简史
# 分配机制的分类

PART 2: 经典随机实验

内容：经典随机实验部分，讨论了假设分配机制对应于经典随机实验的情况。这一章回顾了一些潜在结果方法的实例，其中两个重要早期发展，一个是在20世纪20年代，Neymen将潜在结果引入随机试验，另一个是Fisher引入随机化作为推理的“理性基础”。

# 经典随机实验的分类
# 完全随机实验的Fisher精确的p值
# 完全随机实验的Neyman重复抽样方法
# 完全随机实验的回归方法
# 完全随机实验的基于模型的推断
# 分层随机实验
# 成对随机实验
# 案例学习：劳动力市场的实验估计

PART 3: 规则分配机制：设计

内容：假设分配机制在一个定义明确的意义上是 "规则的"，它概括了随机化实验。这一部分讨论了观察性研究的 "设计 "阶段。

# unconfounded实验分配
# 估计[[倾向得分匹配|倾向性得分]]
# 评估协变量的overlap
# 改进协变量分布平衡的匹配
# 切割以改善协变量分布的平衡

PART 4: 规则分配机制：分析

内容：讨论具有规则分配机制的研究的数据分析，包含匹配和亚分类程序，以及基于模型和加权的方法。

# 基于倾向性得分的子分类
# [[匹配]]估计器
# 估计平均因果效应标准估计量抽样方差的一般方法
# 一般因果估计的推断

PART 5: 规则分配机制：补充分析

内容：放宽了这一规则性假设，并讨论了更普遍的分配机制。首先评估关键假设unconfoundedness，然后探讨了敏感性分析，其中放松了规则性赋值机制的一些关键特征。

# 评估unconfoundedness
# 敏感性分析和边界

PART 6: 不完全遵守规则的分配机制：分析

内容：讨论分配机制是有规则的，但对分配的遵守是不完善的情况。因此，实验概率可能取决于单位的观察和非观察特征和结果。为了解决这些复杂的问题，转向了工具变量方法。

# 单侧不符合随机实验的工具变量分析

== 双侧不符合随机实验的工具变量分析 ==
# 工具变量设置中基于模型的分析：双侧不符合的随机实验

PART 7: 结论

内容：结论

# 结论与拓展

== 参考资料 ==
<references />

== 编辑推荐 ==

=== 课程推荐 ===
[https://pattern.swarma.org/study_group/10 因果科学与Causal AI读书会第三季 | 集智斑图 (swarma.org)]

[https://campus.swarma.org/course/4068/study 好的观察性研究与差的观察性研究| 因果科学第三季第六期 (swarma.org)]

[https://campus.swarma.org/course/3890/study 因果推断在观察性研究中的应用Ⅱ：分析 | 因果科学第三季第四期 (swarma.org)]
===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

苏珊·卡尔顿·阿西 Susan Carleton Athey

2022-07-23T15:43:16Z

我是猫：

{{#seo:
|keywords=Susan Carleton Athey，美国微观经济学家
|description=一名美国微观经济学家
}}

{| class="wikitable" width="65%"
|-style="height:30px"
! 类别 !! 信息
|-
|姓名： || 苏珊·卡尔顿·阿西 Susan Carleton Athey
|-
|出生地：|| 波士顿，马萨诸塞州
|-
|国籍：|| 美国
|-
|母校：|| 斯坦福大学商学院，杜克大学
|-
|机构：|| 斯坦福大学
|-
|主要研究方向：||微观经济学、计量经济学、机器学习
|-
|博士生导师：||Paul Milgrom，Donald John Roberts，Edward Lazear
|-
|获奖：||约翰·贝茨·克拉克奖冠军（2007年）
|}

'''苏珊·卡尔顿 ·阿西 Susan Carleton Athey'''（出生于1970年）是一名美国微观经济学家。她是斯坦福商学院人文与科学系的经济技术的教授<ref name=":1">{{cite web|title=Enriching the Experience|url=http://www.gsb.stanford.edu/news/headlines/new-faculty-2012.html|publisher=Stanford Graduate School of Business}}</ref>。在加入斯坦福之前，她已经是哈佛大学与麻省理工大学的教授。她是第一位获得约翰·贝茨·克拉克奖冠军的女性<ref name='priest'>{{cite news | first=Lisa | last=Priest | title=Economist who aided Canada wins top honour | date=April 23, 2007 | url =https://www.theglobeandmail.com/servlet/story/RTGAM.20070423.wxeconomist23/BNStory/National/home | work =Globe&Mail, Toronto | access-date = 2007-04-23 |archive-date=April 27, 2007 |archive-url=https://web.archive.org/web/20070427132631/http://www.theglobeandmail.com/servlet/story/RTGAM.20070423.wxeconomist23/BNStory/National/home }}</ref>。她已经在微软担任了六年的首席经济顾问<ref name=":0">{{Cite web|title=Susan Athey|url=https://www.gsb.stanford.edu/faculty-research/faculty/susan-athey|access-date=2020-12-03|website=Stanford Graduate School of Business|language=en}}</ref>，同时也是微软研究院的顾问研究员。她目前是以非盈利创新驱动贫困行动公司的董事<ref name=":0" />。她目前还是斯坦福经济政策研究所的高级研究员。她还是斯坦福人本人工智能研究所的副所长及戈卢布资本社会影响实验室的主任<ref name=":0" />。

== 早期生活及教育经历 ==
Athey出生在马萨诸塞州的波士顿，在罗克韦尔长大。她的父亲Elizabeth Johansen，是一名英语教师兼自由编辑，她的母亲Whit Athey是一名物理专业的学者

Athey在杜克大学读本科，完成了三个专业（经济学、数学和计算机科学），并于1991年获得学士学位<ref name=":0" />。她是在一次暑期工中开始对经济学的研究，与杜克大学Bob Marshall教授一道为一家通过采购招标向政府出售个人电脑的公司准备投标，主要解决与拍卖有关的问题，马歇尔帮助她从国防采购局进行采购拍卖。此外她在杜克大学参加了许多活动，担任Chi Omega女生联谊会的财务主管和曲棍球俱乐部的主席。

1995年，她在24岁时获得了斯坦福商学院的博士学位<ref name=":2">{{cite news |url=https://www.nytimes.com/1995/04/21/business/top-draft-pick-economics-professor-be-coveted-two-dozen-universities.html |title=The Top Draft Pick in Economics; A Professor-to-Be Coveted by Two Dozen Universities |newspaper=[[New York Times]] |first=Sylvia |last=Nasar |author-link=Sylvia Nasar |date=April 21, 1995 }}</ref><ref name=":0" />，她的论文由Paul Milgrom和Donald John Roberts指导。Athey同时也获得了杜克大学的荣誉博士。

Athey于2002年与经济学家[[吉多·威廉姆斯·因本斯 Guido Wilhelmus Imbens|Guido Imbens]]结婚<ref name=":3">{{cite journal |last1=Simison |first1=Bob |title=Economist as Engineer |journal=[[Finance & Development]] |publisher=[[International Monetary Fund]] |date=June 2019 |volume=56 |issue=2 |url=https://www.imf.org/external/pubs/ft/fandd/2019/06/profile-stanford-economist-susan-athey-people.htm |access-date=23 December 2020}}</ref>。

==职业==
=== 学术生涯 ===
Athey的第一份工作是在麻省理工担任助理教授，在返回斯坦福大学经济学系担任教授之前，她在此任教了6年，然后又担任了5年的霍尔布鲁克沃金研讨会的主席。之后她在哈佛大学担任经济学教授，直到2012年回到母校斯坦福大学商学院。

===研究兴趣 ===
由于Athey在杜克大学，完成了三个专业的学习——经济学、数学、计算机科学，因此，在本科阶段，她总是用编程和统计学作为工具解决经济学领域的问题。基于这一背景，Athey对互联网经济学、新闻媒体经济学、互联网搜索、[[计量经济学]]、[[机器学习]]、[[大数据]]和数字货币感兴趣。此外。她还致力于平台市场、在线广告和产业组织等其他相关领域。目前她专注于数字化经济学、市场设计以及计量经济学和机器学习的交叉学科。

===应用拍卖研究===
拍卖是Athey进入经济领域的直接原因。她对拍卖研究的各个方面都有贡献。Athey关于重复博弈中共谋的理论适用于拍卖，除了她的私人信息存在定理，她还在拍卖计量经济学方面做了一项创新工作。她在该领域进行了大量的实证研究，她的设计作品对商业和公共政策产生重大影响。Athey和Jonathan Levin检查了美国林务局的口头上升拍卖，以获得在国家森林中砍伐木材的权利。通常情况下，一块给定的土地包含几种不同的出材树种。林业局根据对树种的的检查清点发表了各种树种的比例估计数。然后，潜在的投标者可以进行检查。投标是多维的: 每个物种每个单位的投标金额。中标者是通过使用林业局的估计比例将每个投标人的报价综合起来确定的。然而，中标者支付的实际金额是通过将投标向量应用于最终收获的确切金额来计算的(中标者有两年的时间来完成收获)。这些规则激励投标人扭曲其投标比例，提高投标人认为不如林业局普遍的物种的出价。相反，投标人认为比林业局更常见的物种，则降低其出价。例如，假设有两个物种，林业局估计它们的比例是相等的，但是一个投标人认为它们的比例是3:2。然后出价(100美元、100美元)和(50美元、150美元)在林务局的比例下产生相同的数目，因此中标的可能性是相同的，但是出价者在第一种情况下和第二种情况下的预期付款有所不同<ref name="jstor.org">Roberts, John. “Susan C. Athey: John Bates Clark Award Winner 2007.” The Journal of Economic Perspectives, vol. 22, no. 4, 2008, pp. 181–198. JSTOR, JSTOR, www.jstor.org/stable/27648283.</ref>
。

Athey最著名的解决拍卖问题的研究是“比较开放和密封的出价拍卖: 由木材拍卖得出的理论和证据。”在本文中，Athey与Johnathan Levin和Enrique Seira合作。她和她的同事对证明参与拍卖的影响是否重要很感兴趣。”有两种类型的拍卖，公开和密封出价拍卖。公开拍卖是指竞标者不断地相互出价高于对方，直到最后一个竞标者放弃竞标，拍卖结束。密标拍卖是指个人写下自己的出价并提交出价，最高出价者获胜。他们使用的数据来自美国林务局的拍卖。作为结论，他们发现参与很重要。这甚至比拍卖过程中实际发生的情况更为重要。

=== 研究贡献 ===
他们的早期贡献包括了一种新的方法来模拟不确定性(她的博士论文的主题) ，以及了解投资者在不确定情况下的行为，还有对拍卖行为的洞察。不确定条件下决策问题的研究主要集中在最优决策在给定参数下是单调的条件上。她将自己的研究结果应用于在拍卖中建立纳什均衡和其他贝叶斯博弈中存在的条件。

他们的工作改变了拍卖的方式。在20世纪90年代早期，通过在拍卖会上向美国政府出售电脑，他们发现了过于宽松的争端解决机制的弱点，发现导致频繁法律纠纷的公开拍卖实际上充斥着共谋，例如，拍卖获胜者与合作竞标的输家分享他们的战利品<ref name=":4">{{cite news |first=Mark |last=Whitehouse |title=Economist Breaks New Ground As First Female Winner of Top Prize |url= https://www.wsj.com/articles/SB117708892644877101 |work=[[Wall Street Journal]] |date=2007-04-21 |access-date=2008-06-20}}</ref>。她还帮助不列颠哥伦比亚省设计了公有木材的定价系统<ref name="priest" />。她还发表了关于在线广告拍卖的文章，并就微软搜索广告拍卖的设计向微软提供建议<ref name=":5">{{cite news |first=Aki |last=Ito |title=Stanford Economist Musters Big Data To Shape Web Future | date=June 26, 2013 | publisher = Bloomberg | url=https://www.bloomberg.com/news/2013-06-26/stanford-economist-musters-big-data-to-shape-web-future.html }}</ref>。

=== 专业服务 ===
Athey 曾担任《美国经济评论 American Economic Review》、《经济学评论 Review of Economic Studies》、《兰德经济学期刊 RAND Journal of Economics》的副主编以及美国国家科学基金会经济学小组的副组长，她还担任《经济学 Econometrica》、《理论经济学 Theoretical Economics》和《经济学季刊 Quarterly Journal of Economics》的副主编。她是《经济学与管理战略 Journal of Economics and Management Strategy》和《美国经济学杂志: 微观经济学 American Economic Journal: Microeconomics》的前联合编辑。她曾担任2006年北美冬季会议项目委员会主席，并为美国经济计量学会经济委员会、美国经济协会和经济职业妇女地位委员会等多个委员会服务。她还是奥巴马总统的美国国家科学奖章委员会的成员<ref name=":6">{{cite web|title=NMS|url=https://www.nsf.gov/od/nms/committee.jsp}}</ref>。

此外，除了在学术委员会提供专业服务外，作为“技术经济学家”，Athey还曾担任过数年Microsoft公司首席经济顾问，现在是Expedia、Lending Club、 Rover Turo和Ripple的董事会成员。她还担任不列颠哥伦比亚省森林部的长期顾问，帮助建筑师和实施他们的拍卖为基础的定价系统。她是斯坦福大学商学院 Golub 资本社会影响实验室的创始主任，以及斯坦福人为中心的人工智能研究所的副主任<ref name=":7">{{Cite web|title=Susan Athey|url=https://www.gsb.stanford.edu/faculty-research/faculty/susan-athey|access-date=2020-12-11|website=Stanford Graduate School of Business|language=en}}</ref>。

=== Ripple Labs公司 ===
Athey本人自2018年以来一直被列入一系列集体诉讼案中，其中最著名的是Zakinov公司起诉Ripple Labs股份有限公司(Zakinov v. Ripple Labs inc.)(案件编号18-6753) ，该案声称瑞波实验室公司(ripples Labs inc.)和她的雇主们违反了加利福尼亚州和联邦证券法<ref name=":8">{{cite web|url=https://www.govinfo.gov/app/details/USCOURTS-cand-4_18-cv-06753|title=18-6753 - Zakinov et al v. Ripple Labs, Inc. et al|publisher=U.S. Government Publishing Office|date=2020-10-02|access-date=2020-10-23}}</ref>。

 

== 奖项和荣誉 ==
=== 学术性===
* 杜克大学艾丽丝·鲍德温纪念奖学金，1990-1991年
* Chi Omega 基金会玛丽·洛夫·柯林斯奖学金，1991-1992年
* 斯坦福大学商学院 Jaedicke 奖学金，1992-1993年
* 美国国家科学基金会研究生奖学金，1991-1994年
* 国家农场商学论文奖，1994年
* 国家农场奖，1995年
* 伊莱恩·贝内特研究奖(该奖每两年颁发一次，表彰在任何领域有杰出贡献的年轻女经济学家)，2000年
* 美国经济计量学会研究院院士，2004年
* 美国约翰·贝茨·克拉克奖研究院院士，2007年
* 美国艺术与科学院院士，2008年<ref>{{cite web|title=Book of Members, 1780–2010: Chapter A|url=http://www.amacad.org/publications/BookofMembers/ChapterA.pdf|publisher=American Academy of Arts and Sciences|access-date=27 April 2011}}</ref>
* 斯坦福大学利伯曼奖学金，2007年
* 当选美国国家科学院院士，2012年
* 杜克大学荣誉学位，2009年<ref>{{cite web|title=Duke Names Honorary Degree Recipients|url=http://today.duke.edu/2009/01/honorary.html|publisher=Duke University|access-date=1 June 2014}}</ref>
* 费舍尔-舒尔茨讲座，经济计量学会，2011年
* 让-雅克·拉丰奖，2016年<ref>{{Cite web|date=2018-06-05|title=Jean-Jacques Laffont Prize|url=https://www.tse-fr.eu/jjl-prize|access-date=2020-12-03|website=TSE|language=en}}</ref>
* 约翰·冯·诺伊曼奖，2019年<ref>{{Cite web|url=https://www.eventbrite.com/e/digitization-and-the-economy-john-von-neumann-award-ceremony-susan-athey-tickets-77640774647|title=Digitization and the Economy - John von Neumann Award Ceremony: Susan Athey}}</ref>
* CME 集团-MSRI 奖，2019年<ref>{{Cite web|title=Mathematical Sciences Research Institute|url=http://www.msri.org/|access-date=2021-06-07|website=www.msri.org}}</ref>

=== 非学术性 ===
* 基尔比奖学金之青年创新奖，1998年
* 多元化 MBA 的50位不同执行官的前100名
* 快速公司100位最具创造力的商业人士
* 世界经济论坛2008年全球青年领袖
* 创业与创新世界创新峰会2012年世界最具创新力人才奖
* 微软研究院杰出合作者奖，2016年

== 出版物 ==
* {{cite journal |last=Athey|first=Susan|author2=Segal, Ilya|year=2013 |title=An Efficient Dynamic Mechanism |journal=[[Econometrica]] |volume=81 |issue=6 |pages=2463–2485 |doi= 10.3982/ECTA6995|citeseerx=10.1.1.79.7416}}
* {{cite journal |last=Athey|first=Susan|author2=Coey, Dominic|author3=Levin, Jonathan |year=2011 |title=Setasides and Subsidies in Timber Auctions |journal=American Economic Journal: Microeconomics |volume=5 |issue=1 |pages=1–27 |doi= 10.1257/mic.5.1.1|s2cid=3012150|url=http://www.aeaweb.org/aej/mic/app/2011-0124_app.pdf }}
* {{cite journal |last=Athey|first=Susan|author2=Ellison, Glenn| year=2011 |title=Position Auctions with Consumer Search |journal=[[Quarterly Journal of Economics]] | volume=126 | issue=3 |pages=1213–1270|doi=10.1093/qje/qjr028|url=http://qje.oxfordjournals.org/content/126/3/1213.abstract?sid=5bde2bed-cba5-4185-afe5-8264d6e19f6c |citeseerx=10.1.1.163.9337|s2cid=8681024}}
* {{cite journal |last=Athey|first=Susan|author2=Levin, Jonathan|author3=Seira, Enrique |year=2011 |title=Comparing Open and Sealed Bid Auctions: Theory and Evidence from Timber Auctions |journal=[[Quarterly Journal of Economics]] |volume=126 |issue=1 |pages=207–257 |doi= 10.1093/qje/qjq001|s2cid=14478418|url= http://www.nber.org/papers/w14590.pdf}}
* {{cite journal |last=Athey|first=Susan|author2=Bagwell, Kyle |year=2008 |title=Collusion with Persistent Cost Shocks |journal=[[Econometrica]] |volume=76 |issue=3 |pages=493–540 |doi= 10.1111/j.1468-0262.2008.00845.x|citeseerx=10.1.1.615.7881}} (Accepted subject to final revisions)
* {{cite journal |last=Athey|first=Susan|author2=Miller, David |year=2007 |title=Efficiency in Repeated Trade with Hidden Valuations |journal=[[Theoretical Economics]] |volume=2 |issue=3 |pages=299–354 |doi= 10.1007/978-3-540-73746-9|url=http://econtheory.org/ojs/index.php/te/article/view/20070299 }}
* {{cite journal |last=Athey|first=Susan|author2=Imbens, Guido W. |year=2007 |title=Discrete Choice Models with Multiple Unobserved Choice Characteristics |journal=[[International Economic Review]] |volume=48 |issue=4 |pages=1159–1192 |doi=10.1111/j.1468-2354.2007.00458.x |citeseerx=10.1.1.164.935}}
* {{cite journal |last=Athey|first=Susan|author2=Imbens, Guido W. |year=2006 |title=Identification and Inference in Nonlinear Difference-In-Difference Models |journal=Econometrica |volume=74 |issue=2 |pages=431–498 |doi=10.1111/j.1468-0262.2006.00668.x |citeseerx=10.1.1.79.5356}}
* {{cite journal |last=Athey|first=Susan|author2=Atkeson, Andrew |author3=Kehoe, Patrick J. |year=2005 |title=The Optimal Degree of Monetary Policy Discretion |journal=Econometrica |volume=73 |issue=5 |pages=1431–1476 |doi=10.1111/j.1468-0262.2005.00626.x |s2cid=5996103|url= http://discovery.ucl.ac.uk/10054404/}}
* {{cite journal |last=Athey|first=Susan|author2=Bagwell, Kyle |author3=Sanchirico, Chris |year=2004 |title=Collusion and Price Rigidity |journal=[[Review of Economic Studies]] |volume=71 |issue=2 |pages=317–349 |doi=10.1111/0034-6527.00286 |citeseerx=10.1.1.25.2035}}
* {{cite journal |last=Athey|first=Susan|author2=Haile, Philip |year=2002 |title=Identification in Standard Auction Models |journal=Econometrica |volume=70 |issue=6 |pages=2107–2140 |doi=10.1111/1468-0262.00371 |citeseerx=10.1.1.217.1365}}
* {{cite journal |last=Athey|first=Susan|author2=Stern, Scott |year=2002 |title=The Impact of Information Technology on Emergency Health Care Outcomes |journal=RAND Journal of Economics |volume=33 |issue=3 |pages=399–432 |doi= 10.2307/3087465|url=http://www.rje.org/abstracts/abstracts/2002/Autumn_2002._pp._Athey.html |pmid=12585298 |jstor=3087465 |citeseerx=10.1.1.15.1325}}
* {{cite journal |author= |year=2002 |title=Monotone Comparative Statics Under Uncertainty |journal=[[Quarterly Journal of Economics]] |volume=117 |issue=1 |pages=187–223 |doi=10.1162/003355302753399481 |url= http://nrs.harvard.edu/urn-3:HUL.InstRepos:3372263}}
* {{cite journal |last=Athey|first=Susan|author2=Bagwell, Kyle |year=2001 |title=Optimal Collusion with Private Information |journal=RAND Journal of Economics |volume=32 |issue=3 |pages=428–465 |doi= 10.2307/2696363|url=http://www.rje.org/abstracts/abstracts/2001/Autumn_2001._pp._Athey.html |jstor=2696363 |hdl=1721.1/63939|citeseerx=10.1.1.727.384}}
* {{cite journal |author= |year=2001 |title=Single Crossing Properties and the Existence of Pure Strategy Equilibria in Games of Incomplete Information |journal=Econometrica |volume=69 |issue=4 |pages=861–890 |doi=10.1111/1468-0262.00223 |citeseerx=10.1.1.35.2 }}
* {{cite journal |last=Athey|first=Susan|author2=Levin, Jonathan |year=2001 |title=Information and Competition in U.S. Forest Service Timber Auctions |journal=[[Journal of Political Economy]] |volume=109 |issue=2 |pages=375–417 |doi=10.1086/319558 |url= http://nrs.harvard.edu/urn-3:HUL.InstRepos:3612768|hdl=1721.1/63772}}
* {{cite journal |last=Athey|first=Susan|author2=Schmutzler, Armin |year=2001 |title=Investment and Market Dominance |journal=RAND Journal of Economics |volume=32 |issue=1 |pages=1–26 |doi= 10.2307/2696395|url=http://www.rje.org/abstracts/abstracts/2001/Spring_2001._pp._Athey.html |jstor=2696395 |citeseerx=10.1.1.190.4998}}
* {{cite journal |last=Athey|first=Susan|author2=Avery, Chris |author3=Zemsky, Peter |year=2000 |title=Mentoring and Diversity |journal=[[American Economic Review]] |volume=90 |issue=4 |pages=765–786 |doi= 10.1257/aer.90.4.765|url=http://www.e-aer.org/archive/9004/90040765.pdf }}
* {{cite journal |last=Athey|first=Susan|author2=Schmutzler, Armin |year=1995 |title=Product and Process Flexibility in an Innovative Environment |journal=RAND Journal of Economics |volume=26 |issue=4 |pages=557–574 |doi= 10.2307/2556006|url=http://www.rje.org/abstracts/abstracts/1995/Winter_1995._pp_557_574.html |jstor=2556006 }}

 

== 参考文献 ==
{{Reflist}}

== 外部链接 ==
* [http://faculty-gsb.stanford.edu/athey/ Susan Athey's Homepage]
* [http://www.economicprincipals.com/issues/2007.04.22/246.html Clark Medal to Susan Athey] by David Warsh of Economic Principals
* [https://web.archive.org/web/20070911031559/http://www.gsb.stanford.edu/news/bmag/sbsm0708/kn-athey.html Susan Athey Awarded John Bates Clark Medal] by Joshua Gans in the Stanford Business Magazine, August 2007

==编者推荐==
===集智课程===
====[https://campus.swarma.org/course/714 计算社会经济学的内容与方法]====

本课程系统性地介绍计算社会经济学的主要研究内容和分析方法，阐述大规模社会经济数据（包括卫星遥感数据、手机通讯数据、社交媒体数据等）在解决全球贫困问题、刻画区域经济结构、推断个体财富和应急抢险救灾中的具体应用。

====[https://campus.swarma.org/course/1858 计量经济学因果分析工具在快手中的应用]====
在产品迭代和公司决策中，我们常常关心A如何影响B，在不方便使用A/B实验的场景下，我们可以用因果分析的方法，结合观测数据来回答这个问题。主讲人会介绍在快手常用的因果分析计量经济学方法（包括工具变量法、匹配法、双重差分法、合成控制法等），因果分析和机器学习结合的前沿方法（矩阵补全法、基于决策树/随机森林的异质性的因果效应估计等），以及这些方法如何与业务实践相结合。

====[https://campus.swarma.org/course/1858 机器学习的计量经济学应用]====
随着机器学习方法的发展和普及，经济学研究也开始关注相关方法的使用。经典的计量经济方法更加关注参数的统计学特征，关注目标测度的质量，因此研究通常要汇报参数估计和其标准误差；给定有限信息的条件下，机器学习算法能够进行更有效的预测。在面对比如ATE的因果估计，最佳政策分配方案，对价格对消费者选择模型的反事实效应估计等问题时，计量经济学和机器学习方法因结合了二者各自的长处，而能发挥更强的效力。本次分享也将为大家展示如何更好地结合机器学习方法和经济学问题进行因果推断。

[https://pattern.swarma.org/study_group_issue/212 '''集智×DataFun合作论坛：因果推断在工业界的应用 | 因果科学第三季第十九期 - 因果科学与Causal AI读书会第三季''']

估计异质因果效应，即条件平均因果效应(Conditional Average Causal Effect, CATE)，一直以来都是因果推断研究的重要组成。基于树模型的估计 CATE 的方法在学术界被广泛研究，其中最有代表性的是斯坦福大学经济学教授 Susan Athey 的系列工作，包括因果树、因果森林和广义随机森林。广义随机森林 (因果森林是它的特例)和普通的随机森林最大的区别在于，它是从局部加权估计的角度而不是集成方法的角度来解释的。这种基于森林的临近权重让其相对于其它方法具备灵活性，自适应性和易用性等优点。此外, 它基于局部矩方程的估计量还具备良好的统计性质。近年来，它们更是被广泛应用在工业界互联网商业平台的营销活动中, 可以有效地提高用户参与度和平台收入，例如阿里巴巴和亚马逊的优惠券, 共享乘车优步和滴滴的折扣券，抖音的视频观看金币激励等。估计用户对激励的敏感度 (即 CATE) 是个性化激励关键的第一步。所以因果森林是同时在学术界和工业界都是非常有影响力的工作。

=== 相关路径 ===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。
----
本中文词条由因果科学读书会词条梳理志愿者我是猫（74989）翻译审校、[[用户:薄荷|薄荷]]编辑，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

米盖尔·赫尔南 Miguel Hernán

2022-07-23T15:42:19Z

我是猫：

'''米盖尔·赫尔南 Miguel Hernán'''是一名西班牙裔美国籍流行病学家。他是哈佛大学陈曾熙公共卫生学院生物统计和流行病学系的因果实验室的主任和科隆科特隆斯校级教授，并且是哈佛-麻省理工健康科学与技术项目的成员。他是流行病学和生物统计学系的教授，指导了超过25名博士生和博士后研究员。

Hernán进行了对学习如何改善人类健康的研究。他还与来自几个国家的合作者共同参与，设计了医疗保健数据库的分析、流行病学的研究与随机对照实验项目。他还是一名全球高引用学者<ref name=":0">[https://recognition.webofsciencegroup.com/awards/highly-cited/2020/ Web of Science Highly Cited Researchers</ref>，Web of Science 极高的引用了他的研究。他的免费课程《图解因果》<ref name=":1">[https://www.edx.org/course/causal-diagrams-draw-your-assumptions-before-your] edX Causal Diagrams course</ref>已经有超过50000人进行了注册。他与[[James Robins|詹姆斯罗宾斯]]合著的关于因果推理的著作：''What if'' <ref name=":2">Hernán MA, Robins JM (2020). Causal Inference: What If. Boca Raton: Chapman & Hall/CRC.[https://www.hsph.harvard.edu/miguel-hernan/causal-inference-book/]</ref>可以在网上免费获取，并且被广泛用于对研究人员的培训。

Hernán是流行病学期刊的名誉编辑，此前曾为生物统计学期刊，美国流行病学杂志和美国统计协会杂志的副编辑。他还是一名美国食品与药物管理署的特殊政府雇员，并在美国国家科学院、国家工程院、国家医学院担任要职。他的主要教学方向关注如何生成、分析、并且解释指导公共健康政策和临床决策的数据。主要在哈佛大学陈曾熙公共卫生学院教授因果推理方法论，以及在哈佛麻省理工健身科学与技术研究所教授临床流行病学。学术上对大数据与公共健康等课题颇有研究。

Hernán主要致力于提高人类健康水平的工作，他与合作者一道设计分析了健康数据库、传染病研究及随机实验。他们一行生成数据并对其分析了，该研究将用于识别针对传染性疾病与非传染性疾病的治疗和预防的更好的治疗措施。首先Hernán作为HIV-CAUSAL合作项目的项目代表，这项研究是跨越欧洲到美国的一项前瞻性研究，他们团队将进行HIV患者治疗的疗效比较研究；其次，他又作为早期精神疾病中心实验室的副主任，这是一项与麦克林医院及马萨诸诺综合医院合作开展的项目，其目标旨在更好的了解首次发作期患者的临床过程和健康护理；最后，他也是VA-CAUSAL核心方法的联合负责人，这是一项与退伍军人健康管理局合作的因果研究倡议，旨在将退伍军人健康管理局转变为一个学习型的健康体系，加速这个研究的转化过程，使其真正的用于实际和决策支持，服务并病患、临床医生及其他利益相关者。

== 研究内容 ==
=== 方法论研究 ===
Hernán的研究集中在因果推理的方法论上，包括政策和临床干预的比较效果。在理想的情况下，所有的政策和临床决策都应该基于随机实验的结果。例如，关于避免饱和脂肪或开具特定止痛药处方的公共健康建议将基于长期研究的结果，这些研究比较了几种随机分配的干预措施在目标人群中的大群体中的有效性，这些人都坚持研究干预措施。不幸的是，这样的随机实验往往是不道德的、不切实际的，或者太过冗长，无法及时做出决定。

他和他的合作者结合了观察数据，大多是不可检验的假设，和统计学方法来模拟假设的随机实验。他们强调需要制定明确的因果问题，并使用分析方法，其有效性并不需要与当前主题知识相冲突的假设。例如，在专家怀疑是否存在受先前治疗影响的时间依赖性混杂因素的情况下，他们不使用要求不存在这种混杂因素的调整方法(例如，传统的回归分析/混杂因素)。虽然从观察数据得出的因果推论总是有风险的，但对观察性研究进行适当的分析往往能为政策制定或临床决策提供最佳可用证据。至少，设计良好、分析恰当的观察性研究的发现可以指导未来随机实验的设计。

=== 应用研究 ===
他们的应用工作侧重于艾滋病毒感染者抗逆转录病毒疗法的最佳使用、生活方式和药物干预以减少心血管疾病的发病率，以及促红细胞生成剂对透析患者的影响。

==教育经历==
*医学学士，1995，西班牙马德里自治大学
*公共卫生硕士(定量方法) ，1996，美国哈佛大学
*理学硕士(生物统计学) ，1999，美国哈佛大学
*公共卫生博士(流行病学) ，1999，美国哈佛大学

==荣誉和奖励==
===个人荣誉===
*会员，La Caixa 基金会，1995-1997
*会员，美国美国科学进步协会协会(AAAS) ，2012年当选
*优异奖，美国国家过敏与传染病研究所，美国国立卫生研究院，2018年
*会员，美国统计协会，2019年当选

===学术文献===
*最佳研究报告亚军，纽约市卫生部健康研究培训项目，1994年
*Kenneth Rothman 流行病学奖，流行病学杂志，2005年(第一作者) ，2021年(合著者)
*年度十大文章，美国流行病学杂志，2014年，2015年,2016年
*国际疾病监测协会生物监测杰出研究论文奖(类别: 对该领域的重大影响，二等奖) ，2016年
*美国流行病学杂志一百周年纪念之有影响力的文章: 在该杂志创刊头百年发行文章中，以第一作者和第二共同作者，四度被选定为有影响力的文章

== CAUSALab ==
CAUSALab 是一个旨在调查如何使用数据来支持医学、公共卫生和政策方面的更好决策为目的的研究中心，无论是选择一种治疗方法来维持2019冠状病毒疾病患者的生命，还是确定饮食指南的有效性，临床医生、决策者和患者在做出影响健康的选择之前，都必须经常筛选大量的信息，以便决策。

哈佛大学公共卫生学院的新 CAUSALab 于11月5日在斯奈德礼堂举行了启动仪式，旨在使这些决定变得更加容易。

该中心成立于2021年，由生物统计学和流行病学教授 Miguel Hernán 领导。它的研究人员使用一种被称为因果推理的学科开发出可操作的分析，这种学科最早由流行病学教授詹姆斯 · 罗宾斯、米切尔 · l · 和罗宾 · 拉弗利 · 董描述于1986年。这项工作结合了流行病学工具和人工智能技术，以及来自卫生保健数据库、流行病学研究和随机试验的数据，以调查药物、公共卫生和政策的有效性和安全性。

在启动仪式中，赫恩将 CAUSALab 描述为“一个学习如何工作的中心”他指出，实验室的工作经常被用来支持临床或政策决定，这是他和他的同事们非常认真对待的一项责任。

在一个小组讨论中，实验室的研究人员分享了2019冠状病毒疾病流行期间与决策相关的因果推断工作。芭芭拉 · 迪克曼，流行病学系讲师，讨论了她对疫苗相对有效性和安全性的研究。其他特色研究集中在旧药物的再利用用于2019冠状病毒疾病治疗，以及非药物干预用于2019冠状病毒疾病的预防和治疗。

== 相关新闻 ==
=== 精确定位疾病原因的复杂工作 ===
2022年5月12日——确定导致疾病或其他健康状况的因素ーー还是仅仅与这些状况相关的因素ーー长期以来一直是流行病学家的挑战。但是了解病因对于开发有效的医疗和政策干预是至关重要的。三位流行病学家在2022年5月6日于哈佛大学陈子昂公共卫生学院举行的第六届卡特研讨会上讨论了这个问题。

Kolokotrones 生物统计学和流行病学教授、哈佛大学 Chan 学院 CAUSALab 主任、发言人之一 Miguel Hernán 说: “我们要求流行病学家估计偶然效应，以了解什么可以改善健康状况。医生、病人和政策制定者... ... 必须知道什么是有效的，才能根据证据做出决定。”虽然他指出，实验性试验是因果推理的黄金标准，但它们往往耗费时间和昂贵，而且不能在所有情况下都适用于伦理。另一方面，他说，一些专家质疑是否可以从观察数据中准确地收集原因，特别是最近几个引人注目的例子，证明从观察研究中得出的结论是错误的。

Miguel Hernán 是艾滋病毒-因果协作项目的学术带头人，该项目比较不同治疗方法对于艾滋病毒感染者的有效性，他辩护说使用观察性研究有时是回答某些公共健康问题的唯一方法。他认为，那些被证明是错误的研究之所以存在问题，主要是因为应用方法不当，而不是研究本身的观察性。他说，随机试验和观察性研究可以相辅相成。他说: “我们可以把随机试验作为观察性研究的基准，我们可以利用观察性研究来扩展试验的结果，改进未来试验的设计。”。

== 参考书目 ==
* Causal analysis of existing databases: no power calculations required. Responses to Campbell, Morris and Mansournia, et al.
* Causal analyses of existing databases: no power calculations required.
* Lockdown measures and relative changes in the age-specific incidence of SARS-CoV-2 in Spain.
* Association of Statin Use With Overall and Cancer Survival-Reply.
* Comparative Effectiveness Research Using Observational Data: Active Comparators to Emulate Target Trials with Inactive Comparators.
* Does water kill? A call for less casual causal inferences.
* Specifying a target trial prevents immortal time bias and other self-inflicted injuries in observational analyses.
* Author response.
* Antiretroviral penetration into the CNS and incidence of AIDS-defining neurologic conditions.
* Identification, estimation and approximation of risk under interventions that depend on the natural value of treatment using observational data.

==外部链接==
*{{Cite web |url=https://www.hsph.harvard.edu/miguel-hernan|title=Harvard Faculty Website, Miguel Hernán|publisher=harvard.edu |accessdate=May 1, 2017}}
*{{Cite web |url=https://scholar.google.com/citations?user=vGpPHEgAAAAJ&hl=en |title=Google Scholar, Miguel Hernán|publisher=[[Google Scholar]]|accessdate=April 25, 2020}}

==参考文献==
{{Reflist}}

== 编者推荐 ==
[[File:因果推断.png|400px|right|thumb|[https://campus.swarma.org/course/1798 因果推理与机器学习读书会]]]

===集智俱乐部读书会推荐===
====[https://campus.swarma.org/course/1798 因果推理与机器学习读书会]====
大数据时代的下一场变革——因果革命正在酝酿之中，通过融合因果推理和机器学习而构建出来的Causal AI系统，有望奠定强人工智能的基石。集智俱乐部联合北京智源人工智能研究院，邀请了一批对因果科学与Casual AI感兴趣的研究者，开展为期2-3个月的系列线上读书会，研读经典和前沿论文，并尝试集体撰写一部书籍。

===集智课程推荐===
====[https://campus.swarma.org/course/1078 社交网络中的因果推断]====
本课程中，将简要介绍一些基本的因果推断策略，并聚焦社会网络分析中的因果推断问题，涉及社会网络实验设计、固定样本、工具变量和敏感度分析等。

====[https://campus.swarma.org/course/1573 基于地球科学系统的因果推断]====
本课程来自复杂系统自动建模读书会第11期，由黄玉、王硕和胡国辉带来与地球科学系统相关的论文讲解。

===书籍推荐===
[https://swarma.org/?p=23226 因果推断领域新书（附PDF）：Causal Inference: What If | 集智俱乐部]

在2020年末，由哈佛大学公共卫生学院的 Miguel Hernan 与 Jamie Robins 教授合作完成的因果推断领域的新书 Causal Inference: What If，更是详细全面地阐述了因果推断领域的基本概念与背后的理论基础。可以通过该链接扫码下载
===文章总结===
[https://uploads.strikinglycdn.com/files/39c2a266-3f68-495a-b28b-9abe92962fe9/%E5%9B%A0%E6%9E%9C%E6%8E%A8%E6%96%AD%EF%BC%9A%E5%A6%82%E6%9E%9C_%E5%AE%8C%E6%95%B4%E7%89%88_2021.04.22.pdf?id=3401023 因果推断：如果_完整版_2021.04.22.pdf (strikinglycdn.com)]

本书由芝加哥大学研究院罗家俊博士翻译为中文，可供参考
=== 相关路径 ===

* [https://pattern.swarma.org/article/99 因果科学与Casual AI读书会必读参考文献列表]：这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/article/90 因果科学和 Causal AI入门路径]：这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由因果科学读书会词条梳理志愿者我是猫（74989）翻译审校、[[用户:薄荷|薄荷]]编辑，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

Donald Rubin

2022-07-23T15:39:32Z

我是猫：

Donald Rubin是哈佛大学统计系<ref>"Donald B. Rubin" (PDF). Harvard College. Retrieved September 18, 2019.</ref>John L. Loeb讲座教授。他在缺失数据、因果推断、抽样调查、贝叶斯推断等统计学方法上作出了基础性贡献，其成果被广泛应用于心理学、教育学、政策、法律、经济学、流行病学、公共卫生以及其他社会和生物医学领域<ref>https://mp.weixin.qq.com/s/OcKVr2AAZkJJ3-8qy_r-yA</ref>。现任清华大学和天普大学讲席教授，美国科学院院士，美国艺术与科学院院士，美国科学促进会会士。Donald Rubin教授是当今世界影响力最深远的统计学家之一，他在现代统计领域做出了许多基础贡献，特别是在缺失数据和因果推断方面。他也是世界上被引用最多的科学作者之一，根据谷歌学者的数据，他被引用超过25万次。此外，截至2019年底，他有10篇单独发表的论文，每一篇都被引用超过1000次。

Donald Rubin教授的研究领域集中在：实验和观察研究中的因果推理；无响应抽样调查和缺失数据问题中的推理；贝叶斯技术的应用等。

他获得过统计学领域几乎所有著名奖项，是当今世界最具影响力的统计学家。他对科学的贡献已超出统计学范畴，其统计思想对生物医学、经济学、心理学、教育学、社会学及计算机科学等众多领域均产生了重要影响。

除了是统计学家，他还是一位音乐爱好者，音响发烧友，跑车迷。

== 研究兴趣<ref>https://statistics.fas.harvard.edu/people/donald-b-rubin</ref> ==

* 实验和观察研究中的因果推理。
* 在无响应的样本调查和缺失数据问题中的推断。
* 贝叶斯和经验贝叶斯技术的应用。
* 开发统计模型并将其应用于各种科学学科的数据。

== 教育和工作经历 ==

=== 教育经历 ===

* 1970: 统计学博士 - 哈佛大学
* 1966 年：计算机科学硕士 - 哈佛大学
* 1965 年：心理学学士学位 - 普林斯顿大学

=== 工作经历 ===

* 1984-2018：哈佛大学统计学系教授（退休）
* 1985 - 1994, 2000 - 2004: 哈佛大学统计系主任
* 1999 - 2001：马萨诸塞州剑桥市国家经济研究局理论和应用统计学研究员
* 1983 年至今：芝加哥大学研究助理
* 1982 - 1984：芝加哥大学统计系和教育系教授

== 生平 ==
1943年12月22日，Donald Rubin出生于美国华盛顿特区，父母是Harriet和Allan<ref>Li, Fan; Mealli, Fabrizia (2014). "A Conversation with Donald B. Rubin". ''Statistical Science''. '''29''' (3): 439–457. arXiv:1404.1789. Bibcode:2014arXiv1404.1789L. doi:10.1214/14-STS489. S2CID 58334768.</ref>。一年后，全家迁居伊利诺伊州埃文斯顿市，他在那里长大。高中时他对物理和数学产生了浓厚的兴趣。1961年，Donald Rubin就读于普林斯顿大学，原计划主修物理，后转入心理学系，在1965年毕业。之后Don进入了哈佛大学心理学研究生院，1966年转读计算机系硕士，但最终于1970年获得统计学博士学位，师从Bill Cochran。毕业后，他在哈佛大学统计系教过一年书，1971年开始在美国教育考试服务中心（Educational Testing Service，ETS）工作，并成为普林斯顿大学新成立统计系的访问学者。接下来十年，他先后在哈佛大学、加州大学伯克利分校、得克萨斯大学奥斯汀分校、威斯康星麦迪逊大学做过访问学者。在1981-1983年，他是芝加哥大学的全职教授；1984年重返哈佛大学统计系并工作至今（译者注：Rubin已从哈佛退休，现任职于清华大学）；1985-1994年，2000-2004年期间曾担任哈佛统计系主任。

== 贡献和荣誉 ==

=== 相关贡献 ===

==== 鲁宾因果框架 ====
Rubin在他1974年的论文中将潜在结果的概念推广到了观察性数据中，真正开启了统计学界对因果推断的广泛研究。因此潜在结果框架有时也被称为[[鲁宾因果框架]]。

==== 倾向性评分 ====
Rubin的另一重大的贡献则是和Rosenbaum一起提出了[[倾向评分|倾向性评分]]的概念。他们的这篇文章是著名统计学期刊Biometrika引用量最高的文章之一。

随机试验之所以被认为是因果推断的金标准，很大程度上是因为其处理是随机分配的，而不是由受试者自己选择的。处理是随机分配的假设可以形式化地表达为A⊥{Y(0),Y(1)}。在这条假设下，我们可以说明，基于观察数据得到的相关关系实际就反映了因果关系：

E[Y(1)-Y(0)] = E[Y(1)|A=1]-E[Y(0)|A=0] = E[Y|A=1]-E[Y|A=0]

其中，第二个等号成立是因为“一致性”，即在某种处理方案下观察到的结果就等于这种处理方案对应的潜在结果。

但是在现实中，处理是随机分配的假设往往不成立。例如在分层随机化实验中，我们先依据性别进行分组，进而在每个组内进行随机化实验，此时，条件在性别这个变量上（记作X）后，处理的分配是随机的，这个条件我们可以写成如下形式（即可忽略性）：A⊥{Y(0),Y(1)}|X。很多观察性研究可以近似地看成是某种分层随机试验，尽管处理的分配不是随机的，但是当个体的某些特征都相同时（如性别、年龄、收入等），处理的分配可以看成是随机的。

针对这种观察性研究，Rubin最初的想法是“匹配”，即将协变量X相同的个体放在一起比较，算出处理组和对照组之间的差异。但是这种方法的问题是，当X的维度很高时，基于原始协变量的匹配就越来越不现实。Rosenbaum和Rubin提出的倾向性评分，相当于对原始的协变量进行降维。倾向性评分 (propensity score，记作e(X)) 的定义是：e(X)=P(A=1|X)。它实际描述的是处理的分配机制。在Rosenbaum和Rubin的文章中，他们证明了A⊥{Y(0),Y(1)}|e(X)，于是可以基于倾向性评分进行匹配。当然，在现实中，倾向性评分往往是未知的，需要进行估计。基于倾向性评分的因果效应的估计方法也有很多，除了匹配的估计，还有[[逆概率加权]]的估计，[[回归分析|回归]]的估计等。本届诺奖得主[[吉多·威廉姆斯·因本斯 Guido Wilhelmus Imbens|Imbens]]在倾向性评分方法方面也做出了许多工作，如提出广义倾向评分等。

====工具变量引入潜在结果框架====
此外，Rubin将工具变量引入了潜在结果的框架。为了确定因果效应，通常需要假设上述的可忽略性成立，这在观察性研究中很难满足，即存在某些观察不到的混杂变量，同时影响处理分配和结局。在有未观测混杂的情况下识别和估计因果作用一直是一个巨大的挑战。这个问题长期以来一直受经济学家的关注，他们长期以来在线性结构方程模型的框架下使用工具变量来处理“遗漏变量偏误”的问题，但是线性结构方程模型隐含了较强的同质性因果效应的假设。Angrist、[[吉多·威廉姆斯·因本斯 Guido Wilhelmus Imbens|Imbens]]、Rubin在1996年的《美国统计学会学刊（JASA）》上发表的文章首次将工具变量引入了因果推断的框架。这也是首次在潜在结果的框架中，提出工具变量的三条关键假设（排他性、相关性、独立性）。他们的文章还提出了依从者平均因果效应的概念，这个概念也为主分层概念的提出埋下了伏笔。

在Angrist、[[吉多·威廉姆斯·因本斯 Guido Wilhelmus Imbens|Imbens]]、Rubin的文章里，他们使用了一个非常巧妙的例子。这篇文章里他们分析了参军（veteran status in the Vietnam era，记作A）对健康结局（记作Y）的因果作用。在现实中，一个人是否参军往往受多种因素影响，一般很难穷尽所有影响参军和健康结局的共同因素。但是在这个研究中，有一个很巧妙的工具变量的设计，因为当时入伍的优先权是通过随机分配的通过抽签决定的（记作Z）。理论上说，抽中数字较小（Z=1）的人应该服役（A=1），抽中数字大（Z=0）的人不应该服役（A=1），但是在现实中，也会有不依从的现象出现。这里，Z就是一个较好的工具变量：首先，一个人抽中的数字的大小不会对健康有直接影响，只会通过影响服役（A）来影响健康，这满足排他性假设；其次，抽中数字的大小与潜在结果是无关的（因为抽签是随机分配的），这满足独立性假设；最后抽中数字小的人——尽管存在不依从的现象——参加兵役的可能性会更高，即相关性的假设成立。

但遗憾的是，即使上述三个条件均成立，工具变量依然不足以识别我们通常感兴趣的因果参数（如平均因果效应）。注意到人群中存在四种人，我们一一列出如下（此处A写成Z的潜在结果）：

a) A(0)=0, A(1)=0。即无论抽签大小，均不服兵役。

b) A(0)=1, A(1)=1。即无论抽签大小，均服兵役。

c) A(1)=1, A(0)=0。即如果抽签抽中，（即抽签的数字小，Z=1）就去服兵役，反之不服兵役。

d) A(0)=1, A(1)=0。即如果抽签没抽中，（即抽签的数字小，Z=1）就去服兵役，反之不服兵役。

在Angrist、Imbens、Rubin的文章里，他们假设第四种人是不存在的，即“单调性”假设，也就是说，人群中没有这种看似非常奇怪的人，他们如果没被抽中就回去服兵役，但是被抽中的就不去服兵役。在这个例子中，单调性似乎是一个很有道理的假设。

在以上的假设下，Angrist、Imbens、Rubin提出了依从者（即第c类人）的平均因果效应是可以识别的，而且就等于如下的Wald估计量：

E[Y(1)-Y(0)|A(1)=1,A(0)=0] = {E[Y|Z=1]-E[Y|Z=0]}/{E[A|Z=1]-E[A|Z=0]}

这个量被称作局部平均因果作用（LATE），也被称作依从者平均因果作用（CACE）。

同一般的在计量中被广泛使用的“工具变量回归”，Angrist、Imbens、Rubin的方法几乎没有任何的模型假设。此后，对于处理未观测混杂的方法以及工具变量方法的研究变成了因果推断中的一个重要领域。

==== 相关荣誉 ====
Donald Rubin指导或共同指导了超过50名博士生，撰写和编辑了12本著作，发表了近400篇文章。根据谷歌学术截至2014年5月的统计，Donald Rubin的学术成果已有15万次引用，单单2013年就有一万六千次引用，在全球学者中名列前茅。

由于他的诸多贡献，鲁宾被选为美国国家科学院院士，美国艺术与科学学院院士，英国国家学术院院士，美国统计学会会士，国际数理统计协会会士，国际统计学会会士，古根海姆基金会会士，洪堡基金会会士，伍德罗·威尔逊基金会会士。他获得了美国统计学会的 Samuel S. Wilks 奖、针对统计创新的 Parzen 奖，以及统计学会会长委员会的 Fisher 讲席奖和 George W. Snedecor奖。他被美国统计学会的波士顿和芝加哥分会誉为年度统计学家。此外，他还获得了德国的班贝格大学以及斯洛文尼亚的卢布尔雅那大学的荣誉学位。

== Rubin的代表作 ==
[1] DB Rubin.(2019) Essential concepts of causal inference: a remarkable history and an intriguing future.

这篇文章介绍了随机试验与观察研究中因果推断的基本概念及历史。Rubin在1975年，指出了因果推断的基本问题——缺失数据问题，并阐述了在观察研究中需要考虑设计阶段与处理分配机制。随后，在观察研究中因果推断得到迅速发展。

[2] AP Dempster, NM Laird, DB Rubin.(1977) Maximum Likelihood from Incomplete Data Via the EM Algorithm. Proceedings of the Royal Statistical Society, 39(1), 1-22.

这篇文章提出了一种从不完全数据中计算最大似然估计的广泛适用的算法。文中列举了许多例子，包括缺失值情况，对分组、删减或截断数据的应用，有限混合模型，方差分量估计，超参数估计，迭代重加权最小二乘和因子分析等。

[3] RJA Little, DB Rubin.(2019) Statistical analysis with missing data.

这本书回顾了处理丢失数据的历史方法，并描述了具有缺失值的多元分析的简单方法。作者根据数据统计模型和缺失数据机制衍生出的可能性为问题分析提供一个连贯的理论，并将该理论应用于广泛地重要缺失数据问题。

[4] PR Rosenbaum, DB Rubin.(1983) The central role of the propensity score in observational studies for causal effects. Biometrika, 70(1), 41-55.

在 Donald Rubin 早期因果推断的文献中，推崇的方法是“匹配”（matching）。如果观测协变量的维数较高，匹配就很难实现了。Paul Rosenbaum在哈佛统计系读PhD期间，在Rubin课上问到了这个问题，就促进了两人合作了这篇文章。这篇文章主要介绍了在观察性研究中，倾向评分的作用。我们应该根据倾向得分来“设计”观察性研究；按照倾向得分将人群进行匹配，形成一个近似的“随机化试验”。

[5] Rubin, D.B. (1978) Bayesian inference for causal effects: The role of randomization. The Annals of Statistics, 6, 34-58.

[6] Rubin, D. B. (1976) Inference and missing data. Biometrika, 63, 581-592.

== 编者推荐 ==

=== 集智俱乐部文章推荐 ===
[https://mp.weixin.qq.com/s/vFDu-g2qy-sUfIl8EhrMJg Donald Rubin的因果推断学术贡献：超出统计学范畴的划时代影响]

=== 集智学园课程推荐 ===
[https://campus.swarma.org/course/3619 Donald Rubin亲自讲解：这才是因果推断！ | 因果科学第三季第一期]

[https://campus.swarma.org/course/2526 两套因果框架深度剖析：潜在结果模型与结构因果模型 | 因果科学读书会第二季第一期]

[https://campus.swarma.org/course/3890 因果推断在观察性研究中的应用Ⅱ：分析 | 因果科学第三季第四期]
===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。
*[https://pattern.swarma.org/path?id=28 复杂网络动力学系统重构文献]，这个路径是张江老师梳理了网络动力学重构问题，描述了动力学建模的常用方法和模型，并介绍了一些经典且重要的论文，这也是复杂系统自动建模读书会的主要论文来源，所以大部分都有解读视频。
*[https://pattern.swarma.org/path?id=114 因果纠缠集智年会——因果推荐系统分论坛]关于因果推荐系统的参考文献和主要嘉宾介绍，来源是集智俱乐部的因果纠缠年会。
== 参考资料 ==
{{Reflist}}

{{DEFAULTSORT:Rubin, Donald}}
[[Category:American statisticians]]
[[Category:Survey methodologists]]
[[Category:Harvard University faculty]]
[[Category:Temple University faculty]]
[[Category:Psychometricians]]
[[Category:Educational psychologists]]
[[Category:American psychologists]]
[[Category:Princeton University alumni]]
[[Category:1943 births]]
[[Category:Living people]]
[[Category:Bayesian statisticians]]
[[Category:Fellows of the American Statistical Association]]
[[Category:Members of the United States National Academy of Sciences]]
[[Category:Harvard School of Engineering and Applied Sciences alumni]]
[[Category:Corresponding Fellows of the British Academy]]

[[Category:待整理页面]]

处理效应

2022-07-23T15:02:59Z

我是猫：

'''平均处理效应 (Average Treatment Effect, ATE)'''是在随机试验个体、政策干预评估和医药试验中用于比较治疗或干预的一种测量方法。平均处理效应测量分配给处理个体和控制个体之间的平均结果的差异。在[[随机试验]]中，平均处理效应可以通过比较样本在处理个体和未处理个体的平均结果进行估计获得。然而，平均处理效应通常被理解为研究人员希望知道的一个因果参数 (即一个总体的估计或属性) ，定义时不参考试验设计或估计过程。观察性研究和随机赋值的实验性研究设计都可以用多种方式进行估计平均处理效应。

== 一般性定义 General definition ==

'''处理 (Treatment)'''一词起源于农业和医药领域的早期统计分析，现在被更广泛地用于自然科学和社会科学的其他领域，尤其是心理学、政治科学和经济学，例如评价公共政策的影响。试验中的处理或'''结果 (Outcome)'''的具体内容在评估平均处理效应时相对而言并不重要，也就是说，平均处理效应估算要求对某些个体进行处理，但不处理其他个体，但处理具体内容(例如药物、奖励性支付、政治广告)与平均处理效应的定义和估计无关。

“处理效应”一词是指某一特定处理或干预 (如给予某种药物)对结果变量(如病人的康复)的'''因果影响 (Causal Effect)'''。在因果关系的 Neyman-Rubin“[[潜在结果框架]]”中，处理效应被定义为每个独立个体的两个“潜在结果”，如果该个体给与处理，就会显现一种结果；如果该个体不给予处理，就会显现出另一种结果。“处理效果”是这两种潜在结果之间的差异。然而，这种个体水平的处理效果是不可观察到的，因为每个独立个体只能接受处理或不接受处理，但不能同时接受和不接受。随机分配需要确保给处理组的个体和对照组的个体在大量迭代实验上是服从同分布。事实上，两组中的个体在协变量和潜在结果上的分布是相同的。因此，处理个体之间的平均结果是控制个体的平均结果的反事实。这两个平均值之间的差异是平均处理效应，这是不可观测到的个体层面的处理效果的中心趋势的估计。<ref>{{cite journal |last=Holland |first=Paul W. |year=1986 |title=Statistics and Causal Inference |journal=Journal of the American Statistical Association|volume=81 |issue=396 |pages=945–960 |jstor=2289064 }}</ref>如果样本是从总体中随机构成，那么'''样本平均处理效应 (Sample Average Treatment Effect， SATE)'''也是'''总体平均处理效应 (Population Average Treatment Effect，PATE)'''的估计值。<ref>{{cite journal |last=Imai |first=Kosuke |first2=Gary |last2=King |first3=Elizabeth A. |last3=Stuart |year=2008 |title=Misunderstandings Between Experimentalists and Observationalists About Causal Inference |journal=Journal of the Royal Statistical Society, Series |volume=171 |issue=2 |pages=481–502 |url=http://nrs.harvard.edu/urn-3:HUL.InstRepos:4142695 }}</ref>

虽然实验确保了[[潜在结果]]以及所有协变量在处理组和对照组中的等价分布，但是在观察性研究中，情况并非如此。在观察性研究中，处理组和对照组个体并不服从随机分布，因此处理个体可能取决于未观测到或不可观测的因素。观察到的因素可以在统计学上加以控制 (如通过[[回归分析|回归]]或[[匹配]]) ，但是任何关于平均处理效应的估计都可能与不可观察因素混淆，这些因素影响了哪些个体接受了处理，哪些个体没有接受处理。

== 形式化定义 Formal definition ==

为了形式化定义平均处理效应，我们定义了两个潜在的结果: <math>y_{0}(i)</math > 是个体 <math> i </math> 没有被处理时的结果变量的取值，<math> y _ {1}(i) </math> 是个体 <math> i </math> 被处理时的结果变量的取值。例如，<math>y_{0}(i)</math > 是个体 <math> i </math> 没有被注射研究药物时的健康状态，<math>y_{1}(i)</math > 是个体 <math> i </math> 被注射药物时的健康状态。

个体 <math> i </math> 的处理效应定义为 <math> y_{1}(i)-y_{0}(i) = \beta (i) </math> 。在一般情况下，这种处理效果在个体之间是不一样的。平均处理效果<math> \text{ATE} </math>的定义为

:<math>\text{ATE} = \frac{1}{N}\sum_i (y_{1}(i)-y_{0}(i))</math>

这里对总体中所有N数量个体的处理效应进行了聚合平均计算。

如果我们能观察到一个大型代表性样本中每个个体的<math> y _ {1}(i) </math> 和 <math> y _ {0}(i) </math> ，我们可以简单地通过取样本中 <math> y _ {1}(i)-y _ {0}(i) </math> 的平均值来估计平均处理效应。然而，我们不能同时观察每个个体的<math> y _ {1}(i)、y _ {0}(i) </math>，因为每个个体不能同时被处理和不被处理。例如，在药物例子中，我们只能观察到个体接受过药物治疗的<math> y _ {1}(i) </math> 和个体未接受药物的 <math> y _ {0}(i) </math> 。这是研究者们在评估治疗效果时面临的主要问题，并因此引发了大量与估计方法相关的研究。

== 估计 Estimation ==

根据数据及其潜在环境的不同，我们可以使用许多方法来估计平均处理效应<math> \text{ATE} </math>。最常见方法包括:

* [[自然实验]] Natural Experiment

* [[双重差分模型]] Difference in Differences

* [[断点回归设计]] Regression Discontinuity Design

* [[倾向评分匹配]] Propensity Score Matching

* [[工具变量估计]] Instrumental Variables Estimation

== 示例 An example ==

考虑一个失业群体，对其中一些个体给与政策干预（处理组），其余的不做任何处理（控制组）。现需要计算求职监控政策（干预）对失业期长短的影响: 平均来说，如果对个体进行求职监控（给与干预），失业期会缩短多少？在选择一种干预这种情况下，平均处理效应是处理组和对照组的失业时间长度的期望值（平均值）差异。

在这个例子中，平均处理效应为正值意味着就业政策延长了失业期，平均处理效应为负值表明就业政策缩短了失业期。平均处理效应等于零表明提供就业政策对失业期长短并没有任何利处或不利。判断一个平均处理效应估计值是否为可以区分的零值需要进行统计推断。

因为平均处理效应是对处理的平均效果估计，正值或者负值平均处理效应并不表明处理对任意特定个体是有益或者有害。因此，平均处理效应忽略了处理效应的分布。即使平均处理效应是正值，总体的部分个体也可能因为这种处理或者干预而使得情况变得更糟。

== 异质处理效应 Heterogenous treatment effects ==

一些研究人员将处理效果依赖于个体的情况称之为“异质性”。例如，上面提到的求职监控政策依赖于性别（男、女）或者是区域的不同。

一种异质处理效应的研究方法是将研究数据进行分组 (如按照男、女性别，或者区域进行划分) ，比较平均处理效果在子组内的效应差异。每个子组的平均处理效应被称为'''“条件平均处理效应”(Conditional Average Treatment Effect，CATE)''' ，也就是说，每个子组的平均处理效应被称为条件平均处理效应，以子组内的分类方式为条件。

这种研究方法存在的一个问题是，子组的数据可能比未分组的数据要少得多，没有足够数据进行分析。

也有一些利用随机森林检测异质处理效应的相关工作<ref name="het-paper">https://arxiv.org/abs/1510.04342</ref><ref name="het-blog-post">https://www.markhw.com/blog/causalforestintro</ref>。

== 参考文献 References ==

{{reflist}}

== 扩展阅读 Further reading ==

*{{cite book |last=Wooldridge |first=Jeffrey M. |chapter=Policy Analysis with Pooled Cross Sections |pages=438–443 |title=Introductory Econometrics: A Modern Approach |year=2013 |publisher=Thomson South-Western |location=Mason, OH |isbn=978-1-111-53104-1 }}

==编者推荐==
===书籍推荐===
[[File:统计因果推理入门.jpg|200px|thumb|right|《统计因果推理入门》封面]]

*[[统计因果推理入门]] 对应英文[[Causal Inference in Statistics: A Primer]]

关于因果的讨论很多，但是许多入门的教材只是为没有统计学基础的读者介绍如何使用统计学技术处理因果性问题，而没有讨论因果模型和因果参数，本书希望协助具有基础统计学知识的教师和学生应对几乎在所有自然科学和社会科学非试验研究中存在的因果性问题。本书聚焦于用简单和自然的方法定义因果参数，并且说明在观察研究中，哪些假设对于估计参数是必要的。我们也证明这些假设可以用显而易见的数学形式描述出来，也可以用简单的数学工具将这些假设转化为量化的因果关系，如治疗效果和政策干预，以确定其可检测的内在关系。

*[[Counterfactuals and Causal Inference: Methods and Principles for Social Research]]

===课程推荐===

*[https://campus.swarma.org/course/2526 两套因果框架深度剖析：潜在结果模型与结构因果模型]

::这个视频内容来自[[集智俱乐部读书会]]-因果科学与Causal AI读书会第二季内容的分享，由英国剑桥大学及其学习组博士陆超超详细的阐述了潜在结果模型和结果因果模型，并介绍了两个框架的相互转化规律。
::1. 讲述因果推断的两大框架：潜在结果模型和结构因果模型，讨论他们各自的优缺点以及他们之间的联系，详细介绍他们之间的转化规律。

*[https://www.bilibili.com/video/BV1NJ411w7ms?from=search&seid=15960075946481426104 Average Effect of Treatment on the Treated (ATT) 实验组的平均干预效应/匹配方法]
::B站搬运的杜克大学社会科学研究中心的分享视频，介绍了在使用匹配方法时会涉及到的ATT、CATE、ATE的方法。

=== 文章总结 ===

* [https://mp.weixin.qq.com/s/f-rI5W6tc6qOzthbzK4oAw 崔鹏：稳定学习——挖掘因果推理和机器学习的共同基础]

* 知乎上RandomWalk总结的关于因果推断之Potential Outcome Framework的内容，其中提到因果退镀and额目标就是从观测数据中估计treatment effect。

* Mesonychid在自己的个人主页上分享的关于[https://hanyuz1996.github.io/2017/08/30/Donald-Rubin/ Donald-Rubin潜在结果模型]的解释。

* Yishi Lin在自己的个人主页上分享的关于因果推断的一些介绍[https://dango.rocks/blog/2019/01/08/Causal-Inference-Introduction1/ 因果推断漫谈（一）：掀开 “因果推断” 的面纱]

=== 相关路径 ===
* [https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
* [https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
* [https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户: Janeway|Janeway]]用户参与编译，[[用户:LFZ|LFZ]]参与审校，[[用户:思无涯咿呀咿呀|思无涯咿呀咿呀]]编辑，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

可忽略性

2022-07-23T15:00:20Z

我是猫：

{{#seo:
|keywords=实验设计，因果推断，可忽略性
|description=是实验设计的一种特征
}}

'''可忽略性 ignorability（无混淆性 Unconfoundedness）'''，在[[统计学]]中，'''可忽略性'''是实验设计的一种特征，即数据收集方式（以及缺失数据的性质）不依赖于缺失数据。若在给定已观测数据的条件下，表示哪些变量被观测到或缺失的缺失数据指示矩阵与缺失数据独立，则称该数据缺失机制（例如处理分配或抽样调查策略）是“可忽略的”。

这个想法是20世纪70年代早期[[Donald Rubin]]和[[Paul R. Rosenbaum|Paul Rosenbaum]] 合作提出<ref>Rubin, Donald (1978). "Bayesian Inference for Causal Effects: The Role of Randomization". ''The Annals of Statistics''</ref>的[[鲁宾因果推理模型 Rubin Causal Model]]的一部分。但那时，他们文章中可忽略性的确切定义不同。1978年鲁宾在一篇文章中讨论了可忽略的分配机制<ref name="rubin78">{{cite journal |last1=Rubin |first1=Donald |title=Bayesian Inference for Causal Effects: The Role of Randomization |journal=The Annals of Statistics |date=1978 |volume=6 |issue=1 |pages=34–58|doi=10.1214/aos/1176344064 |doi-access=free }}</ref> ,其可理解为将个体分配到处理组的方式与数据分析无关，因为已经记录了有关该个体的所有信息。后来，在 1983 年，Rubin 和 Rosenbaum <ref>{{cite journal |last1=Rubin |first1=Donald B. |last2=Rosenbaum |first2=Paul R. |title=The Central Role of the Propensity Score in Observational Studies for Causal Effects |journal=Biometrika |date=1983 |volume=70 |issue=1 |pages=41–55 |doi=10.2307/2335942 |jstor=2335942 |doi-access=free }}</ref>提出了强可忽略分配机制，即给定足够多的基线协变量后潜在结果的联合值与分配独立：

<math>(Y(0),Y(1))\perp W|X</math>

其中<math>Y(0)</math>和<math>Y(1)</math>是两个潜在结果，W是处理分配，X是协变量<ref>Rubin, Donald B.; Rosenbaum, Paul R. (1983). "The Central Role of the Propensity Score in Observational Studies for Causal Effects"</ref>。类似地，还有弱可忽略分配机制，只需：<math>Y(w)\perp W|X</math>

对<math>w=0和1</math>成立。可忽略性也是缺失数据分析中的常见假设。

定义倾向性得分<math>e(x)=P(W=1|X=x)</math>，用以表示个体被分配到处理组的概率，可以证明，当无混淆性成立时，<math>(Y(0),Y(1))\perp W|e(X)</math>因此只需要控制一个一维变量，就能实现潜在结果与处理分配相互独立。

可忽略性是因果推断的基础。当无混淆性成立时，平均因果作用可以识别。

<math>E[Y(w)]=E\left \{ E[Y(w)|X] \right \}=E\left \{E[Y(w)|X,W=w] \right \}=E\left \{ E[Y|X,W=w] \right \}</math>

平均因果作用的估计方法包括[[逆概率加权]]、[[回归分析|回归]]、[[匹配]]等一系列方法，甚至可以构造[[双稳健]]的估计方法，使得只要[[倾向得分匹配|倾向得分]]模型或回归模型之一设定正确，就能得到平均因果作用的相合估计。

由于可忽略性涉及潜在结果，因此不可检验。Donald Rubin提出了几种间接验证可忽略性的方法，包括伪结局、伪处理方法，以及基于子集可忽略性的方法<ref>Imbens & Rubin 2015书</ref>。Rosenbaum针对可忽略性提出了敏感性分析<ref>Rosembaum，Design of Observational Studies书</ref>。

Judea Pearl提出用[[后门准则]]来判断可忽略性。在有向无环图中，如果控制一组条件变量，处理变量和结果变量的所有后门路径被阻断，则可忽略性成立。然而实际上基于有向无环图判断可忽略性的做法并不严格。Thomas Richardson和James Robins曾提出单一世界干预图（SWIG），可将处理分配变量、干预值和潜在结果表现在因果图上。在单一世界干预图中，处理分配变量和干预值被阻断，通过检查处理分配变量与潜在结果的后门是否被阻断，可以更严格地判断可忽略性<ref>Hernan & Robins，What if书</ref>。
== 定义 ==
可忽略性（或无混淆性）的简明含义是，当涉及潜在结果（Y）时，我们可以忽略一个人是怎样最终处于一个群体中而非另一个群体中(“处理组”Tx = 1，或“控制组”Tx = 0）。它也被称为无混淆杂性、基于可观测变量的选择或无遗漏变量偏差<ref>{{cite journal|last1=Yamamoto|first1=Teppei|title=Understanding the Past: Statistical Analysis of Causal Attribution|journal=Journal of Political Science|date=2012|volume=56|issue=1|pages=237–256|doi=10.1111/j.1540-5907.2011.00539.x|hdl=1721.1/85887}}</ref>。

其数学形式可记为：[Yi1, Yi0] ⊥ Txi ；或者用文字表述为：个体“i”是否接受处理的潜在结果Y并不取决于他们是否真的（可观测到的）接受处理。换句话说，个体最终是通过什么方式处于一种与另一种处理状态我们是可忽略的，并将其潜在结果视为等价可交换的。虽然这看起来很复杂，但如果用下标表示“已实现”的真实处理状态，用上标表示“理想”（潜在）世界的处理状态，就会变得很清楚。（符号的提出可参考[https://www.cambridge.org/core/books/statistical-models-and-causal-inference/7CE8D4957FF6E9615AAAC4128FA8246E David Freedman]；可视化帮助文档可参考：[https://drive.google.com/open?id=1nLHHH0il225LIy33nRiH3ZfgoX1_-_V9 potential outcomes simplified]）。

所以，如果个体接受处理（上角标为 1），其对应的潜在结果Y为Y11/*Y01，实际上它们可观测的结果是（Y11, 下角标也为 1），而不是*Y01。注意：* 表示这个值是无法获取或不可观测的，即''完全与事实相反''或称为[[反事实]] counterfactual（CF）。

同样，如果个体未接受处理（上角标为 0）, 其对应的潜在结果Y为*Y10/Y00。在现实中它们是（Y00），而不是（*Y10）。

对于相同的处理分配条件，每个潜在结果(PO)中只有一个是实际发生可观测的，而另一个不会发生也无法观测，所以当我们尝试估计处理效应时，需要用可观测值(或估计值)来替代无法观测的反事实结果。当可忽略性/外生性成立时，例如个体是否接受处理是随机的，此时可利用已观测的 Y11'替换'*''Y''01，利用已观测的 Y00'替换'*''Y''10，不是个人层面的Yi，而是从平均角度出发，如 E[''Y''''i''1 – ''Y''''i''0 ]，这正是大家尝试获取的因果处理效应（TE）。

由于“一致性准则 consistency rule”，潜在结果可利用实际观测值表示：Yi0 = Yi00 ； Yi1 = Yi11（“一致性准则指出，个体的潜在结果正是该个体的实际产生结果<ref>{{cite journal|last1=Pearl|first1=Judea|title=On the consistency rule in causal inference: axiom, definition, assumption, or theorem?|journal=Epidemiology|date=2010|volume=21|issue=6|pages=872–875|doi=10.1097/EDE.0b013e3181f5d3fd|pmid=20864888}}</ref> p. 872)。所以，TE = E[Yi1 – Yi0] = E[Yi11 – Yi00]。

现在，我们通过简单的加减相同的完全反事实量 *Y10 得到:

E[Yi11 – Yi00] = E[Yi11 –*Y10 +*Y10 - Yi00] = E[Yi11 –*Y10] + E[*Y10 - Yi00] = ATT + {选择性偏差},

其中，第一项 ATT = 处理组的平均处理效应<ref>{{cite journal|last1=Imai|first1=Kosuke|title=Misunderstandings between experimentalists and observationalists about causal inference|journal=Journal of the Royal Statistical Society, Series A (Statistics in Society)|date=2006|volume=171|issue=2|pages=481–502|doi=10.1111/j.1467-985X.2007.00527.x|url=http://nrs.harvard.edu/urn-3:HUL.InstRepos:4142695}}</ref>，第二项是当个体可选择属于“处理”组或“控制”组而非完全随机分配时引入的偏差。

无论是普通的还是在给定一些变量条件下的可忽略性，都意味着这种选择偏差可以被忽略或消除，因此人们可以得到（或估计）因果效应。

==参考文献 ==
<references/>
*{{cite paper |title=Bayesian Inference for Causal Effects: The Role of Randomization |first=Rubin|last=Donald |journal= The Annals of Statistics |year=1978 |volume=6(1) |pages=34–58|doi=10.1214/aos/1176344064}}
*{{cite paper |arxiv=1109.2143 |title=The Central Role of the Propensity Score in Observational Studies for Causal Effects |first=Rubin|last=Donald B.|first2=Rosenbaum|last2=Paul R.|journal= Biometrika |year=1983 |volume=70(1) |pages=41–55|doi=10.2307/2335942}}
*{{cite paper |title=The Central Role of the Propensity Score in Observational Studies for Causal Effects |first=Yamamoto|last=Teppei|journal= Journal of Political Science|year=1983 |volume= 56 (1) |pages= 237–256|doi=10.1111/j.1540-5907.2011.00539.x}}
*{{cite paper |title=On the consistency rule in causal inference: axiom, definition, assumption, or theorem? |first=Pearl|last=Judea |journal= Epidemiology|year=2010 |volume= 21 (6) |pages= 872–875|doi=10.1097/EDE.0b013e3181f5d3fd}}
*{{cite paper |title=Misunderstandings between experimentalists and observationalists about causal inference |first=Imai|last=Kosuke |journal= Epidemiology|year=2006 |volume= 171 (2) |pages= 481–502|doi=10.1111/j.1467-985X.2007.00527.x}}

== 推荐阅读 ==

*{{cite book |first=Andrew |last=Gelman |first2=John B. |last2=Carlin |first3=Hal S. |last3=Stern |first4=Donald B. |last4=Rubin |title=Bayesian Data Analysis |publisher=Chapman & Hall/CRC |location=New York |year=2004 }}

*{{cite book |first=Judea |last=Pearl |title=Causality: Models, Reasoning, and Inference |url=https://archive.org/details/causalitymodelsr0000pear |url-access=registration |publisher=Cambridge University Press |year=2000 }}

*{{cite paper |arxiv=1109.2143 |title=Ignorability in Statistical and Probabilistic Inference |first=Manfred |last=Jaeger |journal=Journal of Artificial Intelligence Research |year=2011 |volume=24 |pages=889–917 |doi=10.1613/jair.1657 |bibcode=2011arXiv1109.2143J }}

== 相关课程==

===书籍推荐===
[[File:统计因果推理入门.jpg|200px|thumb|right|《统计因果推理入门》封面|链接=https://wiki.swarma.org/index.php%3Ftitle=%E6%96%87%E4%BB%B6:%E7%BB%9F%E8%AE%A1%E5%9B%A0%E6%9E%9C%E6%8E%A8%E7%90%86%E5%85%A5%E9%97%A8.jpg]]
*[https://wiki.swarma.org/index.php%3Ftitle=%E7%BB%9F%E8%AE%A1%E5%9B%A0%E6%9E%9C%E6%8E%A8%E7%90%86%E5%85%A5%E9%97%A8 统计因果推理入门] 对应英文[https://wiki.swarma.org/index.php%3Ftitle=Causal_Inference_in_Statistics:_A_Primer Causal Inference in Statistics: A Primer]
关于因果的讨论很多，但是许多入门的教材只是为没有统计学基础的读者介绍如何使用统计学技术处理因果性问题，而没有讨论因果模型和因果参数，本书希望协助具有基础统计学知识的教师和学生应对几乎在所有自然科学和社会科学非试验研究中存在的因果性问题。本书聚焦于用简单和自然的方法定义因果参数，并且说明在观察研究中，哪些假设对于估计参数是必要的。我们也证明这些假设可以用显而易见的数学形式描述出来，也可以用简单的数学工具将这些假设转化为量化的因果关系，如治疗效果和政策干预，以确定其可检测的内在关系。
*[https://wiki.swarma.org/index.php%3Ftitle=Counterfactuals_and_Causal_Inference:_Methods_and_Principles_for_Social_Research Counterfactuals and Causal Inference: Methods and Principles for Social Research]
===课程推荐===
*[https://campus.swarma.org/course/2526 两套因果框架深度剖析：潜在结果模型与结构因果模型]
::这个视频内容来自[https://wiki.swarma.org/index.php%3Ftitle=%E9%9B%86%E6%99%BA%E4%BF%B1%E4%B9%90%E9%83%A8%E8%AF%BB%E4%B9%A6%E4%BC%9A 集智俱乐部读书会]-因果科学与Causal AI读书会第二季内容的分享，由英国剑桥大学及其学习组博士陆超超详细的阐述了潜在结果模型和结果因果模型，并介绍了两个框架的相互转化规律。
::1. 讲述因果推断的两大框架：潜在结果模型和结构因果模型，讨论他们各自的优缺点以及他们之间的联系，详细介绍他们之间的转化规律。
*[https://www.bilibili.com/video/BV1NJ411w7ms?from=search&seid=15960075946481426104 Average Effect of Treatment on the Treated (ATT) 实验组的平均干预效应/匹配方法]
::B站搬运的杜克大学社会科学研究中心的分享视频，介绍了在使用匹配方法时会涉及到的ATT、CATE、ATE的方法。

* [https://campus.swarma.org/course/1958 图模型与因果推理基础]

因果科学成为了“科学”，并在近期正蓬勃发展，这离不开其具有了形式化的定义。在该课程中，将介绍因果科学中的图模型，以及如何在图模型中使用前门调整、后门调整、工具变量、Do-演算等干预的工具，并介绍可识别性等基础概念。

* [https://campus.swarma.org/course/2030 潜结果框架下的因果效应]

什么是因果呢？“因”其实就是引起某种现象发生的原因，而“果”就是某种现象发生后产生的结果。因果问题在我们日常生活中十分常见，但是不管是传统的统计学还是当下很火的大数据、机器学习，更多的是解决相关性的问题。因果问题存在于很多领域，如医疗健康、经济、政治科学、数字营销等。该课程是由浙江大学助理教授况琨讲授的，主要回答以下一些重要的问题：因果性与相关性的区别是什么？相关性有哪几种来源？如何评估因果效应？有哪些常用且前沿的方法？

===文章总结===
*[https://mp.weixin.qq.com/s/f-rI5W6tc6qOzthbzK4oAw 崔鹏：稳定学习——挖掘因果推理和机器学习的共同基础]

*知乎上RandomWalk总结的关于因果推断之Potential Outcome Framework的内容，其中提到因果退镀and额目标就是从观测数据中估计treatment effect。

*Mesonychid在自己的个人主页上分享的关于[https://hanyuz1996.github.io/2017/08/30/Donald-Rubin/ Donald-Rubin潜在结果模型]的解释。

*Yishi Lin在自己的个人主页上分享的关于因果推断的一些介绍[https://dango.rocks/blog/2019/01/08/Causal-Inference-Introduction1/ 因果推断漫谈（一）：掀开 “因果推断” 的面纱]
===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。

----
本中文词条由[[用户:shlay|shlay]]用户参与编译，[[用户:PengWu|PengWu]]参与审校，[[用户:薄荷|薄荷]]编辑，欢迎在讨论页面留言。

'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''

潜在结果

2022-07-23T14:46:21Z

我是猫：

'''潜在结果'''最初由Jerzy Neyman提出，但Neyman只在随机试验的背景下讨论了潜在结果，后来[[Donald Rubin]]将潜在结果拓展到观察性研究中。

== 概念来源 ==
潜在结果是指给定一个单元，和一系列动作，我们把一个“动作-单元”确定为一个潜在结果。“潜在(potential)”这个词表达的意思是我们并不总是能在现实中观察到这个结果(outcome)，但原则上它们可能发生。

潜在结果最初的提出是在Neyman的论文中，但是这篇文章只在随机对照试验中使用了潜在结果的概念，且直到1990年翻译成英文后才为人所知。[[Donald Rubin]]在他1974年的论文中也提出了潜在结果的概念，并将这个概念推广到了观察性数据中，真正开启了统计学界对因果推断的广泛研究。

何为潜在结果？又如何基于潜在结果定义因果？假设我们关心某个变量A（例如，在某个时间点是否服用阿莫西林，A=1是服用，A=0是没有服用）对Y（服用后三小时的是否还感冒，Y=1表示感冒，Y=0表示没有感冒）的因果关系。那么我们观察到的某个个体就存在两个“潜在”的状态：一个是如果他服药，他三小时后是否感冒，不妨记作Y(1)；另一个如果他没有服药，他三小时后是否感冒，不妨记作Y(0)。这里Y(1)和Y(0)就是潜在结果。（注意，在实际中，Y(1)和Y(0)这二者中只有一个可以被观察到。另外，严格地说，此处实际上做了“个体处理稳定性”即SUTVA的假设）那么对这个人，就可能有以下四种情况：

a) Y(0)=0, Y(1)=0。即不论吃不吃药，这个人在三小时后均不会感冒。

b) Y(0)=1, Y(1)=1。即不论吃不吃药，这个人在三小时后均会感冒。

c) Y(0)=1, Y(1)=0。即此人如果不吃药，三小时后会感冒，但是如果吃药，三小时后不会感冒。

d) Y(0)=0, Y(1)=1。即此人如果不吃药，三小时后不会感冒，但是如果吃药，三小时后会感冒。

在a和b两种情况下，Y(1)=Y(0)，即吃不吃药不会影响三小时后是否感冒的状态，这种情况下我们说吃药对三小时后是否感冒没有因果作用，相反，在c和d两种情况下，Y(1)≠Y(0)，这种情况下我们说吃药对三小时后是否感冒有因果作用。使用潜在结果，我们便可以方便地定义感兴趣的因果作用，例如平均因果效应E[Y(1)-Y(0)]，这个量代表了在一个群体中，如果每一个人都采取某种处理和都不接受处理相比，这两种情况下平均意义上的结果差值。

使用潜在结果我们或许可以理解为什么人们不会认为“太阳升起是因为鸡打鸣”，因为根据我们的常识，如果某天鸡不打鸣（或许是因为生病或劳累），太阳仍然会照常升起。

'''因此从分析潜在结果出发，诞生了潜在结果框架，有时也称为鲁宾因果模型 Rubin Causal Model (RCM)''' ，'''Neyman-Rubin 因果模型'''<ref name="sekhon">{{cite book |last=Sekhon |first=Jasjeet |chapter=The Neyman–Rubin Model of Causal Inference and Estimation via Matching Methods |title=The Oxford Handbook of Political Methodology |year=2007 |chapter-url=http://sekhon.berkeley.edu/papers/SekhonOxfordHandbook.pdf }}</ref>。它是一种基于潜在结果框架的因果统计分析方法，以[[Donald Rubin]]的名字命名。“鲁宾因果模型”这个名字最早是由 Paul W. Holland 创造的。 <ref name="holland:causal86">{{cite journal |last=Holland |first=Paul W. |title=Statistics and Causal Inference |journal=Journal of the American Statistical Association |volume=81 |issue=396 |year=1986 |pages=945–960 |jstor=2289064 |doi=10.1080/01621459.1986.10478354}}</ref> ''' 潜在结果框架 Potential Outcomes Framework'''最初是由 Jerzy Neyman 在他 1923 年的硕士论文中提出的，<ref name="neyman:masters">Neyman, Jerzy. ''Sur les applications de la theorie des probabilites aux experiences agricoles: Essai des principes.'' Master's Thesis (1923). Excerpts reprinted in English, Statistical Science, Vol. 5, pp. 463–472. (Dorota Dabrowska, and T. P. Speed, Translators.)</ref>尽管他只在完全随机实验的背景下讨论了它。 <ref name="Jasa1">{{cite journal |last=Rubin |first=Donald |year=2005 |title=Causal Inference Using Potential Outcomes |journal=Journal of the American Statistical Association|volume=100 |issue=469 |pages=322–331 |doi=10.1198/016214504000001880 }}</ref>[[Donald Rubin]]将其扩展为在观察性和实验性研究中思考因果关系的一般框架。<ref name="sekhon" />

== 思想介绍 ==
[[鲁宾因果框架|潜在结果模型]]是基于潜在结果的想法。例如，如果一个人上过大学，他在 40 岁时会有特定的收入，而如果他没有上过大学，他在 40 岁时会有不同的收入。为了衡量这个人上大学的因果效应，我们需要比较同一个人在两种不同的未来中的结果。由于不可能同时看到两种潜在结果，因此总是缺少其中一种潜在结果。这种困境就是“因果推理的基本问题”。

由于因果推理的根本问题，无法直接观察到单元级别的因果效应。然而，随机实验允许估计人口水平的因果效应。<ref name=":01">{{cite journal |last=Rubin |first=Donald |title=Estimating Causal Effects of Treatments in Randomized and Nonrandomized Studies |journal=Journal of Educational Psychology|volume=66 |issue=5 |year=1974 |pages=688–701 [p. 689] |doi=10.1037/h0037350 }}</ref>随机实验将人们随机分配到对照组：大学或非大学。由于这种随机分配，各组（平均）相等，40 岁时的收入差异可归因于大学分配，因为这是各组之间的唯一差异。然后可以通过计算处理（上大学）和对照（非上大学）样本之间的平均值差异来获得平均因果效应（也称为平均处理效应）的估计值。

然而，在许多情况下，由于伦理或实际问题，随机实验是不可能的。在这种情况下，存在非随机分配机制。上大学的例子就是这种情况：人们不是随机分配上大学的。相反，人们可能会根据他们的经济状况、父母的教育等来选择上大学。已经开发了许多用于因果推断的统计方法，例如[[倾向得分匹配]]。这些方法试图通过寻找类似于处理单元的控制单元来纠正分配机制。
== 样例介绍 ==
假设乔正在参与 FDA 对一种新的高血压药物的测试。如果我们是无所不知的，我们就会知道乔在治疗组和控制组下的结果。我们想要探究的因果效应，或者说治疗效果，就是指这两种潜在结果之间的差异。
{| class="wikitable"
!subject
!Yt(u)
!Yc (u)
!Yt (u)-Yc (u）
|-
!乔
|130
|135
|−5
|}
Yt(u) 表示如果乔服用了这种新药物之后对应的血压。一般来说，这个符号表示在个体 u 上的实施治疗 t 的潜在结果。类似地，Yc (u)是在个体 u 上的不做治疗（控制）c 的潜在结果，即Yc (u)表示乔不吃这种新药物时对应的血压。则在这种情况下，Yt (u)-Yc (u)也就是服用这种新药物对乔的血压的因果效应。

从这个表格中我们只知道对乔的因果效应。研究中的其他人如果服用新药，血压可能会升高。然而，不管其他受试者的因果效应如何，我们可以得出结论，对于乔来说，相比于他没有服用新药的情况，服用该药，他的血压会降低。

考虑更多的病患样本
{| class="wikitable"
!subject
!Yt(u)
!Yc (u)
!Yt (u)-Yc (u）
|-
!乔
|130
|135
|−5
|-
!玛丽
|140
|150
|−10
|-
!莎莉
|135
|125
|10
|-
!鲍勃
|135
|150
|−15
|}
每个实验对象的因果效应是不同的。从该表中可知乔，玛丽和鲍勃的因果效应为负值，说明药物仅对乔，玛丽和鲍勃起作用。他们服用这种药物后的血压比没有服用这种药物时的血压要低。另一方面，对于莎莉来说，这种药物会导致血压升高。

为了让一个潜在的结果有意义，它必须是可测试的，至少是先验的。例如，如果乔在任何情况下都没有办法获得新药，那么他就不可能获得效应。这永远不可能发生在乔身上。如果不能观察到效应，即使在理论上，那么治疗对乔的血压的因果效应也不能确定。

== 没有干预就没有因果关系 ==
新药的因果效应是明确定义的，因为它是两种可能发生的潜在结果的简单差异。在这种情况下，我们（或其他事物）可以[[干预]]世界，至少在概念上是这样，因此可能会发生不同的事。

如果永远不可能发生其中一种潜在结果，那么这种因果效应的定义就会变得更加棘手。例如，乔的身高对他的体重有什么因果关系？这似乎与我们的其他示例相似。我们只需要比较两个潜在的结果：乔在处理下的体重（处理被定义为增高3英寸）和乔在控制下的体重（控制被定义为他当前的身高）。

问题在于：我们无法增加乔的身高。没有办法观察如果乔更高，他的体重会是多少，因为我们没有办法干预乔的身高从而让他变得更高，这就让研究乔的身高和体重的因果关系变得没有意义。因此有一个口号：没有干预就没有因果关系。

== 个体处理稳定性假设 (SUTVA) ==
我们要求“对一个个体 [潜在结果] 的观察不应受到其他个体的特定处理分配的影响”（Cox 1958，第 2.4 节）。这被称为个体处理稳定性假设（SUTVA），它超越了独立性的概念。

在我们的例子中，乔的血压不应该取决于玛丽是否接受了药物。但如果真的发生了呢？假设乔和玛丽住在同一所房子里，玛丽总是做饭。这种药物会导致玛丽渴望咸的食物，所以如果她服用这种药物，她会用比其他情况下更多的盐来烹饪。高盐饮食会增加乔的血压。因此，乔的血压结果将同时取决于他接受的处理和玛丽接受的处理。

在不满足SUTVA的情况下，因果推断会更加困难。我们可以通过考虑更多的处理来解释相关的观察结果。我们通过考虑玛丽是否接受处理来创建 4 个处理。
{| class="wikitable" align="center"
!主题||乔 = c，玛丽 = t||乔 = t，玛丽 = t||乔 = c，玛丽 = c||乔 = t，玛丽 = c
|-
!乔||140||130||125||120
|}
回想一下，因果效应被定义为两个潜在结果之间的差异。在这种情况下，存在多种因果效应，因为存在两个以上的潜在结果。一是玛丽接受处理时药物对乔的因果效应{130，140}。另一个是当玛丽没有接受处理时对乔的因果效应{120，125}。第三是在乔没有得到处理的情况下，玛丽的处理对乔的因果效应{125，140}。玛丽接受的处理对乔的因果影响比乔接受的处理对乔的影响更大，而且是相反的方向。

通过以这种方式考虑更多潜在结果，我们可以使SUTVA成立。但是，如果乔以外的任何个体都依赖于玛丽，那么我们必须考虑进一步的潜在结果。依赖个体的数量越多，我们必须考虑的潜在结果就越多，计算也变得越复杂（考虑对不同的20个人进行的实验，每个人的处理状态都会影响其他人的结果）。为了（轻松）估计单一处理相对于对照的因果效应，SUTVA 应该成立。

== 分配机制 ==
分配机制，即给个体分配处理（或者治疗）的方法，影响平均因果效应的计算。换句话说，当把一个接受处理的组和一个没有接受处理的组进行比较时，我们需要知道(或者做出一个假设)为什么某些人被分配到处理组，而其他人没有。

一种分配机制是随机化。对于每个受试者，我们可以抛硬币来确定她是否接受处理。在最简单的情况下，这种分配是随机的(就像在临床试验中一样) ，而且不会混淆，因为分配并不依赖于潜在的结果。

如果我们希望五个受试者接受处理，我们可以将处理分配给我们从组里里挑选出来的前五个名字。当我们随机分配处理时，我们可能会得到不同的答案。

另一种分配机制是非随机化的，如果所有接受处理的个体都是因为他们最有可能受益而接受处理，那么处理结果和对照组之间的直接比较不能代表处理的因果效应。

从以下这个例子来理解分配机制，假设我们同时知道每个个体接受处理和未接受处理的真实潜在结果是什么：
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)||Y_{t}(u)-Y_{c}(u)
|-
!乔||130||115||15
|-
!玛丽||120||125||−5
|-
!莎莉||100||125||−25
|-
!鲍勃||110||130||−20
|-
!詹姆士||115||120||−5
|-
!平均||115||123||−8
|}可以计算得出真实的平均因果效应是-8。但实际上每个人的因果效应各异，都不会等于这个平均值。而且在现实生活中个体因果效应通常是未知的，因为没办法让一个个体即接受处理又不接受处理，而能同时得到两种情况下的潜在结果。但是在随机分配处理后，我们可以对多个人中接受处理的和未接受处理的潜在结果分别求平均，得到人群的平均因果效应：
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)||Y_{t}(u)-Y_{c}(u)
|-
!乔||130||?||?
|-
!玛丽||120||?||?
|-
!莎莉||?||125||?
|-
!鲍勃||?||130||?
|-
!詹姆士||115||?||?
|-
!平均||121.66||127.5||−5.83
|}

当然，不同的随机分配接受处理个体，产生的平均因果效应的估计值也不同：
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)
!Y_{t}(u)-Y_{c}(u)
|-
!乔||130||?||?
|-
!玛丽||120||?||?
|-
!莎莉||100||?||?
|-
!鲍勃||?||130||?
|-
!詹姆士||?||120||?
|-
!平均||116.67||125||−8.33
|}平均因果效应会有所不同，因为我们的样本很小并且反馈效应的方差很大。如果样本较大且方差较小，则无论随机分配给处理的特定单位如何，平均因果效应将更接近真实的平均因果效应。

以上是随机分配机制的结果。再看一种可能不太合理的分配机制，假设仅将处理分配给所有男性。
{| class="wikitable" align="center"
!主题||Y_{t}(u)||Y_{c}(u)
!Y_{t}(u)-Y_{c}(u)
|-
!乔||130||?||?
|-
!鲍勃||110||?||?
|-
!詹姆士||105||?||?
|-
!玛丽||?||130||?
|-
!莎莉||?||125||?
|-
!苏茜||?||135||?
|-
!平均||115||130||−15
|}虽然在不区分性别的情况下可以得到一个平均因果效应值，但是在这种分配机制下，因为没有接受处理的女性，所以无法单独对女性受试者确定她们的平均因果效应。此时对女性受试者而言，她们接受处理的概率为0，而为了能对受试者做出因果效应的任何推断，受试者接受处理的概率必须大于 0 且小于 1（Positivity 假设）。

== 另见 ==

* [[鲁宾因果框架]]

== 编者推荐 ==

=== '''集智俱乐部文章''' ===
[https://mp.weixin.qq.com/s/vFDu-g2qy-sUfIl8EhrMJg Donald Rubin的因果推断学术贡献：超出统计学范畴的划时代影响]

==='''集智课程'''===

[https://swarma.org/?p=29559 因果推断的潜在结果框架在实验性研究的应用 | 周日直播·因果科学读书会 | 集智俱乐部 (swarma.org)]

[https://swarma.org/?p=24656 两套因果框架深度剖析：潜在结果模型与结构因果模型 | 因果科学读书会 | 集智俱乐部 (swarma.org)]

[https://campus.swarma.org/course/3527 因果科学读书会第三季：因果+X (swarma.org)]

“因果”并不是一个新概念，而是一个已经在多个学科中使用了数十年的分析技术。通过前两季的分享，我们主要梳理了因果科学在计算机领域的前沿进展。如要融会贯通，我们需要回顾数十年来在社会学、经济学、医学、生物学等多个领域中，都是使用了什么样的因果模型、以什么样的范式、解决了什么样的问题。我们还要尝试进行对比和创新，看能否以现在的眼光，用其他的模型，为这些研究提供新的解决思路。

“因果+X”就是要让因果真正地应用于我们的科学研究中，不管你是来自计算机、数理统计领域，还是社会学、经济学、管理学领域，还是医学、生物学领域，我们希望共同探究出因果研究的范式，真正解决因果的多学科应用问题，乃至解决工业界的问题。

[https://campus.swarma.org/course/2526 两套因果框架深度剖析：潜在结果模型与结构因果模型]

这个视频内容来自[https://wiki.swarma.org/index.php%3Ftitle=%E9%9B%86%E6%99%BA%E4%BF%B1%E4%B9%90%E9%83%A8%E8%AF%BB%E4%B9%A6%E4%BC%9A 集智俱乐部读书会]-因果科学与Causal AI读书会第二季内容的分享，由英国剑桥大学及其学习组博士陆超超详细的阐述了潜在结果模型和结果因果模型，并介绍了两个框架的相互转化规律。讲述因果推断的两大框架：潜在结果模型和结构因果模型，讨论他们各自的优缺点以及他们之间的联系，详细介绍他们之间的转化规律。

[https://campus.swarma.org/course/2030 潜结果框架下的因果效应]

什么是因果呢？“因”其实就是引起某种现象发生的原因，而“果”就是某种现象发生后产生的结果。因果问题在我们日常生活中十分常见，但是不管是传统的统计学还是当下很火的大数据、机器学习，更多的是解决相关性的问题。因果问题存在于很多领域，如医疗健康、经济、政治科学、数字营销等。该课程是由浙江大学助理教授况琨讲授的，主要回答以下一些重要的问题：因果性与相关性的区别是什么？相关性有哪几种来源？如何评估因果效应？有哪些常用且前沿的方法？

===相关路径===
*[https://pattern.swarma.org/path?id=99 因果科学与Casual AI读书会必读参考文献列表]，这个是根据读书会中解读的论文，做的一个分类和筛选，方便大家梳理整个框架和内容。
*[https://pattern.swarma.org/path?id=9 因果推断方法概述],这个路径对因果在哲学方面的探讨，以及因果在机器学习方面应用的分析。
*[https://pattern.swarma.org/path?id=90 因果科学和 Causal AI入门路径]，这条路径解释了因果科学是什么以及它的发展脉络。此路径将分为三个部分进行展开，第一部分是因果科学的基本定义及其哲学基础，第二部分是统计领域中的因果推断，第三个部分是机器学习中的因果（Causal AI）。
== 参考文献 ==
<references />

互信息的“微积分”

2022-07-23T09:40:38Z

我是猫：/* 量化复杂系统中的相互作用 */

此词条由因果科学读书会词条梳理志愿者我是猫（74989）、趣木木编撰，未经专家审核，带来阅读不便，请见谅。

== 定义 ==
互信息(Mutual Information)是信息论里一种有用的信息度量，它可以看成是一个随机变量中包含的关于另一个随机变量的信息量，或者说是一个随机变量由于已知另一个随机变量而减少的不确定性。

传统的观点认为，互信息刻画的是随机事件之间的非线性关联，而非线性往往是无法进行拆分的。然而，2010年的经典论文 “Nonnegative Decomposition of Multivariate Information<ref>Williams P L, Beer R D. Nonnegative decomposition of multivariate information[J]. arXiv preprint arXiv:1004.2515, 2010.</ref>”却找到了一个可以将复杂多变量体系的互信息进行原子化拆分的方式。这一拆分不仅能够精准地将多维度变量X对单一变量Y的互信息拆分为冗余、协同，以及独立信息，还能为我们理解复杂系统中的涌现特性以及因果特性提供深刻洞察，特别是，该理论可能为普遍存在于复杂系统分析中的重整化/粗粒化操作提供信息论方面的理论基础。

== 量化复杂系统中的相互作用 ==
想象这样一个场景：我们收集到了很多人的身高、体重和性别的信息，现在让我们来训练一个神经网络模型来建模数据中的关系，以身高和体重作为输入，以性别作为输出。这是一个比较基础的机器学习场景。然而我们的问题是，能否在训练之前，就大概估计出每个变量的相对重要性？

理解这个问题的一个基本思维是，若特征之间存在非常复杂的相互作用，则我们需要很多的参数去拟合这种相互作用，否则，只需很少的参数对特征进行线性拟合即可。那么我们能否量化这种相互作用的复杂性呢？

让我们再来看一个场景：社会复杂系统的归因是一个困难的问题。一个典型的例子是，人们常常把萨拉热窝事件定义为一战的导火索，导火索是事情的直接起因，但我们知道真实的情况必然更复杂得多。那么我们能否有一种定量的方法去回答这样的问题：到底是某个事件单独促成了战争的爆发，还是多个事件共同促成了战争的爆发？

从某种视角来看，复杂系统可以看做存在相互作用的多变量系统。而信息论视角是理解变量之间相应关系的重要视角，因此人们发明并拓展了一系列方法，将信息论的思维应用到对复杂系统的理解上。例如，针对两个变量之间的相互作用，我们可以使用互信息（Mutual Information）来衡量当一个变量被观测后，另一个变量的不确定性（熵）的减少。但这种工具的适用场景相当有限，当变量数量增多，其相互作用机制变得复杂时，由于大量变量之间有可能存在协同效应（synergy），因此，我们除了计算原始变量之间的互信息，还要计算变量的两两组合，甚至更多组合之间的互信息。另一方面，在预测问题中，不同自变量之间有可能共享相似的信息，那么不同变量之间共享的这部分信息到底对预测起到了多大作用呢？

为了理解多变量相互作用情况下的信息结构，人们对互信息做了一系列拓展，发明了多种新的工具以分析复杂的相互作用，并试图将这些工具应用于对复杂系统的理解中。

== 互信息的局限性 ==
信息论奠基人香农（Shannon）认为，“信息是用来消除随机不确定性的东西”。也就是说衡量信息量大小就看这个信息消除不确定性的程度。通过将信息与事件发生的概率结合在一起，香农率先对信息量进行了度量：即'''信息量'''

[[文件:信息量.png]]

，x 为随机变量 X 的一个可能取值，p(x) 表示 X 取值为 x 的概率，h(x) 代表 X 取值为 x 这一事件的信息量。进一步，香农提出了'''信息熵'''的概念来衡量一个随机变量可能产生的信息量的期望，即[[文件:信息熵1.png]]。

我们也可以将信息熵理解为对事物的不确定性的度量：信息熵越大，事物越具有不确定性，信息熵的单位为 bit。

当两个变量之间存在相互作用时，我们可以通过观测其中一个变量来获知另外一个变量的部分信息，从而减少另一个变量的不确定性。所减少的不确定性大小可以用互信息来度量。例如，一个变量X原本服从这样的分布：X有0.5的概率取0，有0.5的概率取1。那么变量X的信息熵（不确定性）即为

[[文件:互信息.png]]。

此时假设存在变量Y，Y和X存在相互作用，例如Y=X，当我们观测到Y的取值为1时，X的分布就变成了以1的概率取1，此时X不再具有任何不确定性，其熵变为 0 bit。这减少的1 bit信息是通过观测Y得来的，因此我们称减少的1 bit信息为互信息。

具体来说，互信息衡量的是通过观测Y能够给X减少的不确定性的大小。因此互信息的算法可以是用X原本的不确定性 H(X) 减去当Y被观测条件下的不确定性 H(X|Y)。使用这种思路，我们可以推导出互信息的计算公式为

[[文件:互信息公式.png]]

[[文件:互信息的文氏图表示.png]]

图1：互信息的文氏图表示，I(X;Y)表示一个变量被观测后，另一个变量不确定性减少的量。

当相互作用的变量数量增多时，互信息的使用便会带来一定的问题，想象这样的场景：存在三个变量R1, R2, S，它们都以等概率取0或1，但彼此之间并不独立，其关系为：

R1=R2=S

如果我们观测到R1，便能够确定S的取值，这一过程可以被互信息描述为

[[文件:互信息1.png]]。

但如果我们提前知道了R2的取值，那么在R1被观测之前就知道了S的取值，即S的不确定性已经降为0，此时观测R1已经不能S带来任何不确定性的降低。这种场景可以用条件互信息的语言来描述为

[[文件:互信息2.png]]

，即在已知R2的条件下，R1的观测不能降低S的不确定性。在这一例子中，我们把R1和R2的位置互换，效果相同。

再考虑这样一个场景，同样是R1, R2, S三个以等概率取0或1的变量，它们之间的关系为：

[[文件:异或.png]]

（异或）

针对这一场景，在R2未知的情况下，通过观测R1，我们不能得到任何关于S的信息，即

[[文件:互信息-2.png]]，

但如果R2已知，我们即可通过观测R1获得S的精确取值，即，

[[文件:互信息-3.png]]

在这一例子中，我们把R1和R2的位置互换，效果相同。

在上述第一个例子中，R1=R2=S，我们单独观测R1或R2所获得的的信息量为1bit，在其中一个被观测后，再去观测另一个，就不再获得额外的信息量。此时我们可以说，R1和R2为S提供了一些冗余（redundant）信息。因为

[[文件:冗余信息.png]]，

我们还可以知道它们提供的冗余信息量为1 bit。在上述第二个例子中，我们必须同时观测到R1和R2才能减少S的不确定性，此时我们可以说R1和R2为S提供了协同（syngernistic）信息。因为

[[文件:协同信息.png]]，

我们可以知道它们提供的协同信息量为1 bit。

但在所有情况下，冗余信息和协同信息都只能二者仅存其一吗？前文提到的冗余信息量的计算方法在更复杂的情况下仍然适用吗？在多变量作用于单变量的更复杂场景中，我们应该如何理解谁贡献了什么信息？这便是接下来要回答的问题。

== 多变量信息分解 ==

=== 计算冗余信息 ===
接下来我们将介绍一种冗余信息的计算方法，这一方法来源于论文“Nonnegative Decomposition of Multivariate Information”，这一经典论文发表于2010年，提供了一种多变量作用于单变量情况下的信息结构理解方法，并启发了后续一系列工作（如多变量作用于多变量的信息结构分解方法），现在这一论文及其跟随者已经开发出了一系列工具帮助我们理解多变量之间的相互影响，从而帮助我们理解复杂系统中的信息流动。在这篇论文中，冗余信息的计算方法是所有方法的核心，我们将率先学习如何计算冗余信息，并根据冗余信息进一步定义单独（Unique）和协同（Synergistic）信息。

即使是在R1和R2共同作用于变量S的情况下，我们仍然可以分别计算R1和S，以及R2和S的互信息。R1和S的互信息可以被理解为R1可观测的状态下，对S的所有可能取值的不确定减小程度的期望。因此R1和S的互信息可以写成

[[文件:互信息分解.png]]

其中表示了观测R1对S取值为s这一事件的不确定性的减少，当然，观测R2同样可能减少S取值为s的不确定性，我们取以上两个不确定性的最小值，即1

[[文件:不确定性的最小值1.png]]

作为R1和R2关于S取s的冗余信息量。注意，这里指的是对S取值为s这一事件，R1和R2均可提供的信息量，因此这一信息量具有冗余的性质。进一步，冗余信息的期望可以被写成

[[文件:冗余信息期望.png]]

更一般地，假设目标变量Z可以被多个源变量影响，源变量构成的集合为R = {R1, R2,…,Rn}，我们假设A = {A1, A2,…,Ak}为一系列非空的、可能相交的R的子集。我们据此可以写出最一般化的冗余信息计算方法：

[[文件:最一般化冗余信息计算方法.png]]

它的含义是，我们抓住了对于S的每一个可能取值s，所有的Ai都能提供的最小信息。

让我们用几个小例子来理解冗余信息，假设存在三个变量R1, R2, S，其中S为目标变量，其余为源变量，其关系为S=R1=R2。则系统的可能状态分布律如下表所示：
{| class="wikitable"
|R1
|R2
|S
|P
|-
|0
|0
|0
|1/2
|-
|1
|1
|1
|1/2
|}
在该系统中，容易知道目标变量S的熵为1 bit，从直观角度来理解该系统，我们会发现若R1被观测，则S就没有任何不确定性了，S的熵降为0，即R1为S提供了1 bit的信息，若R2被观测，则我们也能完全知道S的取值，S所需的信息既被R1提供又被R2提供，则我们认为R1和R2为S提供了1 bit 的冗余信息。我们带入公式

[[文件:代入公式.png]]

可知，其计算结果也为1 bit，可见我们的直观分析是正确的。

=== 冗余信息的性质 ===

冗余信息有如下三条重要的性质：

* 首先，冗余信息Imin应该是非负的，可以想象，如果任何源变量对目标变量的任何一个可能取值都无法贡献出公共信息，那么冗余信息即为0。
* 其次，冗余信息应该小于或等于任何一个源变量关于目标变量的互信息，我们可以从冗余信息的计算公式中分析出此性质：观察其计算公式[[文件:冗余信息的计算公式.png]]，若针对S=s的每一个取值，A0都比其他Ai提供了更少的信息，则此时 Imin（S；a）=Imin（S；A0）。
* 另外，虽然我们通常定义冗余信息为多个源变量对目标变量提供的共同信息，但如果只有一个源变量，根据前述公式，我们仍然可以定义这个源变量为目标变量提供的冗余信息，实际上，经过计算，我们可以发现，这种冗余信息大小即为源变量和目标变量的互信息，即I{min}(S; {A1}) = I(S; A1)。

=== 冗余信息的结构 ===
冗余信息之间是存在结构的，例如，R1和R2所提供的冗余信息必然是R1与目标变量S之间的互信息（即R1与S之间的冗余信息）的一部分。我们可以用以下文氏图来辅助理解。

[[文件:冗余信息结构.png]]

图2. 冗余信息的关系图：R1与R2的冗余信息为R1自己的冗余信息的一部分

该图是两个源变量作用于一个目标变量时的冗余信息分布图，注意该图与前文中提到的互信息的文氏图外观相似但意义不同。在该图中，最大的大椭圆表示两个源变量与目标变量之间的互信息，我们可以将两个源变量看做一个二维变量，则该互信息就是源能为目标提供的所有信息了。当然，每个源变量仍然能单独为目标变量提供一些信息，即该变量和目标变量之间的互信息，在图中用两个圆形来表示，它们的互信息互有重合，重合部分表示两个源变量都可以为目标变量提供的这部分信息是冗余的。在该图中，我们可以看到，R1与R2提供的冗余信息是R1单独为目标变量提供的冗余信息，即R1与目标变量的互信息（性质3）的一部分。我们可以根据冗余信息的这一性质去画出一个晶格图，具体的画法原则是：若集合A中的元素提供的冗余信息完全被集合B中的元素提供的冗余信息所包括，则我们将A和B连接起来。

[[文件:冗余信息晶格图.png]]

其中{1}{2}代表R1与R2提供的冗余信息，{12}代表将R1，R2看做一个二维变量为目标变量提供的冗余信息，即这个二维变量与目标变量之间的互信息（性质3）。我们将这一图称为冗余晶格图（Redundancy lattice），图中任何一条连边连接的上方节点所提供的冗余信息都会包含下方节点相同的冗余信息。这幅图展示了两个源变量对目标变量提供的冗余信息的结构。越往上节点携带的冗余信息越多，直到最上层节点{R1, R2}，这一节点所代表的含义并非由R1，R2两个元素构成的集合，而是由一个二维变量构成的集合，既然这个集合中只有一个元素，那么这一集合为目标变量提供的冗余信息即为{R1, R2}与目标变量S之间的互信息。

=== 冗余信息的分解 ===
冗余晶格图从下到上就像一个累积函数，从所有源变量提供的公共信息，到源变量与目标变量之间的互信息，每上一层，冗余信息量都会增加。为了对每一层甚至每一个节点进行更精确的描述，我们在这里定义这一累积函数的逆函数，即部分信息分解（Partial Information Decomposition）函数。部分信息分解函数不但能帮助我们更好地理解信息的结构，还能帮助我们进一步定义单独（Unique）和协同（Synergistic）信息。

对冗余晶格图上的一个节点进行部分信息分解，可以得到这一节点而非任何下层节点所提供的冗余信息，更具体来说，晶格图上一个节点的信息分解值即为这个节点相比于其下层节点增加的信息量。用公式来表示的话，即针对节点α来说，

[[文件:晶格图公式表示.png]]

其中符号代表所有该节点的下层节点。

我们以前文中的例子进行阐述：位于冗余晶格图上最底层节点<nowiki>{{1}, {2}}</nowiki>由于没有任何下层节点，因此其信息分解结果即为该节点为目标节点提供的冗余信息量，即

[[文件:冗余信息1.png]]

。而中间层的节点{1}的信息分解结果为该节点为目标节点提供的冗余信息量（即该节点和目标节点之间的互信息）减去底层节点的信息分解结果的值，即

[[文件:单独信息.png]]

。这一部分信息量由节点{1}单独提供，而不包括节点{1}和节点{2}提供的公共信息，因此我们将这一部分信息称之为单独（Unique）信息。

通过这一方法，关于节点{1, 2}的信息分解结果即为

[[文件:分解结果.png]]

，这表示仅有该节点，而非任何其余三个下层节点提供的冗余信息，具体来说，这也表示了通过联合观测节点{1}和{2}才能得到的信息，而非单独观测任何一个能得到，而观测另一个得不到的信息，也非节点{1}和{2}都可以为目标变量提供的信息。因此我们将这一信息称之为协同（Synergistic）信息。

[[文件:两个源的协同信息.png]]

图3. 两个源变量情况下的冗余信息、单独信息与协同信息

图3展示了两个源节点R1, R2对目标节点S提供的信息进行分解的文氏图。通过与图2的文氏图进行对比，我们发现所谓的协同信息、单独信息的定义，无非是不同节点上的信息分解值的一种新叫法。整个大的椭圆，代表R1, R2为S提供的全部信息，因此可以表示为I(S;R1, R2)，而其中两个小圆分别代表了R1, R2与S之间的互信息，表示单独观测R1或R2可以减少的关于S的不确定性。它们为S提供的信息可能有所重合，重合部分{1}{2}即为它们之间的冗余信息，而{1}或{2}展示的部分则为单独观测该变量可以为S提供而无法通过观测另一个变量提供的信息（图中的月牙形），最终{12}表示需要联合观测两个变量才能为S提供的协同信息（图中的椭圆中除去中间两个小圆剩下的类似环形的区域）。

当源变量为三个的时候，即R1, R2, R3，目标变量仍为一个的时候，我们便能够做如下图分解：

[[文件:三个源作用下的文氏图.png]]

图4：三个源变量作用于一个目标变量情况下的文氏图

在这张图中，{ijk}这样的符号代表的是由Ri，Rj和Rk组合在一起的联合变量；每一个集合都代表了一组变量的组合，例如{1}{23}代表的就是由变量R1以及组合变量R2, R3放到一起以后构成的冗余信息集合。不同颜色的区域代表了每一种可能的这样的冗余信息；区域的大小则对应了这一冗余变量对目标变量的互信息，而所有这些区域面积的总和就是所有的变量R1, R2, R3到目标变量S的总的互信息。所以，这张图也给出了对多源-单一目标互信息的一种分解方式。

对应的，这个三变量的格点图如下：

[[文件:三个表量的冗余晶格图.png]]

图5：三个变量的冗余晶格图

注意观察这张图，越上层的节点大体上对应越高尺度的变量或组合，越下层则是越低尺度的变量或组合，但这种信息分解和尺度以及粗粒化之间的对应关系并不是很明显，后续的文章也有更多的讨论。如果我们自下而上对每个节点的信息分解值进行累加，就得到了总的源到汇的互信息。如果自下而上地计算冗余信息Imin，则该数值会单调地增加，直到最上面的节点，Imin即是源到目标的总的互信息。如果自下而上对每个节点的信息分解值进行积分就得到了每个节点的Imin。

换句话说，日后，我们研究多个变量的相互作用，可以像微积分那样进行互信息的计算了。

== 应用 ==
部分信息分解这一方法的提出可以帮助我们从一个新的视角更好地理解复杂系统。接下来，我们将通过几个简单的例子说明互信息的分解如何增进对复杂性本质的理解。在一篇于2017年发表于''Entropy''的文章“Analyzing information distribution in complex systems<ref>Sootla, S.; Theis, D.O.; Vicente, R. Analyzing Information Distribution in Complex Systems. ''Entropy'' 2017, ''19'', 636. <nowiki>https://doi.org/10.3390/e19120636</nowiki></ref>”，作者将我们介绍的互信息分解方法应用于元胞自动机和Ising Model等典型的系统，为这些已经被研究者们广为熟知的系统带来了新的认识。

=== 信息分解方法在 Ising Model 中的应用 ===
下图展示了作者将这一方法应用于二维 Ising Model 上的结果。值得说明的是，作者选取二维 Ising Model 中任意节点的四个邻居节点作为源变量，这一节点下一时刻的状态作为目标变量，用我们介绍的这一方法做了源变量关于目标变量的信息的分解。并研究了冗余信息、协同信息和单独信息随着系统温度变化的关系。

[[文件:不同类型的信息随温度的变化1.png]]
图6：Ising model 中不同类型的信息随温度的变化

在图6中，横坐标代表温度，其中黑线表示Ising model的临界温度，深蓝色的点代表一个节点的四个邻居与它下一时刻状态之间的互信息，红色的点代表分解而来的冗余信息，绿色的点则代表协同信息。根据上图我们可以发现，互信息和冗余信息都在临界温度附近达到了其最大值，在互信息中，冗余信息占据了很大的部分，而协同信息只占据了较小的部分，但随着模型逐渐向无序状态（温度升高）演化，协同信息量几乎保持不变，但冗余信息和互信息的量全部减小。因此，我们或许可以用信息分解的手段作衡量系统是否达到临界态。

=== 信息分解方法在元胞自动机中的应用 ===
作者还将这一方法应用于研究人员已经很熟悉的一维元胞自动机模型中。我们知道，在一维元胞自动机系统中，每个元胞的取值只能为0或1，它将受到它自己和左右邻居的影响，在未来时刻变化取值，因此共有256种二进制规则。Wolfram根据元胞自动机的演化模式将元胞自动机分为四种类型：

# 元胞自动机很快演化为纯黑或纯白
# 元胞自动机演化出周期性的、可重复的模式
# 元胞自动机演化出混沌
# 元胞自动机演化可以长时间存在的复杂斑图

在元胞自动机实验中，作者以一个元胞及其左右邻居状态作为源变量，这一元胞下一时刻状态作为目标变量，并使用信息分解方法，衡量了源变量之间的协同信息量、冗余信息量，以及元胞自己提供的单独信息量和其邻居提供的单独信息量。在图7中，作者对比了不同类型的元胞自动机中的信息分布。

[[文件:元胞自动机信息量分布.png]]
图7：第二、三、四类元胞自动机中信息量的分布

根据图7（a），我们可以看到，从第二类，到第三类，第四类，随着元胞自动机的演化模式逐渐趋于复杂，其协同信息（在这里被称为Complementary Information）的量也在不断上升，这说明只有多个源变量高度协同时，才有可能产生复杂的斑图。在图7（b）中，我们看到，其冗余信息（在这里被称为Shared Information）只能在第二类元胞自动机中出现，这意味着若想要演化出混沌或复杂斑图，则源变量中不能出现具有大量冗余信息的情况。在图7（c）和7（d）中，作者对比了这一变量自己和邻居为自己未来提供的单独信息，并发现在混沌或复杂斑图中，邻居提供的单独信息遥远多于自己提供的单独信息。

作者还发现一个有趣现象，对于有一些元胞自动机来说，它们在宏观模式上是一致的，但在信息结构方面却迥然不同。如图8：

[[文件:6号-130元胞自动机.png]]
图8: 6号元胞自动机和130号元胞自动机

图8展示了两个宏观模式相似但信息结构却大相径庭的元胞自动机，分别是6号和130号。从宏观视角来看，它们的模式是类似的向左下方伸展的条纹，因此都被归类为第二类元胞自动机。但如果我们放大其微观结构，则会发现6号元胞自动机中出现了很多“倒L型区域”，而130号则没有，实际上6号形成“倒L型区域”是比较复杂的，需要多个源变量之间进行协同作用，而130号则不需要，这也解释了为什么两者在信息结构上有巨大的差距。

实际上，作者认为，信息分解方法可以作为Worfram对元胞自动机提出的分类的良好补充，Worfram提出的元胞自动机分类仅仅依赖于宏观模式和人的直觉，而并不依赖于信息论的基础。而使用信息分解的方法，我们可以对元胞自动机完成类似的分类，并更加注重元胞自动机微观的演化细节。

=== 信息分解方法在因果涌现中的应用 ===
信息分解方法可以在总体上衡量一个系统的协同程度，这一功能使得信息分解方法也被用于因果涌现研究，在2020年公开于arXiv的文章“Emergence as the conversion of information: A unifying theory”中，因果涌现的提出者 Erik Hoel 就使用信息分解方法进一步定义了一个系统的协同程度，如图9：

[[文件:不同系统的协同程度.png]]

图9：不同系统的协同程度
图9向我们展示了两个多变量作用系统，它们所描述的都是三个源变量作用于一个目标变量的情况。在两幅子图中，左边部分描述的是冗余信息晶格，而右边部分则描述了晶格中每一层携带的信息增量。在左图中，信息大多数由冗余信息提供，而右图中信息则大多由协同信息提供。因此，左图是一个冗余系统，右图则是一个协同系统。事实证明，对于类似左图中的信息结构，我们可以通过对其粗粒化增加这一系统的协同程度，进而产生因果涌现效应。
== 文章评价 ==
互信息分解方法可以帮助我们清晰表述在多个源变量作用于一个目标变量的情况下的信息结构，可以回答一系列具体的问题，例如“谁为结果提供了多少信息？”，“它们为结果提供的信息中，有多少是互相冗余的？“有多少信息需要协同考虑多个变量才可以获得？”等等。我们首先定义了冗余信息（Redundant Information），然后通过分析冗余信息的性质，发现冗余信息天然存在着一种结构，进一步通过对冗余信息的分解，我们获得了单独信息（Unique Information）和协同信息（Synergistic Information）的定义和计算方法，从而帮助我们更好地理解了这一信息结构。这篇文章的价值在于，它从某种程度上揭开了我们似乎已经很熟悉的“互信息”的神秘面纱，发明了一种类似“互信息的微积分”的方法，详细拆解了互信息的每一个元素应该如何理解和计算。这篇文章自发表以来便引起了科学家们的巨大兴趣，人们沿着这篇文章的方向进行了诸多探索，这些探索包括定义一些新的冗余信息计算方法，更深入地研究信息结构的性质，以及信息分解方法在不同领域中的应用等等。从信息流动的视角理解复杂系统，无疑可以增进我们对复杂性本质的理解。但本文所介绍的方法仍有一定的局限，例如，本文所介绍的方法只能适用于多变量作用于单变量的情况，但在一个复杂系统中，多变量之间存在着相互影响。又如，本文所介绍的方法计算复杂度非常高，导致该方法很难应用于源变量很多的情况，

== 参考文献 ==
<references />

== 编辑推荐 ==

=== 集智课程推荐 ===
[https://mp.weixin.qq.com/s?__biz=MzIzMjQyNzQ5MA==&mid=2247615893&idx=1&sn=1a1cc5ac3d70a515ee7a0ff062788d63&chksm=e8965f18dfe1d60ed0ab56bf786bffb5a510385b284ea69e8cab7894cade34d6e33a55ef0fe8&scene=21#wechat_redirect 因果、涌现与机器学习：因果涌现读书会第二季启动 (qq.com)]

跨尺度、跨层次的涌现是复杂系统研究的关键问题，生命起源和意识起源这两座仰之弥高的大山是其代表。而因果涌现理论、机器学习重整化技术、自指动力学等近年来新兴的理论与工具，有望破解复杂系统的涌现规律。同时，新兴的因果表示学习、量子因果等领域也将为因果涌现研究注入新鲜血液。

由北京师范大学教授、集智俱乐部创始人张江和加州大学圣地亚哥分校助理教授尤亦庄等人发起的「因果涌现」系列读书会第二季，将组织对本话题感兴趣的朋友，深入研读相关文献，激发科研灵感。

=== 文章推荐 ===

* [https://mp.weixin.qq.com/s?__biz=MzIzMjQyNzQ5MA==&mid=2247619680&idx=1&sn=bf478c27d6f9be8043c236c727dd4244&chksm=e8964eeddfe1c7fb6e977274041c3405532e0f71d88f323911a36885343543f72caafa30d8d5&scene=21#wechat_redirect Nature Phycics：信息论方法描述高阶相互作用]
* [https://mp.weixin.qq.com/s?__biz=MzIzMjQyNzQ5MA==&mid=2247594685&idx=1&sn=348c4cad24647760bccd9f07bf45010f&chksm=e8962830dfe1a12655734719d90c45c68a585bd1bfff463c6d7ef1fbc69f2c6f987d509c1ac6&scene=21#wechat_redirect PRL：互信息帮助分离环境噪声与系统内部相互作用]
* [https://mp.weixin.qq.com/s?__biz=MzIzMjQyNzQ5MA==&mid=2247597290&idx=1&sn=ea3d6772a9be323827ffa4ce5b5f696d&chksm=e8962667dfe1af716a131203114c09ff3c5f249a04cfb381405b6b084c942b14af1407431d7b&scene=21#wechat_redirect 量化涌现：信息论方法识别多变量数据中的因果涌现]
* [https://mp.weixin.qq.com/s?__biz=MzIzMjQyNzQ5MA==&mid=2247576923&idx=2&sn=57f0d320812c01ff6f5ea97c09fc9623&chksm=e896f7d6dfe17ec038e8d238dae313119fca8c62aabd4730896bc99398db981dd5d9d3e0b927&scene=21#wechat_redirect 《张江·复杂科学前沿27讲》完整上线！]

文件:不同系统的协同程度.png

2022-07-23T09:18:42Z

我是猫：

文件:6号-130元胞自动机.png

2022-07-23T09:18:03Z

我是猫：

文件:元胞自动机信息量分布.png

2022-07-23T09:16:52Z

我是猫：

文件:不同类型的信息随温度的变化1.png

2022-07-23T09:13:51Z

我是猫：

文件:三个表量的冗余晶格图.png

2022-07-23T09:13:07Z

我是猫：

文件:三个源作用下的文氏图.png

2022-07-23T09:12:25Z

我是猫：

文件:两个源的协同信息.png

2022-07-23T09:11:43Z

我是猫：

文件:分解结果.png

2022-07-23T09:10:53Z

我是猫：

文件:单独信息.png

2022-07-23T09:10:22Z

我是猫：

文件:冗余信息1.png

2022-07-23T09:09:36Z

我是猫：

文件:晶格图公式表示.png

2022-07-23T09:06:00Z

我是猫：

文件:冗余信息晶格图.png

2022-07-23T09:04:49Z

我是猫：

文件:冗余信息结构.png

2022-07-23T09:03:44Z

我是猫：

文件:冗余信息的计算公式.png

2022-07-23T09:03:01Z

我是猫：