因果之梯

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
我是猫讨论 | 贡献2022年5月16日 (一) 20:02的版本
跳到导航 跳到搜索

定义

因果之梯.png 因果关系之梯是Judea Pearl提出的一种分类法(也可以称为框架),该分类法回答了“因果推理主体可以做什么”这一问题。该问题的另一种表述是——“相较于不具备因果模型的生物,拥有因果模型的生物能推算出什么前者推算不出的东西”。这种分类法的好处在于,它绕过了关于因果论究竟为何物的漫长而徒劳的讨论,聚焦于具体的可回答的问题。

因果关系之梯包括三个层级:关联(association)、干预(intervention)和反事实(counterfactual),分别对应逐级复杂的因果问题。下图为因果关系之梯的示意图。

第一层级:关联

在该层级中,主体通过观察寻找规律。这种观察是被动的,不对世界做出干涉,而是通过我们观察到的世界对问题做出回答。关联的例子有:

  • 猫头鹰通过观察老鼠的活动判断老鼠下一刻可能出现的位置
  • 计算机围棋程序通过对数百万棋谱的研究发现胜率高的走法

典型问题:

在关联层级,我们会问的典型问题是“如果我观察到......会怎样?”。

例如,超市经理会问“购买牙膏的顾客同时购买牙线的可能性有多大?”。

回答方法:

统计学可以用于回答这类问题,我们可以利用收集到的历史数据计算P(牙线|牙膏)这一条件概率测算购买牙线和牙膏的关联程度。但是,统计学无法告诉我们事物之间的因果关系。

第二层级:干预

干预涉及到主体对现状的主动改变,根据可以被观察到的世界回答问题。

典型问题:

  • “如果我们实施......行动,将会怎样?” 例如:“如果我们把牙膏的价格翻倍,牙线的销售额将会怎样?”
  • “怎么做?” 例如:“我们应当如何定价以卖掉仓库里积压的牙膏?”

回答方法:

  • 进行严格控制条件下的实验,例如网站通过AB test判断用户对页面颜色的偏好
  • 建立因果模型进行预测

第三层级:反事实

数据顾名思义就是事实,数据无法告诉我们在反事实或虚构的世界里会发生什么。在反事实世界里,观察到的事实被直截了当地否定了。然而,人类的思维却能可靠地、重复地进行这种寻求背后解释的推断。...... 这种能力彻底地区分了人类智能与动物智能,以及人类与模型盲版本的人工智能和机器学习。

我们通过一个情景来理解反事实:

假设乔在服用了药物D一个月后死亡,那么我们要关注的问题就是这种药物是否导致了他的死亡。为了回答这个问题,我们需要想象这样一种情况:假如乔在即将服药时改变了主意,他现在会活着吗?

在反事实层级,我们需要回答与一个无法被观察的世界相关的问题。

典型问题:

  • “假如我当时做了......会怎样?” 例如:“假如我们把牙膏的价格提高一倍,则之前买了牙膏的顾客仍然选择购买的概率是多少?”
  • “为什么?”

回答方法:

第二层级中的干预实验无法回答反事实问题,因为我们无法对过去的事实进行改变。

通过因果模型,我们可以回答反事实问题。

样例理解

为了更好的理解因果之梯得三层架构,我们可以通过Judea Pearl著作中所提的一个例子来理解三个层级概念。

假设要将一个犯人进行枪决,需要经过下述流程: Sample.png

  1. 首先,需要法院发布处决犯人的命令
  2. 行刑队队长收到法院命令后,对士兵A和士兵B发布处决指令
  3. 士兵A或士兵B接到命令开枪

我们假设士兵A和B只听队长的命令开枪,不会擅自开枪。此外,只要任一枪手开枪,犯人都会死亡。

请考虑以下问题:

  1. 不考虑自然死亡的情况,如果犯人死了,那么这是否意味着法院已下令处决犯人?
  2. 假设我们发现士兵A射击了,它告诉了我们关于B的什么信息?
  3. 如果士兵A决定按自己的意愿射击,而不等待队长的命令,情况会怎样?犯人会不会死?
  4. 假设犯人现在已倒地身亡,从这一点我们可以得出结论:A射击了,B射击了,行刑队队长发出了指令,法院下了判决。但是,假如A决定不开枪,犯人是否还活着?

上述问题中,1和2为关联层级的问题(一个事实告诉我们有关另一事实的什么信息),我们可以通过观察到的情况“犯人已死”、“士兵A射击”做出推理回答问题,得到法院下令和士兵B也射击了的回答。

3为干预层级的问题,我们需要对现实世界做出调整(现实:士兵A只听队长命令,调整:士兵A按照自己的意愿射击),从而根据可以被观察到的世界回答问题。

4为反事实层级的问题。在现实世界中,A已经开枪了,但我们需要了解另一个与现实相矛盾的世界(A没有开枪,其它情况不变)中犯人的情况。对于该问题,我们无法根据观察到的世界回答,也无法对现在的世界进行干涉从而回答该问题。但是,我们可以通过构建因果模型从而推理出问题的回答。