辛普森悖论

辛普森悖论 Simpson's paradox是一个统计学悖论。它是以Edward H. Simpson的名字命名的，他是一位英国统计学家，在1951年第一次描述了它。统计学家卡尔·皮尔森在1899年描述了一个非常相似的效应。- Udny Yule 的描述可以追溯到1903年。有时，这种现象被称为“尤尔-辛普森效应”。当观察小组的统计分数时，这些分数可能会发生变化，这取决于小组是逐一观察，还是将它们合并成一个更大的小组。这种情况经常发生在社会科学和医学统计中。如果用频率数据来解释因果关系，人们可能会感到困惑。悖论的其他名称还包括反转悖论和合并悖论.

该悖论指出：会存在着这样的数据。总体上的统计结果与其每一个子部分的统计结果相反。下面通过一个实例说明。根据有关统计数据，平均来说，吸烟人群比不吸烟人群收入更高；但是考虑吸烟人群的年龄因素时就可能会发现，在每个年龄组，吸烟人群的收入低于不吸烟的人群，如果再纳入年龄和学历者两个因素，可能就会发现相同年龄和学历的吸烟者比不吸烟收入高。可见，随着考虑的因素增多，统计结果会不断发生逆转。在类似这样的问题中，想要确定吸烟是否会影响收入以及影响有多大，仅从数据来看似乎无法获得准确的答案。

接下来通过一系列样例，详细了解辛普森悖论的现象。

样例1：肾结石治疗

这是一个真实的例子，来自一项医学研究，比较两种治疗肾结石的成功率。

下表显示了治疗小肾结石和大肾结石的成功率和治疗次数，其中治疗A包括所有开放手术，治疗B是经皮肾镜取石术:

	治疗方案A		治疗方案B
	成功	失败	成功	失败
小肾结石	第一组		第二组
患者数量	81	6	234	36
	93%	7%	87%	13%
大肾结石	第三组		第四组
患者数量	192	71	55	25
	73%	27%	69%	31%
既有小肾结石也有大肾结石	第一组和第三组		第二组和第四组
患者数量	273	77	289	61
	78%	22%	83%	17%

一个自相矛盾的结论是，A疗法对小结石更有效，对大结石也更有效，而B疗法在同时考虑两种大小时更有效。在这个例子中，还不知道肾结石的大小会影响结果。这在统计学中称为隐藏变量(或隐藏变量)。

哪种治疗方法更好是由两个比率(成功率/总成功率)之间的不平等决定的。造成辛普森悖论的两个比率之间不平等的逆转，是因为两种效应同时发生:

1、当忽略隐藏变量时，组的大小是非常不同的。医生倾向于对严重的病例(大结石)给予较好的治疗(A) ，对较轻的病例(小结石)给予较差的治疗(B)。因此，总数由第三组和第二组支配，而不是由规模小得多的第一组和第四组支配。

2、潜伏变量对比率有很大的影响，也就是说成功率更多地受到病情严重程度的影响，而不是治疗方法的选择。因此，治疗 A组(第三组)大结石患者的情况比治疗小结石患者差，即使后者采用劣等治疗 B 组(第二组)。

样例2：伯克利大学的招生歧视悖论

最著名的辛普森悖论的实例，就是1973年加利福尼亚大学伯克利分校性别歧视案的例子。

如果只看整体录取率，那么男生的录取率是44%，女生的是35%。

	男生		女生
	申请人数	录取人数	申请人数	录取人数
合计	8442	44%	4321	35%

从表格可见，从整体录取率来看，男生的录取率是44%，女生的录取率是35%。从表面上看会得出结论，女生申请大学受到了歧视，但是若将数据按院系拆分，再来看每个系的录取率。

院系	男生		女生
	申请人数	录取比例	申请人数	录取比例
A	825	62%	108	82%
B	560	63%	25	68%
C	325	37%	593	34%
D	417	33%	375	35%
E	191	28%	393	24%
F	373	6%	341	7%

你可以看到，在6个院系的4个里，女生的录取率大于男生，女生只在2个院系里容易折戟。加利福尼亚大学伯克利分校的统计学教授 Peter Bickel 后来发现，如果按照这样的分类，女生实际上比男生的录取率还高一点点。

Bickel 认为，在这个案例中，辛普森悖论出现的原因是，女生更愿意申请那些竞争压力很大的院系（比如英语系），但是男生却更愿意申请那些相对容易进的院系（比如工程学系）

样例3：佛罗里达死刑悖论

1991年，科罗拉多大学的统计学家 Michael L. Radelet 和东北大学的社会学研究院主任 Glenn Pierce 重新查看了1976-1987年间美国佛罗里达州的谋杀案的审判数据，发现了重大的司法不公正事件。

从归总的数据来看，佛罗里达的法官在审判的时候并没有偏向白人，因为白人嫌疑人的死刑率甚至还比黑人高一些。

嫌疑人种族	死刑人数	非死刑人数	死刑百分比%
白人	53	430	11
黑人	15	176	7.9

但是按照被害人的种族来分割数据的话，就会看到很不一样的结论，黑人比白人更容易被判死刑。

被害人种族	嫌疑人种族	死刑人数	非死刑人数	死刑百分比%
白人	白人	53	414	11.3
白人	黑人	11	37	22.9
黑人	白人	0	16	0
黑人	黑人	4	139	2.8

由此可见不管被害人是什么种族，黑人比白人更有可能被判死刑，并且对比发现，如果受害人是白人，那么嫌疑人就更容易被判死刑。如果被害人是黑人，嫌疑人被判死刑的可能性很低。可见种族歧视是存在的

样例4 一种临床新药试验对比（考虑血压因素）

样例4中，我们知道药物会通过减低服药患者的血压来影响痊愈率，但不幸的是药物也会产生副作用。在这种情况下，我们需要根据数据判断是否给患者推荐这种药物。

下表记录治疗后700例患者的血压及其痊愈率。其中，350例患者服药，350例患者不服药。研究结果如下表

患者	患者未服用药物情况		患者服用药物情况
	痊愈患者数	痊愈率/%	痊愈患者数	痊愈率/%
患者血压低	81例（共87例）	93	234例（共270例）	87
患者血压高	192例（共263例）	73	55例（共80例）	69
合计	273例（共350例）	78%	289例（共350例）	83

如表所示，第一行是血压患者低的情况下，患者未服用药物和患者服用药物的对比，第二行是血压患者高的情况下，治疗方案A和治疗方案B的对比，对全体受试者而言，服用药物比未服用药物痊愈率更高。但是按照血压进行划分之后，在治疗后血压偏高和治疗后血压偏低的亚群里，我们无法观测到这也的结果，而只能看出因药物副作用而降低痊愈率。

本试验的目的是评价药物痊愈率的总体影响。但是在这个例子中，由于降低血压是药物影响痊愈率的结果之一，所以基于血压的分类就变得没有意义了（如果在治疗前记录患者血压，并且假定仅有血压对治疗有影响，那么情形就不同了）。我们再次统计分析全体受试者的试验数据，发现药物治疗增加了痊愈的可能性，于是我们确定应该推荐药物治疗。

值得注意的是，样例4与前几个样例的区别在于，正确结论体现在总体数据，前几个样例的正确结论体现在分类后数据。

辛普森悖论的原因

由前面的例子可知，数据并没有为治疗决策给出足够的信息，例如，无法知道何时测定药物的作用，无法知道药物如何影响血压，也无法知道血压如何影响痊愈率。事实上，正如统计学教科书习惯性指出，相关性不是因果关系，利用统计方法并不能仅根据数据来确定因果关系，因此统计方法无法支持决策。

然而，统计学家一直以这种因果假设来解释数据。事实上，在辛普森悖论中，按性别进行分类后之所以会得到矛盾的结论，其本质源于我们确信治疗不能影响性别，如果可以的话，就不会得到悖论，因为我们可以很容易的假定数据背后的因果关系具有于按血压分类相同的结构，尽管“治疗不能影响性别”这一命题很平凡，但却不能通过数据来验证这一命题，也无法依据标准统计学写出其数学表达式。事实上，以上样例的联列表无法表达任何因果信息，而统计推理又通常是以联列表为基础的。

避免辛普森悖论

混杂变量

在上述的事例中，出现辛普森悖论的很大一个原因是由于存在隐藏变量，因此这便提醒我们，在进行变量设计时，一是要尽量多查阅文献以了解自变量，因变量及其他重要变量之间的关系，二是需要相关的经验，能够敏锐的察觉到某个变量的重要性。

这个重要潜伏变量指的是与实验分析的因果都有关系的变量，这一变量的缺失可能会掩盖或颠倒研究变量的原有关系。

比如在录取率这个例子中，专业既与录取率有关，不同专业难度不同，录取率自然有差异，又与性别有关，女生和男生趋向报考的专业不同。因此专业就是一个重要潜伏变量。

编者推荐

集智俱乐部文章

周日直播 | 从辛普森悖论谈起：因果效应中的混淆因子及可识别性

福利 | 因果推断会是下一个AI热潮吗？Judea Pearl《因果论》重磅上市！

集智课程

因果科学读书会第三季：因果+X

“因果”并不是一个新概念，而是一个已经在多个学科中使用了数十年的分析技术。通过前两季的分享，我们主要梳理了因果科学在计算机领域的前沿进展。如要融会贯通，我们需要回顾数十年来在社会学、经济学、医学、生物学等多个领域中，都是使用了什么样的因果模型、以什么样的范式、解决了什么样的问题。我们还要尝试进行对比和创新，看能否以现在的眼光，用其他的模型，为这些研究提供新的解决思路。

“因果+X”就是要让因果真正地应用于我们的科学研究中，不管你是来自计算机、数理统计领域，还是社会学、经济学、管理学领域，还是医学、生物学领域，我们希望共同探究出因果研究的范式，真正解决因果的多学科应用问题，乃至解决工业界的问题。

---

本中文词条由我是猫翻译，薄荷编辑，如有问题，欢迎在讨论页面留言。

本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。