稳定学习 - 版本历史

Gyt666：Gyt666移动页面稳定学习 Stable Learning至稳定学习覆盖重定向

2024-06-06T08:44:54Z

Gyt666移动页面稳定学习 Stable Learning至稳定学习覆盖重定向

2024年6月6日 (四) 08:44 Gyt666

2024-06-06T08:44:42Z

2023年3月28日 (二) 07:50 思无涯咿呀咿呀

2023-03-28T07:50:21Z

2022年7月11日 (一) 13:46 思无涯咿呀咿呀

2022-07-11T13:46:33Z

2022年7月11日 (一) 01:56 思无涯咿呀咿呀

2022-07-11T01:56:50Z

乔一斯：/* 编辑推荐 */ 增加文章相关介绍

2022-07-11T00:19:04Z

编辑推荐：增加文章相关介绍

思无涯咿呀咿呀：/* 编辑推荐 */

2022-07-10T15:48:59Z

编辑推荐

思无涯咿呀咿呀：/* 编辑推荐 */

2022-07-10T15:45:31Z

编辑推荐

思无涯咿呀咿呀：/* 编辑推荐 */

2022-07-10T15:45:09Z

编辑推荐

思无涯咿呀咿呀：/* 编辑推荐 */

2022-07-10T15:44:54Z

编辑推荐

@@ 第3行： / 第3行： @@
 |description=机器学习,因果推断,深度学习,结构因果模型,潜在结果模型}}
+稳定学习（Stable Learning）
 稳定学习是一种在保证机器学习预测性能的前提下，减小其在未知测试集上方差的方法。由于稳定学习假设在测试数据中存在多个环境，对模型的泛化能力有更高的要求。

@@ 第18行： / 第18行： @@
 因为常见的机器学习算法是基于输入变量和输出变量的相关性做预测，当它遇到变量之间的虚假相关时，便无法避免上述三个风险因素。数据中的相关性能归类成三种模式：因果导致的相关，混淆导致的相关和选择性偏差导致的相关，如图1所示。
-[[File:稳定学习-图2.png|800px|thumb|center|图1：相关性的三种模式，（a）因果相关；（b）混淆导致的相关；（c）数据选择性偏差导致的相关。]]
+[[File:稳定学习-图1.png|800px|thumb|center|图1：相关性的三种模式，（a）因果相关；（b）混淆导致的相关；（c）数据选择性偏差导致的相关。]]
 在这三种产生相关性的模式中，只有因果关系产生的相关性反映了变量之间的内在依赖关系；另外两种类型是对特征的联合分布和数据收集过程敏感的虚假相关。由于黑盒模型甚至没有尝试区分产生这些相关性的三种不同模式，它们的预测性能在很大程度上取决于测试分布与训练分布的偏离程度，从而导致在不同的测试分布下性能不稳定。同时，基于虚假相关性的预测模型也可能是不公平的，因为它还放大了选择性偏差。
@@ 第29行： / 第31行： @@
 稳定学习的概念是在2018年的KDD会议上由清华大学副教授崔鹏团队提出的。它旨在解决这样一个问题，当我们用机器学习进行预测建模的时候，如果对测试数据集没有任何先验知识，如何保证模型在未知分布上做出稳定预测，即在保证预测性能的同时，尽量减小它在未知测试集的方差。图2展示了稳定学习和传统机器学习（独立同分布学习, I.I.D.）与迁移学习的关系，后两者的优化目标是在具有测试集分布先验知识的情况下，最大化模型的预测性能（准确率）。同时，稳定学习假设在测试数据中存在多个环境，因此对模型的泛化能力提出了更高的要求。
-[[File:稳定学习-图1.png|800px|thumb|center|图2：稳定学习，传统机器学习（I.I.D.学习）和迁移学习的比较]]
+[[File:稳定学习-图2.png|800px|thumb|center|图2：稳定学习，传统机器学习（I.I.D.学习）和迁移学习的比较]]在2018年发表在KDD会议的论文中，他们受到因果推断中利用协变量平衡估计因果效应的思想的启发，提出了一种新的深度全局平衡回归 Deep Global Balancing Regression（DGBR）算法，联合优化一个用于特征选择（降维）的深度自动编码器模型，和一个用于未知环境下稳定预测的全局平衡模型。这个全局平衡模型评估了任意一个特征在被隔离（isolated）的情况下，该个特征对响应的因果效应，并以此构建了一组使得变量被平衡（variable balancing）的样本权重，让加权后的样本的所有特征都尽可能相互独立。这个算法在高维度的数据中也适用。

@@ 第259行： / 第259行： @@
-[[Category:因果推断]]
+[[Category:因果科学]]
 [[Category:读书会]]
 [[Category:原创]]

←上一版本		2022年7月11日 (一) 01:56的版本
第1行：		第1行：
		+	{{#seo:
		+	\|keywords=机器学习,因果推断,深度学习,结构因果模型,潜在结果模型
		+	\|description=机器学习,因果推断,深度学习,结构因果模型,潜在结果模型}}
		+
		+
		+
	稳定学习是一种在保证机器学习预测性能的前提下，减小其在未知测试集上方差的方法。由于稳定学习假设在测试数据中存在多个环境，对模型的泛化能力有更高的要求。		稳定学习是一种在保证机器学习预测性能的前提下，减小其在未知测试集上方差的方法。由于稳定学习假设在测试数据中存在多个环境，对模型的泛化能力有更高的要求。

@@ 第234行： / 第234行： @@
 === 以下三篇论文与该主题相关的文章： ===
-[[文件:NICO数据集.png|替代=NICO数据集|缩略图|600x600像素|[https://nicochallenge.com/ NICO数据集]]]
+[[文件:NICO数据集.png|替代=NICO数据集|缩略图|600x600像素|[https://nicochallenge.com/ NICO数据集]]]1、Zimu Wang, Y.H.J.L., Invariant Preference Learning for General Debiasing in Recommendation. ACM SIGKDD 2022, 2022.（即将发表）
-# He, Y., et al., CausPref: Causal Preference Learning for Out-of-Distribution Recommendation. arXiv.org, 2022.
-# Zimu Wang, Y.H.J.L., Invariant Preference Learning for General Debiasing in Recommendation. ACM SIGKDD 2022, 2022.
+、He, Y., et al., CausPref: Causal Preference Learning for Out-of-Distribution Recommendation. arXiv.org, 2022.
-# Zheyan Shen, J.L.Y.H., Towards Out-Of-Distribution Generalization：A Survey. Arxiv, 2021.
 * 集智俱乐部在因果科学与Causal AI读书会第二季邀请崔鹏老师系统性的分享和介绍了Stable Learning 的相关工作： [https://campus.swarma.org/course/2699 因果启发的稳定学习理论、方法和应用]，重点介绍了StableNet相关的工作。同时还可以关注崔鹏老师团队两位学生沈哲言和刘家硕介绍的Causal Inference and Stable Learning 以及Causality and Its Connection to Robust Machine Learning 的相关工作： [https://campus.swarma.org/course/2071 因果推理与稳定学习]

@@ 第248行： / 第248行： @@
-<nowiki>[[Category:因果推断]]</nowiki>
+[[Category:因果推断]]
 [[Category:读书会]
-<nowiki>[[Category:自生产]]</nowiki>
+[[Category:自生产]]

←上一版本		2022年7月10日 (日) 15:44的版本
第243行：		第243行：
	* 关于NICO数据集的介绍以及相关的竞赛：https://nicochallenge.com/		* 关于NICO数据集的介绍以及相关的竞赛：https://nicochallenge.com/

−	~~本中文词条由，由集智社区成员东南大学[[用户:乔一斯\| 乔一斯]]，薄荷编辑，如有问题，欢迎在讨论页面留言。~~

		+	本中文词条由由集智社区成员东南大学[[用户:乔一斯\| 乔一斯]]，薄荷编辑，如有问题，欢迎在讨论页面留言。
		+	'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''


		+	<nowiki>[[Category:因果推断]]</nowiki>

−	~~'''本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。'''~~	+	[[Category:读书会]
		+
		+	<nowiki>[[Category:自生产]]</nowiki>