7,129
个编辑
更改
→Nonparametric Latent Causal Processes
在上小节中，我们探讨了在时序因果隐变量和其落后期之间满足线性关系时，如何通过模型假设和添加归纳偏置的方式恢复因果隐变量和它们之间的关系。然而，线性假设是一种很强的函数形式假设，许多时序数据并不满足隐变量之间的线性假设。在这个小节，我们继续讨论在因果隐变量之间满足非线性，甚至非参数化（Nonparametric）的形式下，如何实现因果表征学习 。
在上小节中，我们探讨了在时序因果隐变量和其落后期之间满足线性关系时，如何通过模型假设和添加归纳偏置的方式恢复因果隐变量和它们之间的关系。然而，线性假设是一种很强的函数形式假设，许多时序数据并不满足隐变量之间的线性假设。在这个小节，我们继续讨论在因果隐变量之间满足非线性，甚至非参数化（Nonparametric）的形式下，如何实现因果表征学习 。
[[File:Nonparametric Latent Causal Processes模型假设.png|400px|center|thumb|Nonparametric Latent Causal Processes模型假设]]
与上小节相同，我们仍假设数据Xt则是隐变量Zt的非线性（但可逆）的映射。不同的是，我们不再对时序因果隐变量之间的关系或噪声分布形式做任何参数化假设。然而，天下没有免费的午餐。非参数化（Nonparametric）的假设必然需要别的代价和条件来补偿。通过理论推导 [Yao et al., 2022]，我们发现在引入了因果关系指数导数之间的线性独立条件（Linear Independence Condition）后，除了Linear Gaussian Model之外的Latent Process，都有极大可能满足该线性独立条件。该条件可广泛使用于时序因果表征学习，在非参情况下寻找因果隐变量和它们的关系。
与上小节相同，我们仍假设数据Xt则是隐变量Zt的非线性（但可逆）的映射。不同的是，我们不再对时序因果隐变量之间的关系或噪声分布形式做任何参数化假设。然而，天下没有免费的午餐。非参数化（Nonparametric）的假设必然需要别的代价和条件来补偿。通过理论推导 [Yao et al., 2022]，我们发现在引入了因果关系指数导数之间的线性独立条件（Linear Independence Condition）后，除了Linear Gaussian Model之外的Latent Process，都有极大可能满足该线性独立条件。该条件可广泛使用于时序因果表征学习，在非参情况下寻找因果隐变量和它们的关系。
<br>
<br>
====数据分布变化为时间序列因果表征学习带来的好处====
====数据分布变化为时间序列因果表征学习带来的好处====
在上一章节中，我们讨论了在静态时序环境下的因果表征学习。下一步，我们将继续探讨在数据分布发生变化的情况下，我们该如何恢复因果隐变量和它们的关系。值得注意的是，我们的分析是在能探测到分布变化的假设下进行的。即在恢复隐变量过程前，我们已知何时数据发生分布变化和哪种类别（class）的变化，比如域索引（domain Index）是已知的。我们的研究重是如何有效利用这些分布变化实现有效的因果表征学习，而不是检测分布变化。在LCD-NM [Yao er al., 2022]中，为了更简洁地描述不同domain之间分布的区别，我们分别引入在transition和observation function上的低维causal change factor 𝛉。即对于不同domain的数据，change factor 𝛉取不同的值。最后，我们扩展上节中探讨的Nonparametric Latent Causal Processes模型来描述数据分布变化下的数据生成过程。通过理论分析，我们发现在模型中引入变化，并在学习过程中估计数据的变化，因果隐变量的学习和识别效果可以得到显著的提升。
在上一章节中，我们讨论了在静态时序环境下的因果表征学习。下一步，我们将继续探讨在数据分布发生变化的情况下，我们该如何恢复因果隐变量和它们的关系。值得注意的是，我们的分析是在能探测到分布变化的假设下进行的。即在恢复隐变量过程前，我们已知何时数据发生分布变化和哪种类别（class）的变化，比如域索引（domain Index）是已知的。我们的研究重是如何有效利用这些分布变化实现有效的因果表征学习，而不是检测分布变化。在LCD-NM [Yao er al., 2022]中，为了更简洁地描述不同domain之间分布的区别，我们分别引入在transition和observation function上的低维causal change factor 𝛉。即对于不同domain的数据，change factor 𝛉取不同的值。最后，我们扩展上节中探讨的Nonparametric Latent Causal Processes模型来描述数据分布变化下的数据生成过程。通过理论分析，我们发现在模型中引入变化，并在学习过程中估计数据的变化，因果隐变量的学习和识别效果可以得到显著的提升。