在PID框架被提出前,多变量信息理论有两种主流的发展路径,分别为S. Watanabe于1960提出的总相关性框架及William J. McGill于1954提出的交互信息框架,前者开启了以信息计量多个随机变量集合中总冗余度的方式,后者则引出了反直觉的负交互信息问题,这些构成了PID框架形成的动机,一方面PID框架试图量化多变量传输信息,从而揭示多个随机变量间交互作用的结构特征,另一方面,PID框架要给出交互信息框架中负信息的形成机制及其意义,即彻底解决负交互信息问题。
+
在PID框架被提出前,多变量信息理论有两种主流的发展路径,分别为S. Watanabe于1960提出的总相关性框架及William J. McGill于1954提出的交互信息框架,前者提出的总相关性熵函数为计量多个随机变量集合中交互作用程度的总量提供了计量工具,后者则引出了反直觉的负交互信息问题。这些为PID框架的形成提供了动机,一方面PID框架试图量化多变量传输信息,从而揭示多个随机变量间交互作用的结构特征,另一方面,PID框架要给出交互信息框架中负信息的形成机制及其意义,即彻底解决负交互信息问题。