216
个编辑
更改
跳到导航
跳到搜索
第60行：
第60行： − + 第101行：
第101行： − +
→PID框架的形成动机
== [[PID框架]]的形成动机 ==
== [[PID框架]]的形成动机 ==
在PID框架被提出前，[[多变量信息理论]]领域已有两类代表性的信息框架，分别为S. Watanabe于1960提出的[[总相关性]]框架<ref>[https://ieeexplore.ieee.org/abstract/document/5392532 Watanabe S (1960). Information theoretical analysis of multivariate correlation, ''IBM Journal of Research and Development'' '''4''', 66–82.]</ref>及William J. McGill于1954提出的[[McGill交互信息|交互信息]]框架<ref>[https://www.cambridge.org/core/journals/psychometrika/article/abs/multivariate-information-transmission/7EB2980C5C5668747D306E2842C8C0A8 McGill W J (1954). Multivariate information transmission, ''Psychometrika'' '''19''', 97–116.]</ref>，前者提出的[[总相关性]][[熵函数]]为计量多个随机变量集合中交互作用程度的总量提供了计量工具,后者则引出了反直觉的[[交互信息]]出现负值的问题。这些为[[部分信息分解|PID框架]]的形成提供了动机，一方面[[部分信息分解|PID框架]]试图精细量化多变量间传输信息的构成，从而揭示多个随机变量间交互作用的结构特征，另一方面，[[部分信息分解|PID框架]]要给出[[McGill交互信息|交互信息]]框架中[[负信息]]的形成机制及其意义，即为交[[互信息]]出现负值的问题提供结构化解释。
在PID框架被提出前，[[多变量信息理论]]领域已有两类代表性的信息框架，分别为S. Watanabe于1960提出的[[总相关性]]框架<ref>Watanabe S (1960). [https://ieeexplore.ieee.org/abstract/document/5392532 Information theoretical analysis of multivariate correlation], ''IBM Journal of Research and Development'' '''4''', 66–82.</ref>及William J. McGill于1954提出的[[McGill交互信息|交互信息]]框架<ref>McGill W J (1954). [https://www.cambridge.org/core/journals/psychometrika/article/abs/multivariate-information-transmission/7EB2980C5C5668747D306E2842C8C0A8 Multivariate information transmission], ''Psychometrika'' '''19''', 97–116.</ref>，前者提出的[[总相关性]][[熵函数]]为计量多个随机变量集合中交互作用程度的总量提供了计量工具,后者则引出了反直觉的[[交互信息]]出现负值的问题。这些为[[部分信息分解|PID框架]]的形成提供了动机，一方面[[部分信息分解|PID框架]]试图精细量化多变量间传输信息的构成，从而揭示多个随机变量间交互作用的结构特征，另一方面，[[部分信息分解|PID框架]]要给出[[McGill交互信息|交互信息]]框架中[[负信息]]的形成机制及其意义，即为交[[互信息]]出现负值的问题提供结构化解释。
=== [[总相关性]] ===
=== [[总相关性]] ===
相应的[[McGill交互信息]]为右图中的灰色部分:<math>I(X;Y;Z)</math>
相应的[[McGill交互信息]]为右图中的灰色部分:<math>I(X;Y;Z)</math>
[[文件:Pasted_image_20251104135250.png|链接=特殊:文件路径/Pasted_image_20251104135250.png|替代=|338x338px|图：以韦恩图展示的三元随机变量系统的McGill交互信息示意图，灰色部分为该系统的McGill交互信息。|缩略图]]
[[文件:Pasted_image_20251104135250.png|链接=特殊:文件路径/Pasted_image_20251104135250.png|替代=|338x338px|图：以韦恩图展示的三元随机变量系统的McGill交互信息示意图，灰色部分为该系统的McGill交互信息。来源：https://en.wikipedia.org/wiki/Interaction_information|缩略图]]
'''交互信息的负值问题'''
'''交互信息的负值问题'''