更改

为了保证分解的数学严谨性，Williams 和 Beer 提出冗余信息应满足三条公理——对称性（冗余与信源顺序无关）、自冗余性（目标变量与某个信源自身的冗余信息量是所有包含这个信源的冗余信息中的最大值）、单调性（加入更多信源不会增加冗余），由此给出冗余信息的一种度量 <math>I_{\min}</math>，并诱导出一个称为冗余晶格（redundancy lattice）的偏序结构，随后通过对 <math>I_{\min}</math>做 Möbius 逆变换，即可得到冗余晶格中每个节点对应的部分信息原子，且其恒定非负。

−

PID 的目前的缺陷在于PID的冗余信息的公理化方案约束出的部分信息原子形式不唯一且信源数 ≥ 3 时，不存在一种冗余信息的度量能同时满足 Williams 和 Beer 三条公理、局部非负性、以及 Harder 等人<ref name="Harder_IRed">{{cite journal|author1=Harder M.|author2=Salge C.|author3=Polani D.|title=Bivariate measure of redundant information|journal=Physical Review E|year=2013|volume=87|issue=1|page=012130|url=https://doi.org/10.1103/PhysRevE.87.012130}}</ref>提出的"恒等公理"~~。因此后续十年中学术界先后由~~ Lyu–Clark–Raviv 提出了 <math> I_{\cap}^{\text{Exp}} </math><ref name="Lyu_do_PID" />；由 Kolchinsky 提出了 <math>I_{\cap}^{\star}</math><ref name="Kolchinsky_Blackwell">{{cite journal|author1=Kolchinsky A.|title=A novel approach to the partial information decomposition|journal=Entropy|year=2022|volume=24|issue=3|page=403|url=https://doi.org/10.3390/e24030403}}</ref>；由 Barrett 提出了 <math>I_{\cap}^{\text{MMI}}</math><ref name="Paul">{{cite journal|author1=Paul L. Williams|author2=Randall D. Beer|title=Nonnegative Decomposition of Multivariate Information|journal=arXiv preprint|year=2010|url=https://arxiv.org/abs/1004.2515}}</ref>；由 Griffith 等人提出了<math> I_{\cap}^{∧}</math><ref name="Griffith_intersection_CR">{{cite journal|author1=Griffith V.|author2=Chong E. K.|author3=James R. G.|author4=Ellison C. J.|author5=Crutchfield J. P.|title=Intersection information based on common randomness|journal=Entropy|year=2014|volume=16|issue=4|pages=1985–2000|url=https://doi.org/10.3390/e16041985}}</ref>；由 Ince 提出了<math>I_{\cap}^{\text{Ince}}</math><ref name="Ince_CCT">{{cite journal|author1=Ince R. A.|title=Measuring multivariate redundant information with pointwise common change in surprisal|journal=Entropy|year=2017|volume=19|issue=7|page=318|url=https://doi.org/10.3390/e19070318}}</ref>；由 Finn 和 Lizier 提出了 <math>I_{\cap}^{\text{FL}}</math><ref name="Finn_spec_ambig">{{cite journal|author1=Finn C.|author2=Lizier J. T.|title=Pointwise partial information decomposition using the specificity and ambiguity lattices|journal=Entropy|year=2018|volume=20|issue=4|page=297|url=https://doi.org/10.3390/e20040297}}</ref>；由 Bertschinger 等人提出了<math> I_{\cap}^{\text{BROIA}}</math><ref name="Bertschinger_unique">{{cite journal|author1=Bertschinger N.|author2=Rauh J.|author3=Olbrich E.|author4=Jost J.|author5=Ay N.|title=Quantifying unique information|journal=Entropy|year=2014|volume=16|issue=4|pages=2161–2180|url=https://doi.org/10.3390/e16042161}}</ref>；由 Harder 等人提出了 <math>I_{\cap}^{\text{Harder}}</math><ref name="Harder_IRed">{{cite journal|author1=Harder M.|author2=Salge C.|author3=Polani D.|title=Bivariate measure of redundant information|journal=Physical Review E|year=2013|volume=87|issue=1|page=012130|url=https://doi.org/10.1103/PhysRevE.87.012130}}</ref>；由 James 等人提出了 <math>I_{\cap}^{\text{dep}}</math><ref name="James_depcon">{{cite journal|author1=James R. G.|author2=Emenheiser J.|author3=Crutchfield J. P.|title=Unique information via dependency constraints|journal=Journal of Physics A: Mathematical and Theoretical|year=2018|volume=52|issue=1|page=014002|url=https://doi.org/10.1088/1751-8121/aae492}}</ref>等多种方案，各自在不同公理组合下成立。

+

PID 的目前的缺陷在于PID的冗余信息的公理化方案约束出的部分信息原子形式不唯一且信源数 ≥ 3 时，不存在一种冗余信息的度量能同时满足 Williams 和 Beer 三条公理、局部非负性、以及 Harder 等人<ref name="Harder_IRed">{{cite journal|author1=Harder M.|author2=Salge C.|author3=Polani D.|title=Bivariate measure of redundant information|journal=Physical Review E|year=2013|volume=87|issue=1|page=012130|url=https://doi.org/10.1103/PhysRevE.87.012130}}</ref>提出的"恒等公理"。因此后续学术界先后由 Lyu–Clark–Raviv 提出了 <math> I_{\cap}^{\text{Exp}} </math><ref name="Lyu_do_PID" />；由 Kolchinsky 提出了 <math>I_{\cap}^{\star}</math><ref name="Kolchinsky_Blackwell">{{cite journal|author1=Kolchinsky A.|title=A novel approach to the partial information decomposition|journal=Entropy|year=2022|volume=24|issue=3|page=403|url=https://doi.org/10.3390/e24030403}}</ref>；由 Barrett 提出了 <math>I_{\cap}^{\text{MMI}}</math><ref name="Paul">{{cite journal|author1=Paul L. Williams|author2=Randall D. Beer|title=Nonnegative Decomposition of Multivariate Information|journal=arXiv preprint|year=2010|url=https://arxiv.org/abs/1004.2515}}</ref>；由 Griffith 等人提出了<math> I_{\cap}^{∧}</math><ref name="Griffith_intersection_CR">{{cite journal|author1=Griffith V.|author2=Chong E. K.|author3=James R. G.|author4=Ellison C. J.|author5=Crutchfield J. P.|title=Intersection information based on common randomness|journal=Entropy|year=2014|volume=16|issue=4|pages=1985–2000|url=https://doi.org/10.3390/e16041985}}</ref>；由 Ince 提出了<math>I_{\cap}^{\text{Ince}}</math><ref name="Ince_CCT">{{cite journal|author1=Ince R. A.|title=Measuring multivariate redundant information with pointwise common change in surprisal|journal=Entropy|year=2017|volume=19|issue=7|page=318|url=https://doi.org/10.3390/e19070318}}</ref>；由 Finn 和 Lizier 提出了 <math>I_{\cap}^{\text{FL}}</math><ref name="Finn_spec_ambig">{{cite journal|author1=Finn C.|author2=Lizier J. T.|title=Pointwise partial information decomposition using the specificity and ambiguity lattices|journal=Entropy|year=2018|volume=20|issue=4|page=297|url=https://doi.org/10.3390/e20040297}}</ref>；由 Bertschinger 等人提出了<math> I_{\cap}^{\text{BROIA}}</math><ref name="Bertschinger_unique">{{cite journal|author1=Bertschinger N.|author2=Rauh J.|author3=Olbrich E.|author4=Jost J.|author5=Ay N.|title=Quantifying unique information|journal=Entropy|year=2014|volume=16|issue=4|pages=2161–2180|url=https://doi.org/10.3390/e16042161}}</ref>；由 Harder 等人提出了 <math>I_{\cap}^{\text{Harder}}</math><ref name="Harder_IRed">{{cite journal|author1=Harder M.|author2=Salge C.|author3=Polani D.|title=Bivariate measure of redundant information|journal=Physical Review E|year=2013|volume=87|issue=1|page=012130|url=https://doi.org/10.1103/PhysRevE.87.012130}}</ref>；由 James 等人提出了 <math>I_{\cap}^{\text{dep}}</math><ref name="James_depcon">{{cite journal|author1=James R. G.|author2=Emenheiser J.|author3=Crutchfield J. P.|title=Unique information via dependency constraints|journal=Journal of Physics A: Mathematical and Theoretical|year=2018|volume=52|issue=1|page=014002|url=https://doi.org/10.1088/1751-8121/aae492}}</ref>等多种方案，各自在不同公理组合下成立。

尽管存在这些概念上的分歧，PID 已经成为神经科学（神经元群体编码分析）、机器学习（多模态融合、知识蒸馏）、遗传学（基因-环境交互）等领域不可或缺的工具，因为它首次提供了一种原则性的语言来回答"信息究竟是谁、以何种方式贡献给目标的"这一核心问题。

王盛嘉

175

个编辑

更改

部分信息分解 (查看源代码)

2026年9月1日 (二) 12:20的版本