| 第925行: |
第925行: |
| | ==== PIRD ==== | | ==== PIRD ==== |
| | 部分信息率分解(PIRD)框架,是将传统部分信息分解(PID) 从静态随机变量系统扩展到时间相关性的随机过程系统的信息分解框架。这一框架通过互信息率(MIR) 替代静态互信息(MI),结合频率域谱冗余率(SMMI) 实现动态信息的独特、冗余、协同贡献分解;经高斯系统仿真验证,PIRD 在捕捉时间相关性和频率特异性交互上优于传统 PID, | | 部分信息率分解(PIRD)框架,是将传统部分信息分解(PID) 从静态随机变量系统扩展到时间相关性的随机过程系统的信息分解框架。这一框架通过互信息率(MIR) 替代静态互信息(MI),结合频率域谱冗余率(SMMI) 实现动态信息的独特、冗余、协同贡献分解;经高斯系统仿真验证,PIRD 在捕捉时间相关性和频率特异性交互上优于传统 PID, |
| − |
| |
| − | === 应用 ===
| |
| − | 协同信息披露,Rosas F E, Mediano P A M, Rassouli B, et al. An operational information decomposition via synergistic disclosure[J]. Journal of Physics A: Mathematical and Theoretical, 2020, 53(48): 485001.
| |
| − |
| |
| − | 多元因果分析,Faisal Hamman and Sanghamitra Dutta. Demystifying local and global fairness trade-offs in federated learning using partial information decomposition. arXiv preprint arXiv:2307.11333, 2023.
| |
| − |
| |
| − | 是否要介绍部分熵分解的应用?Varley T F. Information theory for complex systems scientists[J]. arXiv preprint arXiv:2304.12482, 2023.
| |
| − |
| |
| − | 引一下定量因果涌现
| |
| | | | |
| | === 相关框架 === | | === 相关框架 === |
| 第944行: |
第935行: |
| | 在PED中,部分信息原子被替换为了同名的部分熵原子,也包括冗余、独特、协同三个部分,从而可以将随机变量的熵与联合熵及二元互信息重构为部分熵原子的形式 | | 在PED中,部分信息原子被替换为了同名的部分熵原子,也包括冗余、独特、协同三个部分,从而可以将随机变量的熵与联合熵及二元互信息重构为部分熵原子的形式 |
| | | | |
| − | H(X_1,X_2) = H_{\partial}(\{{X}_1\},\<nowiki>{{X}_2\}) + H_{\partial}{\{X_1\}}</nowiki> + H_{\partial}(\{X_2\}) + H_{\partial}(\{X_1,X_2\}) | + | <nowiki>H(X_1,X_2) = H_{\partial}(\{{X}_1\},\</nowiki><nowiki>{{X}_2\}) + H_{\partial}{\{X_1\}}</nowiki> + H_{\partial}(\{X_2\}) + H_{\partial}(\{X_1,X_2\}) |
| | | | |
| | H(X_1) = H_{\partial}(\{X_1\}\{X_2\}) + H_{\partial}(\{X_1\}) | | H(X_1) = H_{\partial}(\{X_1\}\{X_2\}) + H_{\partial}(\{X_1\}) |
| 第1,002行: |
第993行: |
| | | | |
| | 与单目标PID的情况不同,双重冗余格并源自冗余函数,而是通过边际格的乘积自然形成,这种用偏序格的代数结构处理冗余信息的方法在逻辑上正确性已成为学界共识,但相比于PID框架,\PhiID框架的数学基础处于亟待完善的状态。 | | 与单目标PID的情况不同,双重冗余格并源自冗余函数,而是通过边际格的乘积自然形成,这种用偏序格的代数结构处理冗余信息的方法在逻辑上正确性已成为学界共识,但相比于PID框架,\PhiID框架的数学基础处于亟待完善的状态。 |
| | + | |
| | + | === 应用 === |
| | + | 协同信息披露,Rosas F E, Mediano P A M, Rassouli B, et al. An operational information decomposition via synergistic disclosure[J]. Journal of Physics A: Mathematical and Theoretical, 2020, 53(48): 485001. |
| | + | |
| | + | 多元因果分析,Faisal Hamman and Sanghamitra Dutta. Demystifying local and global fairness trade-offs in federated learning using partial information decomposition. arXiv preprint arXiv:2307.11333, 2023. |
| | + | |
| | + | 是否要介绍部分熵分解的应用?Varley T F. Information theory for complex systems scientists[J]. arXiv preprint arXiv:2304.12482, 2023. |
| | + | |
| | + | 引一下定量因果涌现 |
| | | | |
| | == 讨论 == | | == 讨论 == |