更改

除理论定义的困难外，对于变量数量较多或状态空间较大的系统，直接实施原始 PID 分析往往成本较高。为此，研究者们提出了适用于连续变量或高斯变量等特定条件的扩展方法，以在保留部分信息分解思想的同时提高计算可行性。

除理论定义的困难外，对于变量数量较多或状态空间较大的系统，直接实施原始 PID 分析往往成本较高。为此，研究者们提出了适用于连续变量或高斯变量等特定条件的扩展方法，以在保留部分信息分解思想的同时提高计算可行性。

尽管仍存在冗余度量选择、理论性质协调与大规模计算等问题，PID 已成为研究复杂系统、因果科学、脑与神经科学及人工智能的重要工具。它使研究者能够进一步追问：不同信息来源究竟以冗余、特有还是协同的方式，共同影响目标变量。

尽管仍存在冗余度量选择、理论性质协调与大规模计算等问题，PID 已成为研究复杂系统、因果科学、脑与神经科学及人工智能的重要工具。它使研究者能够进一步追问：不同信息来源究竟以冗余、特有还是协同的方式，共同影响目标变量。

PID 在实际应用中的主要困难之一，是多源情形下部分信息原子数量的组合爆炸。对于采用传统反链格表示的 <math>n</math> 信源 PID，部分信息原子的数量为：

PID 在实际应用中的主要困难之一，是多源情形下部分信息原子数量的组合爆炸。对于采用传统反链格表示的 <math>n</math> 信源 PID，部分信息原子的数量为：

<math>M(n)-2,</math>

<math>M(n)-2,</math>其中，<math>M(n)</math> 为第 <math>n</math> 个 Dedekind 数。Dedekind 数等于 <math>n</math> 元单调布尔函数的数量，也等价于 <math>n</math> 维布尔格中反链的数量。<ref>[https://pmc.ncbi.nlm.nih.gov/articles/PMC8261229/ Gutknecht, A. J. et al. (2021). “Bits and pieces: understanding information decomposition from part-whole relationships and formal logic.”]</ref>

 

其中，<math>M(n)</math> 为第 <math>n</math> 个 Dedekind 数。Dedekind 数等于 <math>n</math> 元单调布尔函数的数量，也等价于 <math>n</math> 维布尔格中反链的数量。<ref>[https://pmc.ncbi.nlm.nih.gov/articles/PMC8261229/ Gutknecht, A. J. et al. (2021). “Bits and pieces: understanding information decomposition from part-whole relationships and formal logic.”]</ref>

部分信息原子数随信源数增长极快。例如：

部分信息原子数随信源数增长极快。例如：

==== <math>\widetilde{G}</math>[[-PID]] ====

==== <math>\widetilde{G}</math>[[-PID]] ====

PVenkatesh、Bennett 等人在 2023 年提出 <math>\widetilde{G}</math>-PID，用于高效计算和估计[[联合高斯随机向量]]上的 <math>\widetilde{\mathrm{PID}}</math>，即常称的 ~PID/[[BROJA-PID]]。<ref>[https://proceedings.neurips.cc/paper_files/paper/2023/file/ec0bff8bf4b11e36f874790046dfdb65-Paper-Conference.pdf Venkatesh, P. et al. (2023). “Gaussian Partial Information Decomposition: Bias Correction and Application to High-dimensional Data.” ''NeurIPS 2023''.]</ref>

PVenkatesh、Bennett 等人在 2023 年提出 <math>\widetilde{G}</math>-PID，用于高效计算和估计[[联合高斯随机向量]]上的 <math>\widetilde{\mathrm{PID}}</math>，即常称的 ~PID/[[BROJA-PID]]。<ref>[https://proceedings.neurips.cc/paper_files/paper/2023/file/ec0bff8bf4b11e36f874790046dfdb65-Paper-Conference.pdf Venkatesh, P. et al. (2023). “Gaussian Partial Information Decomposition: Bias Correction and Application to High-dimensional Data.” ''NeurIPS 2023''.]</ref>

设 <math>M</math> 为[[目标变量]]，<math>X</math> 和 <math>Y</math> 为两个[[信源]]。BROJA-PID 的[[特有信息]]需要在保持 <math>(M,X)</math> 与 <math>(M,Y)</math> [[边缘分布]]不变的[[联合分布]]集合上进行优化。<math>\widetilde{G}</math>-PID 进一步将候选联合分布限制为[[联合高斯分布]]：

设 <math>M</math> 为[[目标变量]]，<math>X</math> 和 <math>Y</math> 为两个[[信源]]。BROJA-PID 的[[特有信息]]需要在保持 <math>(M,X)</math> 与 <math>(M,Y)</math> [[边缘分布]]不变的[[联合分布]]集合上进行优化。<math>\widetilde{G}</math>-PID 进一步将候选联合分布限制为[[联合高斯分布]]：

\min_{Q\in\Delta^{G}_{P}}I_{Q}(M;X\mid Y),

\min_{Q\in\Delta^{G}_{P}}I_{Q}(M;X\mid Y),

</math>

</math>

其中，<math>\Delta^{G}_{P}</math> 表示满足给定[[边缘约束]]的联合高斯分布集合。

其中，<math>\Delta^{G}_{P}</math> 表示满足给定[[边缘约束]]的联合高斯分布集合。

在这一限制下，候选分布由[[协方差矩阵]]参数化；在给定边缘约束后，待优化参数的数量可由随维度指数增长降至二次增长，这里的“二次”指优化变量数量的增长阶，这大大降低了进行PID的[[计算复杂度]]。

在这一限制下，候选分布由[[协方差矩阵]]参数化；在给定边缘约束后，待优化参数的数量可由随维度指数增长降至二次增长，这里的“二次”指优化变量数量的增长阶，这大大降低了进行PID的[[计算复杂度]]。

<math>\widetilde{G}</math>-PID框架定义的[[信息原子]]，采用了~PID/BROJA-PID 中[[冗余信息原子]]的定义，从而继承了~PID/BROJA-PID 定义下信息原子的[[独立分量可加性]]。

 

 

<math>\widetilde{G}</math>-PID信息框架定义的[[信息原子]]，采用了~PID/BROJA-PID 中[[冗余]]信息原子的定义，从而继承了~PID/BROJA-PID定义下信息原子的[[独立分量可加性]]。

这意味着，如果一个多变量的系统可被分解成多个独立的部分，分别计算这些独立部分的 <math>\widetilde{G}</math>-PID信息原子，再加总即可得到整体的 <math>\widetilde{G}</math>-PID信息原子，这一性质亦降低了对大规模系统进行PID分析的难度。

这意味着，如果一个多变量的系统可被分解成多个独立的部分，分别计算这些独立部分的 <math>\widetilde{G}</math>-PID信息原子，再加总即可得到整体的 <math>\widetilde{G}</math>-PID信息原子，这一性质亦降低了对大规模系统进行PID分析的难度。

几位研究者的工作在理论上证明了，对~PID的[[优化搜索空间]]添加高斯限制后得到的~G-PID原子，是相应的~PID特有信息原子的[[上界]]以及冗余、[[协同信息原子]]的[[下界]]，并且他们通过数值测试说明，对非高斯型随机变量系统使用~PID方法时，限制计算时搜索空间为高斯分布也是一个可以提高计算效率，得到较为可靠结果的[[策略]]。

Praveen Venkatesh, Corbett Bennett在三种高斯直觉性示例（纯[[特有]]、纯[[冗余]]、纯[[协同]]）和三种非直觉性示例（[[特有]]和[[冗余]]、[[特有]]和[[协同]]、[[冗余]]和[[协同]]等非直觉性）中测试了~[[G-PID]]的有效性，并在真实的神经科学数据集上测试了~G-PID也能在非高斯尖峰神经数据上提供合理结果。

 

 

几位研究者的工作在理论上证明了，对~PID/BROJA-PID的优化搜索空间添加高斯限制后得到的<math>\widetilde{G}</math>-PID原子，是相应的~PID/BROJA-PID特有信息原子的上界以及冗余、[[协同信息原子]]的下界，并且他们通过数值测试说明，对非高斯型随机变量系统使用~PID方法时，限制计算时搜索空间为高斯分布也是一个可以提高计算效率，得到较为可靠结果的策略。

==== Thin-PID ====

==== Thin-PID ====

几位研究者的试图研究学习过程是否能增强系统整合性，为此，他们选择了[[基因调控网络（GRNs）]]为研究对象，考察了[[GRNs]]在经历了巴普洛夫条件反射这种经典的生物网络学习方式的训练后,网络中涌现程度发生的变化。

几位研究者的试图研究学习过程是否能增强系统整合性，为此，他们选择了[[基因调控网络（GRNs）]]为研究对象，考察了[[GRNs]]在经历了巴普洛夫条件反射这种经典的生物网络学习方式的训练后,网络中涌现程度发生的变化。

而后[[整合信息分解|<math>\Phi</math> ID框架]]被用来计算基因表达信号的[[因果涌现]]程度。高斯信息假设在这一工作的[[整合信息分解|<math>\Phi</math> ID]]计算中起到了核心支撑，假设信号符合高斯分布，带来了[[整合信息分解|<math>\Phi</math> ID]]计算上的极大便利性。使用高斯假设后，[[互信息]]的计算不再需要复杂的分布估计，可以通过皮尔逊相关系数精确地计算[[互信息]]矩阵；[[熵]]的计算也可以通过高斯分布的方差和均值获得，从而使得应用[[整合信息分解|<math>\Phi</math> ID]]量化多组件GRNs计算成本大幅降低。

而后[[整合信息分解|<math>\Phi</math> ID框架]]被用来计算基因表达信号的[[因果涌现]]程度。高斯信息假设在这一工作的[[整合信息分解|<math>\Phi</math> ID]]计算中起到了核心支撑，假设信号符合高斯分布，带来了[[整合信息分解|<math>\Phi</math> ID]]计算上的极大便利性。使用高斯假设后，[[互信息]]的计算不再需要复杂的分布估计，可以通过皮尔逊相关系数精确地计算[[互信息]]矩阵；[[熵]]的计算也可以通过高斯分布的方差和均值获得，从而使得应用[[整合信息分解|<math>\Phi</math> ID]]量化多组件GRNs计算成本大幅降低。

此外，研究者们还构建了随机网络作为对照组，通过比较GRNS和随机网络在练习记忆训练后的[[因果涌现]]程度，探索了生物网络和随机网络在经历联想学习后的[[因果涌现]]程度的差异。

此外，研究者们还构建了随机网络作为对照组，通过比较GRNS和随机网络在练习记忆训练后的[[因果涌现]]程度，探索了生物网络和随机网络在经历联想学习后的[[因果涌现]]程度的差异。

利用高斯信息假设下的[[整合信息分解|<math>\Phi</math> ID]]的方法分析实验结果，作者观察到若干 GRN 在联想学习任务后整合/[[涌现]]指标发生变化，总结了学习可反向强化系统集成性与[[因果涌现]]性的特点，同时指出GRNs同随机网络在学习后[[涌现]]能力变化的核心差异——GRNs具有随机网络不具备的[[涌现]]能力积累经验提高的性质。这一工作也展示了基于高斯信息假设的信息分解方法在生物连续数据中的有效性。

利用高斯信息假设下的[[整合信息分解|<math>\Phi</math> ID]]的方法分析实验结果，作者观察到若干 GRN 在联想学习任务后整合/[[涌现]]指标发生变化，总结了学习可反向强化系统集成性与[[因果涌现]]性的特点，同时指出GRNs同随机网络在学习后[[涌现]]能力变化的核心差异——GRNs具有随机网络不具备的[[涌现]]能力积累经验提高的性质。这一工作也展示了基于高斯信息假设的信息分解方法在生物连续数据中的有效性。