216
个编辑
更改
跳到导航
跳到搜索
第654行：
第654行： − + − + − + 第665行：
第665行： − + − 在这一限制下，候选分布由协方差矩阵参数化；在给定边缘约束后，待优化参数的数量可由随维度指数增长降至二次增长，这里的“二次”指优化变量数量的增长阶，这大大降低了进行PID的计算复杂度。+ − ~G-PID框架定义的信息原子，采用了~PID/BROJA-PID 中冗余信息原子的定义，从而继承了~PID/BROJA-PID 定义下信息原子的独立分量可加性。+ − + − + − +
→~G-PID
=== [[高斯型PID]]框架 ===
=== [[高斯型PID]]框架 ===
==== ~G-PID ====
==== <math>\widetilde{G}</math>[[-PID]] ====
PVenkatesh、Bennett 等人在 2023 年提出 <math>\widetilde{G}</math>-PID，用于高效计算和估计联合高斯随机向量上的 <math>\widetilde{\mathrm{PID}}</math>，即常称的 ~PID/BROJA-PID。<ref>[https://proceedings.neurips.cc/paper_files/paper/2023/file/ec0bff8bf4b11e36f874790046dfdb65-Paper-Conference.pdf Venkatesh, P. et al. (2023). “Gaussian Partial Information Decomposition: Bias Correction and Application to High-dimensional Data.” ''NeurIPS 2023''.]</ref>
PVenkatesh、Bennett 等人在 2023 年提出 <math>\widetilde{G}</math>-PID，用于高效计算和估计[[联合高斯随机向量]]上的 <math>\widetilde{\mathrm{PID}}</math>，即常称的 ~PID/[[BROJA-PID]]。<ref>[https://proceedings.neurips.cc/paper_files/paper/2023/file/ec0bff8bf4b11e36f874790046dfdb65-Paper-Conference.pdf Venkatesh, P. et al. (2023). “Gaussian Partial Information Decomposition: Bias Correction and Application to High-dimensional Data.” ''NeurIPS 2023''.]</ref>
设 <math>M</math> 为目标变量，<math>X</math> 和 <math>Y</math> 为两个信源。BROJA-PID 的特有信息需要在保持 <math>(M,X)</math> 与 <math>(M,Y)</math> 边缘分布不变的联合分布集合上进行优化。<math>\widetilde{G}</math>-PID 进一步将候选联合分布限制为联合高斯分布：
设 <math>M</math> 为[[目标变量]]，<math>X</math> 和 <math>Y</math> 为两个[[信源]]。BROJA-PID 的[[特有信息]]需要在保持 <math>(M,X)</math> 与 <math>(M,Y)</math> [[边缘分布]]不变的[[联合分布]]集合上进行优化。<math>\widetilde{G}</math>-PID 进一步将候选联合分布限制为[[联合高斯分布]]：
<math>
<math>
</math>
</math>
其中，<math>\Delta^{G}_{P}</math> 表示满足给定边缘约束的联合高斯分布集合。
其中，<math>\Delta^{G}_{P}</math> 表示满足给定[[边缘约束]]的联合高斯分布集合。
在这一限制下，候选分布由[[协方差矩阵]]参数化；在给定边缘约束后，待优化参数的数量可由随维度指数增长降至二次增长，这里的“二次”指优化变量数量的增长阶，这大大降低了进行PID的[[计算复杂度]]。
<math>\widetilde{G}</math>-PID框架定义的[[信息原子]]，采用了~PID/BROJA-PID 中[[冗余信息原子]]的定义，从而继承了~PID/BROJA-PID 定义下信息原子的[[独立分量可加性]]。
这意味着，如果一个多变量的系统可被分解成多个独立的部分，分别计算这些独立部分的~G-PID信息原子，再加总即可得到整体的~G-PID信息原子，这一性质亦降低了对大规模系统进行PID分析的难度。
这意味着，如果一个多变量的系统可被分解成多个独立的部分，分别计算这些独立部分的 <math>\widetilde{G}</math>-PID信息原子，再加总即可得到整体的 <math>\widetilde{G}</math>-PID信息原子，这一性质亦降低了对大规模系统进行PID分析的难度。
Praveen Venkatesh, Corbett Bennett在三种高斯直觉性示例（纯特有、纯冗余、纯协同）和三种非直觉性示例（[[特有]]和[[冗余]]、[[特有]]和[[协同]]、[[冗余]]和[[协同]]等非直觉性）中测试了~G-PID的有效性，并在真实的神经科学数据集上测试了~G-PID也能在非高斯尖峰神经数据上提供合理结果。
Praveen Venkatesh, Corbett Bennett在三种高斯直觉性示例（纯特有、纯冗余、纯协同）和三种非直觉性示例（[[特有]]和[[冗余]]、[[特有]]和[[协同]]、[[冗余]]和[[协同]]等非直觉性）中测试了~[[G-PID]]的有效性，并在真实的神经科学数据集上测试了~G-PID也能在[[非高斯尖峰神经数据]]上提供合理结果。
几位研究者的工作在理论上证明了，对~PID的优化搜索空间添加高斯限制后得到的~G-PID原子，是相应的~PID特有信息原子的上界以及冗余、协同信息原子的下界，并且他们通过数值测试说明，对非高斯型随机变量系统使用~PID方法时，限制计算时搜索空间为高斯分布也是一个可以提高计算效率，得到较为可靠结果的策略。
几位研究者的工作在理论上证明了，对~PID的[[优化搜索空间]]添加高斯限制后得到的~G-PID原子，是相应的~PID特有信息原子的[[上界]]以及冗余、[[协同信息原子]]的[[下界]]，并且他们通过数值测试说明，对非高斯型随机变量系统使用~PID方法时，限制计算时搜索空间为高斯分布也是一个可以提高计算效率，得到较为可靠结果的[[策略]]。
==== Thin-PID ====
==== Thin-PID ====