175
个编辑
更改
跳到导航
跳到搜索
第241行：
第241行： − + 第247行：
第247行： − + − + 第256行：
第256行： − + 第393行：
第393行： − + 第678行：
第678行： − + 第708行：
第708行： − + 第804行：
第804行： − + 第869行：
第869行： − + 第912行：
第912行： − + − 为了解决高维系统中冗余晶格原子数随源变量数目超指数增长的问题，研究者们提出了信息原子的贡献模式，将信息原子分为独特类，冗余类和协同类，对冗余晶格的结构进行粗粒化的计算方法。+ 第928行：
第928行： − 在人工智能领域中，PID框架中的冗余、独特、协同等原子常被用于模型和算法设计中。+
无编辑摘要
从维恩图中显而易见的还有如下两组等式等式成立：
从维恩图中显而易见的还有如下两组等式等式成立：
1. 某一源向目标变量传递的信息由其独特和冗余构成
1. 某一源向目标变量传递的信息由其特有和冗余构成
<math>I(S_1;T) = \mathrm{Red}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_1 \rightarrow T| S_2)</math>
<math>I(S_1;T) = \mathrm{Red}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_1 \rightarrow T| S_2)</math>
<math>I(S_2;T) = \mathrm{Red}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_2 \rightarrow T|S_1)</math>
<math>I(S_2;T) = \mathrm{Red}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_2 \rightarrow T|S_1)</math>
这意味着，我们可以通过互信息-冗余去计算独特。
这意味着，我们可以通过互信息-冗余去计算特有信息。
2. 某一源向和目标变量组（整体）传递的信息由独特和协同构成
2. 某一源向和目标变量组（整体）传递的信息由特有和协同构成
<math>I(T;S_1 |S_2) = \mathrm{Syn}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_1 \rightarrow T |S_2)</math>
<math>I(T;S_1 |S_2) = \mathrm{Syn}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_1 \rightarrow T |S_2)</math>
<math>I(T;S_2 |S_1) = \mathrm{Syn}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_2 \rightarrow T| S_1)</math>
<math>I(T;S_2 |S_1) = \mathrm{Syn}(S_1,S_2 \rightarrow T) + \mathrm{Un}(S_2 \rightarrow T| S_1)</math>
这意味着，在通过'''互信息-冗余'''计算完独特后，我们可以用'''条件互信息-独特'''计算协同。
这意味着，在通过'''互信息-冗余'''计算完特有后，我们可以用'''条件互信息-特有'''计算协同。
</math>
</math>
而可进一步计算:计算PID框架下相应的独特<math>\mathrm{Un}(X\rightarrow Z|Y),\mathrm{Un}(Y\rightarrow Z|X)</math>与协同<math>\mathrm{Syn}(X,Y \rightarrow Z)</math>这两种信息原子。
而可进一步计算:计算PID框架下相应的特有<math>\mathrm{Un}(X\rightarrow Z|Y),\mathrm{Un}(Y\rightarrow Z|X)</math>与协同<math>\mathrm{Syn}(X,Y \rightarrow Z)</math>这两种信息原子。
<math>\mathrm{Un}(X\rightarrow Z|Y) = \mathrm{Un}(Y\rightarrow Z|X) = -\mathrm{Red}(X,Y \rightarrow Z) =0</math>
<math>\mathrm{Un}(X\rightarrow Z|Y) = \mathrm{Un}(Y\rightarrow Z|X) = -\mathrm{Red}(X,Y \rightarrow Z) =0</math>
Praveen Venkatesh, Corbett Bennett等人在三种高斯直觉性示例（纯独特、纯冗余、纯协同）和三种非直觉性示例（独特和冗余、独特且协同、冗余和协同等非直觉性）中测试了~G-PID的有效性，并在真实的神经科学数据集上测试了~G-PID也能在非高斯尖峰神经数据上提供合理结果。
Praveen Venkatesh, Corbett Bennett等人在三种高斯直觉性示例（纯特有、纯冗余、纯协同）和三种非直觉性示例（特有和冗余、特有且协同、冗余和协同等非直觉性）中测试了~G-PID的有效性，并在真实的神经科学数据集上测试了~G-PID也能在非高斯尖峰神经数据上提供合理结果。
Praveen Venkatesh, Corbett Bennett等人的工作在理论上证明了，通过限制~PID的优化搜索空间到高斯分布型集合上时，可以使~G-PID原子在理论上靠近~PID的计算结果，并且他们通过数值测试说明，对非高斯型随机变量系统使用~PID方法时，限制计算时搜索空间为高斯分布也是一个可以提高计算效率，得到较为可靠结果的策略。
Praveen Venkatesh, Corbett Bennett等人的工作在理论上证明了，通过限制~PID的优化搜索空间到高斯分布型集合上时，可以使~G-PID原子在理论上靠近~PID的计算结果，并且他们通过数值测试说明，对非高斯型随机变量系统使用~PID方法时，限制计算时搜索空间为高斯分布也是一个可以提高计算效率，得到较为可靠结果的策略。
其核心逻辑与PID框架保持一致，即只要有由满足特定公理的冗余熵函数，就可通过莫比乌斯反演构建冗余晶格。
其核心逻辑与PID框架保持一致，即只要有由满足特定公理的冗余熵函数，就可通过莫比乌斯反演构建冗余晶格。
在PED中,部分信息原子被替换为了同名的部分熵原子,也包括冗余、独特、协同三个部分,从而可以将随机变量的熵与联合熵及二元互信息重构为部分熵原子的形式
在PED中,部分信息原子被替换为了同名的部分熵原子,也包括冗余、特有、协同三个部分,从而可以将随机变量的熵与联合熵及二元互信息重构为部分熵原子的形式
<math>H(X_1,X_2) = H_{\partial}(\{{X}_1\},\{{X}_2\}) + H_{\partial}{\{X_1\}} + H_{\partial}(\{X_2\}) + H_{\partial}(\{X_1,X_2\})</math>
<math>H(X_1,X_2) = H_{\partial}(\{{X}_1\},\{{X}_2\}) + H_{\partial}{\{X_1\}} + H_{\partial}(\{X_2\}) + H_{\partial}(\{X_1,X_2\})</math>
SURD基于信息前向传播原理，利用Shannon熵与互信息构建因果分解框架。
SURD基于信息前向传播原理，利用Shannon熵与互信息构建因果分解框架。
这一方法方法将因果关系量化为过去观测变量对目标变量未来状态的信息贡献。其核心思想是将目标变量未来状态的不确定性（Shannon熵）分解为可由观测变量解释的部分和因果泄漏,而后利用PID框架定义的独特、冗余、协同三类信息原子，将观测变量与目标未来的互信息，即可解释的因果信息总量<math>I(Q_{j}^{+};Q)</math>进行分解。
这一方法方法将因果关系量化为过去观测变量对目标变量未来状态的信息贡献。其核心思想是将目标变量未来状态的不确定性（Shannon熵）分解为可由观测变量解释的部分和因果泄漏,而后利用PID框架定义的特有、冗余、协同三类信息原子，将观测变量与目标未来的互信息，即可解释的因果信息总量<math>I(Q_{j}^{+};Q)</math>进行分解。
而由Andrea I. Luppi等研究者在2020年提出的大脑协同核这一神经科学理论，旨在克服FC方法的局限，为人脑如何通过信息整合支撑复杂认知能力提供理论解释。
而由Andrea I. Luppi等研究者在2020年提出的大脑协同核这一神经科学理论，旨在克服FC方法的局限，为人脑如何通过信息整合支撑复杂认知能力提供理论解释。
这一工作的创新点在于将部分信息分解（PID)框架延申的<math>\Phi</math>ID框架引入人脑静息态fMRI分析，并采用适用于高斯变量的MMI-<math>\Phi</math>ID分解方法。利用<math>\Phi</math>ID框架将两个源变量（脑区过去状态）关于目标变量（脑区未来状态）的互信息分解为冗余、独特与协同三个部分。
这一工作的创新点在于将部分信息分解（PID)框架延申的<math>\Phi</math>ID框架引入人脑静息态fMRI分析，并采用适用于高斯变量的MMI-<math>\Phi</math>ID分解方法。利用<math>\Phi</math>ID框架将两个源变量（脑区过去状态）关于目标变量（脑区未来状态）的互信息分解为冗余、特有与协同三个部分。
为了解决零时滞PID和TE-PID在分析随机过程时带来的局限，L. Faes等研究者们发展了PIRD，即部分信息率分解框架，这一框架是静态随机变量系统部分信息分解（PID） 到时间相关性的随机过程系统的扩展。
为了解决零时滞PID和TE-PID在分析随机过程时带来的局限，L. Faes等研究者们发展了PIRD，即部分信息率分解框架，这一框架是静态随机变量系统部分信息分解（PID） 到时间相关性的随机过程系统的扩展。
与零时滞PID和TE-PID不同，PIRD使用PID框架分解的目标是包括了源过程与目标过程间所有交互作用的互信息率（MIR）<math>I_{X;Y} = \lim_{n \to \infty} \frac{1}{n}I(\mathbf{X}(t_1),\dots,\mathbf{X}(t_n);Y(t_1),\dots Y(t_n))</math>替代静态互信息（MI），结合频率域谱冗余率（SMMI）<math>i_{\mathbf{X}_α;Y}^{\cap}(ω)=\min_{j=1,...,J}i_{\mathbf{X_{α_j}};Y}(ω)</math>实现动态信息的独特、冗余、协同贡献分解。
与零时滞PID和TE-PID不同，PIRD使用PID框架分解的目标是包括了源过程与目标过程间所有交互作用的互信息率（MIR）<math>I_{X;Y} = \lim_{n \to \infty} \frac{1}{n}I(\mathbf{X}(t_1),\dots,\mathbf{X}(t_n);Y(t_1),\dots Y(t_n))</math>替代静态互信息（MI），结合频率域谱冗余率（SMMI）<math>i_{\mathbf{X}_α;Y}^{\cap}(ω)=\min_{j=1,...,J}i_{\mathbf{X_{α_j}};Y}(ω)</math>实现动态信息的特有、冗余、协同贡献分解。
为了解决高维系统中冗余晶格原子数随源变量数目超指数增长的问题，研究者们提出了信息原子的贡献模式，将信息原子分为特有类，冗余类和协同类，对冗余晶格的结构进行粗粒化的计算方法。
[[文件:PIRD的粗粒化计算方案.png|居中|600x600像素|替代=|无框]]
[[文件:PIRD的粗粒化计算方案.png|居中|600x600像素|替代=|无框]]
=== PID框架在人工智能领域中的应用 ===
=== PID框架在人工智能领域中的应用 ===
在人工智能领域中，PID框架中的冗余、特有、协同等原子常被用于模型和算法设计中。