更改

跳到导航 跳到搜索
删除52字节 、 2026年9月4日 (星期五)
第454行: 第454行:     
===其余信息原子计算===
 
===其余信息原子计算===
−
[[冗余晶格]]中每个节点所关联的冗余信息,不仅包含所有低于它的节点所提供的冗余信息,还可能包含更多。因此,沿着冗余晶格从下到上移动,<math>I_{\min}</math>可视为一种“累积信息函数”,它对越来越大,越来越包容的源集合所提供的信息进行累积。根据上述,两源变量的情况下我们很容易将交互信息分解为基本信息原子(即[[特有]],[[冗余]],[[协同]]三部分)并计算出其具体值,但对多个源变量我们需要使用<math>I_{\min}</math>的一个逆函数,称为[[部分信息函数]](PI-function)来找到基本信息原子。对于源集合<math>\alpha\in\mathcal{A}(\mathbf{R})</math>,部分信息函数记为<math>\Pi_{\mathbf{R}}</math>,并由下式定义:
+
[[冗余晶格]]中每个节点所关联的冗余信息,不仅包含所有低于它的节点所提供的冗余信息,还可能包含更多。因此,沿着冗余晶格从下到上移动,<math>I_{\min}</math>可视为一种“累积信息函数”,它对越来越大,越来越包容的源集合所提供的信息进行累积。根据上述,两源变量的情况下我们很容易将交互信息分解为基本信息原子(即[[特有]],[[冗余]],[[协同]]三部分)并计算出其具体值,但对多个源变量我们需要使用<math>I_{\min}</math>的一个逆函数,称为[[部分信息函数]](PI-function)来找到基本信息原子。对于源集合<math>\alpha\in\mathcal{A}(S)</math>,部分信息函数记为<math>\Pi_S</math>,并由下式定义:
 
\begin{equation}
 
\begin{equation}
−
I_{\min}(S;\alpha)
+
I_{\min}(T;\alpha)
−
=\sum_{\beta\preccurlyeq\alpha}\Pi_{\mathbf{R}}(S;\beta).
+
=\sum_{\beta\preccurlyeq\alpha}\Pi_S(T;\beta).
 
\end{equation}
 
\end{equation}
−
形式上,<math>\Pi_{\mathbf{R}}</math> 对应于<math>I_{\min}</math>的[[莫比乌斯反演]]。由该关系可递归计算<math>\Pi_{\mathbf{R}}</math>:
+
形式上,<math>\Pi_S</math> 对应于<math>I_{\min}</math>的[[莫比乌斯反演]]。由该关系可递归计算<math>\Pi_T</math>:
 
\begin{equation}
 
\begin{equation}
 
\Pi_{\mathbf{R}}(S;\alpha)
 
\Pi_{\mathbf{R}}(S;\alpha)
第473行: 第473行:  
对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>,<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math>
 
对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>,<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math>
 
I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比,可立即看出每个部分信息项的含义:[[冗余]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。[[特有]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>的总信息减去[[冗余]]部分;对 <math>R_{2}</math>同理。[[协同]]信息:<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息,即[[协同]]。
 
I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比,可立即看出每个部分信息项的含义:[[冗余]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。[[特有]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>的总信息减去[[冗余]]部分;对 <math>R_{2}</math>同理。[[协同]]信息:<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息,即[[协同]]。
 +
 
===其余信息原子计算实例===
 
===其余信息原子计算实例===
 
[[文件:图片3476.png|替代=|居中|600x600像素|<math>S\in\{0,1,2\}</math>和<math>R_1,R_2\in\{0,1\}</math>的示例概率分布,黑色方格表示等概率的结果,白色方格表示零概率的结果,引自<ref name="Paul" />]]
 
[[文件:图片3476.png|替代=|居中|600x600像素|<math>S\in\{0,1,2\}</math>和<math>R_1,R_2\in\{0,1\}</math>的示例概率分布,黑色方格表示等概率的结果,白色方格表示零概率的结果,引自<ref name="Paul" />]]
175

个编辑

导航菜单