175
个编辑
更改
跳到导航
跳到搜索
第375行：
第375行： + + + + + + + + + + +
→其余信息原子计算
对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>，<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math>
对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>，<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math>
I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比，可立即看出每个部分信息项的含义：冗余信息：<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。唯一信息：<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>的总信息减去冗余部分；对 <math>R_{2}</math>同理。协同信息：<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息，即协同。
I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比，可立即看出每个部分信息项的含义：冗余信息：<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。唯一信息：<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>的总信息减去冗余部分；对 <math>R_{2}</math>同理。协同信息：<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息，即协同。
当我们考虑四个变量的情况时，部分信息图（PI-diagram）的一般结构就变得更加清晰了。首先需要注意的是，所有在三变量情况下出现的信息类型在四个变量时仍然存在。具体来说，每个变量 <math>R_i</math> 都可以提供：
独有信息，标记为 <math>\{1\}, \{2\}, \{3\}</math> 的区域；与另一个变量的冗余信息（如 <math>\{1\}\{2\}, \{1\}\{3\}, \{2\}\{3\}</math>）；与另一个变量的协同信息（如 <math>\{12\}, \{13\}, \{23\}</math>）。
此外，还可以出现：
所有三个变量共同提供的冗余信息（如 <math>\{1\}\{2\}\{3\}</math>）；所有三个变量共同提供的协同信息（如 <math>\{123\}</math>）。
更有趣的是，还出现了冗余与协同的组合形式。例如：
区域 <math>\{1\}\{23\}</math>、<math>\{2\}\{13\}</math> 和 <math>\{3\}\{12\}</math> 表示的是：一个变量单独提供的信息，与另外两个变量联合提供的信息之间存在冗余；区域 <math>\{12\}\{13\}\{23\}</math> 表示的是：三个两两协同的信息之间存在冗余。
== 冗余信息计算方法 ==
== 冗余信息计算方法 ==