175
个编辑
更改
跳到导航
跳到搜索
第375行：
第375行： − + 第401行：
第401行： − − 当我们考虑三源变量的情况时，部分信息图（PI-diagram）的一般结构就变得更加清晰了。首先需要注意的是，所有在两源变量情况下出现的信息类型在三源变量时仍然存在。具体来说，每个变量 <math>R_i</math> 都可以提供： − − 独有信息，标记为 <math>\{1\}, \{2\}, \{3\}</math> 的区域；与另一个变量的冗余信息（如 <math>\{1\}\{2\}, \{1\}\{3\}, \{2\}\{3\}</math>）；与另一个变量的协同信息（如 <math>\{12\}, \{13\}, \{23\}</math>）。 − − 此外，还可以出现： − 所有三个变量共同提供的冗余信息（如 <math>\{1\}\{2\}\{3\}</math>）；所有三个变量共同提供的协同信息（如 <math>\{123\}</math>）。 − − 更有趣的是，还出现了冗余与协同的组合形式。例如： − − 区域 <math>\{1\}\{23\}</math>、<math>\{2\}\{13\}</math> 和 <math>\{3\}\{12\}</math> 表示的是：一个变量单独提供的信息，与另外两个变量联合提供的信息之间存在冗余；区域 <math>\{12\}\{13\}\{23\}</math> 表示的是：三个两两协同的信息之间存在冗余。
→冗余格
\mathbf{A}\subseteq\mathbf{B}.
\mathbf{A}\subseteq\mathbf{B}.
\end{equation}
\end{equation}
将此偏序应用于<math>\mathcal{A}(\mathbf{R})</math>的元素，便得到冗余格（redundancy lattice）(见下图展示了三源变量的冗余格结构和其对应的韦恩图)，其中较高元素提供的冗余信息不少于较低元素有了结构和偏序关系。
将此偏序应用于<math>\mathcal{A}(\mathbf{R})</math>的元素，便得到冗余格（redundancy lattice）(见下图展示了三源变量的冗余格结构和其对应的韦恩图)，其中较高元素提供的冗余信息不少于较低元素有了结构和偏序关系。下面介绍具体如何构建三源变量的冗余格：首先图中的节点含义如下：独有信息，标记为 <math>\{1\}, \{2\}, \{3\}</math> 的区域；与另一个变量的冗余信息（如 <math>\{1\}\{2\}, \{1\}\{3\}, \{2\}\{3\}</math>）；与另一个变量的协同信息（如 <math>\{12\}, \{13\}, \{23\}</math>）。所有三个变量共同提供的冗余信息（如 <math>\{1\}\{2\}\{3\}</math>）；所有三个变量共同提供的协同信息（如 <math>\{123\}</math>）。区域 <math>\{1\}\{23\}</math>、<math>\{2\}\{13\}</math> 和 <math>\{3\}\{12\}</math> 表示的是：一个变量单独提供的信息，与另外两个变量联合提供的信息之间存在冗余；区域 <math>\{12\}\{13\}\{23\}</math> 表示的是：三个两两协同的信息之间存在冗余。
[[文件:24234234224.png|缩略图|三源变量冗余格]]
[[文件:24234234224.png|缩略图|三源变量冗余格]]
[[文件:674776478.png|缩略图|三源变量韦恩图]]
[[文件:674776478.png|缩略图|三源变量韦恩图]]
对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>，<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math>
对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>，<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math>
I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比，可立即看出每个部分信息项的含义：冗余信息：<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。唯一信息：<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>的总信息减去冗余部分；对 <math>R_{2}</math>同理。协同信息：<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息，即协同。
I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比，可立即看出每个部分信息项的含义：冗余信息：<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。唯一信息：<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>，即 <math>R_{1} </math>的总信息减去冗余部分；对 <math>R_{2}</math>同理。协同信息：<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息，即协同。
==== 其余信息原子计算两个例子 ====
==== 其余信息原子计算两个例子 ====
[[文件:图片3476.png|缩略图|左|两源变量部分信息分解例子]]
[[文件:图片3476.png|缩略图|左|两源变量部分信息分解例子]]