更改

跳到导航 跳到搜索
添加4字节 、 2025年11月9日 (日) 19:23
第88行: 第88行:  
在两源变量的维恩图里我们可以观察到:<math>I(S;R_{1})=Unq(S;R_{1})+Rdn(S;R_{1},R_{2})</math>,<math>
 
在两源变量的维恩图里我们可以观察到:<math>I(S;R_{1})=Unq(S;R_{1})+Rdn(S;R_{1},R_{2})</math>,<math>
 
I(S;R_{1},R_{2})=Unq(S;R_{1})+Rdn(S;R_{1},R_{2})+Unq(S;R_{2})+Syn(S;R_{1},R_{2});\{1\})</math>。由于<math>I(S;R_{1})</math>和<math>I(S;R_{2})</math>和<math>I(S;R_{1},R_{2})</math>都是已知的,则系统的自由度只有一个,即我们给定冗余信息,协同信息,独特信息中任何一个的定义都可以唯一确定这个系统,这篇文章选了冗余信息。
 
I(S;R_{1},R_{2})=Unq(S;R_{1})+Rdn(S;R_{1},R_{2})+Unq(S;R_{2})+Syn(S;R_{1},R_{2});\{1\})</math>。由于<math>I(S;R_{1})</math>和<math>I(S;R_{2})</math>和<math>I(S;R_{1},R_{2})</math>都是已知的,则系统的自由度只有一个,即我们给定冗余信息,协同信息,独特信息中任何一个的定义都可以唯一确定这个系统,这篇文章选了冗余信息。
 +
 
但对于多源变量的情况,其协同信息,独特信息,冗余信息(即部分信息原子)结构十分复杂,难以直接进行分解。因此,我们需要使用冗余格来重塑系统的结构以产生一个偏序关系使其可以通过莫比乌斯反演得到部分信息原子。下面介绍冗余格如何产生。
 
但对于多源变量的情况,其协同信息,独特信息,冗余信息(即部分信息原子)结构十分复杂,难以直接进行分解。因此,我们需要使用冗余格来重塑系统的结构以产生一个偏序关系使其可以通过莫比乌斯反演得到部分信息原子。下面介绍冗余格如何产生。
 +
 
在维恩图中,冗余度可以视为<math>I(S;\mathbf{A}_{i})</math>之间的交集。因此通过集合之间的包含关系,我们可以大大简化冗余度的概念
 
在维恩图中,冗余度可以视为<math>I(S;\mathbf{A}_{i})</math>之间的交集。因此通过集合之间的包含关系,我们可以大大简化冗余度的概念
 
举例而言,考虑两个源<math>\mathbf{A}</math>与<math>\mathbf{B}</math>,且 <math>\mathbf{A}\subseteq\mathbf{B}</math>。
 
举例而言,考虑两个源<math>\mathbf{A}</math>与<math>\mathbf{B}</math>,且 <math>\mathbf{A}\subseteq\mathbf{B}</math>。
第121行: 第123行:  
\mathbf{A}\subseteq\mathbf{B}.
 
\mathbf{A}\subseteq\mathbf{B}.
 
\end{equation}
 
\end{equation}
−
将此偏序应用于<math>\mathcal{A}(\mathbf{R})</math>的元素,便得到冗余格(redundancy lattice),其中较高元素提供的冗余信息不少于较低元素有了结构和偏序关系。这里我们可以发现,这个偏序关系实际上找到了一个基于冗余的对图1中结构的重塑。原本的结构是先有两个源变量分别提供的互信息和两个源变量共同提供的互信息<math>I(S;R_{1})</math>,<math>I(S;R_{2})</math>和<math>I(S;R_{1},R_{2})</math>然后通过对其的分类产生了<math>Unq(S;R_{1})</math>,<math>Rdn(S;R_{1},R_{2})</math>,<math>Unq(S;R_{2})</math>,<math>Syn(S;R_{1},R_{2});\{1\})</math>。重塑后的结构将<math>I(S;R_{1})</math>和<math>I(S;R_{2})</math>理解为其的自冗余将<math>I(S;R_{1},R_{2})</math>理解为其的自冗余,并以<math>Rdn(S;R_{1},R_{2})</math>为提供最少信息的一种基,在其上逐层添加提供更多信息来产生出<math>I(S;R_{1})</math>,<math>I(S;R_{2})</math>和<math>I(S;R_{1},R_{2})</math>,即形成冗余格,其又构成了下文通过累积信息函数得到对交互信息的分解的基础。
+
将此偏序应用于<math>\mathcal{A}(\mathbf{R})</math>的元素,便得到冗余格(redundancy lattice),其中较高元素提供的冗余信息不少于较低元素有了结构和偏序关系。
 +
 
 +
这里我们可以发现,这个偏序关系实际上找到了一个基于冗余的对图1中结构的重塑。原本的结构是先有两个源变量分别提供的互信息和两个源变量共同提供的互信息<math>I(S;R_{1})</math>,<math>I(S;R_{2})</math>和<math>I(S;R_{1},R_{2})</math>然后通过对其的分类产生了<math>Unq(S;R_{1})</math>,<math>Rdn(S;R_{1},R_{2})</math>,<math>Unq(S;R_{2})</math>,<math>Syn(S;R_{1},R_{2});\{1\})</math>。重塑后的结构将<math>I(S;R_{1})</math>和<math>I(S;R_{2})</math>理解为其的自冗余将<math>I(S;R_{1},R_{2})</math>理解为其的自冗余,并以<math>Rdn(S;R_{1},R_{2})</math>为提供最少信息的一种基,在其上逐层添加提供更多信息来产生出<math>I(S;R_{1})</math>,<math>I(S;R_{2})</math>和<math>I(S;R_{1},R_{2})</math>,即形成冗余格,其又构成了下文通过累积信息函数得到对交互信息的分解的基础。
    
[[文件:24234234224.png|缩略图|三源变量冗余格]]
 
[[文件:24234234224.png|缩略图|三源变量冗余格]]
175

个编辑

导航菜单