更改

跳到导航 跳到搜索
第219行: 第219行:  
设 <math>I_{\cap}(T;\{S_1,\ldots,S_k\})</math> 表示关于目标变量 <math>T</math> 的一般冗余度量,则定义冗余信息时应满足以下三条公理。
 
设 <math>I_{\cap}(T;\{S_1,\ldots,S_k\})</math> 表示关于目标变量 <math>T</math> 的一般冗余度量,则定义冗余信息时应满足以下三条公理。
   −
'''对称性''':冗余信息不依赖于信源的排列顺序。对任意置换 <math>\sigma</math>,有:
+
 
 +
'''对称性''':
 +
 
 +
冗余信息不依赖于信源的排列顺序。对任意置换 <math>\sigma</math>,有:
 +
 
 
<math>I_{\cap}(T;\{S_1,\ldots,S_k\})=I_{\cap}(T;\{S_{\sigma(1)},\ldots,S_{\sigma(k)}\}).</math>
 
<math>I_{\cap}(T;\{S_1,\ldots,S_k\})=I_{\cap}(T;\{S_{\sigma(1)},\ldots,S_{\sigma(k)}\}).</math>
   −
'''自冗余性''':当只包含一个信源时,冗余信息等于该信源与目标变量的互信息:
  −
<math>I_{\cap}(T;\{S\})=I(T;S).</math>
     −
'''单调性''':加入额外信源不会增加所有信源共同提供的信息:
+
'''自冗余性''':
−
<math>I_{\cap}(T;\{S_1,\ldots,S_{k-1},S_k\})\leq I_{\cap}(T;\{S_1,\ldots,S_{k-1}\}).</math>
+
 
−
若新加入的源 <math>S_k</math> 包含已有源之一,则加入该源不改变冗余量。
+
当只包含一个信源时,冗余信息等于该信源与目标变量的互信息:
 +
<math>I_{\cap}(T;\{S\})=I(T;S).</math>
 +
 
 +
 
 +
'''单调性''':
 +
 
 +
加入额外信源不会增加所有信源共同提供的信息:
 +
<math>I_{\cap}(T;\{S_1,\ldots,S_{k-1},S_k\})\leq I_{\cap}(T;\{S_1,\ldots,S_{k-1}\}).</math>
 +
若新加入的源 <math>S_k</math>包含已有源之一,则加入该源不改变冗余量。
    
上述三条是对一般冗余度量 <math>I_{\cap}</math> 的公理性要求;下列结论则可由这些公理推出
 
上述三条是对一般冗余度量 <math>I_{\cap}</math> 的公理性要求;下列结论则可由这些公理推出
 +
    
'''上界性'''
 
'''上界性'''
第249行: 第260行:     
也就是说,冗余信息不超过任何一个单独信源提供的目标信息。
 
也就是说,冗余信息不超过任何一个单独信源提供的目标信息。
 +
    
'''反链格上的单调关系'''
 
'''反链格上的单调关系'''
第259行: 第271行:     
这一关系是“加入信源不会增加共同信息”的单调性公理在冗余晶格偏序上的表达,并非独立于单调性的第四条公理。需要注意的是,晶格中“更高”的节点表示不同的源集合关系,不应简单解释为“包含更多信息”。
 
这一关系是“加入信源不会增加共同信息”的单调性公理在冗余晶格偏序上的表达,并非独立于单调性的第四条公理。需要注意的是,晶格中“更高”的节点表示不同的源集合关系,不应简单解释为“包含更多信息”。
 +
    
'''子集关系下的退化'''
 
'''子集关系下的退化'''
第308行: 第321行:  
</math>
 
</math>
   −
此时:
+
此时,对所有i均成立:
    
<math>
 
<math>
第315行: 第328行:  
I(T;S_i)
 
I(T;S_i)
 
\quad
 
\quad
−
\text{对所有 }i\text{ 成立}.
+
.
 
</math>
 
</math>
   第323行: 第336行:  
<math>
 
<math>
 
I_{\min}(T;\{S\})=I(T;S)
 
I_{\min}(T;\{S\})=I(T;S)
−
</math>
+
</math>则是自冗余性公理在 <math>I_{\min}</math> 中的具体实现。
−
 
  −
则是自冗余性公理在 <math>I_{\min}</math> 中的具体实现。
      
=== 两源变量[[PID框架]]与部分信息原子 ===
 
=== 两源变量[[PID框架]]与部分信息原子 ===
216

个编辑

导航菜单