| 第219行: |
第219行: |
| | 设 <math>I_{\cap}(T;\{S_1,\ldots,S_k\})</math> 表示关于目标变量 <math>T</math> 的一般冗余度量,则定义冗余信息时应满足以下三条公理。 | | 设 <math>I_{\cap}(T;\{S_1,\ldots,S_k\})</math> 表示关于目标变量 <math>T</math> 的一般冗余度量,则定义冗余信息时应满足以下三条公理。 |
| | | | |
| − | '''对称性''':冗余信息不依赖于信源的排列顺序。对任意置换 <math>\sigma</math>,有:
| + | |
| | + | '''对称性''': |
| | + | |
| | + | 冗余信息不依赖于信源的排列顺序。对任意置换 <math>\sigma</math>,有: |
| | + | |
| | <math>I_{\cap}(T;\{S_1,\ldots,S_k\})=I_{\cap}(T;\{S_{\sigma(1)},\ldots,S_{\sigma(k)}\}).</math> | | <math>I_{\cap}(T;\{S_1,\ldots,S_k\})=I_{\cap}(T;\{S_{\sigma(1)},\ldots,S_{\sigma(k)}\}).</math> |
| | | | |
| − | '''自冗余性''':当只包含一个信源时,冗余信息等于该信源与目标变量的互信息:
| |
| − | <math>I_{\cap}(T;\{S\})=I(T;S).</math>
| |
| | | | |
| − | '''单调性''':加入额外信源不会增加所有信源共同提供的信息:
| + | '''自冗余性''': |
| − | <math>I_{\cap}(T;\{S_1,\ldots,S_{k-1},S_k\})\leq I_{\cap}(T;\{S_1,\ldots,S_{k-1}\}).</math>
| + | |
| − | 若新加入的源 <math>S_k</math> 包含已有源之一,则加入该源不改变冗余量。
| + | 当只包含一个信源时,冗余信息等于该信源与目标变量的互信息: |
| | + | <math>I_{\cap}(T;\{S\})=I(T;S).</math> |
| | + | |
| | + | |
| | + | '''单调性''': |
| | + | |
| | + | 加入额外信源不会增加所有信源共同提供的信息: |
| | + | <math>I_{\cap}(T;\{S_1,\ldots,S_{k-1},S_k\})\leq I_{\cap}(T;\{S_1,\ldots,S_{k-1}\}).</math> |
| | + | 若新加入的源 <math>S_k</math>包含已有源之一,则加入该源不改变冗余量。 |
| | | | |
| | 上述三条是对一般冗余度量 <math>I_{\cap}</math> 的公理性要求;下列结论则可由这些公理推出 | | 上述三条是对一般冗余度量 <math>I_{\cap}</math> 的公理性要求;下列结论则可由这些公理推出 |
| | + | |
| | | | |
| | '''上界性''' | | '''上界性''' |
| 第249行: |
第260行: |
| | | | |
| | 也就是说,冗余信息不超过任何一个单独信源提供的目标信息。 | | 也就是说,冗余信息不超过任何一个单独信源提供的目标信息。 |
| | + | |
| | | | |
| | '''反链格上的单调关系''' | | '''反链格上的单调关系''' |
| 第259行: |
第271行: |
| | | | |
| | 这一关系是“加入信源不会增加共同信息”的单调性公理在冗余晶格偏序上的表达,并非独立于单调性的第四条公理。需要注意的是,晶格中“更高”的节点表示不同的源集合关系,不应简单解释为“包含更多信息”。 | | 这一关系是“加入信源不会增加共同信息”的单调性公理在冗余晶格偏序上的表达,并非独立于单调性的第四条公理。需要注意的是,晶格中“更高”的节点表示不同的源集合关系,不应简单解释为“包含更多信息”。 |
| | + | |
| | | | |
| | '''子集关系下的退化''' | | '''子集关系下的退化''' |
| 第308行: |
第321行: |
| | </math> | | </math> |
| | | | |
| − | 此时:
| + | 此时,对所有i均成立: |
| | | | |
| | <math> | | <math> |
| 第315行: |
第328行: |
| | I(T;S_i) | | I(T;S_i) |
| | \quad | | \quad |
| − | \text{对所有 }i\text{ 成立}.
| + | . |
| | </math> | | </math> |
| | | | |
| 第323行: |
第336行: |
| | <math> | | <math> |
| | I_{\min}(T;\{S\})=I(T;S) | | I_{\min}(T;\{S\})=I(T;S) |
| − | </math> | + | </math>则是自冗余性公理在 <math>I_{\min}</math> 中的具体实现。 |
| − | | |
| − | 则是自冗余性公理在 <math>I_{\min}</math> 中的具体实现。 | |
| | | | |
| | === 两源变量[[PID框架]]与部分信息原子 === | | === 两源变量[[PID框架]]与部分信息原子 === |