2,435
个编辑
更改
跳到导航
跳到搜索
第31行：
第31行： − + + + 第38行：
第40行： −
→部分信息分解
对于更加一般的三变量场景而言，部分信息分解将源变量 <math>\{X_1,X_2\></math> 与目标变量 <math>Y</math> 之间的互信息分解为四个部分：
对于更加一般的三变量场景而言，部分信息分解将源变量 <math>\{X_1,X_2\></math> 与目标变量 <math>Y</math> 之间的互信息分解为四个部分：
[[文件:PID Venn.png|替代=|居左|无框]]<math>I(X_1,X_2;Y)=\text{Unq}(X_1;Y \setminus X_2) + \text{Unq}(X_2;Y \setminus X_1) + \text{Syn}(X_1,X_2;Y) + \text{Red}(X_1,X_2;Y)</math>
[[文件:PID Venn.png|替代=|居左|无框]]
<math>I(X_1,X_2;Y)=\text{Unq}(X_1;Y \setminus X_2) + \text{Unq}(X_2;Y \setminus X_1) + \text{Syn}(X_1,X_2;Y) + \text{Red}(X_1,X_2;Y)</math>
此处各个信息原子定义为
此处各个信息原子定义为
*<math>\text{Red}(X_1,X_2;Y)</math> 表示[[冗余信息]]，是指两个微观态<math>X^1 </math>和<math>X^2 </math>重复地给宏观态 <math>Y</math> 的“冗余”信息。
*<math>\text{Red}(X_1,X_2;Y)</math> 表示[[冗余信息]]，是指两个微观态<math>X^1 </math>和<math>X^2 </math>重复地给宏观态 <math>Y</math> 的“冗余”信息。
其中 <math>\text{Red}(X_1,X_2;Y) + \text{Unq}(X_1;Y \setminus X_2) = I(X_1;Y)</math> , <math>\text{Red}(X_1,X_2;Y) + \text{Unq}(X_2;Y \setminus X_2) = I(X_2;Y)</math>。[[文件:Lattice of 2.png|替代=|左|无框]]信息分解除了能够被韦恩图所直观的呈现，更常被表示为晶格图的形式以在更多变量的情况下维持简洁的结构。晶格图（lattice）是抽象代数中研究的一种抽象结构，它由一个偏序集组成。信息分解所得到的信息原子也可以被描述为一组冗余晶格。该晶格图包含了由源变量集合的所有非空子集所组合构成的所有（无重复变量的）集合，每一个这种集合对应了一个节点。以两变量 <math>\{X_1,X_2\></math> 为例，集合 {1,2} 的所有非空子集包含 {1,2} {2} 和 {1}，因此所能构成的无重复变量的集合包括 <nowiki>{{1,2}}</nowiki> <nowiki>{{2}}</nowiki> <nowiki>{{1}}</nowiki> 和 <nowiki>{{1}{2}}</nowiki>。如下图所示，这些反链（anti-chain）与上图的信息原子一一对应，既<nowiki>{{1,2}}</nowiki> 对应协同信息，<nowiki>{{2}}</nowiki> 和 <nowiki>{{1}}</nowiki> 对应特有信息，<nowiki>{{1}{2}}</nowiki>对应冗余信息。
其中 <math>\text{Red}(X_1,X_2;Y) + \text{Unq}(X_1;Y \setminus X_2) = I(X_1;Y)</math> , <math>\text{Red}(X_1,X_2;Y) + \text{Unq}(X_2;Y \setminus X_2) = I(X_2;Y)</math>。[[文件:Lattice of 2.png|替代=|左|无框]]信息分解除了能够被韦恩图所直观的呈现，更常被表示为晶格图的形式以在更多变量的情况下维持简洁的结构。晶格图（lattice）是抽象代数中研究的一种抽象结构，它由一个偏序集组成。信息分解所得到的信息原子也可以被描述为一组冗余晶格。该晶格图包含了由源变量集合的所有非空子集所组合构成的所有（无重复变量的）集合，每一个这种集合对应了一个节点。以两变量 <math>\{X_1,X_2\></math> 为例，集合 {1,2} 的所有非空子集包含 {1,2} {2} 和 {1}，因此所能构成的无重复变量的集合包括 <nowiki>{{1,2}}</nowiki> <nowiki>{{2}}</nowiki> <nowiki>{{1}}</nowiki> 和 <nowiki>{{1}{2}}</nowiki>。如下图所示，这些反链（anti-chain）与上图的信息原子一一对应，既<nowiki>{{1,2}}</nowiki> 对应协同信息，<nowiki>{{2}}</nowiki> 和 <nowiki>{{1}}</nowiki> 对应特有信息，<nowiki>{{1}{2}}</nowiki>对应冗余信息。
==== 整合信息分解 ====
==== 整合信息分解 ====