| 第454行: |
第454行: |
| | | | |
| | ===其余信息原子计算=== | | ===其余信息原子计算=== |
| − | [[冗余晶格]]中每个节点所关联的冗余信息,不仅包含所有低于它的节点所提供的冗余信息,还可能包含更多。因此,沿着冗余晶格从下到上移动,<math>I_{\min}</math>可视为一种“累积信息函数”,它对越来越大,越来越包容的源集合所提供的信息进行累积。根据上述,两源变量的情况下我们很容易将交互信息分解为基本信息原子(即[[特有]],[[冗余]],[[协同]]三部分)并计算出其具体值,但对多个源变量我们需要使用<math>I_{\min}</math>的一个逆函数,称为[[部分信息函数]](PI-function)来找到基本信息原子。对于源集合<math>\alpha\in\mathcal{A}(\mathbf{R})</math>,部分信息函数记为<math>\Pi_{\mathbf{R}}</math>,并由下式定义: | + | [[冗余晶格]]中每个节点所关联的冗余信息,不仅包含所有低于它的节点所提供的冗余信息,还可能包含更多。因此,沿着冗余晶格从下到上移动,<math>I_{\min}</math>可视为一种“累积信息函数”,它对越来越大,越来越包容的源集合所提供的信息进行累积。根据上述,两源变量的情况下我们很容易将交互信息分解为基本信息原子(即[[特有]],[[冗余]],[[协同]]三部分)并计算出其具体值,但对多个源变量我们需要使用<math>I_{\min}</math>的一个逆函数,称为[[部分信息函数]](PI-function)来找到基本信息原子。对于源集合<math>\alpha\in\mathcal{A}(S)</math>,部分信息函数记为<math>\Pi_S</math>,并由下式定义: |
| | \begin{equation} | | \begin{equation} |
| − | I_{\min}(S;\alpha) | + | I_{\min}(T;\alpha) |
| − | =\sum_{\beta\preccurlyeq\alpha}\Pi_{\mathbf{R}}(S;\beta). | + | =\sum_{\beta\preccurlyeq\alpha}\Pi_S(T;\beta). |
| | \end{equation} | | \end{equation} |
| − | 形式上,<math>\Pi_{\mathbf{R}}</math> 对应于<math>I_{\min}</math>的[[莫比乌斯反演]]。由该关系可递归计算<math>\Pi_{\mathbf{R}}</math>: | + | 形式上,<math>\Pi_S</math> 对应于<math>I_{\min}</math>的[[莫比乌斯反演]]。由该关系可递归计算<math>\Pi_T</math>: |
| | \begin{equation} | | \begin{equation} |
| | \Pi_{\mathbf{R}}(S;\alpha) | | \Pi_{\mathbf{R}}(S;\alpha) |
| 第473行: |
第473行: |
| | 对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>,<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math> | | 对于两源变量情形<math>\mathbf{R}=\{R_{1},R_{2}\}</math>,<math>I(S;R_{1})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})</math>,<math> |
| | I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比,可立即看出每个部分信息项的含义:[[冗余]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。[[特有]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>的总信息减去[[冗余]]部分;对 <math>R_{2}</math>同理。[[协同]]信息:<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息,即[[协同]]。 | | I(S;R_{1},R_{2})=\Pi_{\mathbf{R}}(S;\{1\})+\Pi_{\mathbf{R}}(S;\{2\})+\Pi_{\mathbf{R}}(S;\{1\}\{2\})+\Pi_{\mathbf{R}}(S;\{12\})</math>。与上文对比,可立即看出每个部分信息项的含义:[[冗余]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\}\{2\})=I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>与 <math>R_{2} </math>的冗余。[[特有]]信息:<math>\Pi_{\mathbf{R}}(S;\{1\})=I(S;R_{1})-I_{\min}(S;\{1\}\{2\})</math>,即 <math>R_{1} </math>的总信息减去[[冗余]]部分;对 <math>R_{2}</math>同理。[[协同]]信息:<math>\Pi_{\mathbf{R}}(S;\{12\})</math> 表示 <math>R_{1}</math>与 <math>R_{2}</math>联合后多出来的那部分信息,即[[协同]]。 |
| | + | |
| | ===其余信息原子计算实例=== | | ===其余信息原子计算实例=== |
| | [[文件:图片3476.png|替代=|居中|600x600像素|<math>S\in\{0,1,2\}</math>和<math>R_1,R_2\in\{0,1\}</math>的示例概率分布,黑色方格表示等概率的结果,白色方格表示零概率的结果,引自<ref name="Paul" />]] | | [[文件:图片3476.png|替代=|居中|600x600像素|<math>S\in\{0,1,2\}</math>和<math>R_1,R_2\in\{0,1\}</math>的示例概率分布,黑色方格表示等概率的结果,白色方格表示零概率的结果,引自<ref name="Paul" />]] |