更改

为了更具体地理解这些概念，我们来看上图A中的例子。由于该分布具有对称性，显然 <math>R_1</math> 和 <math>R_2</math> 提供的信息量是相同的。实际上，可以验证：

为了更具体地理解这些概念，我们来看上图A中的例子。由于该分布具有对称性，显然 <math>R_1</math> 和 <math>R_2</math> 提供的信息量是相同的。实际上，可以验证：

<math>I(S;R_1) = I(S;R_2) = \- frac{1}{3} \log \frac{1}{3} - \frac{2}{3} \log \frac{2}{3}</math>

<math>I(S;R_1) = I(S;R_2) = - \frac{1}{3} \log \frac{1}{3} - \frac{2}{3} \log \frac{2}{3}</math>

(但也可以清楚地看到，<math>R_1</math> 和 <math>R_2</math> 提供的是关于不同结果的信息。具体来说，只要知道 <math>R_1</math> 的值，就可以完全确定结果 <math>S=2</math> 是否发生（而 <math>R_2</math> 无法做到这一点），反之亦然。)

(但也可以清楚地看到，<math>R_1</math> 和 <math>R_2</math> 提供的是关于不同结果的信息。具体来说，只要知道 <math>R_1</math> 的值，就可以完全确定结果 <math>S=2</math> 是否发生（而 <math>R_2</math> 无法做到这一点），反之亦然。)

<math>\Pi_{\mathbf{R}}(S;\{1\}) = \Pi_{\mathbf{R}}(S;\{2\}) = \frac{1}{3}</math>，表示 <math>R_1</math> 和 <math>R_2</math> 各自提供了 <math>\frac{1}{3}</math> 比特的独有信息；

<math>\Pi_{\mathbf{R}}(S;\{1\}) = \Pi_{\mathbf{R}}(S;\{2\}) = \frac{1}{3}</math>，表示 <math>R_1</math> 和 <math>R_2</math> 各自提供了 <math>\frac{1}{3}</math> 比特的独有信息；

冗余信息为 <math>\Pi_{\mathbf{R}}(S;\{1\}\{2\}) = \log 3 - \log 2</math>，表示知道 <math>R_1</math> 或 <math>R_2</math> 中的任意一个，都能将 <math>S</math> 的可能结果从 3 个减少到 2 个；

冗余信息为 <math>\Pi_{\mathbf{R}}(S;\{1\}\{2\}) = \log 3 - \log 2</math>，表示知道 <math>R_1</math> 或 <math>R_2</math> 中的任意一个，都能将 <math>S</math> 的可能结果从3个减少到2个；

协同信息为 <math>\Pi_{\mathbf{R}}(S;\{12\}) = \frac{1}{3}</math>，表示 <math>R_1</math> 和 <math>R_2</math>联合起来可以唯一确定 <math>S=0</math> 是否发生，而单独任意一个都无法做到这一点。

协同信息为 <math>\Pi_{\mathbf{R}}(S;\{12\}) = \frac{1}{3}</math>，表示 <math>R_1</math> 和 <math>R_2</math>联合起来可以唯一确定 <math>S=0</math> 是否发生，而单独任意一个都无法做到这一点。