2,435
个编辑
更改
→信息熵与互信息
<math> \operatorname{I}(X; Y) = \sum_{y \in \mathcal Y} \sum_{x \in \mathcal X}
<math> \operatorname{I}(X; Y) = \sum_{y \in \mathcal Y} \sum_{x \in \mathcal X}
{ P_{(X,Y)}(x, y) \log\left(\frac{P_{(X,Y)}(x, y)}{P_X(x)\,P_Y(y)}\right) }</math>
{ P_{(X,Y)}(x, y) \log\left(\frac{P_{(X,Y)}(x, y)}{P_X(x)\,P_Y(y)}\right) }</math>
其中 <math>P_{(X,Y)}</math> 是 <math>X</math> 和 <math>Y</math> 的 联合概率 ''mass'' 函数，并且<math>P_X</math> 和 <math>P_Y</math> 分别是 <math>X</math> 和 <math>Y</math> 的 边际概率 质量函数。
其中 <math>P_{(X,Y)}</math> 是 <math>X</math> 和 <math>Y</math> 的 联合概率 ''mass'' 函数，并且<math>P_X</math> 和 <math>P_Y</math> 分别是 <math>X</math> 和 <math>Y</math> 的 边际概率 质量函数。