175
个编辑
更改
→Barrett
互信息也可以写成联合熵形式：<math>I(X; Y)=H(X)+H(Y)-H(X, Y)</math>
互信息也可以写成联合熵形式：<math>I(X; Y)=H(X)+H(Y)-H(X, Y)</math>
从这个式子可以得出，互信息在 <math>X</math>和 <math>Y</math> 中是对称的 [2]。两个源 <math>Y</math> 和 <math>Z</math> 与目标 <math>X</math> 之间的联合互信息满足链式法则：<math>I(X; Y, Z)=I(X; Y\mid Z)+I(X; Z)</math>
从这个式子可以得出，互信息在 <math>X</math>和 <math>Y</math> 中是对称的。两个源 <math>Y</math> 和 <math>Z</math> 与目标 <math>X</math> 之间的联合互信息满足链式法则：<math>I(X; Y, Z)=I(X; Y\mid Z)+I(X; Z)</math>
对于高斯变量 <math>X</math>，<math>H(X)=\frac{1}{2}\log[\operatorname{det}\Sigma(X)]+\frac{1}{2} m\log(2\pi e)</math>
对于高斯变量 <math>X</math>，<math>H(X)=\frac{1}{2}\log[\operatorname{det}\Sigma(X)]+\frac{1}{2} m\log(2\pi e)</math>