5,443
个编辑
更改
跳到导航
跳到搜索
第64行：
第64行： + + + + + + + + + + + + + + + + + + + + + + + +
→有效信息
\end{aligned}
\end{aligned}
</math>
</math>
EI实际上可以被分解为两项，即：
<math>
\begin{aligned}
EI&=\frac{1}{\#(\mathcal{X})} \left(-\sum_{x\in\mathcal{X}}H(Pr(Y|X))\right) + H\left(Pr(Y)\right)\\
\end{aligned}
</math>
同样，在马尔科夫链的情景下，EI也可以做这样的分解：
{{NumBlk|:|
<math>
\begin{aligned}
EI &= \frac{1}{N}\cdot \sum_{i=1}^N\left(P_i\cdot \log P_i - P_i\cdot\log \bar{P}\right)\\
&=\underbrace{-\langle H(P_i)\rangle}_{确定性项}+\underbrace{H(\bar{P})}_{非简并性项}
\end{aligned}
</math>
|{{EquationRef|tow_terms}}}}
其中，第一项：[math]-\langle H(P_i)\rangle\equiv \frac{1}{N}\sum_{i=1}^N H(P_i)[/math]为每个行向量[math]P_i[/math]的负熵的平均值，它刻画了整个马尔科夫转移矩阵的'''确定性'''（determinism）；
第二项：[math]H(\bar{P})[/math]为平均行向量的熵，其中[math]\bar{P}\equiv \frac{1}{N}\sum_{i=1}^N P_i [/math]为所有N个行向量的平均行向量，它刻画了整个马尔科夫转移矩阵的'''非简并性'''或'''非退化性'''(non-degeneracy)。
=== 粗粒化映射 ===
=== 粗粒化映射 ===