2,464
个编辑
更改
跳到导航
跳到搜索
第56行：
第56行： − +
→定义有效信息
<math>
<math>
\begin{aligned}
\begin{aligned}
{EI} &=\frac{1}{N}\sum_{i=1}^ND_{KL}[W_i||\bar{W \\
{EI} &=\frac{1}{N}\sum_{i=1}^ND_{KL}[W_i||\bar{W} \\
&= \frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}\log_2(w_{ij})-\frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}\log_2(\bar{w_j}) \\
&= \frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}\log_2(w_{ij})-\frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}\log_2(\bar{w_j}) \\
&=\underbrace{-\langle H(W_i)\rangle}_{确定性项}+\underbrace{H(\bar{W})}_{非简并性项}
&=\underbrace{-\langle H(W_i)\rangle}_{确定性项}+\underbrace{H(\bar{W})}_{非简并性项}