1,177
个编辑
更改
跳到导航
跳到搜索
第22行：
第22行： − + + +
→定义有效信息
<math>
<math>
\begin{aligned}
\begin{aligned}
{J} &=\frac{1}{N}\sum_{i=1}^ND_{KL}[W_i^{out}||<W_i^{out}>]=\frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}\log_2(w_{ij})-\frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}log_2(W_j)=H(<W_i^{out}>)-<H(W_i^{out})>
{J} &=\frac{1}{N}\sum_{i=1}^ND_{KL}[W_i^{out}||<W_i^{out}>] \\
&= \frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}\log_2(w_{ij})-\frac{1}{N}\sum_{i=1}^N\sum_{j=1}^Nw_{ij}log_2(W_j) \\
&= H(<W_i^{out}>)-<H(W_i^{out})>
\end{aligned}
\end{aligned}
</math>。其中，<math>w_{ij}</math>是节点i和j之间的转移概率，<math>W_j=\frac{1}{N}\sum_{i=1}^N w_{ij}</math>，表示节点的平均分布。 同样进一步，有效信息可以分解为确定性和简并性。
</math>。其中，<math>w_{ij}</math>是节点i和j之间的转移概率，<math>W_j=\frac{1}{N}\sum_{i=1}^N w_{ij}</math>，表示节点的平均分布。 同样进一步，有效信息可以分解为确定性和简并性。