332
个编辑
更改
跳到导航
跳到搜索
第76行：
第76行： + 第84行：
第85行： +
→Markovian matrix 形式（TPM）
[[文件:TPM EI.png|804x804px|居中|几个概率转移矩阵的案例|替代=]]
[[文件:TPM EI.png|804x804px|居中|几个概率转移矩阵的案例|替代=]]
马尔科夫矩阵中每个元素都是一个条件概率，满足行归一化。将输入变量概率分布和矩阵直接相乘便得到输出变量的概率分布。因为有[[干预]]，所以EI的大小只和转移矩阵本身有关。已知马尔科夫概率转移矩阵，我们可以用下式计算EI。
马尔科夫矩阵中每个元素都是一个条件概率，满足行归一化。将输入变量概率分布和矩阵直接相乘便得到输出变量的概率分布。因为有[[干预]]，所以EI的大小只和转移矩阵本身有关。已知马尔科夫概率转移矩阵，我们可以用下式计算EI。
<math>
<math>
= \frac{1}{N}\sum^N_{i=1}D_{KL}(P_{i.}||\overline{P})
= \frac{1}{N}\sum^N_{i=1}D_{KL}(P_{i.}||\overline{P})
</math>
</math>
其中N为状态数，<math>\tilde{x}_t,\tilde{x}_{t+1}</math>分别为把t时刻的输入[[干预]]为[[最大熵分布]]后前后两个时刻的状态。<math>p_{ij}</math>为第i个状态转移到第j个状态的转移概率。将矩阵每列求均值，可得到平均转移向量<math>\overline{P}</math>，每个分量便是<math>\overline{p}_j</math>。我们也可以用[[KL散度]]的方式来表达：EI是转移矩阵每个行转移向量与平均转移向量的[[KL散度]]的均值。
其中N为状态数，<math>\tilde{x}_t,\tilde{x}_{t+1}</math>分别为把t时刻的输入[[干预]]为[[最大熵分布]]后前后两个时刻的状态。<math>p_{ij}</math>为第i个状态转移到第j个状态的转移概率。将矩阵每列求均值，可得到平均转移向量<math>\overline{P}</math>，每个分量便是<math>\overline{p}_j</math>。我们也可以用[[KL散度]]的方式来表达：EI是转移矩阵每个行转移向量与平均转移向量的[[KL散度]]的均值。