3,094
个编辑
更改
→马尔科夫链简介
==马尔科夫链简介==
==马尔科夫链简介==
最早，[[Erik Hoel]]等人是在离散状态的[[马尔科夫动力学]]，即[[马尔科夫链]]上提出有效信息这一度量因果性的指标的。因此，这一节中，我们介绍有效信息在[[马尔科夫链]]上的特殊形式。
<blockquote>在本小节中，所有的TPM都表示为[math]P[/math]。另外，由于是离散状态，所以所有的[math]\log[/math]都表示以2为底的对数运算。</blockquote>最早，[[Erik Hoel]]等人是在离散状态的[[马尔科夫动力学]]，即[[马尔科夫链]]上提出有效信息这一度量因果性的指标的。因此，这一节中，我们介绍有效信息在[[马尔科夫链]]上的特殊形式。
所谓的[[马尔科夫链]]是指状态离散、时间离散的一种[[平稳随机过程]]，它的动力学一般都可以用所谓的[[转移概率矩阵]](Transitional Probability Matrix)，简称TPM来表示，有时也叫做[[概率转移矩阵]]或[[状态概率转移矩阵]]或[[状态转移矩阵]]。在本页面中，所有的TPM都表示为[math]P[/math]。另外，由于是离散状态，所以所有的[math]\log[/math]都表示以2为底的对数运算。
所谓的[[马尔科夫链]]是指状态离散、时间离散的一种[[平稳随机过程]]，它的动力学一般都可以用所谓的[[转移概率矩阵]](Transitional Probability Matrix)，简称TPM来表示，有时也叫做[[概率转移矩阵]]或[[状态概率转移矩阵]]或[[状态转移矩阵]]。
具体来讲，[[马尔科夫链]]包含一组随机变量[math]X_t[/math]，它在状态空间[math]\mathcal{X}=\{1,2,\cdots,N\}[/math]上取值，其中[math]t[/math]往往表示时间。所谓的[[转移概率矩阵]]是指一个概率矩阵，其中第[math]i[/math]行，第[math]j[/math]列元素：[math]p_{ij}[/math]表示了系统在任意时刻[math]t[/math]在[math]i[/math]状态的条件下，在[math]t+1[/math]时刻跳转到[math]j[/math]状态的概率。同时，每一行满足归一化条件：
具体来讲，[[马尔科夫链]]包含一组随机变量[math]X_t[/math]，它在状态空间[math]\mathcal{X}=\{1,2,\cdots,N\}[/math]上取值，其中[math]t[/math]往往表示时间。所谓的[[转移概率矩阵]]是指一个概率矩阵，其中第[math]i[/math]行，第[math]j[/math]列元素：[math]p_{ij}[/math]表示了系统在任意时刻[math]t[/math]在[math]i[/math]状态的条件下，在[math]t+1[/math]时刻跳转到[math]j[/math]状态的概率。同时，每一行满足归一化条件：
下表展示的是三个不同的转移概率矩阵：
下表展示的是三个不同的转移概率矩阵：
{|style="text-align: center;"
{| style="text-align: center;"
|+ 马尔科夫链示例
|+马尔科夫链示例
|-
|-
| <math>
|<math>
P_1=\begin{pmatrix}
P_1=\begin{pmatrix}
0 &0 &1 &0& \\
0 &0 &1 &0& \\
0 &1 &0 &0& \\
0 &1 &0 &0& \\
\end{pmatrix}
\end{pmatrix}
</math>,
</math>,
||
||
<math>
<math>
P_2=\begin{pmatrix}
P_2=\begin{pmatrix}
</math>.
</math>.
|-
|-
|[math]EI(P_1)=2[/math] bits || [math]EI(P_2)=1[/math] bits || [math]EI(P_3)=0[/math] bits
|[math]EI(P_1)=2[/math] bits||[math]EI(P_2)=1[/math] bits||[math]EI(P_3)=0[/math] bits
|}
|}
这三个[[马尔科夫链]]的状态空间都是[math]\mathcal{X}=\{1,2,3,4\}[/math]，因此它们的TPM的大小都是[math]4\times 4[/math]。
这三个[[马尔科夫链]]的状态空间都是[math]\mathcal{X}=\{1,2,3,4\}[/math]，因此它们的TPM的大小都是[math]4\times 4[/math]。
==马尔科夫链的EI==
==马尔科夫链的EI==