更改

跳到导航 跳到搜索
添加85字节 、 2025年3月14日 (五) 15:01
第83行: 第83行:  
下面主要讨论离散时间时齐马尔科夫链。
 
下面主要讨论离散时间时齐马尔科夫链。
   −
==转移过程==
+
===转移过程===
−
===时齐性与平稳性===
+
====时齐性与平稳性====
 
由时齐性假设,记一步转移概率
 
由时齐性假设,记一步转移概率
 
<math>P(X_n=j|X_{n-1}=i)=p_{ij}</math>。
 
<math>P(X_n=j|X_{n-1}=i)=p_{ij}</math>。
第114行: 第114行:       −
===转移概率矩阵===
+
====转移概率矩阵====
    
观察上述方程容易发现,求和项是对处在中间的下角标进行遍历,这恰恰对应着矩阵乘法。
 
观察上述方程容易发现,求和项是对处在中间的下角标进行遍历,这恰恰对应着矩阵乘法。
第142行: 第142行:       −
===可达、互通与可约性===
+
====可达、互通与可约性====
 
下面举一个简单的例子具体观察状态间的转移行为,下图中(a)和(b)分别为马尔科夫链的转移概率矩阵和图表示。
 
下面举一个简单的例子具体观察状态间的转移行为,下图中(a)和(b)分别为马尔科夫链的转移概率矩阵和图表示。
   第168行: 第168行:       −
===成块性与粗粒化===
+
====成块性与粗粒化====
 
可约是基于局部连通性进行两两判断从而对状态空间进行分类,但有时这个划分粒度仍很粗糙,即连通的状态间存在其他性质或结构可以继续划分。
 
可约是基于局部连通性进行两两判断从而对状态空间进行分类,但有时这个划分粒度仍很粗糙,即连通的状态间存在其他性质或结构可以继续划分。
   第205行: 第205行:  
<br/>
 
<br/>
   −
===周期性===
+
====周期性====
 
不禁会提出一个疑问,是否所有的转移矩阵都具有极限?下面考察一个简单的两状态马尔科夫链,
 
不禁会提出一个疑问,是否所有的转移矩阵都具有极限?下面考察一个简单的两状态马尔科夫链,
 
<math>P=\begin{bmatrix}0&1\\1&0\end{bmatrix}</math>。
 
<math>P=\begin{bmatrix}0&1\\1&0\end{bmatrix}</math>。
第231行: 第231行:  
上述分类方法是基于局部性质进行两两判断分类。此外,还可以从整体转移机制的角度对状态进行划分,详细介绍参见[[Lumpability|成块性]](Lumpability)。
 
上述分类方法是基于局部性质进行两两判断分类。此外,还可以从整体转移机制的角度对状态进行划分,详细介绍参见[[Lumpability|成块性]](Lumpability)。
   −
===演化过程===
+
===演化性质===
 +
====演化过程====
 
上节中关于转移过程的内容,实际上是固定了初始时刻的状态。一般的,初始时刻的状态也存在着一定的随机性,即可以使用一个分布列来刻画。
 
上节中关于转移过程的内容,实际上是固定了初始时刻的状态。一般的,初始时刻的状态也存在着一定的随机性,即可以使用一个分布列来刻画。
   第265行: 第266行:       −
===转移概率矩阵的特征值===
+
====转移概率矩阵的特征值====
 
下面考察<math>P</math>的特征值,由于<math>P</math>的行和为<math>1</math>,那么
 
下面考察<math>P</math>的特征值,由于<math>P</math>的行和为<math>1</math>,那么
   第321行: 第322行:  
神奇的是,转移概率矩阵的奇异值可以一定程度上表征演化过程是否会发生涌现,详细内容参见词条[[基于可逆性的因果涌现理论]]。
 
神奇的是,转移概率矩阵的奇异值可以一定程度上表征演化过程是否会发生涌现,详细内容参见词条[[基于可逆性的因果涌现理论]]。
   −
 
+
====细致平衡条件====
−
===转移概率矩阵与信道容量===
  −
马尔科夫链可以视为是通信领域中一种特殊的信道——离散无记忆信道容量。信道的输入和输出分别记为<math>X</math>和<math>Y</math>,当前输入<math>X</math>给定的条件下,对应的输出<math>Y</math>与之前的输入和输出独立。
  −
 
  −
 
  −
为了描述信道能够传输的最大信息量,信息论领域提出了信道容量的概念,具体定义为
  −
 
  −
<math>C=\max_{\pi_X}I(X;Y)=\max_{\pi_X} H(Y)-H(Y|X)</math>。
  −
 
  −
 
  −
从信道的角度,基于信道容量的概念,Erik Hoel<ref name=":5">Hoel E P, Albantakis L, Tononi G. Quantifying causal emergence shows that macro can beat micro. Proceedings of the National Academy of Sciences, 2013, 110(49): 19790-19795.</ref>提出了离散马尔科夫动力学的有效信息度量
  −
 
  −
<math>C=\max_{U_X}I(X;Y)=\max_{U_X} H(Y)-H(Y|X),</math>
  −
 
  −
其中,<math>U_X</math>为均匀分布。详细内容参见词条[[有效信息]]。
  −
 
  −
===细致平衡条件===
   
前面的讨论都沿着时间正向在讨论,下面考虑时间反向的过程。
 
前面的讨论都沿着时间正向在讨论,下面考虑时间反向的过程。
   第368行: 第353行:       −
===时间可逆性与动力学可逆性===
+
====时间可逆性与动力学可逆性====
 
时间可逆性描述的是在达到平稳后,时间反转前后的转移机制的一致性,即当前状态给定后,不论时间方向是朝向未来还是过去,它以同一个转移分布进行转移。与时间可逆性不同,动力学可逆性是指转移概率矩阵可逆且其逆矩阵仍是一个转移概率矩阵,它描述的则是转移机制的一一对应性。进一步,近似动力学可逆性可以作为一种因果度量,详细内容参见词条[[基于可逆性的因果涌现理论]]。
 
时间可逆性描述的是在达到平稳后,时间反转前后的转移机制的一致性,即当前状态给定后,不论时间方向是朝向未来还是过去,它以同一个转移分布进行转移。与时间可逆性不同,动力学可逆性是指转移概率矩阵可逆且其逆矩阵仍是一个转移概率矩阵,它描述的则是转移机制的一一对应性。进一步,近似动力学可逆性可以作为一种因果度量,详细内容参见词条[[基于可逆性的因果涌现理论]]。
 +
 +
 +
 +
===离散时间马尔科夫链的度量===
 +
====转移概率矩阵与信道容量====
 +
马尔科夫链可以视为是通信领域中一种特殊的信道——离散无记忆信道容量。信道的输入和输出分别记为<math>X</math>和<math>Y</math>,当前输入<math>X</math>给定的条件下,对应的输出<math>Y</math>与之前的输入和输出独立。
 +
 +
 +
为了描述信道能够传输的最大信息量,信息论领域提出了信道容量的概念,具体定义为
 +
 +
<math>C=\max_{\pi_X}I(X;Y)=\max_{\pi_X} H(Y)-H(Y|X)</math>。
 +
 +
 +
从信道的角度,基于信道容量的概念,Erik Hoel<ref name=":5">Hoel E P, Albantakis L, Tononi G. Quantifying causal emergence shows that macro can beat micro. Proceedings of the National Academy of Sciences, 2013, 110(49): 19790-19795.</ref>提出了离散马尔科夫动力学的有效信息度量
 +
 +
<math>C=\max_{U_X}I(X;Y)=\max_{U_X} H(Y)-H(Y|X),</math>
 +
 +
其中,<math>U_X</math>为均匀分布。详细内容参见词条[[有效信息]]。
    
==连续时间马尔科夫链==
 
==连续时间马尔科夫链==
5,443

个编辑

导航菜单