5,443
个编辑
更改
跳到导航
跳到搜索
小第15行：
第15行： − − 第32行：
第30行： −
→离散（或连续）时间马尔科夫链
称状态空间<math>S=\{1,2,\ldots\}</math>上的随机过程<math>\{X_n,\ n=0,1,2,\ldots\}</math>是'''马尔科夫链'''<ref name=":3">Brémaud P．Markov chains: Gibbs fields, Monte Carlo simulation, and queues．Springer Science & Business Media, 1999, 53-156.</ref>或具有马尔科夫性质，若满足
称状态空间<math>S=\{1,2,\ldots\}</math>上的随机过程<math>\{X_n,\ n=0,1,2,\ldots\}</math>是'''马尔科夫链'''<ref name=":3">Brémaud P．Markov chains: Gibbs fields, Monte Carlo simulation, and queues．Springer Science & Business Media, 1999, 53-156.</ref>或具有马尔科夫性质，若满足
<math>\forall n,\ \ P(X_n=j|X_{n-1}=i,X_{n-2}=x_{n-2},\ldots,X_1=x_1)=P(X_n=j|X_{n-1}=i),</math>
<math>\forall n,\ \ P(X_n=j|X_{n-1}=i,X_{n-2}=x_{n-2},\ldots,X_1=x_1)=P(X_n=j|X_{n-1}=i),</math>
其中，<math>X_n=j</math>表示过程在时刻<math>n</math>处于状态<math>i</math>，称<math>P(X_n=j|X_{n-1}=i)</math>为马尔科夫链的一步转移概率，并引入记号<math>P_{ij}(m,n)=P(X_n=j|X_m=i)</math>。
其中，<math>X_n=j</math>表示过程在时刻<math>n</math>处于状态<math>i</math>，称<math>P(X_n=j|X_{n-1}=i)</math>为马尔科夫链的一步转移概率，并引入记号<math>P_{ij}(m,n)=P(X_n=j|X_m=i)</math>。
日常生活中的许多现象都可以利用马尔科夫链来描述，例如天气的变化。简单考虑两种天气状态，下雨和不下雨，分别记为状态2和状态1，即样本空间为<math>S=\{1,2\}</math>。那么，对应的马尔科夫假设就是明天是否下雨只取决于今天的天气，而与之前的天气无关。
日常生活中的许多现象都可以利用马尔科夫链来描述，例如天气的变化。简单考虑两种天气状态，下雨和不下雨，分别记为状态2和状态1，即样本空间为<math>S=\{1,2\}</math>。那么，对应的马尔科夫假设就是明天是否下雨只取决于今天的天气，而与之前的天气无关。
===时齐性与非时齐性===
===时齐性与非时齐性===