| 第527行: |
第527行: |
| | | | |
| | ==连续时间马尔科夫链== | | ==连续时间马尔科夫链== |
| | + | |
| | + | 连续时间马尔科夫链和离散时间马尔科夫链同样具有马尔科夫性质,并且我们后面会看到,连续时间马尔科夫链的很多性质可以完全由一个离散时间马尔科夫链描述。它们之间的区别在于,离散时间马尔科夫链可以用用不变的概率转移矩阵<math>P</math>描述,它描述的是经过单位时间后状态的改变。但在连续时间马尔科夫链中,状态之间转移所需时间不再是单位时间的整数倍,而可以取任意实数,此时概率转移矩阵<math>P(t)</math>会依赖于状态之间的时间间隔<math>t \in \R</math>。我们想像离散时间马尔科夫链中一样,用一个固定的参数描述连续时间马尔科夫链,这个参数即为<math>Q</math>矩阵,它描述了当<math>t</math>变化时,状态转移矩阵<math>P(t)</math>的变化速率。更严格的定义会在后面给出。 |
| | | | |
| | ===基本性质=== | | ===基本性质=== |
| − | ====有限状态空间====
| |
| | =====直观模型===== | | =====直观模型===== |
| | + | |
| | + | 我们先用一个直观模型构建连续时间马尔科夫链,让读者能清晰地看到什么参数可以完全确定一个连续时间马尔科夫链。假设有五个房间,编号为<math>1,2,3,4,5</math>。每两个房间由两条通道相连,这两条通道各有一扇单向开放,且方向相反的门(图中箭头代表门,箭头方向代表开放方向)。每扇门会瞬时开放(开放过后立即关闭),并且开放的次数服从速率为<math>q_{ij}(1\geq i,j\leq 5,i\neq j)</math>的泊松分布,即平均单位时间内开放的次数为<math>q_{ij}</math>次。一个人从某一个房间出发,只要有方向合适的门瞬时开放,他就会立即进入下一个房间。此时这个人在某一时刻所处的房间号就是一个连续时间马尔科夫链,我们接下来都用<math>(X_t)_{t\geq 0}</math>来描述一个连续时间马尔科夫链。 |
| | + | |
| | + | 我们可将<math>q_{ij}</math>看做是<math>5\times 5</math>矩阵中第<math>i</math>行,第<math>j</math>的元素,并补充定义对角线元素<math>q_{ii}=-\sum_{j\neq i}q_{ij}</math>,它绝对值的大小代表了离开房间<math>i</math>的速率,并把这个矩阵记作<math>Q</math>。很明显,只需要用初始分布<math>\lambda</math>描述从哪一个房间出发,再加上<math>Q</math>,我们就完全确定了上面描述的连续时间马尔科夫链。 |
| | + | |
| | + | |
| | + | |
| | =====模型参数===== | | =====模型参数===== |
| − | =====P(t)与Q的关系===== | + | ====概率转移矩阵P(t)与Q矩阵的关系==== |
| | + | ====爆炸==== |
| | | | |
| − | ====无限状态空间====
| |
| − | =====爆炸=====
| |
| − | =====P(t)与Q的关系=====
| |
| | | | |
| | ===过程描述=== | | ===过程描述=== |