| 第290行: |
第290行: |
| | | | |
| | | | |
| − | 下面考察有限状态空间上不可约、非周期的马尔科夫链,其唯一的平稳分布为<math>\pi</math>。从平稳分布出发,有 | + | 下面考察有限状态空间上不可约、非周期的马尔科夫链,其唯一的平稳分布为<math>\pi</math>。若从平稳分布<math>\pi</math>出发,有 |
| | | | |
| | <math>P(X_n=j|X_{n+1}=i,X_{n+2},\ldots) | | <math>P(X_n=j|X_{n+1}=i,X_{n+2},\ldots) |
| − | =\frac{P(X_n=j)P(X_{n+1}=i|X_n=j)}{P(X_{n+1}=i)}=\frac{\pi_jp_{ji}}{\pi_i}\triangleq q_{ij}</math>。 | + | =\frac{P(X_n=j)P(X_{n+1}=i|X_n=j)}{P(X_{n+1}=i)}=\frac{\pi_jp_{ji}}{\pi_i}\triangleq q_{ij}</math>, |
| | | | |
| | 此时,反向过程是齐次的。 | | 此时,反向过程是齐次的。 |
| | | | |
| | | | |
| − | 进一步,考虑一种特殊情形,若<math>q_{ij}=p_{ij}</math>,即对于任意的状态<math>i,j</math>,满足<math>\pi_i p_{ij}=\pi_jp_{ji}</math>。此时,称马尔科夫链满足细致平衡条件,也称该马尔科夫链是'''时间可逆的'''。 | + | 进一步,考虑一种特殊情形,若<math>q_{ij}=p_{ij}</math>,即对于任意的状态<math>i,j</math>,若存在<math>S</math>上的概率分布<math>\pi</math>满足 |
| | + | |
| | + | <math>\pi_i p_{ij}=\pi_jp_{ji}</math>, |
| | + | |
| | + | 此时,称马尔科夫链满足细致平衡条件,也称该马尔科夫链是'''时间可逆的''',称概率分布<math>\pi</math>为<math>P</math>的一个可逆分布。 |
| | | | |
| | 注:<math>\pi_i p_{ij}</math>可以理解为状态<math>i</math>向状态<math>j</math>的输送,同理,<math>\pi_jp_{ji}</math>可以理解为状态<math>j</math>向状态<math>i</math>的输送。细致平衡条件可以理解为任意的状态<math>i</math>与状态<math>j</math>之间的相互输送是相同的。 | | 注:<math>\pi_i p_{ij}</math>可以理解为状态<math>i</math>向状态<math>j</math>的输送,同理,<math>\pi_jp_{ji}</math>可以理解为状态<math>j</math>向状态<math>i</math>的输送。细致平衡条件可以理解为任意的状态<math>i</math>与状态<math>j</math>之间的相互输送是相同的。 |
| | | | |
| | | | |
| − | 进一步,若满足细致平衡条件,则
| + | 进一步,由细致平衡条件,则可逆分布是平稳分布,即 |
| | | | |
| | <math>\pi_i=\sum_k\pi_kP_{ki}\iff \pi=\pi P</math>。 | | <math>\pi_i=\sum_k\pi_kP_{ki}\iff \pi=\pi P</math>。 |
| | | | |
| | 证:<math>\pi_i=\pi_i\sum_kP_{ik}=\sum_k\pi_iP_{ik}=\sum_k\pi_kP_{ki}</math>。 | | 证:<math>\pi_i=\pi_i\sum_kP_{ik}=\sum_k\pi_iP_{ik}=\sum_k\pi_kP_{ki}</math>。 |
| | + | |
| | + | |
| | + | 这为求解平稳分布提供了一种新的方法。考虑如下概率转移矩阵 |
| | + | |
| | + | <math>P=\left(\begin{matrix} |
| | + | 0&\frac{1}{2}&0&0&0&\frac{1}{2}\\ |
| | + | \frac{1}{3}&0&\frac{1}{3}&0&0&\frac{1}{3}\\ |
| | + | 0&\frac{1}{2}&0&\frac{1}{2}&0&0\\ |
| | + | 0&0&\frac{1}{3}&0&\frac{1}{3}&\frac{1}{3}\\ |
| | + | 0&0&0&\frac{1}{2}&0&\frac{1}{2}\\ |
| | + | \frac{1}{4}&\frac{1}{4}&0&\frac{1}{4}&\frac{1}{4}&0\\ |
| | + | \end{matrix}\right)</math>。 |
| | + | |
| | + | 利用细致平衡条件,得 |
| | + | |
| | + | <math> |
| | + | \begin{aligned} |
| | + | \frac{\pi_1}{2}&=\frac{\pi_2}{3},\ \ \frac{\pi_2}{3}=\frac{\pi_3}{2},\ \ \frac{\pi_3}{2}=\frac{\pi_4}{3},\ \ \frac{\pi_4}{3}=\frac{\pi_5}{2},\\ |
| | + | \frac{\pi_1}{2}&=\frac{\pi_6}{4},\ \ \frac{\pi_2}{3}=\frac{\pi_6}{4},\ \ \frac{\pi_4}{3}=\frac{\pi_6}{4},\ \ \frac{\pi_5}{2}=\frac{\pi_6}{4}。 |
| | + | \end{aligned} |
| | + | </math> |
| | + | |
| | + | 进一步,由求和为1,得可逆分布(也是平稳分布) |
| | + | |
| | + | <math>\pi=\left(\frac{1}{8},\frac{3}{16},\frac{1}{8},\frac{3}{16},\frac{1}{8},\frac{1}{4}\right)</math>。 |
| | + | |
| | + | |
| | + | 但上述结论反之则不然,考虑如下概率转移矩阵 |
| | + | |
| | + | <math>P=\left(\begin{matrix}\frac{1}{2}&\frac{1}{2}&0\\0&\frac{1}{2}&\frac{1}{2}\\ \frac{1}{2}&0&\frac{1}{2}\end{matrix}\right)</math>。 |
| | + | |
| | + | 易知,其存在平稳分布<math>\pi=\left(\frac{1}{3},\frac{1}{3},\frac{1}{3}\right)</math>,但 |
| | + | |
| | + | <math>\pi_1p_{12}-\pi_2p_{21}=1/6\neq 0</math>, |
| | + | |
| | + | 即该链不是可逆的。 |
| | | | |
| | ====时间可逆性与动力学可逆性==== | | ====时间可逆性与动力学可逆性==== |