| 第794行： |
第794行： |
| | 也就是说，在 <math>t=0</math> 时刻，并行的若干个系统的状态服从分布 <math>\pi</math>；在各自演化 <math>t=1</math> 步后，虽然这些系统的状态发生了变化，但统计到的状态仍然服从分布 <math>\pi</math>。 | | 也就是说，在 <math>t=0</math> 时刻，并行的若干个系统的状态服从分布 <math>\pi</math>；在各自演化 <math>t=1</math> 步后，虽然这些系统的状态发生了变化，但统计到的状态仍然服从分布 <math>\pi</math>。 |
| | | | |
| − | 这样，我们就能利用 '''随机动力学（Random Dynamical System）'''中的 '''不变性（Invariance）''' 要求来对马尔科夫链的稳态分布进行分析。 | + | 这样，我们就能利用 '''随机动力学（Random Dynamical System）'''中的 '''不变性（Invariance）''' 要求来对马尔科夫链的稳态分布进行分析。详细的数学公式和验证请参考[[马尔科夫链中的随机动力学]]。 |
| − | | |
| − | [[马尔科夫链中的随机动力学]] | |
| | | | |
| | | | |
| 第802行： |
第800行： |
| | ===随机动力学=== | | ===随机动力学=== |
| | | | |
| − | 一个随机动力系统由两部分组成：一个驱动噪音的动力系统和一个受其驱动的状态空间演化。
| + | 简单来说，一个随机动力系统描述的是一个被随机噪声驱动的演化过程。它由两部分组成： |
| − | | |
| − | '''噪音基础驱动系统（Base Driving System）'''<math>\Omega = \{ ... , \omega_{-1}, \omega_0, \omega_1, ... | \omega_i \in W \}</math> 是一个从随机分布采样的噪音序列，每一次 <math>\omega_i</math> 随机选择都是独立同分布的。
| |
| − | | |
| − | 该驱动系统的演化 <math>\theta</math> 是时间平移的， <math> \theta \omega_i = \omega_{i+1}</math>，即将整个噪音序列向左移动一步，把未来的噪音 <math>\omega_{i+1}</math> 作为新的当前噪音。
| |
| − | | |
| | | | |
| | + | # '''基础驱动系统（Base Driving System）'''：可以想象成一个源源不断产生随机影响的环境。它是一个无穷的噪声序列 <math>\Omega = \{ ... , \omega_{-1}, \omega_0, \omega_1, ... | \omega_i \in W \}</math> 。时间的流逝，就是这个序列不断向左移动（<math>\theta </math> 操作），让未来的噪声变成当前的噪声。 |
| | | | |
| − | 然后，我们需要'''演化余循环 （Evolution Cocycle）''' <math>\phi</math> 来连接噪音和状态空间。它定义了系统如何根据当前的噪音演化，是一个映射 <math>\phi: ℤ \text{（步数）} \times Ω \text{（噪声）} \times X \text{（状态空间）} \to X</math>，满足：
| + | # '''演化余循环 （Evolution Cocycle）'''：这是一个演化规则<math>\phi</math>，它告诉我们系统在当前状态 <math>x</math> 和当前噪声 <math>\omega_0</math> 的共同作用下，下一步会变成什么样。这个规则必须保证演化的连续性（比如演化 <math>s+t</math> 步等于先演化 <math>s</math> 步再演化 <math>t</math> 步）。 |
| − | * 初始条件：<math>\phi(0, \omega, x) = x </math>
| |
| − | * 余循环性质 / Cocycle Property： <math>\phi(t+s, \omega, x) = \phi(t, \theta^s \omega, \phi(s, \omega, x)) </math>
| |
| | | | |
| − | 对马尔科夫链来说，这个映射 <math>\phi(1, \omega, x)</math> 就是一个单步转移函数 <math>T: X \times W \to X</math>，即接收当前状态 <math>x</math> 和一个随机数 <math>w</math>，根据 TPM 的规则输出下一个状态。
| + | 将马尔科夫链放在这个框架下：它的单步转移就可以看作是演化规则 <math>\phi</math>，而每一步选择走哪条路径的随机性，就对应着噪声 <math>\omega</math>。至此，我们已经将马尔科夫链严格定义为了一个随机动力系统 <math>(\theta, \phi)</math>了。通过定义该系统的 '''不变性（Invariance）'''，我们能定义其 '''吸引性（Attraction）'''和 '''随机吸引子（Attractor）'''。 |
| | | | |
| | | | |
| | | | |
| − | 至此，我们已经将马尔科夫链严格定义为了一个随机动力系统 <math>(\theta, \phi)</math>了。通过定义该系统的 '''不变性（Invariance）'''，我们能定义其 '''吸引性（Attraction）'''和 '''随机吸引子（Attractor）'''。
| + | ===随机吸引子=== |
| | | | |
| − | 首先，我们定义'''随机集（Random Set）'''：一个随机集 <math>A</math> 是一个映射 <math>A: Ω → 2^X</math>，其中 <math>2^X</math> 是 <math>X</math> 的所有子集的集合。也就是把一个随机动力学驱动系统的噪声过程映射到了集合空间上的若干个状态。
| + | 在确定的动力系统中，吸引子是系统演化最终会趋向并“陷落”进去的一个状态或区域。但在随机世界里，由于噪声的持续干扰，吸引子本身也变得不确定，它依赖于噪声的路径。这就是随机吸引子 (Random Attractor)。 |
| | | | |
| − | 一个随机集 <math>A(\omega)</math> 被称为一个（全局）'''随机吸引子（Random Attractor）'''，如果它满足以下三个条件：
| + | 一个随机集合 <math>A(\omega)</math> 要成为吸引子，必须满足三个苛刻的条件： |
| | | | |
| − | '''1. 紧致性 (Compactness)'''：对于几乎所有 <math>\omega \in \Omega</math>，<math>A(\omega)</math> 都是 <math>X</math> 中的一个非空紧集。在有限状态马尔科夫链中，此条件自动满足。 | + | 1. '''紧致性 (Compactness)'''：简单来说，吸引子自身不能是无限分散的。对于有限状态的马尔科夫链，这个条件天然满足。 |
| | | | |
| − | '''2. 不变性 (Invariance)'''：<math>A</math> 在动力学下保持自身结构。对于几乎所有 <math>\omega \in \Omega</math>，<math>(1, \omega, A(\omega)) = A(\theta \omega)</math>。它包含两个方向： | + | 2. '''不变性 (Invariance)'''：这是最核心的性质，意味着吸引子结构在演化中能够一直保持在其内部。随着系统演化，一旦进入吸引子，就再也无法逃逸出去。而且，吸引子结构不会凭空产生。新吸引子 A(θω) 中的任何一个点，都必然是从旧吸引子 A(ω) 中的某个点演化而来的。 |
| | | | |
| − | * '''前向不变性 (Forward Invariance)''' <math>(1, \omega, A(\omega)) ⊆ A(\theta \omega)</math>：在 <math>\omega</math> 噪音下，位于 <math>A(\omega)</math> 的点，经过一步演化后，必然会落在 <math>\theta \omega</math> 噪音下的 <math>A(\theta \omega) </math> 内部。换而言之，点无法从吸引子结构中“逃逸”。
| + | 3. '''吸引性 (Pullback Attraction)'''：这是说，无论系统从哪里出发，只要时间足够长，最终都会被“拉回”到吸引子。就像你在旋涡周边的任意位置放下一艘船，让它顺着随机且难以预估的“水流”（噪声路径）漂流。当 时间 趋于无穷大时，你会发现，无论你最初在哪里放船，最终船都会被吸进旋涡里（即到达的位置都会无限接近于当前时刻的吸引子 <math>A(ω)</math>）。 |
| | | | |
| − | * '''后向不变性 (Backward Invariance / Surjectivity)''' <math>(1, \omega, A(\omega)) ⊇ A(\theta \omega)</math>：在 <math>\theta \omega</math> 噪音下的吸引子 <math>A(\theta \omega) </math> 中的任何一个点，都必然是从 <math>\omega</math> 噪音下的 <math>A(\omega)</math> 中的某个点演化而来的。结构不会凭空产生点，它是“满的”。
| |
| | | | |
| − | '''3. 吸引性 (Pullback Attraction）'''：<math>A</math> 吸引系统中的其他点。
| |
| | | | |
| − | * 对 <math>X</math> 的任何一个固定的、非空的子集 <math>B ⊂ X</math>，我们有：<math>lim_{k \to ∞} dist_H (\phi (k, \theta^{-k} \omega, B), A(\omega)) = 0</math>。其中，<math>dist_H</math> 是豪斯多夫距离 (Hausdorff distance)，用于衡量两个集合的相似度。
| + | 当我们定义了随机吸引子的概念之后，我们就可以非常清晰的解释，为什么在马尔科夫链中，大家经常会讨论可约、周期、滑过这些概念。因为他们展现出了'''在稳态情况下（经过一段时间的演化之后）的系统分组规律'''。 |
| − | | |
| − | * 这个公式的含义是，想象我们在遥远的过去（时间<math>=-k</math>）开始演化一个集合 <math>B</math>。噪音路径是 <math>\theta^{-k} \omega</math>（即把当前噪音路径向过去回溯 <math>k</math> 步）。我们让它演化 <math>k</math> 步到达现在。当 <math>k</math> 趋于无穷大时，无论最初的 <math>B</math> 最初是什么，它演化的结果都会在形状上收敛到我们当前的吸引子 <math>A(\omega)</math>。
| |
| − | | |
| − | | |
| − | | |
| − | 至此，我们已经完成了随机动力学中随机吸引子在稳态马尔科夫链中的介绍。现在就可以分析一个马尔科夫链中有多少个吸引子和对应的分组了。
| |
| | | | |
| | ===稳态马尔科夫链中的随机吸引子和分组=== | | ===稳态马尔科夫链中的随机吸引子和分组=== |
| 第848行： |
第832行： |
| | '''情况1：不可约、非周期的马尔科夫链''' | | '''情况1：不可约、非周期的马尔科夫链''' |
| | | | |
| − | 吸引子: 存在唯一的全局随机吸引子 <math>A(\omega)</math>，但它是一个平凡吸引子：<math>A(\omega) = X, \forall \omega</math>（即吸引随机集=状态空间本身）
| + | 最普通的情况，不可约，没有周期循环的状态。这种马尔科夫链 存在唯一的全局随机吸引子，但它是一个'''平凡吸引子'''，即吸引随机集等于状态空间本身：<math>A(\omega) = X, \forall \omega</math> |
| − | | |
| − | 验证过程如下：
| |
| − | * '''不变性''': <math>\phi(1, \omega, X) = X = A(\theta \omega)</math>（整个空间映到自身）
| |
| − | * '''吸引性''': 由于不可约和非周期性，从任何子集 <math>B</math> 出发，经过足够多步，其后代会遍布整个 <math>X</math>。所以 <math>lim_{k→∞} Φ(k, ..., B) = X</math>。
| |
| − | * '''稳态分布''': 唯一的平稳分布 <math>\pi</math> 是定义在吸引子 <math>A=X</math> 上的不变测度。它描述了系统在吸引子内部不同区域（状态）停留时间的相对频率。
| |
| − | | |
| | | | |
| | | | |
| 第860行： |
第838行： |
| | | | |
| | 设 <math>S = T ∪ R_1 ∪ ... ∪ R_m </math>，其中 <math>T</math> 是滑过态（Transiant）集，<math>R_i</math> 是闭合常返（Recurrent）类。 | | 设 <math>S = T ∪ R_1 ∪ ... ∪ R_m </math>，其中 <math>T</math> 是滑过态（Transiant）集，<math>R_i</math> 是闭合常返（Recurrent）类。 |
| − | 吸引子: 系统有 <math>m</math> 个确定性吸引子 <math>A_i = R_i</math>。
| |
| | | | |
| − | 验证过程如下：
| + | 这种系统会有 <math>m</math> 个'''确定性吸引子''' <math>A_i = R_i</math>。系统一旦从过渡区进入某个孤岛 <math>R_i</math>，就再也出不来了。每一个孤岛 <math>R_i</math> 就是一个吸引子，它们不依赖于噪声，是固定的“陷阱”。 |
| − | * '''不变性'''：如果 <math>x \in R_i</math>，则 <math>\phi(1, \omega, x) \in R_i</math>。所以 <math>\phi(1, \omega, R_i) = R_i</math>。
| + | |
| − | * '''吸引随机性'''：吸引随机性体现在系统最终会掉入哪个吸引子。我们可以定义一个依赖于噪音的吸引子 <math>A(\omega)</math>，它表示从某个初始状态 <math>x</math> 出发，最终进入的那个 <math>R_i</math>。<math>A(\omega)</math> 是一个随机变量，其取值范围是 <math>{R_1, ..., R_m}</math>。
| |
| − | * '''稳态分布'''：存在多个平稳分布，每个 <math>\pi_i</math> 的支撑集都在一个吸引子 <math>R_i</math> 上。
| |
| | | | |
| | + | '''情况3：不可约、周期为 <math>d > 1</math> 的马尔科夫链''' |
| | | | |
| | + | 这种链的所有状态虽然连通，但系统的演化表现出周期性。状态空间分解为 <math>d</math> 周期子类 <math>X = C_0 ∪ C_1 ∪ ... ∪ C_{d-1}</math>，系统在这些子类之间循环跳跃，<math>C_0 → C_1 → ... → C_{d-1} → C_0</math>。 |
| | | | |
| − | '''情况3：不可约、周期为 d > 1 的马尔科夫链'''
| + | 这里出现了真正意义上的 <math>非平凡随机吸引子</math>。在任何一个时刻，吸引子<math>A(\omega)</math> 就是当前的周期子类 <math>C_j</math>。它随着时间（噪声 <math>\omega</math> 的演化）在 <math>C_0, C_1, ... </math> 之间循环变化。 |
| | | | |
| − | 设状态空间分解为周期子类 <math>X = C_0 ∪ C_1 ∪ ... ∪ C_{d-1}</math>。
| |
| | | | |
| − | 这时存在非平凡的随机吸引子 <math>A(\omega)</math>：如果 <math>\phi(k, \omega, x_0)</math> 处于子类 <math>C_j</math> 中，那么 <math>A(\theta^k \omega) = C_j</math>。
| |
| | | | |
| − | 验证过程如下：
| + | 随机动力学的视角告诉我们，无论系统如何随机演化，它总会被拉向一个或多个“吸引子”结构。当系统演化到稳态分布之后，这些吸引子内的状态就会展现出相同的演化特性，因此我们能够根据吸引子来对状态进行分组。详细的数学公式和验证请参考[[马尔科夫链中的随机动力学]]。 |
| − | * '''不变性'''：假设在 <math>\omega</math> 下 <math>A(\omega) = C_j</math>。根据周期性，<math>(1, \omega, C_j) = C_{(j+1) \mod d}</math>。而此时新的噪音是 <math>\theta \omega</math>，其对应的吸引子形态正是 <math>A(\theta \omega) = C_{(j+1) \mod d}</math>。因此 <math>\phi(1, \omega, A(\omega)) = A(\theta \omega)</math> 成立。
| |
| − | * '''稳态分布'''：唯一的平稳分布 <math>\pi</math> 描述了在整个循环周期内，系统在每个状态的平均访问频率。尽管在任何时刻 <math>k</math>，概率分布都集中在某一个 <math>C_j</math> 上，但时间平均后会收敛到 <math>\pi_i</math>。
| |
| | | | |
| | <br/> | | <br/> |