随机过程

球体表面维纳或布朗运动过程的计算机模拟实现。维纳过程被广泛认为是概率论中研究最多和中心的随机过程。

在概率论及相关领域中，随机过程 stochastic process（或random process）是一个数学对象，通常被定义为随机变量的集合。给出对一个随机过程的解释，该过程表示某个系统随机的数值随时间的变化，例如细菌种群的增长，电流由于热噪声而波动，或者一个气体分子的运动。随机过程被广泛用作以随机方式变化的系统和现象的数学模型。它们在许多学科都有应用，比如生物学，化学 生态学, 神经科学, 物理学, 图像处理, 信号处理, 控制理论, 信息论, 计算机科学, 密码学 和 电信学. 此外，金融市场中看似随机的变化促进了随机过程在金融领域的广泛应用。

应用和现象研究反过来又启发了新随机过程的提出。这种随机过程的例子包括维纳过程（Wiener process）或布朗运动过程（Brownian motion process，“布朗运动”可以指物理过程，也被称为“布朗运动”，以及随机过程，一个数学对象，但为了避免歧义，本文使用“布朗运动过程”或“维纳过程”来表示后者，其风格类似于：例如吉赫曼和斯科罗霍德 或罗森布拉特）使用路易斯·巴切勒来研究巴黎证券交易所的价格变化， 以及爱尔朗使用的泊松过程来研究某段时间内拨出的电话号码。这两个随机过程被认为是随机过程理论中最重要和最核心的， 并且被巴切勒和爱尔朗先后于不同的环境和国家多次被独立地发现。

随机函数 Random function这个术语也用来指随机或随机过程， 因为随机过程也可以被解释为函数空间中的随机元素。stochastic和random process可以互换使用，通常没有专门的数学空间用于索引随机变量。但是，当随机变量被整数或实数的一个区间索引时，通常使用这两个术语。如果随机变量被笛卡尔平面或某些高维欧几里得空间索引，那么随机变量的集合通常被称为随机场 random field。随机过程的值并不总是数字，也可以是向量或其他数学对象。

根据随机过程的数学性质，随机过程可以分为不同的类别，包括随机游走， 鞅（概率论）, 马尔可夫过程, 莱维过程, 高斯过程, 随机场， 更新过程和分支过程。随机过程的研究使用了概率、微积分、线性代数、集合论的数学知识和技术，以及拓扑学和数学分析的分支，如实分析、测量理论、傅立叶分析和泛函分析。随机过程理论是对数学的重要贡献，不论关于理论还是应用，它都是活跃的研究主题。

简介

随机过程可以被定义为随机变量的集合，这些随机变量由一些数学集合构成索引，这意味着随机过程中的每个随机变量都与集合中的一个元素唯一关联。用于索引随机变量的集合称为“索引集”。从历史上看，索引集是实数的一些子集，例如自然数，为索引集提供了对时间的解释。 集合中的每个随机变量都取值于相同的数学空间中，称为“状态空间（state space）”。例如，这个状态空间可以是整数、实数或维欧几里德空间。 增量是随机过程在两个索引值之间变化的量，通常被解释为两个时间点。由于随机性，随机过程可以有许多结果，随机过程的单个结果被称为“抽样函数”或“实现”。

单个计算机模拟时间0≤t≤2的三维维纳或布朗运动过程的“样本函数”或“实现”。这个随机过程的指标集是非负数，而其状态空间是三维欧几里德空间

分类

随机过程可以用不同的方法进行分类，例如，根据其状态空间、索引集或随机变量之间的相关性。一种常见的分类方法是通过索引集和状态空间的基数进行分类。

当解释为时间时，如果随机过程的指标集有有限个或可数个元素，例如有限的一组数、一组整数或自然数，那么随机过程被认为在离散时间域上 。如果索引集是实数上的某个区间，则时间被称为连续时间。这两类随机过程分别被称为离散时间随机过程和连续时间随机过程。离散时间随机过程被认为更容易研究，因为连续时间过程需要更先进的数学技术和知识，特别当索引集不可数时。 如果索引集是整数或整数的子集，则随机过程也可以称为随机序列 random sequence。

如果状态空间是整数或自然数，则随机过程称为“离散随机过程”或“整值随机过程”。如果状态空间是实数，则随机过程被称为“实值随机过程”或“具有连续状态空间的过程”。如果状态空间是[math]\displaystyle{ n }[/math]-维欧几里德空间，则随机过程称为[math]\displaystyle{ n }[/math]-“维向量过程”或[math]\displaystyle{ n }[/math]—“向量过程”。

词源学

在英语中，“随机”一词最初用作形容词，其定义是“与推测有关”，源于一个希腊语词，意思是“瞄准一个目标，猜测”，而牛津英语词典将1662年作为其最早出现的年份。雅各布·伯努利 Jakob Bernoulli在他关于概率的著作《猜想的艺术》（Ars conquectandi）中使用了“猜想的艺术或随机的艺术”（“Ars Conjectandi sive Stochastice”）这个短语，该著作最初于1713年以拉丁文出版。在提到伯努利时，这一短语被拉迪斯劳斯-博特凯维茨 Ladislaus Bortkiewicz 使用，他在1917用德语stochastic表示“随机”的意思。术语“随机过程”最早出现在1934年约瑟夫-杜布（Joseph Doob）1934年的一篇论文中。 对于该术语和明确的数学定义，杜布引用了另一篇1934年的论文，其中亚历山大-金钦 Aleksandr Khinchin用德语使用了"stochastischer Prozeß ”一词，尽管这个德语术语在早些时候就被使用过，例如，安德烈-科尔莫戈罗夫 Andrei Kolmogorov在1931年就使用了它。

根据牛津英语词典的研究，英语中和随机含义相同的这个词的早期出现，可以追溯到16世纪，而早期记录的类似用法开始于14世纪，它是一个名词，意思是“浮躁、极速、力量或暴力(在骑马、奔跑、惊人等等)”。这个单词本身来自中世纪法语单词，意思是“速度，匆忙” ，它可能来源于法语动词，意思是“奔跑”或“疾驰”。随机（random）过程这个术语的第一次书面出现早于随机（stochastic）过程，牛津英语词典也把它作为同义词，并在弗朗西斯·埃奇沃思1888年发表的一篇文章中使用。

根据《牛津英语词典》，“随机”一词在英语中的早期出现及其目前的含义——即与机会或运气有关，可以追溯到16世纪，而更早的使用记录始于14世纪，是一个名词，意思是 "急躁、巨大的速度、力量或暴力（在骑马、跑步、击球等方面）"。这个词本身来自一个中古法语单词，意思是 "速度、匆忙"，它可能是从法语动词“奔跑”或“飞奔”衍生而来。随机过程（random process）一词的首次书面出现早于随机过程（stochastic process），《牛津英语词典》也将其作为同义词，并被弗朗西斯·艾其沃斯 Francis Edgeworth 于1888年发表的一篇文章中使用。

术语

随机过程的定义各不相同 ，但是传统上随机过程被定义为由某个集合索引的随机变量的集族。术语“随机（random）过程”和“随机（stochastic）过程”被视为同义词，可以互换使用，而无需精确指定索引集。。 "集合" 和"族"都会使用，而有时则用 "参数集" 或 "参数空间"来代替 "索引集"。

术语“随机函数”也用于指代随机过程（stochastic process）或随机过程（random process），尽管有时它只在随机过程取实值时使用。当索引集是实数以外的数学空间时，也使用这个术语，而当索引集被解释为时间时，通常使用“随机过程”（stochastic process）和“随机过程”（random process），另外当索引集是[math]\displaystyle{ n }[/math]-维欧几里德空间[math]\displaystyle{ \mathbb{R}^n }[/math]或流形时，会用随机场这一术语。

记号

随机过程可以用[math]\displaystyle{ \{X(t)\}_{t\in T} }[/math]， [math]\displaystyle{ \{X_t\}_{t\in T} }[/math], [math]\displaystyle{ \{X_t\} }[/math]或简单地称为[math]\displaystyle{ X }[/math]或[math]\displaystyle{ X（t） }[/math]，尽管[math]\displaystyle{ X（t） }[/math]被视为函数表示法的滥用。 比如， [math]\displaystyle{ X(t) }[/math] 或 [math]\displaystyle{ X_t }[/math]表示具有索引[math]\displaystyle{ t }[/math]的随机变量，而不是整个随机过程。如果索引集是[math]\displaystyle{ T=[0,\infty) }[/math]，那么我们可以这样写，例如用[math]\displaystyle{ (X_t , t \geq 0) }[/math]来表示随机过程。

示例

伯努利过程

最简单的随机过程之一是伯努利过程，它是独立同分布随机变量的序列，其中每个随机变量取值1或0，比如概率[math]\displaystyle{ p }[/math]的值为1，概率[math]\displaystyle{ 1-p }[/math]为零。这个过程可以与反复投一枚硬币关联，其中正面的概率为[math]\displaystyle{ p }[/math]，其值为1，而反面的值为零。换句话说，伯努利过程是一系列独立同分布的伯努利随机变量，每一次抛硬币都是伯努利试验的一个例子。

随机游走

随机游走这样一类随机过程，通常定义为欧几里德空间中独立同分布的随机变量或者或随机向量的和，因此它们是在离散时间上变化的过程。但是有些人也使用这个术语来指代在连续时间上变化的过程，尤其是金融中使用的维纳过程，这导致了一些误解，从而招来了一些批评。还有其他各种类型的随机游走，它们的状态空间可以是其他数学对象，例如格和群，一般来说，它们都是被充分研究的，在不同的学科中有许多应用。

随机游走的一个经典例子被称为“简单随机游走”，它是一个离散时间上的随机过程，以整数为状态空间，基于伯努利过程，其中每个伯努利变量取+1或-1。换言之，简单随机游走发生在整数上，其值要么随概率[math]\displaystyle{ p }[/math]增加1，要么随着概率[math]\displaystyle{ 1-p }[/math]而减小1，因此这种随机游动的指标集是自然数，而其状态空间是整数。如果[math]\displaystyle{ p=0.5 }[/math]，这种随机游动称为对称随机游走。

维纳过程

维纳过程是一个具有平稳独立增量并且基于增量大小呈正态分布的随机过程。维纳过程是以诺伯特-维纳命名的，他证明了它的数学存在性，但是这个过程也被称为布朗运动过程或布朗运动，因为它和液体中的布朗运动有历史渊源。

实现维纳Wiener过程（或布朗运动过程），具有漂移（蓝色）且不漂移（红色）。

维纳过程在概率论中起着核心作用，它通常被认为是最重要和最值得研究的随机过程，并与其他随机过程联系在一起。它的索引集和状态空间分别是非负数和实数，所以它既有连续索引集又有状态空间但该过程可以被更广泛地定义，所以它的状态空间可以是n维欧几里德空间。如果任何增量的平均值为零，那么产生的维纳或布朗运动过程被称为具有零漂移。如果任意两个时间点的增量的平均值等于时间差乘以某个常实数[math]\displaystyle{ \mu }[/math]，那么由此产生的随机过程被称为具有漂移[math]\displaystyle{ \mu }[/math]。

几乎可以肯定，维纳过程的样本路径处处连续，但无处可微。它可以看作是简单随机游走的一个连续版本。该过程作为其他随机过程的（如某些随机游走的缩放）数学极限而出现，这是唐斯克定理或不变性原理的主题，也被称为函数中心极限定理。

维纳过程是一些重要的随机过程家族的成员，包括马尔可夫过程，莱维过程和高斯过程。该过程也有许多应用，是随机微积分中使用的主要随机过程。它在量化金融中起着核心作用，例如，它被用于布莱克-舒尔斯（Black-Scholes-Merton）模型。该过程也被用于不同的领域，包括大多数自然科学以及社会科学的一些分支，作为各种随机现象的数学模型。

泊松过程

泊松过程是一个随机过程，有不同的形式和定义。它可以定义为一个计数过程，它是一个随机过程，表示某个时间点或事件的随机数量。在从零到某个给定时间区间内的过程点的数目是一个泊松随机变量，它取决于该时间和某个参数。该过程以自然数为状态空间，非负数为索引集。此过程也称为泊松计数过程，因为它可以被解释为计数过程的一个示例。

如果一个泊松过程是用一个正的常数定义的，那么这个过程称为齐次泊松过程。齐次泊松过程泊松过程是马尔科夫过程和莱维过程等重要随机过程类别中的一员

齐次泊松过程可以用不同的方法定义和推广。它的指标集可以定义为实数，这个随机过程也被称为平稳泊松过程如果泊松过程的参数常数被某个非负可积函数的[math]\displaystyle{ t }[/math]代替，则得到的过程称为非齐次或非同质泊松过程，其中过程点的平均密度不再是常数。作为排队论中的一个基本过程，泊松过程是数学模型里的一个重要过程，它在某些时间窗口内随机发生的事件模型中得到应用。

在实数上定义的泊松过程可以被解释为随机过程以及其他随机对象。但是它也可以被定义在[math]\displaystyle{ n }[/math]维欧几里德空间或其他数学空间上，在那儿它通常被解释为随机集或随机计数度量，而不是随机过程。在这种情况下，泊松过程，也称为泊松点过程，是概率论中最重要的对象之一，既有应用上的原因，也有理论上的原因。但有人指出，泊松过程并没有得到应有的重视，部分原因是它经常被认为只是在实数上，而不是在其他数学空间中。

定义

随机过程 Stochastic process

随机过程被定义为在一个公共概率空间[math]\displaystyle{ (\Omega, \mathcal{F}, P) }[/math]上定义的随机变量集合，其中[math]\displaystyle{ \Omega }[/math] 是样本空间，[math]\displaystyle{ \mathcal{F} }[/math]是一个[math]\displaystyle{ \sigma }[/math]-代数，[math]\displaystyle{ P }[/math]是概率测度；而随机变量，由某个集合[math]\displaystyle{ T }[/math]索引，所有值都取同一个数学空间[math]\displaystyle{ S }[/math]，对于某些[math]\displaystyle{ \sigma }[/math]-代数[math]\displaystyle{ \sigma }[/math]

换言之，对于给定的概率空间[math]\displaystyle{ （\Omega，\mathcal{F}，P） }[/math]和可测空间[math]\displaystyle{ （S，Sigma） }[/math]，随机过程是一个值为[math]\displaystyle{ S }[/math]的随机变量的集合，可以写成：

[math]\displaystyle{ \{X(t):t\in T \}. }[/math]

历史上，在许多自然科学问题中，一个点[math]\displaystyle{ t\in T }[/math] 具有时间的意义，因此，[math]\displaystyle{ X(t) }[/math]表示是一个在时间[math]\displaystyle{ t }[/math]的随机变量。随机过程也可以写成[math]\displaystyle{ \{X（t，omega）：t\ in t\} }[/math]来反映它实际上是两个变量的函数，[math]\displaystyle{ t\in t }[/math]和[math]\displaystyle{ \omega\in\omega }[/math]

还有其他方法可以考虑随机过程，上面的定义被认为是传统的。例如，一个随机过程可以解释或定义为一个[math]\displaystyle{ S^T }[/math]值的随机变量，其中[math]\displaystyle{ S^T }[/math]是所有可能的[math]\displaystyle{ S }[/math]-值函数的空间T</math>从集合[math]\displaystyle{ T }[/math]到空间[math]\displaystyle{ S }[/math]。

索引集

集合[math]\displaystyle{ T }[/math]称为“索引集”或“参数集”。通常，这个集合是实数的一个子集，例如自然数或一个区间，使集合[math]\displaystyle{ T }[/math]能够解释时间。除了这些集合，索引集[math]\displaystyle{ T }[/math]可以是其他线性有序集或更一般的数学集，例如笛卡尔平面[math]\displaystyle{ R^2 }[/math]或[math]\displaystyle{ n }[/math]维欧几里得空间，其中t中的元素可以表示空间中的一个点。但一般情况下，当索引集有序时，随机过程可以得到更多的结果和定理。

状态空间

随机过程的数学空间[math]\displaystyle{ S }[/math]称为其“状态空间”。这个数学空间可以用整数、实数、[math]\displaystyle{ n }[/math]维欧几里得空间、复杂平面或更抽象的数学空间来定义。状态空间是用反映随机过程可以采用的不同值的元素来定义的进程。

样本函数

样本函数是随机过程的单个结果，因此，它是由随机过程中每个随机变量的一个可能值构成的。更准确地说，如果[math]\displaystyle{ \{X（t，omega）：t\in t\} }[/math]是一个随机过程，那么对于任何点[math]\displaystyle{ \omega\in\omega }[/math]，映射

[math]\displaystyle{ X(\cdot,\omega): T \rightarrow S, }[/math]

称为样本函数，称为“实现”，或者，特别是当[math]\displaystyle{ T }[/math]被解释为时间时，随机过程的“样本路径”[math]\displaystyle{ \{X（T，omega）：T\in T\} }[/math]。这意味着对于一个固定的[math]\displaystyle{ \omega\in\omega }[/math]，存在一个将索引集[math]\displaystyle{ T }[/math]映射到状态空间[math]\displaystyle{ S }[/math] 的示例函数的其他名称随机过程包括“轨迹”、“路径函数”或“路径”.

增量

随机过程的增量是同一随机过程的两个随机变量之间的差值。对于一个指数集可以解释为时间的随机过程，增量是随机过程在某个时间段内的变化量。例如，如果[math]\displaystyle{ \{X（t）：t\in t\} }[/math] 是具有状态空间的随机过程[math]\displaystyle{ S }[/math]且索引集[math]\displaystyle{ T=[0,\infty) }[/math]中的任意两个非负数[math]\displaystyle{ t_1\in [0,\infty) }[/math]和[math]\displaystyle{ t_2\in [0,\infty) }[/math]且[math]\displaystyle{ t_1\leq t_2 }[/math]，差异[math]\displaystyle{ X{tu 2}-X{t_1} }[/math]是一个称为增量的[math]\displaystyle{ S }[/math]值随机变量。当对增量感兴趣时，通常状态空间[math]\displaystyle{ S }[/math]是实数或自然数，但它可以是[math]\displaystyle{ n }[/math]维欧几里德空间或更抽象的空间，如巴拿赫空间 。

进一步定义

定律

对于定义在概率空间[math]\displaystyle{ （\Omega，\mathcal{F}，P） }[/math]上的随机过程[math]\displaystyle{ X\colon\Omega\rightarrow S^T }[/math]，随机过程X</math>的定律被定义为前推度量 Pushforward measure：

[math]\displaystyle{ \mu=P\circ X^{-1}, }[/math]

其中[math]\displaystyle{ P }[/math]是一个概率度量，符号[math]\displaystyle{ \circ }[/math]表示函数组合，[math]\displaystyle{ X^{-1} }[/math]是可测量函数的前映像，或者等价地，[math]\displaystyle{ S^T }[/math]值随机变量[math]\displaystyle{ X }[/math]，其中[math]\displaystyle{ S^T }[/math]是[math]\displaystyle{ t\in T }[/math]中所有可能的[math]\displaystyle{ S }[/math]值函数的空间，所以随机过程的规律就是一个概率测度。

对于[math]\displaystyle{ S^T }[/math]的可测子集[math]\displaystyle{ B }[/math]，预图像[math]\displaystyle{ X }[/math]给出

[math]\displaystyle{ X^{-1}(B)=\{\omega\in \Omega: X(\omega)\in B \}, }[/math]

所以a[math]\displaystyle{ X }[/math]定律可以写成：

[math]\displaystyle{ \mu(B)=P(\{\omega\in \Omega: X(\omega)\in B \}). }[/math]

随机过程或随机变量的规律也被称为“概率定律 probability law”，“概率分布 probability distribution”，或“分布”。

有限维概率分布

对于随机过程[math]\displaystyle{ X }[/math]，其“有限维分布”定义为：

[math]\displaystyle{ \mu_{t_1,\dots,t_n} =P\circ (X({t_1}),\dots, X({t_n}))^{-1}, }[/math]

这项措施[math]\displaystyle{ \mu_{t_1,..,t_n} }[/math]是随机向量的联合分布 [math]\displaystyle{ (X({t_1}),\dots, X({t_n})) }[/math]；它可以被视为法律的“投影”[math]\displaystyle{ \mu }[/math]到一个有限子集[math]\displaystyle{ T }[/math]。

对于[math]\displaystyle{ n }[/math]级笛卡尔幂[math]\displaystyle{ S^n=S\times\dots \times S }[/math]的任何可测子集[math]\displaystyle{ C }[/math]，[math]\displaystyle{ X }[/math]的有限维分布可以写成：

[math]\displaystyle{ \mu_{t_1,\dots,t_n}(C) =P \Big(\big\{\omega\in \Omega: \big( X_{t_1}(\omega), \dots, X_{t_n}(\omega) \big) \in C \big\} \Big). }[/math]

随机过程的有限维分布满足两个称为一致性条件的数学条件。

稳定性

“稳定性”是当随机过程的所有随机变量都是相同分布时随机过程所具有的数学性质。换言之，如果[math]\displaystyle{ X }[/math]是一个平稳随机过程，那么对于任何[math]\displaystyle{ t\in T }[/math]，随机变量[math]\displaystyle{ X_t }[/math]具有相同的分布，这意味着对于任何一组[math]\displaystyle{ n }[/math]索引集值[math]\displaystyle{ t_1,\dots, t_n }[/math]而言，对应的[math]\displaystyle{ n }[/math]随机变量

[math]\displaystyle{ X_{t_1}, \dots X_{t_n}, }[/math]

它们都有相同的概率分布。平稳随机过程的指标集通常被解释为时间，因此可以是整数或实数。 但对于点过程和随机场也存在平稳性的概念，其中指标集不被解释为时间。

当指标集[math]\displaystyle{ T }[/math]可以解释为时间时，如果随机过程的有限维分布在时间平移下是不变的，则称其为平稳过程。这种随机过程可以用来描述处于稳态的物理系统，但是仍然会经历随机波动。平稳性背后的直觉是，随着时间的推移，平稳随机过程的分布保持不变。只有当随机变量相同分布时，一系列随机变量才会形成平稳随机过程。

具有上述平稳性定义的随机过程有时被称为严格平稳的，但也有其他形式的平稳性。一个例子是当离散时间或连续时间随机过程[math]\displaystyle{ X }[/math]被称为广义平稳时，那么这个过程[math]\displaystyle{ X }[/math]，有一个有限的第二时刻对于所有[math]\displaystyle{ t\in T }[/math]和两个随机变量的协方差 [math]\displaystyle{ X_t }[/math] 和 [math]\displaystyle{ X_{t+h} }[/math] 只取决于在[math]\displaystyle{ t\in T }[/math]时的数值[math]\displaystyle{ h }[/math] 辛钦介绍了“广义平稳性”的相关概念，其他名称包括“协方差平稳性”或“广义平稳性”。

过滤

过滤是定义在某个概率空间中的西格玛代数的递增序列，它具有某种总阶关系的索引集，例如在索引集是实数的某个子集的情况下。更正式地说，如果一个随机过程有一个具有总阶数的索引集，那么在概率空间[math]\displaystyle{ (\Omega, \mathcal{F}, P) }[/math]上的过滤[math]\displaystyle{ \{\mathcal{F}_t\}_{t\in T} }[/math] 是一个西格玛代数族，使得[math]\displaystyle{ \mathcal{F}_s \subseteq \mathcal{F}_t \subseteq \mathcal{F} }[/math]对所有[math]\displaystyle{ s \leq t }[/math]，其中[math]\displaystyle{ t, s\in T }[/math]和[math]\displaystyle{ \leq }[/math]表示指标集[math]\displaystyle{ T }[/math]的总阶。通过过滤的概念，可以研究[math]\displaystyle{ t\in T }[/math]中随机过程[math]\displaystyle{ X_t }[/math]所包含的信息量，这可以解释为时间[math]\displaystyle{ t }[/math]过滤背后的直觉是，随着时间的流逝，关于[math]\displaystyle{ t }[/math]的更多信息是已知的或可用的，这些信息可以在[math]\displaystyle{ \mathcal{F}t }[/math]中获得，使[math]\displaystyle{ \Omega }[/math]的分区越来越细。

修正

随机过程的“修正”是另一个随机过程，它与原始随机过程密切相关。更确切地说，一个随机过程[math]\displaystyle{ X }[/math]，与另一个随机过程[math]\displaystyle{ Y }[/math] 具有相同的索引集[math]\displaystyle{ T }[/math]、集空间[math]\displaystyle{ S }[/math]和概率空间[math]\displaystyle{ （\Omega，{\cal F}，P） }[/math]具有相同的索引集[math]\displaystyle{ T }[/math]、集空间[math]\displaystyle{ S }[/math]和概率空间[math]\displaystyle{ (\Omega,{\cal F},P) }[/math]，被称为[math]\displaystyle{ Y }[/math]的修改，如果对所有[math]\displaystyle{ t\in T }[/math]有

[math]\displaystyle{ P(X_t=Y_t)=1 , }[/math]

持有。两个相互修正的随机过程具有相同的有限维法则，它们被称为“随机等价”或“等价物”

除了修改，也可以使用“版本”一词，然而，当两个随机过程具有相同的有限维分布，但它们可能定义在不同的概率空间上时，一些作者使用版本一词。因此在后一种意义上，两个相互修改的过程也是彼此的版本，但不是相反。 .

如果一个连续时间的实值随机过程在其增量上满足一定的矩条件，则柯尔莫哥洛夫连续性定理指出，该过程存在一个修正，其具有概率为1的连续样本路径，所以这个随机过程有一个连续的修改或版本。该定理也可以推广到随机场，所以索引集是[math]\displaystyle{ n }[/math]-维欧几里德空间以及以度量空间作为其状态空间的随机过程。

难区分性

两个随机过程[math]\displaystyle{ X }[/math]和[math]\displaystyle{ Y }[/math]定义在同一概率空间[math]\displaystyle{ （\Omega，\mathcal{F}，P） }[/math]上，具有相同的索引集[math]\displaystyle{ T }[/math]和集空间[math]\displaystyle{ S }[/math]上的两个随机过程如果

[math]\displaystyle{ P(X_t=Y_t \text{ for all } t\in T )=1 , }[/math]

成立，则称为“难以区分的”。如果两个[math]\displaystyle{ X }[/math]和[math]\displaystyle{ Y }[/math]是相互修改的，几乎肯定是连续的，那么[math]\displaystyle{ X }[/math]和[math]\displaystyle{ Y }[/math]是无法区分的。

可分性

“可分性”是随机过程的一种性质，它基于与概率测度有关的指标集。假设该属性是为了使具有不可计数索引集的随机过程或随机场的函数能够形成随机变量。要使一个随机过程是可分离的，除了其他条件外，它的索引集必须是一个可分离的空间{efn |术语 "可分离 "在这里出现了两次，有两种不同的含义，其中第一种含义来自概率，第二种来自拓扑学和分析。要使一个随机过程是可分离的（在概率意义上），其索引集必须是一个可分离的空间（在拓扑学或分析学意义上），此外还有其他条件。}}，这意味着索引集有一个稠密可数子集。

更精确地说，具有概率空间[math]\displaystyle{ (\Omega,{\cal F},P) }[/math]的实值连续时间随机过程[math]\displaystyle{ X }[/math]是可分离的，如果它的指数集[math]\displaystyle{ T }[/math]有一个稠密的可数子集[math]\displaystyle{ \Omega_0 \subset \Omega }[/math]，因此<[math]\displaystyle{ P(\Omega_0)=0 }[/math]，这样对于每个开集[math]\displaystyle{ G\subset T }[/math]和每个闭集[math]\displaystyle{ F\subset \textstyle R =(-\infty,\infty) }[/math]，[math]\displaystyle{ \{ X_t \in F \text{ for all } t \in G\cap U\} }[/math]和[math]\displaystyle{ \{ X_t \in F \text{ for all } t \in G\} }[/math]这两个事件最多在[math]\displaystyle{ \Omega_0 }[/math]的一个子集上不同。

可分性的定义（连续时间实值随机过程的可分性定义可以用其他方式表述）也可用于其他索引集和状态空间，例如在随机场的情况下，索引集和状态空间可以是[math]\displaystyle{ n }[/math]维欧几里德空间。

随机过程可分性的概念是由约瑟夫-杜布（Joseph Doob）提出的。可分性的基本思想是使指标集的可数点集决定随机过程的性质。任何具有可数索引集的随机过程都已经满足可分离性条件，所以离散时间随机过程总是可分离的。 杜布的一个定理，有时被称为杜布可分性定理，指出任何实值的连续时间随机过程都有一个可分离的修改。这个定理的版本也存在于具有实数之外的索引集和状态空间的更一般的随机过程。

独立性

两个在相同的概率空间[math]\displaystyle{ (\Omega,\mathcal{F},P) }[/math]上定义，具有相同索引集[math]\displaystyle{ T }[/math]的随机过程[math]\displaystyle{ X }[/math]和[math]\displaystyle{ Y }[/math]被称为“相互独立”，如果对于所有[math]\displaystyle{ n \in \mathbb{N} }[/math]，以及每个特定的[math]\displaystyle{ t_1,\ldots,t_n \in T }[/math]，随机向量[math]\displaystyle{ \left( X(t_1),\ldots,X(t_n) \right) }[/math] 和[math]\displaystyle{ \left( Y(t_1),\ldots,Y(t_n) \right) }[/math]是独立的。

不相关

两个随机过程[math]\displaystyle{ \left\{X_t\right\} }[/math]和[math]\displaystyle{ \left\{Y_t\right\} }[/math] 称为“不相关的”的，如果它们的互协方差[math]\displaystyle{ \operatorname{K}_{\mathbf{X}\mathbf{Y}}(t_1,t_2) = \operatorname{E} \left[ \left( X(t_1)- \mu_X(t_1) \right) \left( Y(t_2)- \mu_Y(t_2) \right) \right] }[/math]始终为零。最后：

[math]\displaystyle{ \left\{X_t\right\},\left\{Y_t\right\} \text{ uncorrelated} \quad \iff \quad \operatorname{K}_{\mathbf{X}\mathbf{Y}}(t_1,t_2) = 0 \quad \forall t_1,t_2 }[/math].

独立意味着不相关

如果两个随机过程[math]\displaystyle{ X }[/math]和[math]\displaystyle{ Y }[/math]是独立的，那么它们也是不相关的

正交性

如果两个随机过程[math]\displaystyle{ \left\{X_t\right\} }[/math]和[math]\displaystyle{ \left\{Y_t\right\} }[/math]的互相关[math]\displaystyle{ \operatorname{R}_{\mathbf{X}\mathbf{Y}}(t_1,t_2) = \operatorname{E}[X(t_1) \overline{Y(t_2)}] }[/math]一直为0，则称为“正交”，形式为

[math]\displaystyle{ \left\{X_t\right\},\left\{Y_t\right\} \text{ orthogonal} \quad \iff \quad \operatorname{R}_{\mathbf{X}\mathbf{Y}}(t_1,t_2) = 0 \quad \forall t_1,t_2 }[/math].

斯科罗霍德空间

斯科罗霍德空间（Skorokhod space或Skorohod space）是所有右连续左极限的函数的数学空间。这些函数定义在实数的某个区间上，例如[math]\displaystyle{ [0,1] }[/math]或[math]\displaystyle{ [0，\infty） }[/math]，取实数或度量空间上的值。这样的函数被称为右连左极（cádLag或cadlag）函数，这是法语表达式“continue a droite，limiteégauche”的首字母缩略词，因为这些函数是右连续的，具有左极限。由阿纳托利·斯科罗霍德（Anatoliy Skorokod）引入的斯科罗霍德函数空间，通常用字母[math]\displaystyle{ D }[/math]表示，因此函数空间也被称为空间[math]\displaystyle{ D }[/math]此函数空间的表示法还可以包括定义所有右连左极函数的间隔，因此，例如，[math]\displaystyle{ D[0,1] }[/math]表示在单位间隔[math]\displaystyle{ [0，1] }[/math]上的右连左极函数空间。

在随机过程理论中，由于通常假定连续时间随机过程的样本函数属于一个斯科罗霍德空间，因此经常使用斯科罗霍德函数空间。这种空间包含连续函数，它对应于维纳过程的样本函数。但是该空间也有具有不连续性的函数，这意味着具有跳跃性的随机过程的样本函数，例如在实数上的泊松过程也是该空间的成员。

正则性

在随机过程的数学构造中，当讨论和假设随机过程的某些条件以解决可能的构造问题时，使用“正则性”这一术语。例如，为了研究具有不可数索引集的随机过程，假设随机过程遵守某种类型的正则条件，如样本函数是连续的。

更多示例

马尔可夫过程与链

马尔可夫过程 Markov processes 是一种随机过程，传统上是离散或连续时间的，具有马尔可夫特性，即马尔可夫过程的下一个值取决于当前值，但它有条件地独立于随机过程的前一个值。换句话说，在进程的当前状态下，进程在未来的行为是随机地独立于它在过去的行为。

布朗运动过程和泊松过程（一维）都是马尔可夫过程的例子，而整数上的随机游走和赌徒破产问题是离散时间中马尔可夫过程的例子。

马尔可夫链是一种具有离散状态空间或离散索引集（通常表示时间）的马尔可夫过程，但马尔可夫链的精确定义各不相同。例如，通常将马尔可夫链定义为具有可数状态空间的离散或连续时间中的马尔可夫过程（因此不管时间的性质），但也常将马尔可夫链定义为具有可数或连续状态空间的连续时间（因此与状态空间无关），有人认为，现在倾向于使用具有离散时间的马尔可夫链的第一个定义，尽管约瑟夫-杜布（Joseph Doob）和钟开莱（Kai Lai Chung）等研究人员使用了第二种定义。

马尔可夫过程是一类重要的随机过程，在许多领域有着广泛的应用。例如，它们是一种称为马尔可夫链蒙特卡洛的一般随机模拟方法的基础，该方法用于模拟具有特定概率分布的随机对象，并在贝叶斯统计中得到应用。

马尔可夫属性的概念最初是针对连续和离散时间的随机过程，但它也适用于其它指标集，如[math]\displaystyle{ n }[/math]维欧氏空间，这就导致了被称为马尔可夫随机场的随机变量集合。

鞅

鞅（Martingale）是一个离散时间或连续时间的随机过程，其性质是在给定过程的当前值和所有过去值的情况下，每个未来值的条件期望值等于当前值。在离散时间中，如果此属性适用于下一个值，则它适用于所有未来值。鞅的精确数学定义需要另外两个条件，再加上过滤（filtration）的数学概念，这与随时间推移可用信息增加的直觉有关。鞅通常被定义为实值的， 但他们也可以是复数或或更一般的取值。

对称随机游动和维纳过程（具有零漂移）分别是离散时间和连续时间中鞅的例子。对于一串独立且同分布随机变量[math]\displaystyle{ X_1, X_2, X_3, \dots }[/math]，其平均值为零。由连续部分和[math]\displaystyle{ X_1,X_1+ X_2, X_1+ X_2+X_3, \dots }[/math] 构成的随机过程是一个离散时间鞅。在这一方面，离散时间鞅推广了独立随机变量的部分和的概念。

鞅也可以通过应用一些适当的变换从随机过程中产生，这就是齐次泊松过程（在实数上）的情形，其结果是一个称为“补偿泊松过程”的鞅。也可以从其他鞅中构建鞅。例如，有基于鞅的维纳过程，形成了连续时间鞅。

数学上的鞅形式化了公平博弈的概念，它们最初是为了证明不可能赢得一场公平比赛而发展出来的。但现在它们被用于概率的许多领域，这是研究它们的主要原因之一。概率学中的许多问题都是通过在问题中找到鞅并加以研究而解决的。在给定鞅矩的条件下，鞅会收敛，所以他们经常被用来推导收敛结果，这主要是由于鞅收敛定理。

鞅在统计学中有许多应用，但有人指出，它的使用和应用在统计学领域，尤其是统计推断领域并不那么广泛。他们在排队论和Palm微积分等概率论领域以及经济学、金融领域都有应用。

莱维过程

莱维过程是一类随机过程，可以看作是连续时间中随机游走的推广。这些过程在金融、流体力学等领域有着广泛的应用。这些过程的主要定义特征是其静止性和独立性属性，所以它们被称为具有静止和独立增量的过程。换句话说，一个随机过程[math]\displaystyle{ X }[/math]是一个莱维过程，如果对非负数[math]\displaystyle{ n }[/math]，[math]\displaystyle{ 0\leq t_1\leq \dots \leq t_n }[/math]，当[math]\displaystyle{ n-1 }[/math]递增

[math]\displaystyle{ X_{t_2}-X_{t_1}, \dots , X_{t_{n-1}}-X_{t_n}, }[/math]

它们彼此独立，每个增量的分布只取决于时间的差异。

莱维过程可以被定义为状态空间是一些抽象的数学空间的，比如巴拿赫空间，但这些过程通常被定义为它们在欧几里得空间取值。索引集是非负数，所以[math]\displaystyle{I=[0,\infty )}{\displaystyle I=[0,\infty )}[/math]，这给出了时间的解释。重要的随机过程，如维纳过程、齐次泊松过程（在一个维度上），以及次元都是莱维过程。

随机场

随机场是由一个[math]\displaystyle{ n }[/math]维欧几里德空间或流形索引的随机变量的集合。一般来说，随机场可以看作是随机过程的一个例子，其中索引集不一定是实数的子集。但是有一个惯例，当索引具有两个或多个维度时，随机变量的索引集合称为随机场。如果随机过程的具体定义要求索引集是实数的子集，那么随机场可以看作是随机过程的一个推广。

点过程

点过程是随机分布在某些数学空间（如实数、[math]\displaystyle{ n }[/math]维欧几里德空间或更抽象的空间）上的点的集合。有时“点过程”一词并不可取，因为历史上“过程”一词表示某个系统在时间上的演变，因此，点过程也被称为“随机点域”。对点过程有不同的解释，如随机计数度量或随机集。一些作者将点过程和随机过程视为两个不同的对象，也就是说点过程是随机过程产生或与随机过程相关联的随机对象，尽管有人评论说，点过程和随机过程之间的区别并不明显。

另一些作者认为点过程是一个随机过程，其中过程由它所定义的基础空间（在点过程的上下文中，“状态空间”一词可以指定义点过程的空间，如实数，它对应于随机过程中的索引集）集合来索引，如实数或[math]\displaystyle{ n }[/math]-维的欧几里得空间。其他随机过程，如更新和计数过程，也在点过程理论中进行了研究。

历史 History

早期概率论 Early probability theory

概率论起源于机会博弈，它有着悠久的历史，有些游戏在几千年前就已经开始了，但人们很少从概率的角度对其进行分析。1654年通常被认为是概率论的诞生，当时法国数学家皮埃尔-费马和布莱斯-帕斯卡尔在一个赌博问题的激励下，就概率问题进行了书面通信。但是在更早的时候，就有关于赌博游戏概率的数学工作，比如吉罗拉莫·卡尔达诺（Gerolamo Cardano）16世纪写作的“Liber de Ludo Aleae”，在他死后于1663年发表。

继卡尔达诺之后，雅各布·伯努利（Jakob Bernoulli，也被称为James Bernoulli或Jacques Bernoulli）写了Ars conjuctandi，这在概率论史上被认为是重大事件。伯努利的书出版于1713年，也是在他死后出版的，这本书激发了许多数学家研究概率。 但是，尽管一些著名的数学家对概率论做出了贡献，比如皮埃尔-西蒙-拉普拉斯（Pierre-Simon Laplace,）、亚伯拉罕-德-莫伊夫（Abraham de Moivre）、卡尔-高斯（Carl Gauss）、西蒙-泊阿松 （Siméon Poisson）和帕夫努蒂·切比雪夫（Pafnuty Chebyshev），大多数数学界人士直到20世纪，才认为概率论是数学的一部分（一个显著的例外是俄罗斯的圣彼得堡学派，在那里，以切比雪夫为首的数学家研究概率论）。

统计力学 Statistical mechanics

在物理科学领域，科学家们在19世纪发展了统计力学学科。在这个学科中，物理系统，例如装满气体的容器，可以从数学上看作或处理为许多运动粒子的集合。尽管有些科学家（比如鲁道夫·克劳修斯（Rudolf Clausius））试图将随机性纳入统计物理学，但大部分工作没有或几乎没有随机性。

这种情况在1859年发生了变化，当时詹姆斯·克拉克·麦克斯韦 James Clerk Maxwell对该领域做出了重大贡献，更具体地说，他提出了气体的动力学理论，假设气体粒子以随机速度向随机方向移动。气体动力学理论和统计物理在19世纪下半叶继续发展，其工作主要由克劳修斯，路德维希·玻尔兹曼和约西亚·威拉德·吉布斯完成，这些工作后来对阿尔伯特·爱因斯坦的布朗运动数学模型产生了影响。

测度论与概率论

1900年在巴黎举行的国际数学家大会上，大卫-希尔伯特（David Hilbert）提出了一份数学问题的清单，其中他的第六个问题要求对物理和概率的公理化进行数学处理。大约在20世纪初，数学家们发展了测度论，这是研究函数积分的数学分支，其中两位创始人是法国数学家亨利-勒贝斯格（Henri Lebesgue）和米尔-博莱尔É（mile Borel。）1925年，另一位法国数学家P保罗·莱维（aul Lévy出）版了第一本使用测度论思想的概率论书籍。

20世纪20年代，苏联的数学家们对概率论做出了重大贡献，比如谢尔盖-伯恩斯坦（Sergei Bernstein），亚历山大-辛钦（Aleksandr Khinchin，Khinchin这个名字也用英语写成（或音译成）Khintchine。）和安德烈-科尔莫戈罗夫（Andrei Kolmogorov）。 科尔莫戈罗夫于1984年发表了他的一次尝试，为概率论提出一个基于度量理论的数学基础。在20世纪30年代初，辛钦和科尔莫戈罗夫成立了概率研讨会，金-斯卢茨基（Eugene Slutsky等）、尼古拉-斯米尔诺夫（Nikolai Smirnov）等研究人员参加了这些研讨会，辛钦首次给出了随机变量的数学定义，即由实数索引的一组随机变量。（Doob在引用Khinchin时，使用了“机会变量”这个词，它曾经是“随机变量”的替代词。）

现代概率论的诞生 Birth of modern probability theory

1933年，德烈-科尔莫戈罗夫（Andrei Kolmogorov在）德国出版了一本关于概率论基础的书，名为《概率计算的基本概念》，后来翻译成英文，1950年出版，作为概率论的基础。这本书的出版现在被广泛认为是现代概率论的诞生，从此概率论和随机过程理论成为数学的一部分。

在科尔莫戈罗夫的书出版后，辛钦和科尔莫戈洛夫以及其他数学家如约瑟夫-杜布（Joseph Doob）、威廉-费勒（William Feller）、莫里斯-弗雷谢（Maurice Fréchet）、保罗-莱维（Paul Lévy）、沃尔夫冈-多布林（Wolfgang Doeblin）和哈拉尔-克拉梅尔（Harald Cramér），都在概率论和随机过程方面做了进一步的基础工作，

几十年后，克拉梅尔（Cramér）把20世纪30年代称为“数学概率论的英雄时期”。第二次世界大战很大程度上中断了概率论的发展。例如，大战导致费勒从瑞典迁移到美国，以及现在被认为是随机过程先驱的多布林的去世。

数学家约瑟夫-杜布（Joseph Doob）在随机过程理论方面做了早期的工作，做出了基本贡献，尤其是在鞅理论方面。他的书《随机过程》被在概率论领域具有很高的影响力。

二战后的随机过程

第二次世界大战后，概率论和随机过程的研究得到了数学家的更多关注，在概率论和数学的许多领域做出了重大贡献，并开创了新的领域统计学。从20世纪40年代开始，伊藤清司（Kiyosi Itô）发表了发展随机微积分领域的论文，其中设计基于维纳或布朗运动过程的随机积分和随机微分方程。

同样从20世纪40年代开始，随机过程（尤其是鞅）与数学领域的势理论之间建立了联系，角谷静夫（Shizuo Kakutani）的早期思想和后来约瑟夫（Joseph Doob）的工作都是如此。在20世纪50年代尔伯特-亨特G（ilbert Hunt）完成了被创性的进一步工作，他把马尔科夫过程和势能理论联系起来，这对莱维过程的理论产生了重大影响，并使人们对用伊藤开发的方法研究马尔科夫过程产生了更多兴趣。

1953年，约瑟夫-杜布（Joseph Doob）出版了《随机过程》一书，这本书对随机过程理论产生了重大影响，并强调了测度理论在概率论中的重要性。杜布还要发展了鞅理论，后来Paul-André Meyer也作出了重大贡献。早期的工作是由谢尔盖-伯恩斯坦（Sergei Bernstein）、保罗-莱维（Paul Lévy）和让-维尔（Jean Ville）进行的，后者对随机过程采用了“鞅”一词。鞅理论中的方法已成为解决各种概率问题的常用方法。研究马尔可夫过程的技术和理论被开发出来，然后被应用于鞅上。反之，从鞅理论中也建立了处理马尔可夫过程的方法。

概率的其他领域也被发展和用于随机过程的研究，其中一个主要方法是大偏差理论。 该理论在统计物理等领域有许多应用，其核心思想至少可以追溯到20世纪30年代。在20世纪60年代和70年代后期，苏联的亚历山大·温策尔（Alexander Wentzell）和美国的门罗-D-唐斯克（Monroe D.Donsker）以及斯里尼瓦萨-瓦拉丹（Srinivasa Varadhan）完成了基础工作，后来瓦拉丹获得了2007年阿贝尔奖。在上世纪90年代和21世纪，Schramm-Loewner演化和粗略路径理论被引入和发展来研究概率论中的随机过程和其他数学对象，这促使菲尔兹奖分别在2008年被授予德林-维尔纳W（endelin Werner），在2014年被授予马丁-海勒（Martin Hairer）。

随机过程理论仍然是研究的焦点，每年都有关于随机过程的国际会议。

特定随机过程的发现

虽然辛钦在1930年代给出了随机过程的数学定义，但在不同的环境中已经发现了具体的随机过程，如布朗运动过程和泊松过程。一些随机过程的族，如点过程或更新过程，有着漫长而复杂的历史，可以追溯到几个世纪前。

伯努利过程

伯努利过程可以作为抛出有偏的硬币的数学模型，它可能是第一个被研究的随机过程。这个过程是一连串独立的伯努利试验，伯努利是以杰克-伯努利（Jackob Bernoulli）的名字命名的，他用这些试验来研究机会博弈，包括克里斯蒂安-惠更斯（Christiaan Huygens）早先提出和研究的概率问题。伯努利的工作，包括伯努利过程，于1713年发表在他的《猜想论》一书中。

随机游走过程

1905年，卡尔-皮尔逊（Karl Pearson）在提出一个描述平面上随机行走的问题时，创造了随机游走这个术语，其动机是在生物学中的应用，但这种涉及随机行走的问题在其他领域已经得到研究。几个世纪前研究的某些赌博问题也可以被视为涉及随机漫步的问题。例如，被称为 "赌徒破产"的问题是基于一个简单的随机行走，是一个具有吸收障碍的随机行走的例子。帕斯卡尔、费马和惠恩斯都给出了这个问题的数值解决方案，但没有详细说明他们的方法，然后雅各布-伯努利（Jakob Bernoulli）和亚伯拉罕-德莫伊夫尔（ Abraham de Moivre）提出了更详细的解决方案。

对于n维整数格中的随机行走，乔治·波利亚（George Pólya）在1919年和1921年发表了工作，他研究了对称随机行走返回到格子中先前位置的概率。波利亚表明，一个对称的随机行走，在格子的任何方向前进的概率都是相同的，在一维和二维中会以概率1返回到格子中的前一个位置，但在三维或更高维度中概率为零。

维纳过程

维纳过程或布朗运动过程起源于不同的领域，包括统计学、金融学和物理学。1880年，托瓦尔·蒂勒（Thorvald Thiele）写了一篇关于最小二乘法的论文，他用这个过程来研究时间序列分析中模型的误差。这项工作现在被认为是卡尔曼滤波的统计方法的早期发现，但这项工作在很大程度上被忽略了。人们认为蒂勒的论文中的观点太过先进，以至于当时更广泛的数学和统计学界都不理解。

法国数学家路易斯·巴施里耶 (Louis Bachelier）在他1900年的论文中使用了维纳过程以模拟巴黎证券交易所的价格变化，但他并不知道蒂勒的工作。有人猜测巴施里耶从朱尔斯·雷格诺尔（Jules Regnault）的随机漫步模型中汲取了灵感，但Bachelier并没有引用他的话，而巴施里耶的论文现在被认为是金融数学领域的先驱。

人们普遍认为，巴施里耶的作品没有获得什么关注，被遗忘了几十年，直到20世纪50年代被伦纳德-萨维奇重新发现，然后在1964年被翻译成英文后变得更加流行。但这项工作在数学界从未被遗忘，因为巴施里耶在1912年出版了一本书，详细介绍了他的想法，这本书被包括杜布、费勒和科尔莫戈罗夫在内的数学家所引用。这本书仍然被引用着，但后来从1960年代开始，当经济学家开始引用巴施里耶的工作时，巴施里耶的原始论文开始被引用得多于他的书。

1905年，阿尔伯特-爱因斯坦发表了一篇论文，他研究了布朗运动或运动的物理观察，通过使用气体动力学理论的思想来解释液体中颗粒的看似随机的运动。爱因斯坦推导出一个被称为扩散方程的微分方程，用于描述在某一空间区域找到一个粒子的概率。在爱因斯坦发表第一篇关于布朗运动的论文后不久，马里安-斯莫鲁奇夫斯基（ Marian Smoluchowski）发表了他引用爱因斯坦的作品，但他写道，他通过使用不同的方法独立得出了同等的结果。

爱因斯坦的工作，以及让-佩兰获得的实验结果，后来在20世纪20年代启发了诺伯特-维纳，他使用珀西-丹尼尔发展的一种度量理论和傅里叶分析来证明维纳过程作为一个数学对象的存在。

泊松过程

泊松过程是以西梅翁·泊松（Siméon Poisson）的名字命名的，因为其定义涉及泊松分布，但泊松从未研究过这个过程。有许多关于泊松过程的早期使用或发现的说法。在20世纪初，泊松过程会在不同的情况下独立出现。1903年在瑞典，菲利普-伦德伯格（ Filip Lundberg）发表了一篇论文，其中包含的工作现在被认为是基本的和开创性的，他提出用一个齐次泊松过程来模拟保险索赔。

另一项发现发生在1909年的丹麦，当时尔朗（A.K.Erlang）在为有限时间间隔内的来电数量开发一个数学模型时得出了泊松分布。尔朗当时并不知道泊松的早期工作，他假设每个时间间隔内到达的电话数量是相互独立的。然后，他发现了极限情况，这实际上是将泊松分布重塑为二项分布的极限。

1910年，欧内斯特-卢瑟福（Ernest Rutherford ）和汉斯-盖格（Hans Geiger ）发表了关于α粒子计数的实验结果。在他们工作的推动下，哈里-贝特曼（Harry Bateman）研究了计数问题，并推导出泊松概率作为一组微分方程的解，从而独立发现了泊松过程。 在这之后，有许多关于泊松过程的研究和应用，但其早期历史很复杂，生物学家、生态学家、工程师和各种物理科学家在众多领域对该过程的各种应用已经说明了这一点。

马尔可夫过程

马尔可夫过程和马尔可夫链是以安德烈-马尔可夫命名的，他在20世纪初研究了马尔可夫链。马尔可夫对研究独立随机序列的扩展很感兴趣。在他于1906年发表的第一篇关于马尔可夫链的论文中，马尔可夫表明，在某些条件下，马尔可夫链的平均结果会收敛到一个固定的数值向量，因此证明了一个没有独立假设的弱大数法则， ，而独立假设曾被普遍认为是这种数学定律成立的条件之一。 马尔可夫后来用马尔可夫链来研究亚历山大-普希金写的《欧仁-奥涅金》中元音的分布，并证明了这种链的中心极限定理。

1912年，庞加莱（Poincaré）研究了有限群上的马尔科夫链，目的是研究重排。马尔科夫链的其他早期应用包括保罗（Paul）和塔季扬娜-埃伦费斯特（Tatyana Ehrenfest）在1907年提出的扩散模型，以及弗朗西斯-高尔顿（Francis Galton）和亨利-威廉-沃森（Henry William Watson）在1873年提出的分支过程，比马尔科夫的工作更早。 在高尔顿和沃森的工作之后，人们发现他们的分支过程在大约三十年前就被伊雷内-朱尔·比内梅（Irénée-Jules Bienaymé）独立发现和研究了。从1928年开始，莫里斯·弗雷歇（Maurice Fréchet）开始对马尔科夫链感兴趣，最终导致他在1938年发表了一篇关于马尔科夫链的详细研究。

安德雷·柯尔莫哥洛夫（Andrei Kolmogorov）在1931年的一篇论文中发展了早期连续时间马尔可夫过程的大部分理论。柯尔莫哥洛夫部分受到了路易斯·巴施里耶（Louis Bachelier）1900年关于股票市场波动的工作以及诺伯特·维纳（Norbert Wiener）关于爱因斯坦布朗运动模型的工作的启发。 他引入并研究了一组被称为扩散过程的特殊马尔可夫过程，然后在其上推导了一组描述该过程的微分方程。独立于柯尔莫哥洛夫的工作，悉尼-查普曼（Sydney Chapman）在1928年的一篇论文中，以比柯尔莫哥洛夫更不严格的数学方式，在研究布朗运动时得出了一个方程，现在称为查普曼-科尔莫戈罗夫方程。这些微分方程现在被称为科尔莫戈罗夫方程或科尔莫戈罗夫-查普曼方程。对马尔科夫过程的基础作出重大贡献的其他数学家包括从1930年代开始的威廉-费勒（William Feller），后来又有从1950年代开始的尤金-代金（Eugene Dynkin）。

莱维过程

像维纳过程和泊松过程一样的莱维过程由1930年带学习他们的保罗·莱维（Paul Lévy）命名，但是它们与无限可分分布的联系可以追溯到20世纪20年代。这一结果后来由莱维于1934年在更一般的条件下推导出来，然后辛钦（Khinchin）在1937年独立地给出了这一特征函数的另一种形式。除了莱维、辛钦和柯尔莫哥洛夫之外，福内梯B（runo de Finetti）和伊藤清（Kiyosi Itô）也对莱维过程的理论做出了早期的基本贡献。

编辑推荐

集智课程

熵率（Entropy-Rate）

在本课程中，程帆老师主要介绍了随机过程，熵率，热力学第二定律以及马氏链的函数相关知识。

集智文章

• 从用箭头构造矩阵到可表函子
• PNAS前沿：系统何时走向崩溃？深度学习算法帮助预警临界点
• 2021泛太平洋因果推断大会总结

---

本中文词条水流心不竞翻译，薄荷编辑，如有问题，欢迎在讨论页面留言。

本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。