更改

跳到导航 跳到搜索
删除113字节 、 2021年8月20日 (五) 23:45
无编辑摘要
第3行: 第3行:  
|description=重复的随机抽样来获得数值结果,利用随机性来解决理论上可能是确定性的问题,最优化,数值积分,依据概率分布生成图像
 
|description=重复的随机抽样来获得数值结果,利用随机性来解决理论上可能是确定性的问题,最优化,数值积分,依据概率分布生成图像
 
}}
 
}}
'''蒙特卡罗方法''' '''Monte Carlo methods''',或称'''蒙特卡罗实验''' '''Monte Carlo experiments''',是一大类计算算法的集合,依靠重复的随机抽样来获得数值结果。基本概念是利用随机性来解决理论上可能是确定性的问题。这类方法通常用于解决物理和数学问题,当面对棘手问题而束手无策时,往往它们可以大显身手。蒙特卡罗方法主要用于解决3类问题:<ref name=":1">{{cite journal|last1 = Kroese|first1 = D. P.|last2=Brereton|first2=T.|last3 = Taimre|first3 = T.|last4 = Botev|first4 = Z. I. |year =2014 |title=Why the Monte Carlo method is so important today |journal = WIREs Comput Stat|volume=6|issue = 6|pages = 386–392 |doi=10.1002/wics.1314|s2cid = 18521840|url = https://semanticscholar.org/paper/7a56b632de84d0b81f283750b11609a042890639}}</ref>最优化,数值积分,依据概率分布生成图像。
+
'''蒙特卡罗方法''' '''Monte Carlo methods''',或称'''蒙特卡罗实验''' '''Monte Carlo experiments''',是一大类计算算法的集合,依靠重复的随机抽样来获得数值结果。基本概念是利用随机性来解决理论上可能是确定性的问题。这类方法通常用于解决物理和数学问题,当面对棘手问题而束手无策时,往往它们可以大显身手。蒙特卡罗方法主要用于解决3类问题:<ref name=":1">{{cite journal|last1 = Kroese|first1 = D. P.|last2=Brereton|first2=T.|last3 = Taimre|first3 = T.|last4 = Botev|first4 = Z. I. |year =2014 |title=Why the Monte Carlo method is so important today |journal = WIREs Comput Stat|volume=6|issue = 6|pages = 386–392 |doi=10.1002/wics.1314|url = https://semanticscholar.org/paper/7a56b632de84d0b81f283750b11609a042890639}}</ref>最优化,数值积分,依据概率分布生成图像。
   −
在物理学相关问题中,蒙特卡罗方法可用于模拟具有多个耦合自由度的系统,如流体、无序材料、强耦合固体和细胞结构(参见'''细胞波茨模型 Cellular Potts Model、相互作用粒子系统 Interacting Particle Systems、麦肯-弗拉索夫过程 McKean-Vlasov Processes、气体动力学模型 Kinetic Models of Gases''')。
+
在物理学相关问题中,蒙特卡罗方法可用于模拟具有多个耦合自由度的系统,如流体、无序材料、强耦合固体和细胞结构(参见'''细胞波茨模型 Cellular Potts Model、相互作用粒子系统 Interacting Particle Systems、麦肯-弗拉索夫过程 McKean-Vlasov Processes、气体动力学模型 Kinetic Models of Gases''')。
   −
其他例子包括:对输入中具有重大不确定性的现象进行建模,如商业中的风险计算,以及在数学中对具有复杂边界条件的多维定积分进行评估。 在系统工程问题(空间、石油勘探、飞机设计等)的应用中,基于蒙特卡罗的故障预测、成本超支和进度超支通常比人类的直觉或其他的“软性”方法更有效。<ref name=":2">{{cite journal|last1 = Hubbard|first1 = Douglas|last2=Samuelson|first2 = Douglas A. |date = October 2009 |title=Modeling Without Measurements |url=http://viewer.zmags.com/publication/357348e6#/357348e6/28|journal = OR/MS Today|pages = 28–33}}</ref>
+
其他例子包括:对输入中具有重大不确定性的现象进行建模,如商业中的风险计算,以及在数学中对具有复杂边界条件的多维定积分进行评估。在系统工程问题(空间、石油勘探、飞机设计等)的应用中,基于蒙特卡罗的故障预测、成本超支和进度超支通常比人类的直觉或其他的“软性”方法更有效。<ref name=":2">{{cite journal|last1 = Hubbard|first1 = Douglas|last2=Samuelson|first2 = Douglas A. |date = October 2009 |title=Modeling Without Measurements |url=http://viewer.zmags.com/publication/357348e6#/357348e6/28|journal = OR/MS Today|pages = 28–33}}</ref>
   −
理论上,蒙特卡罗方法可以用来解决任何具有概率解释的问题。根据'''大数定律 Law of Large Numbers''',用某个随机变量的期望值描述的积分可以用该变量独立样本的经验均值 (即样本均值)来近似。 当变量的概率分布被参数化时,数学家们经常使用'''马尔可夫链蒙特卡罗 Markov chain Monte Carlo(MCMC)'''采样器。<ref name=":3">{{Cite journal|title = Equation of State Calculations by Fast Computing Machines|journal = The Journal of Chemical Physics|date = 1953-06-01|issn = 0021-9606|pages = 1087–1092|volume = 21|issue = 6|doi = 10.1063/1.1699114|first1 = Nicholas|last1 = Metropolis|first2 = Arianna W.|last2 = Rosenbluth|first3 = Marshall N.|last3 = Rosenbluth|first4 = Augusta H.|last4 = Teller|first5 = Edward|last5 = Teller|bibcode=1953JChPh..21.1087M|s2cid = 1046577|url = https://semanticscholar.org/paper/f6a13f116e270dde9d67848495f801cdb8efa25d}}</ref><ref name=":4">{{Cite journal|title = Monte Carlo sampling methods using Markov chains and their applications|journal = Biometrika|date = 1970-04-01|issn = 0006-3444|pages = 97–109|volume = 57|issue = 1|doi = 10.1093/biomet/57.1.97|first = W. K.|last = Hastings|bibcode = 1970Bimka..57...97H|s2cid = 21204149|url = https://semanticscholar.org/paper/143d2e02ab91ae6259576ac50b664b8647af8988}}</ref><ref name=":5">{{Cite journal|title = The Multiple-Try Method and Local Optimization in Metropolis Sampling|journal = Journal of the American Statistical Association|date = 2000-03-01|issn = 0162-1459|pages = 121–134|volume = 95|issue = 449|doi = 10.1080/01621459.2000.10473908|first1 = Jun S.|last1 = Liu|first2 = Faming|last2 = Liang|first3 = Wing Hung|last3 = Wong|s2cid = 123468109|url = https://semanticscholar.org/paper/ff17c129a8d32bb7dc7206230da612e94bd24b9f}}</ref>其中心思想是设计一个具有给定'''稳态概率分布 Stationary Probability Distribution'''的有效马尔可夫链模型。也就是说,在极限情况下,马尔科夫链蒙特卡洛方法生成的样本将成为来自期望(目标)分布的样本。<ref name=":6">{{cite journal | last1 = Spall | first1 = J. C. | year = 2003 | title = Estimation via Markov Chain Monte Carlo | doi = 10.1109/MCS.2003.1188770 | journal = IEEE Control Systems Magazine | volume = 23 | issue = 2| pages = 34–45 }}</ref><ref name=":7">{{Cite journal |doi = 10.1109/MCS.2018.2876959|title = Stationarity and Convergence of the Metropolis-Hastings Algorithm: Insights into Theoretical Aspects|journal = IEEE Control Systems Magazine |volume = 39|pages = 56–67|year = 2019|last1 = Hill|first1 = Stacy D.|last2 = Spall|first2 = James C.|s2cid = 58672766}}</ref> 通过'''遍历定理 Ergodic Theorem''',稳态分布可以用马尔科夫链蒙特卡洛采样器随机状态的经验测度来近似。  
+
理论上,蒙特卡罗方法可以用来解决任何具有概率解释的问题。根据'''大数定律 Law of Large Numbers''',用某个随机变量的期望值描述的积分可以用该变量独立样本的经验均值(即样本均值)来近似。当变量的概率分布被参数化时,数学家们经常使用'''马尔可夫链蒙特卡罗 Markov chain Monte Carlo(MCMC)'''采样器。<ref name=":3">{{Cite journal|title = Equation of State Calculations by Fast Computing Machines|journal = The Journal of Chemical Physics|date = 1953-06-01|issn = 0021-9606|pages = 1087–1092|volume = 21|issue = 6|doi = 10.1063/1.1699114|first1 = Nicholas|last1 = Metropolis|first2 = Arianna W.|last2 = Rosenbluth|first3 = Marshall N.|last3 = Rosenbluth|first4 = Augusta H.|last4 = Teller|first5 = Edward|last5 = Teller|bibcode=1953JChPh..21.1087M|url = https://semanticscholar.org/paper/f6a13f116e270dde9d67848495f801cdb8efa25d}}</ref><ref name=":4">{{Cite journal|title = Monte Carlo sampling methods using Markov chains and their applications|journal = Biometrika|date = 1970-04-01|issn = 0006-3444|pages = 97–109|volume = 57|issue = 1|doi = 10.1093/biomet/57.1.97|first = W. K.|last = Hastings|bibcode = 1970Bimka..57...97H|url = https://semanticscholar.org/paper/143d2e02ab91ae6259576ac50b664b8647af8988}}</ref><ref name=":5">{{Cite journal|title = The Multiple-Try Method and Local Optimization in Metropolis Sampling|journal = Journal of the American Statistical Association|date = 2000-03-01|issn = 0162-1459|pages = 121–134|volume = 95|issue = 449|doi = 10.1080/01621459.2000.10473908|first1 = Jun S.|last1 = Liu|first2 = Faming|last2 = Liang|first3 = Wing Hung|last3 = Wong|url = https://semanticscholar.org/paper/ff17c129a8d32bb7dc7206230da612e94bd24b9f}}</ref>其中心思想是设计一个具有给定'''稳态概率分布 Stationary Probability Distribution'''的有效马尔可夫链模型。也就是说,在极限情况下,马尔科夫链蒙特卡洛方法生成的样本将成为来自期望(目标)分布的样本。<ref name=":6">{{cite journal | last1 = Spall | first1 = J. C. | year = 2003 | title = Estimation via Markov Chain Monte Carlo | doi = 10.1109/MCS.2003.1188770 | journal = IEEE Control Systems Magazine | volume = 23 | issue = 2| pages = 34–45 }}</ref><ref name=":7">{{Cite journal |doi = 10.1109/MCS.2018.2876959|title = Stationarity and Convergence of the Metropolis-Hastings Algorithm: Insights into Theoretical Aspects|journal = IEEE Control Systems Magazine |volume = 39|pages = 56–67|year = 2019|last1 = Hill|first1 = Stacy D.|last2 = Spall|first2 = James C.}}</ref> 通过'''遍历定理 Ergodic Theorem''',稳态分布可以用马尔科夫链蒙特卡洛采样器随机状态的经验测度来近似。  
   −
在其他问题中,要实现的目标则是从满足非线性演化方程的概率分布序列中生成图像。这些概率分布流总是可以解释为'''马尔可夫过程 Markov process'''的随机状态的分布,其转移概率依赖于当前随机状态的分布(见麦肯-弗拉索夫过程,'''非线性滤波方程 Nonlinear Filtering Equation''')。<ref name="kol10">{{cite book|last = Kolokoltsov|first = Vassili|title = Nonlinear Markov processes|year = 2010|publisher = Cambridge Univ. Press|pages = 375}}</ref><ref name="dp13">{{cite book|last = Del Moral|first = Pierre|title = Mean field simulation for Monte Carlo integration|year = 2013|publisher = Chapman & Hall/CRC Press|quote = Monographs on Statistics & Applied Probability|url = http://www.crcpress.com/product/isbn/9781466504059|pages = 626}}</ref>其他情况下,我们给出了采样复杂度不断增加的概率分布流(如时间范围不断增加的路径空间模型,与温度参数降低有联系的'''玻尔兹曼—吉布斯测度 Boltzmann-Gibbs Measures''',以及许多其他例子)。这些模型也可以看作是一个非线性马尔可夫链的随机状态规律的演化。<ref name="dp13" /><ref name=":8">{{Cite journal|title = Sequential Monte Carlo samplers | last1 = Del Moral | first1 = P | last2 = Doucet | first2 = A | last3 = Jasra | first3 = A | year = 2006 |doi=10.1111/j.1467-9868.2006.00553.x|volume=68| issue = 3 |journal=Journal of the Royal Statistical Society, Series B|pages=411–436|arxiv = cond-mat/0212648| s2cid = 12074789 }}</ref>模拟这些复杂非线性马尔可夫过程的一个自然的方法是对过程的多个副本进行抽样,用抽样的经验测度替代演化方程中未知的随机状态分布。与传统的蒙特卡罗和马尔科夫链蒙特卡洛方法相比,这些'''平均场粒子 Mean Field Particle'''技术依赖于连续相互作用的样本。平均场一词反映了每个样本(也就是粒子、个体、步行者、媒介、生物或表现型)与过程的经验测量相互作用的事实。当系统大小趋近于无穷时,这些随机经验测度收敛于非线性马尔可夫链随机状态的确定性分布,从而使粒子之间的统计相互作用消失。
+
在其他问题中,要实现的目标则是从满足非线性演化方程的概率分布序列中生成图像。这些概率分布流总是可以解释为'''马尔可夫过程 Markov process'''的随机状态的分布,其转移概率依赖于当前随机状态的分布(见麦肯-弗拉索夫过程,'''非线性滤波方程 Nonlinear Filtering Equation''')。<ref name="kol10">{{cite book|last = Kolokoltsov|first = Vassili|title = Nonlinear Markov processes|year = 2010|publisher = Cambridge Univ. Press|pages = 375}}</ref><ref name="dp13">{{cite book|last = Del Moral|first = Pierre|title = Mean field simulation for Monte Carlo integration|year = 2013|publisher = Chapman & Hall/CRC Press|quote = Monographs on Statistics & Applied Probability|url = http://www.crcpress.com/product/isbn/9781466504059|pages = 626}}</ref>其他情况下,我们给出了采样复杂度不断增加的概率分布流(如时间范围不断增加的路径空间模型,与温度参数降低有联系的'''玻尔兹曼—吉布斯测度 Boltzmann-Gibbs Measures''',以及许多其他例子)。这些模型也可以看作是一个非线性马尔可夫链的随机状态规律的演化。<ref name="dp13" /><ref name=":8">{{Cite journal|title = Sequential Monte Carlo samplers | last1 = Del Moral | first1 = P | last2 = Doucet | first2 = A | last3 = Jasra | first3 = A | year = 2006 |doi=10.1111/j.1467-9868.2006.00553.x|volume=68| issue = 3 |journal=Journal of the Royal Statistical Society, Series B|pages=411–436|arxiv = cond-mat/0212648}}</ref>模拟这些复杂非线性马尔可夫过程的一个自然的方法是对过程的多个副本进行抽样,用抽样的经验测度替代演化方程中未知的随机状态分布。与传统的蒙特卡罗和马尔科夫链蒙特卡洛方法相比,这些'''平均场粒子 Mean Field Particle'''技术依赖于连续相互作用的样本。平均场一词反映了每个样本(也就是粒子、个体、步行者、媒介、生物或表现型)与过程的经验测量相互作用的事实。当系统大小趋近于无穷时,这些随机经验测度收敛于非线性马尔可夫链随机状态的确定性分布,从而使粒子之间的统计相互作用消失。
   −
尽管其概念和算法简单,但与蒙特卡罗模拟相关的计算成本却是高的惊人。一般情况下,该方法需要大量的样本来获得良好的近似,如果单个样本的处理时间较长,可能会导致总运行时间长度难以控制。<ref>Shonkwiler, R. W.; Mendivil, F. (2009). ''Explorations in Monte Carlo Methods''. Springer.</ref>尽管在非常复杂的问题中,这是一个严重的限制,但该算法令人尴尬的并行性质允许通过本地处理器、集群、云计算、GPU、FPGA等的并行计算策略来降低高昂的成本(或许降低到可以接受的水平上)。<ref>Atanassova, E.; Gurov, T.; Karaivanova, A.; Ivanovska, S.; Durchova, M.; Dimitrov, D. (2016). "On the parallelization approaches for Intel MIC architecture". ''AIP Conference Proceedings''. '''1773''': 070001. doi:10.1063/1.4964983.</ref><ref>Cunha Jr, A.; Nasser, R.; Sampaio, R.; Lopes, H.; Breitman, K. (2014). "Uncertainty quantification through the Monte Carlo method in a cloud computing setting". ''Computer Physics Communications''. '''185'''(5): 1355–1363. doi:10.1016/j.cpc.2014.01.006.</ref><ref>Wei, J.; Kruis, F.E. (2013). "A GPU-based parallelized Monte-Carlo method for particle coagulation using an acceptance–rejection strategy". ''Chemical Engineering Science''. '''104''': 451–459. doi:10.1016/j.ces.2013.08.008.</ref><ref>Lin, Y.; Wang, F.; Liu, B. (2018). "Random number generators for large-scale parallel Monte Carlo simulations on FPGA". ''Journal of Computational Physics''. '''360''': 93–103. doi:10.1016/j.jcp.2018.01.029.</ref>
+
尽管其概念和算法简单,但与蒙特卡罗模拟相关的计算成本却是高的惊人。一般情况下,该方法需要大量的样本来获得良好的近似,如果单个样本的处理时间较长,可能会导致总运行时间长度难以控制。<ref>Shonkwiler, R. W.; Mendivil, F. (2009). ''Explorations in Monte Carlo Methods''. Springer.</ref>尽管在非常复杂的问题中,这是一个严重的限制,但该算法令人尴尬的并行性质允许通过本地处理器、集群、云计算、GPU、FPGA等的并行计算策略来降低高昂的成本(或许降低到可以接受的水平上)。<ref>Atanassova, E.; Gurov, T.; Karaivanova, A.; Ivanovska, S.; Durchova, M.; Dimitrov, D. (2016). "On the parallelization approaches for Intel MIC architecture". ''AIP Conference Proceedings''. '''1773''': 070001. doi:10.1063/1.4964983.</ref><ref>Cunha Jr, A.; Nasser, R.; Sampaio, R.; Lopes, H.; Breitman, K. (2014). "Uncertainty quantification through the Monte Carlo method in a cloud computing setting". ''Computer Physics Communications''. '''185'''(5): 1355–1363. doi:10.1016/j.cpc.2014.01.006.</ref><ref>Wei, J.; Kruis, F.E. (2013). "A GPU-based parallelized Monte-Carlo method for particle coagulation using an acceptance–rejection strategy". ''Chemical Engineering Science''. '''104''': 451–459. doi:10.1016/j.ces.2013.08.008.</ref><ref>Lin, Y.; Wang, F.; Liu, B. (2018). "Random number generators for large-scale parallel Monte Carlo simulations on FPGA". ''Journal of Computational Physics''. '''360''': 93–103. doi:10.1016/j.jcp.2018.01.029.</ref>
    
==概述==
 
==概述==
第24行: 第24行:  
3、对输入进行确定性计算
 
3、对输入进行确定性计算
   −
4、汇总结果[[File:Pi 30K.gif|thumb|right|蒙特卡罗方法应用于估计π值。|链接=Special:FilePath/Pi_30K.gif]]
+
4、汇总结果
 +
 
 +
[[File:Pi 30K.gif|thumb|right|蒙特卡罗方法应用于估计π值。|链接=Special:FilePath/Pi_30K.gif]]
    
例如,考虑一个单位正方形内嵌的四分之一圆。考虑到它们的面积比是π/4,π的值可以用蒙特卡罗方法来近似:<ref name=":9" />
 
例如,考虑一个单位正方形内嵌的四分之一圆。考虑到它们的面积比是π/4,π的值可以用蒙特卡罗方法来近似:<ref name=":9" />
第36行: 第38行:  
4、四分之一圆内部计数与总样本计数之比是两个区域之比的估计值,π/4。把结果乘以4就可以估算出π的值。
 
4、四分之一圆内部计数与总样本计数之比是两个区域之比的估计值,π/4。把结果乘以4就可以估算出π的值。
   −
在这个过程中,输入域是限定四分之一圆的正方形。我们通过将颗粒散射到正方形上来产生随机输入,然后对每个输入执行计算(测试它是否在四分之一圆内)。汇总这些结果会产生最终的结果—π的近似值。
+
在这个过程中,输入域是限定四分之一圆的正方形。我们通过将颗粒散射到正方形上来产生随机输入,然后对每个输入执行计算(测试它是否在四分之一圆内)。汇总这些结果会产生最终的结果——π的近似值。
    
有两个重要的考虑因素:
 
有两个重要的考虑因素:
第47行: 第49行:     
==历史==
 
==历史==
在开发蒙特卡罗方法之前,人们模拟测试一个已经解决的确定性问题,通过统计抽样估计模拟中的不确定性。蒙特卡罗模拟将这种方法反转,使用'''概率元启发式方法Probabilistic Metaheuristics'''解决确定性问题(参见'''模拟退火法 Simulated Annealing''')。
+
在开发蒙特卡罗方法之前,人们模拟测试一个已经解决的确定性问题,通过统计抽样估计模拟中的不确定性。蒙特卡罗模拟将这种方法反转,使用'''概率元启发式方法Probabilistic Metaheuristics'''解决确定性问题(参见'''模拟退火法 Simulated Annealing''')。
    
蒙特卡罗方法的早期变种被设计来解决 '''布丰投针 Buffon's Needle Problem'''问题,在布丰投针问题中,π可以通过将针落在由平行等距条组成的地板上来估计。20世纪30年代,'''恩里科·费米 Enrico Fermi'''在研究中子扩散时首次尝试了蒙特卡罗方法,但他没有发表这项工作。<ref name=":10">Metropolis, N. (1987). "The beginning of the Monte Carlo method" (PDF). ''Los Alamos Science'' (1987 Special Issue dedicated to Stanislaw Ulam): 125–130.</ref>
 
蒙特卡罗方法的早期变种被设计来解决 '''布丰投针 Buffon's Needle Problem'''问题,在布丰投针问题中,π可以通过将针落在由平行等距条组成的地板上来估计。20世纪30年代,'''恩里科·费米 Enrico Fermi'''在研究中子扩散时首次尝试了蒙特卡罗方法,但他没有发表这项工作。<ref name=":10">Metropolis, N. (1987). "The beginning of the Monte Carlo method" (PDF). ''Los Alamos Science'' (1987 Special Issue dedicated to Stanislaw Ulam): 125–130.</ref>
   −
20世纪40年代末,'''斯坦尼斯拉夫·乌拉姆 Stanislaw Ulam'''在洛斯阿拉莫斯国家实验室研究核武器项目时,发明了现代版的马尔可夫链蒙特卡罗方法。在乌拉姆的突破之后,'''约翰·冯·诺伊曼 John von Neumann'''立即意识到了它的重要性。冯·诺伊曼为ENIAC(人类第一台电子数字积分计算机)编写了程序来进行蒙特卡罗计算。1946年,洛斯阿拉莫斯的核武器物理学家正在研究中子在可裂变材料中的扩散。<ref name=":10" />尽管拥有大部分必要的数据,例如中子在与原子核碰撞之前在物质中的平均运行距离,以及碰撞后中子可能释放出多少能量,但洛斯阿拉莫斯的物理学家们无法用传统的、确定性的数学方法解决这个问题。此时乌拉姆建议使用随机实验。他后来回忆当初灵感产生过程:
+
20世纪40年代末,'''斯坦尼斯拉夫·乌拉姆 Stanislaw Ulam'''在洛斯阿拉莫斯国家实验室研究核武器项目时,发明了现代版的马尔可夫链蒙特卡罗方法。在乌拉姆的突破之后,'''约翰·冯·诺伊曼 John von Neumann'''立即意识到了它的重要性。冯·诺伊曼为ENIAC(人类第一台电子数字积分计算机)编写了程序来进行蒙特卡罗计算。1946年,洛斯阿拉莫斯的核武器物理学家正在研究中子在可裂变材料中的扩散。<ref name=":10" />尽管拥有大部分必要的数据,例如中子在与原子核碰撞之前在物质中的平均运行距离,以及碰撞后中子可能释放出多少能量,但洛斯阿拉莫斯的物理学家们无法用传统的、确定性的数学方法解决这个问题。此时乌拉姆建议使用随机实验。他后来回忆当初灵感产生过程:
   −
我最初构想和尝试蒙特卡洛法是在1946年,当时我正从疾病中康复,时常玩单人纸牌游戏。那时我会思考这样一个问题:一盘52张的加菲尔德纸牌成功出牌的几率有多大?在花了大量时间尝试通过纯粹的组合计算来估计它们之后,我想知道是否有一种比“抽象思维”更实际的方法,可能不是将它展开100次,然后简单地观察和计算成功的游戏数量。在快速计算机新时代开始时,这已经是可以想象的了,我立刻想到了中子扩散和其他数学物理的问题,以及更一般的情形—如何将由某些微分方程描述的过程转换成可解释为一系列随机操作的等价形式。后来(1946年),我向约翰·冯·诺伊曼描述了这个想法,然后我们开始计划实际的计算。<ref>Eckhardt, Roger (1987). "Stan Ulam, John von Neumann, and the Monte Carlo method" (PDF). ''Los Alamos Science'' (15): 131–137.</ref>
+
我最初构想和尝试蒙特卡洛法是在1946年,当时我正从疾病中康复,时常玩单人纸牌游戏。那时我会思考这样一个问题:一盘52张的加菲尔德纸牌成功出牌的几率有多大?在花了大量时间尝试通过纯粹的组合计算来估计它们之后,我想知道是否有一种比“抽象思维”更实际的方法,可能不是将它展开100次,然后简单地观察和计算成功的游戏数量。在快速计算机新时代开始时,这已经是可以想象的了,我立刻想到了中子扩散和其他数学物理的问题,以及更一般的情形—如何将由某些微分方程描述的过程转换成可解释为一系列随机操作的等价形式。后来(1946年),我向约翰·冯·诺伊曼描述了这个想法,然后我们开始计划实际的计算。<ref>Eckhardt, Roger (1987). "Stan Ulam, John von Neumann, and the Monte Carlo method" (PDF). ''Los Alamos Science'' (15): 131–137.</ref>
   −
冯 · 诺依曼和乌拉姆的工作是秘密进行的,需要一个代号。<ref>Mazhdrakov, Metodi; Benov, Dobriyan; Valkanov, Nikolai (2018). ''The Monte Carlo Method. Engineering Applications''. ACMO Academic Press. p. 250. ISBN <bdi>978-619-90684-3-4</bdi>.</ref> 冯 · 诺依曼和乌拉姆的一位同事,'''尼古拉斯·梅特罗波利斯 Nicholas Metropolis'''建议使用蒙特卡洛这个名字,这个名字指的是摩纳哥的蒙特卡洛赌场,乌拉姆的叔叔会和亲戚借钱然后去那里赌博。<ref name=":10" />使用“真正随机”的随机数列表是非常慢的,然而冯 · 诺依曼使用'''平方取中法 Middle-Square Method'''开发了一种计算伪随机数生成器的方法。虽然许多人一直批评这种方法较为粗糙原始,但是冯 · 诺依曼也意识到这一点:他证明这种方法比任何其他方法都快,并指出当它出错时,人们可以轻易发现,不像其他方法产生的错误可能会不易察觉。<ref>Peragine, Michael (2013). ''The Universal Mind: The Evolution of Machine Intelligence and Human Psychology''. Xiphias Press. Retrieved 2018-12-17.</ref>
+
冯·诺依曼和乌拉姆的工作是秘密进行的,需要一个代号。<ref>Mazhdrakov, Metodi; Benov, Dobriyan; Valkanov, Nikolai (2018). ''The Monte Carlo Method. Engineering Applications''. ACMO Academic Press. p. 250. ISBN <bdi>978-619-90684-3-4</bdi>.</ref> 冯·诺依曼和乌拉姆的一位同事,'''尼古拉斯·梅特罗波利斯 Nicholas Metropolis'''建议使用蒙特卡洛这个名字,这个名字指的是摩纳哥的蒙特卡洛赌场,乌拉姆的叔叔会和亲戚借钱然后去那里赌博。<ref name=":10" />使用“真正随机”的随机数列表是非常慢的,然而冯·诺依曼使用'''平方取中法 Middle-Square Method'''开发了一种计算伪随机数生成器的方法。虽然许多人一直批评这种方法较为粗糙原始,但是冯·诺依曼也意识到这一点:他证明这种方法比任何其他方法都快,并指出当它出错时,人们可以轻易发现,不像其他方法产生的错误可能会不易察觉。<ref>Peragine, Michael (2013). ''The Universal Mind: The Evolution of Machine Intelligence and Human Psychology''. Xiphias Press. Retrieved 2018-12-17.</ref>
    
尽管受到当时的计算工具严重限制,蒙特卡洛方法依然是'''曼哈顿计划 Manhattan Project'''所需模拟的核心关键。20世纪50年代,它们在洛斯阿拉莫斯用于与氢弹开发有关的早期工作,并在物理学、物理化学和运筹学领域得到普及。'''兰德公司 Rand Corporation'''和美国空军是当时负责资助和宣传蒙特卡罗方法信息的两个主要组织,从那时起他们开始在许多不同的领域广泛地应用这一方法。
 
尽管受到当时的计算工具严重限制,蒙特卡洛方法依然是'''曼哈顿计划 Manhattan Project'''所需模拟的核心关键。20世纪50年代,它们在洛斯阿拉莫斯用于与氢弹开发有关的早期工作,并在物理学、物理化学和运筹学领域得到普及。'''兰德公司 Rand Corporation'''和美国空军是当时负责资助和宣传蒙特卡罗方法信息的两个主要组织,从那时起他们开始在许多不同的领域广泛地应用这一方法。
   −
更复杂的平均场型粒子蒙特卡罗方法的理论产生于20世纪60年代中期,最初来自于'''小亨利·麦基恩 Henry P. McKean Jr.''' 研究流体力学中出现的一类非线性抛物型偏微分方程的马尔可夫解释。<ref name="mck67">{{cite journal |last = McKean |first = Henry, P. |title = Propagation of chaos for a class of non-linear parabolic equations |journal = Lecture Series in Differential Equations, Catholic Univ. |year = 1967 |volume = 7 |pages = 41–57 }}</ref><ref>{{cite journal |last1 = McKean |first1 = Henry, P. |title = A class of Markov processes associated with nonlinear parabolic equations |journal = Proc. Natl. Acad. Sci. USA |year = 1966 |volume = 56 |issue = 6 |pages = 1907–1911 |doi = 10.1073/pnas.56.6.1907 |pmid = 16591437 |pmc = 220210 |bibcode = 1966PNAS...56.1907M }}</ref> '''西奥多·爱德华·哈里斯 Theodore E. Harris'''和'''赫曼·卡恩 Herman Kahn'''在1951年发表了一篇开创性文章,使用平均场遗传型蒙特卡罗方法来估计粒子传输能量。<ref>{{cite journal |last1 = Herman |first1 = Kahn |last2 = Theodore |first2 = Harris E. |title = Estimation of particle transmission by random sampling |journal = Natl. Bur. Stand. Appl. Math. Ser. |year = 1951 |volume = 12 |pages = 27–30 |url = https://dornsifecms.usc.edu/assets/sites/520/docs/kahnharris.pdf }}</ref> 这一方法在演化计算中也被用作启发式自然搜索算法(又称元启发式)。这些平均场计算技术的起源可以追溯到1950年和1954年,当时'''艾伦·图灵 Alan Turing'''在基因类型突变-选择学习机器上的工作,<ref>{{cite journal |last = Turing |first = Alan M. |title = Computing machinery and intelligence|journal = Mind|volume = LIX |issue = 238 |pages = 433–460 |doi = 10.1093/mind/LIX.236.433 |year = 1950 }}</ref>以及来自新泽西州普林斯顿高等研究院的'''尼尔斯·阿尔·巴里里利 Nils Aall Barricelli'''的文章。<ref>{{cite journal |last = Barricelli |first = Nils Aall |year = 1954 |author-link = Nils Aall Barricelli |title = Esempi numerici di processi di evoluzione |journal = Methodos |pages = 45–68 }}</ref><ref>{{cite journal |last = Barricelli |first = Nils Aall |year = 1957 |author-link = Nils Aall Barricelli |title = Symbiogenetic evolution processes realized by artificial methods |journal = Methodos |pages = 143–182 }}</ref>
+
更复杂的平均场型粒子蒙特卡罗方法的理论产生于20世纪60年代中期,最初来自于'''小亨利·麦基恩 Henry P. McKean Jr.''' 研究流体力学中出现的一类非线性抛物型偏微分方程的马尔可夫解释。<ref name="mck67">{{cite journal |last = McKean |first = Henry, P. |title = Propagation of chaos for a class of non-linear parabolic equations |journal = Lecture Series in Differential Equations, Catholic Univ. |year = 1967 |volume = 7 |pages = 41–57 }}</ref><ref>{{cite journal |last1 = McKean |first1 = Henry, P. |title = A class of Markov processes associated with nonlinear parabolic equations |journal = Proc. Natl. Acad. Sci. USA |year = 1966 |volume = 56 |issue = 6 |pages = 1907–1911 |doi = 10.1073/pnas.56.6.1907 |pmid = 16591437 |pmc = 220210 |bibcode = 1966PNAS...56.1907M }}</ref> '''西奥多·爱德华·哈里斯 Theodore E. Harris'''和'''赫曼·卡恩 Herman Kahn'''在1951年发表了一篇开创性文章,使用平均场遗传型蒙特卡罗方法来估计粒子传输能量。<ref>{{cite journal |last1 = Herman |first1 = Kahn |last2 = Theodore |first2 = Harris E. |title = Estimation of particle transmission by random sampling |journal = Natl. Bur. Stand. Appl. Math. Ser. |year = 1951 |volume = 12 |pages = 27–30 |url = https://dornsifecms.usc.edu/assets/sites/520/docs/kahnharris.pdf }}</ref> 这一方法在演化计算中也被用作启发式自然搜索算法(又称元启发式)。这些平均场计算技术的起源可以追溯到1950年和1954年,当时'''阿兰·图灵 Alan Turing'''在基因类型突变-选择学习机器上的工作,<ref>{{cite journal |last = Turing |first = Alan M. |title = Computing machinery and intelligence|journal = Mind|volume = LIX |issue = 238 |pages = 433–460 |doi = 10.1093/mind/LIX.236.433 |year = 1950 }}</ref>以及来自新泽西州普林斯顿高等研究院的'''尼尔斯·阿尔·巴里里利 Nils Aall Barricelli'''的文章。<ref>{{cite journal |last = Barricelli |first = Nils Aall |year = 1954 |title = Esempi numerici di processi di evoluzione |journal = Methodos |pages = 45–68 }}</ref><ref>{{cite journal |last = Barricelli |first = Nils Aall |year = 1957 |title = Symbiogenetic evolution processes realized by artificial methods |journal = Methodos |pages = 143–182 }}</ref>
   −
量子蒙特卡罗方法,更具体地说,扩散蒙特卡罗方法也可以解释为'''费曼—卡茨路径积分 Feynman–Kac Path Integrals'''的平均场粒子蒙特卡罗近似。<ref name="dp04">{{cite book |last = Del Moral |first = Pierre|title = Feynman–Kac formulae. Genealogical and interacting particle approximations |year = 2004 |publisher = Springer |quote = Series: Probability and Applications |url = https://www.springer.com/mathematics/probability/book/978-0-387-20268-6 |page = 575 |isbn = 9780387202686|series = Probability and Its Applications}}</ref><ref name="dmm002">Del Moral, P.; Miclo, L. (2000). "Branching and interacting particle systems approximations of Feynman–Kac formulae with applications to non-linear filtering". ''Séminaire de Probabilités, XXXIV''. Lecture Notes in Mathematics. '''1729'''. Berlin: Springer. pp. 1–145. doi:10.1007/BFb0103798. ISBN <bdi>978-3-540-67314-9</bdi><nowiki>. MR 1768060.}}</nowiki></ref><ref name="dmm00m">{{cite journal|last1 = Del Moral|first1 = Pierre|last2 = Miclo|first2 = Laurent|title = A Moran particle system approximation of Feynman–Kac formulae.|journal = Stochastic Processes and Their Applications |year = 2000|volume = 86|issue = 2|pages = 193–216|doi = 10.1016/S0304-4149(99)00094-0|doi-access = free}}</ref><ref name="dm-esaim03">{{cite journal|last1 = Del Moral|first1 = Pierre|title = Particle approximations of Lyapunov exponents connected to Schrödinger operators and Feynman–Kac semigroups|journal = ESAIM Probability & Statistics|date = 2003|volume = 7|pages = 171–208|url = http://journals.cambridge.org/download.php?file=%2FPSS%2FPSS7%2FS1292810003000016a.pdf&code=a0dbaa7ffca871126dc05fe2f918880a|doi = 10.1051/ps:2003001|doi-access = free}}</ref><ref name="caffarel1">{{cite journal|last1 = Assaraf|first1 = Roland|last2 = Caffarel|first2 = Michel|last3 = Khelif|first3 = Anatole|title = Diffusion Monte Carlo Methods with a fixed number of walkers|journal = Phys. Rev. E|url = http://qmcchem.ups-tlse.fr/files/caffarel/31.pdf|date = 2000|volume = 61|issue = 4|pages = 4566–4575|doi = 10.1103/physreve.61.4566|pmid = 11088257|bibcode = 2000PhRvE..61.4566A|url-status = dead|archiveurl = https://web.archive.org/web/20141107015724/http://qmcchem.ups-tlse.fr/files/caffarel/31.pdf|archivedate = 2014-11-07 }}</ref><ref name="caffarel2">{{cite journal|last1 = Caffarel|first1 = Michel|last2 = Ceperley|first2 = David |last3 = Kalos|first3 = Malvin|title = Comment on Feynman–Kac Path-Integral Calculation of the Ground-State Energies of Atoms|journal = Phys. Rev. Lett.|date = 1993|volume = 71|issue = 13|doi = 10.1103/physrevlett.71.2159|bibcode = 1993PhRvL..71.2159C|pages=2159|pmid=10054598}}</ref><ref name="h84">{{cite journal |last = Hetherington|first = Jack, H.|title = Observations on the statistical iteration of matrices|journal = Phys. Rev. A |date = 1984|volume = 30|issue = 2713|doi = 10.1103/PhysRevA.30.2713|pages = 2713–2719|bibcode = 1984PhRvA..30.2713H}}</ref> 量子蒙特卡罗方法的起源通常归功于'''恩里科·费米Enrico Fermi'''和'''罗伯特·里希特迈耶 Robert Richtmyer'''于1948年开发了中子链式反应的平均场粒子解释,<ref name=":11">{{cite journal|last1 = Fermi|first1 = Enrique|last2 = Richtmyer|first2 = Robert, D.|title = Note on census-taking in Monte Carlo calculations|journal = LAM|date = 1948|volume = 805|issue = A|url = http://scienze-como.uninsubria.it/bressanini/montecarlo-history/fermi-1948.pdf|quote = Declassified report Los Alamos Archive}}</ref>但是用于估计量子系统的基态能量(在简化矩阵模型中)的第一个类启发式和遗传型粒子算法(也称为重取样或重构蒙特卡洛方法)则是由杰克·H·海瑟林顿在1984年<ref name="h84" /> 提出。在分子化学中,使用遗传类启发式的粒子方法(又名删减和富集策略)可以追溯到1955年—'''马歇尔·罗森布鲁斯 Marshall Rosenbluth'''和'''阿里安娜·罗森布鲁斯Arianna Rosenbluth'''的开创性工作。<ref name=":0">Rosenbluth, Marshall, N.; Rosenbluth, Arianna, W. (1955). "Monte-Carlo calculations of the average extension of macromolecular chains". ''J. Chem. Phys''. '''23''' (2): 356–359. Bibcode:1955JChPh..23..356R. doi:10.1063/1.1741967. S2CID 89611599.</ref>
+
量子蒙特卡罗方法,更具体地说,扩散蒙特卡罗方法也可以解释为'''费曼-卡茨路径积分 Feynman–Kac Path Integrals'''的平均场粒子蒙特卡罗近似。<ref name="dp04">{{cite book |last = Del Moral |first = Pierre|title = Feynman–Kac formulae. Genealogical and interacting particle approximations |year = 2004 |publisher = Springer |quote = Series: Probability and Applications |url = https://www.springer.com/mathematics/probability/book/978-0-387-20268-6 |page = 575 |isbn = 9780387202686|series = Probability and Its Applications}}</ref><ref name="dmm002">Del Moral, P.; Miclo, L. (2000). "Branching and interacting particle systems approximations of Feynman–Kac formulae with applications to non-linear filtering". ''Séminaire de Probabilités, XXXIV''. Lecture Notes in Mathematics. '''1729'''. Berlin: Springer. pp. 1–145. doi:10.1007/BFb0103798. ISBN <bdi>978-3-540-67314-9</bdi><nowiki>. MR 1768060.}}</nowiki></ref><ref name="dmm00m">{{cite journal|last1 = Del Moral|first1 = Pierre|last2 = Miclo|first2 = Laurent|title = A Moran particle system approximation of Feynman–Kac formulae.|journal = Stochastic Processes and Their Applications |year = 2000|volume = 86|issue = 2|pages = 193–216|doi = 10.1016/S0304-4149(99)00094-0|doi-access = free}}</ref><ref name="dm-esaim03">{{cite journal|last1 = Del Moral|first1 = Pierre|title = Particle approximations of Lyapunov exponents connected to Schrödinger operators and Feynman–Kac semigroups|journal = ESAIM Probability & Statistics|date = 2003|volume = 7|pages = 171–208|url = http://journals.cambridge.org/download.php?file=%2FPSS%2FPSS7%2FS1292810003000016a.pdf&code=a0dbaa7ffca871126dc05fe2f918880a|doi = 10.1051/ps:2003001|doi-access = free}}</ref><ref name="caffarel1">{{cite journal|last1 = Assaraf|first1 = Roland|last2 = Caffarel|first2 = Michel|last3 = Khelif|first3 = Anatole|title = Diffusion Monte Carlo Methods with a fixed number of walkers|journal = Phys. Rev. E|url = http://qmcchem.ups-tlse.fr/files/caffarel/31.pdf|date = 2000|volume = 61|issue = 4|pages = 4566–4575|doi = 10.1103/physreve.61.4566|pmid = 11088257|bibcode = 2000PhRvE..61.4566A|url-status = dead|archiveurl = https://web.archive.org/web/20141107015724/http://qmcchem.ups-tlse.fr/files/caffarel/31.pdf|archivedate = 2014-11-07 }}</ref><ref name="caffarel2">{{cite journal|last1 = Caffarel|first1 = Michel|last2 = Ceperley|first2 = David |last3 = Kalos|first3 = Malvin|title = Comment on Feynman–Kac Path-Integral Calculation of the Ground-State Energies of Atoms|journal = Phys. Rev. Lett.|date = 1993|volume = 71|issue = 13|doi = 10.1103/physrevlett.71.2159|bibcode = 1993PhRvL..71.2159C|pages=2159|pmid=10054598}}</ref><ref name="h84">{{cite journal |last = Hetherington|first = Jack, H.|title = Observations on the statistical iteration of matrices|journal = Phys. Rev. A |date = 1984|volume = 30|issue = 2713|doi = 10.1103/PhysRevA.30.2713|pages = 2713–2719|bibcode = 1984PhRvA..30.2713H}}</ref> 量子蒙特卡罗方法的起源通常归功于'''恩里科·费米 Enrico Fermi'''和'''罗伯特·里希特迈耶 Robert Richtmyer'''于1948年开发了中子链式反应的平均场粒子解释,<ref name=":11">{{cite journal|last1 = Fermi|first1 = Enrique|last2 = Richtmyer|first2 = Robert, D.|title = Note on census-taking in Monte Carlo calculations|journal = LAM|date = 1948|volume = 805|issue = A|url = http://scienze-como.uninsubria.it/bressanini/montecarlo-history/fermi-1948.pdf|quote = Declassified report Los Alamos Archive}}</ref>但是用于估计量子系统的基态能量(在简化矩阵模型中)的第一个类启发式和遗传型粒子算法(也称为重取样或重构蒙特卡洛方法)则是由杰克·H·海瑟林顿在1984年<ref name="h84" /> 提出。在分子化学中,使用遗传类启发式的粒子方法(又名删减和富集策略)可以追溯到1955年——'''马歇尔·罗森布鲁斯 Marshall Rosenbluth'''和'''阿里安娜·罗森布鲁斯Arianna Rosenbluth'''的开创性工作。<ref name=":0">Rosenbluth, Marshall, N.; Rosenbluth, Arianna, W. (1955). "Monte-Carlo calculations of the average extension of macromolecular chains". ''J. Chem. Phys''. '''23''' (2): 356–359. Bibcode:1955JChPh..23..356R. doi:10.1063/1.1741967. S2CID 89611599.</ref>
   −
在高级信号处理和'''贝叶斯推断 Bayesian Inference'''中使用'''序列蒙特卡罗方法 Sequential Monte Carlo'''是最近才出现的。1993年,高登等人在他们的开创性工作中发表了蒙特卡罗重采样算法在贝叶斯推论统计学中的首次应用。<ref name=":12">Gordon, N.J.; Salmond, D.J.; Smith, A.F.M. (April 1993). "Novel approach to nonlinear/non-Gaussian Bayesian state estimation". ''IEE Proceedings F - Radar and Signal Processing''. '''140''' (2): 107–113. doi:10.1049/ip-f-2.1993.0015. ISSN 0956-375X. S2CID 12644877.</ref>作者将他们的算法命名为“自举过滤器” ,并证明了与其他过滤方法相比,他们的自举过滤算法不需要任何关于系统状态空间或噪声的假设。此外北川源四郎也进行了”蒙特卡洛过滤器”相关的开创性研究。<ref name=":13">Kitagawa, G. (1996). "Monte carlo filter and smoother for non-Gaussian nonlinear state space models". ''Journal of Computational and Graphical Statistics''. '''5''' (1): 1–25. doi:10.2307/1390750. JSTOR 1390750.
+
在高级信号处理和'''贝叶斯推断 Bayesian Inference'''中使用'''序列蒙特卡罗方法 Sequential Monte Carlo'''是最近才出现的。1993年,高登等人在他们的开创性工作中发表了蒙特卡罗重采样算法在贝叶斯推论统计学中的首次应用。<ref name=":12">Gordon, N.J.; Salmond, D.J.; Smith, A.F.M. (April 1993). "Novel approach to nonlinear/non-Gaussian Bayesian state estimation". ''IEE Proceedings F - Radar and Signal Processing''. '''140''' (2): 107–113. doi:10.1049/ip-f-2.1993.0015. ISSN 0956-375X. S2CID 12644877.</ref>作者将他们的算法命名为“自举过滤器”,并证明了与其他过滤方法相比,他们的自举过滤算法不需要任何关于系统状态空间或噪声的假设。此外北川源四郎也进行了“蒙特卡洛过滤器”相关的开创性研究。<ref name=":13">Kitagawa, G. (1996). "Monte carlo filter and smoother for non-Gaussian nonlinear state space models". ''Journal of Computational and Graphical Statistics''. '''5''' (1): 1–25. doi:10.2307/1390750. JSTOR 1390750.
</ref>在1990年代中期,'''皮埃尔·德尔·莫勒尔 Pierre Del Moral <ref name="dm9622">{{cite journal|last1 = Del Moral|first1 = Pierre|title = Non Linear Filtering: Interacting Particle Solution.|journal = Markov Processes and Related Fields|date = 1996|volume = 2|issue = 4|pages = 555–580|url = http://web.maths.unsw.edu.au/~peterdel-moral/mprfs.pdf}}</ref>''' 和'''希米尔康 · 卡瓦略 Himilcon Carvalho'''以及皮埃尔 · 德尔 · 莫勒尔、'''安德烈 · 莫宁 André Monin'''和'''杰拉德 · 萨鲁特 Gérard Salut <ref name=":14">Carvalho, Himilcon; Del Moral, Pierre; Monin, André; Salut, Gérard (July 1997). "Optimal Non-linear Filtering in GPS/INS Integration" (PDF). ''IEEE Transactions on Aerospace and Electronic Systems''. '''33''' (3): 835. Bibcode:1997ITAES..33..835C. doi:10.1109/7.599254. S2CID 27966240.</ref> ''' 发表了关于粒子过滤器的文章。1989-1992年间,在LAAS-CNRS (系统分析和体系结构实验室),皮埃尔·德尔·莫勒尔、'''J·C·诺亚 J. C. Noyer'''、'''G·里加尔 G. Rigal''' 和'''杰拉德 · 萨鲁特'''开发了粒子滤波器用于信号处理。他们与STCAN(海军建造和武装服务技术部)、IT公司DIGILOG共同完成了一系列关于雷达/声纳和GPS信号处理问题的限制性和机密性研究报告。<ref name=":15">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: An unified framework for particle solutions". LAAS-CNRS, Toulouse, Research Report no. 91137, DRET-DIGILOG- LAAS/CNRS contract, April (1991).</ref><ref name=":16">P. Del Moral, G. Rigal, and G. Salut. "Nonlinear and non Gaussian particle filters applied to inertial platform repositioning." LAAS-CNRS, Toulouse, Research Report no. 92207, STCAN/DIGILOG-LAAS/CNRS Convention STCAN no. A.91.77.013, (94p.) September (1991).</ref><ref name=":17">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: Particle resolution in filtering and estimation: Experimental results". Convention DRET no. 89.34.553.00.470.75.01, Research report no.2 (54p.), January (1992).</ref><ref name=":18">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: Particle resolution in filtering and estimation: Theoretical results". Convention DRET no. 89.34.553.00.470.75.01, Research report no.3 (123p.), October (1992).</ref><ref name=":19">P. Del Moral, J.-Ch. Noyer, G. Rigal, and G. Salut. "Particle filters in radar signal processing: detection, estimation and air targets recognition". LAAS-CNRS, Toulouse, Research report no. 92495, December (1992).</ref><ref name=":20">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: Particle resolution in filtering and estimation". Studies on: Filtering, optimal control, and maximum likelihood estimation. Convention DRET no. 89.34.553.00.470.75.01. Research report no.4 (210p.), January (1993).</ref>这些序列蒙特卡罗方法可以解释为一个接受拒绝采样器配备了相互作用的回收机制。
+
</ref>在1990年代中期,'''皮埃尔·德尔·莫勒尔 Pierre Del Moral <ref name="dm9622">{{cite journal|last1 = Del Moral|first1 = Pierre|title = Non Linear Filtering: Interacting Particle Solution.|journal = Markov Processes and Related Fields|date = 1996|volume = 2|issue = 4|pages = 555–580|url = http://web.maths.unsw.edu.au/~peterdel-moral/mprfs.pdf}}</ref>'''和'''希米尔康·卡瓦略 Himilcon Carvalho'''以及皮埃尔·德尔·莫勒尔、'''安德烈·莫宁 André Monin'''和'''杰拉德·萨鲁特 Gérard Salut <ref name=":14">Carvalho, Himilcon; Del Moral, Pierre; Monin, André; Salut, Gérard (July 1997). "Optimal Non-linear Filtering in GPS/INS Integration" (PDF). ''IEEE Transactions on Aerospace and Electronic Systems''. '''33''' (3): 835. Bibcode:1997ITAES..33..835C. doi:10.1109/7.599254. S2CID 27966240.</ref> '''发表了关于粒子过滤器的文章。1989-1992年间,在LAAS-CNRS(系统分析和体系结构实验室),皮埃尔·德尔·莫勒尔、'''J·C·诺亚 J. C. Noyer'''、'''G·里加尔 G. Rigal''' 和'''杰拉德·萨鲁特'''开发了粒子滤波器用于信号处理。他们与STCAN(海军建造和武装服务技术部)、IT公司DIGILOG共同完成了一系列关于雷达/声纳和GPS信号处理问题的限制性和机密性研究报告。<ref name=":15">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: An unified framework for particle solutions". LAAS-CNRS, Toulouse, Research Report no. 91137, DRET-DIGILOG- LAAS/CNRS contract, April (1991).</ref><ref name=":16">P. Del Moral, G. Rigal, and G. Salut. "Nonlinear and non Gaussian particle filters applied to inertial platform repositioning." LAAS-CNRS, Toulouse, Research Report no. 92207, STCAN/DIGILOG-LAAS/CNRS Convention STCAN no. A.91.77.013, (94p.) September (1991).</ref><ref name=":17">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: Particle resolution in filtering and estimation: Experimental results". Convention DRET no. 89.34.553.00.470.75.01, Research report no.2 (54p.), January (1992).</ref><ref name=":18">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: Particle resolution in filtering and estimation: Theoretical results". Convention DRET no. 89.34.553.00.470.75.01, Research report no.3 (123p.), October (1992).</ref><ref name=":19">P. Del Moral, J.-Ch. Noyer, G. Rigal, and G. Salut. "Particle filters in radar signal processing: detection, estimation and air targets recognition". LAAS-CNRS, Toulouse, Research report no. 92495, December (1992).</ref><ref name=":20">P. Del Moral, G. Rigal, and G. Salut. "Estimation and nonlinear optimal control: Particle resolution in filtering and estimation". Studies on: Filtering, optimal control, and maximum likelihood estimation. Convention DRET no. 89.34.553.00.470.75.01. Research report no.4 (210p.), January (1993).</ref>这些序列蒙特卡罗方法可以解释为一个接受拒绝采样器配备了相互作用的回收机制。
   −
从1950年到1996年,所有关于顺序蒙特卡罗方法的出版物,包括计算物理和分子化学中引入的删减和重采样蒙特卡罗方法,目前应用于不同的情况的自然和类启发式算法,没有任何一致性证明,也没有讨论估计的偏差和基于谱系和遗传树的算法。皮埃尔 · 德尔 · 莫勒尔在1996年的写作中阐述了关于这些粒子算法的数学基础,并对其第一次进行了严格的分析。<ref name="dm9622" /><ref name=":22">{{cite journal|last1 = Del Moral|first1 = Pierre|title = Measure Valued Processes and Interacting Particle Systems. Application to Non Linear Filtering Problems|journal = Annals of Applied Probability|date = 1998|edition = Publications du Laboratoire de Statistique et Probabilités, 96-15 (1996)|volume = 8|issue = 2|pages = 438–495|url = http://projecteuclid.org/download/pdf_1/euclid.aoap/1028903535|doi = 10.1214/aoap/1028903535|citeseerx = 10.1.1.55.5257}}</ref>
+
从1950年到1996年,所有关于顺序蒙特卡罗方法的出版物,包括计算物理和分子化学中引入的删减和重采样蒙特卡罗方法,目前应用于不同的情况的自然和类启发式算法,没有任何一致性证明,也没有讨论估计的偏差和基于谱系和遗传树的算法。皮埃尔·德尔·莫勒尔在1996年的写作中阐述了关于这些粒子算法的数学基础,并对其第一次进行了严格的分析。<ref name="dm9622" /><ref name=":22">{{cite journal|last1 = Del Moral|first1 = Pierre|title = Measure Valued Processes and Interacting Particle Systems. Application to Non Linear Filtering Problems|journal = Annals of Applied Probability|date = 1998|edition = Publications du Laboratoire de Statistique et Probabilités, 96-15 (1996)|volume = 8|issue = 2|pages = 438–495|url = http://projecteuclid.org/download/pdf_1/euclid.aoap/1028903535|doi = 10.1214/aoap/1028903535|citeseerx = 10.1.1.55.5257}}</ref>
    
20世纪90年代末,'''丹·克里桑 Dan Crisan'''、'''杰西卡·盖恩斯 Jessica Gaines'''和'''特里·利昂斯 Terry Lyons''',<ref name=":42">Crisan, Dan; Gaines, Jessica; Lyons, Terry (1998). "Convergence of a branching particle method to the solution of the Zakai". ''SIAM Journal on Applied Mathematics''. '''58''' (5): 1568–1590. doi:10.1137/s0036139996307371. S2CID 39982562.</ref><ref name=":21">Crisan, Dan; Lyons, Terry (1997). "Nonlinear filtering and measure-valued processes". ''Probability Theory and Related Fields''. '''109''' (2): 217–244. doi:10.1007/s004400050131. S2CID 119809371.</ref><ref name=":23">Crisan, Dan; Lyons, Terry (1999). "A particle approximation of the solution of the Kushner–Stratonovitch equation". ''Probability Theory and Related Fields''. '''115''' (4): 549–578. doi:10.1007/s004400050249. S2CID 117725141.</ref>  以及丹·克里桑、皮埃尔·德尔·莫勒尔和特里·利昂斯也发展了具有不同种群大小的分支型粒子方法。<ref name=":52">{{cite journal|last1 = Crisan|first1 = Dan|last2 = Del Moral|first2 = Pierre|last3 = Lyons|first3 = Terry|title = Discrete filtering using branching and interacting particle systems|journal = Markov Processes and Related Fields|date = 1999|volume = 5|issue = 3|pages = 293–318|url = http://web.maths.unsw.edu.au/~peterdel-moral/crisan98discrete.pdf}}</ref> 2000年,皮埃尔·德尔·莫勒尔、'''爱丽丝·吉奥内 A. Guionnet'''和'''洛朗·米克洛 L. Miclo'''进一步发展了这一领域。<ref name="dmm002" /><ref name="dg99">{{cite journal|last1 = Del Moral|first1 = Pierre|last2 = Guionnet|first2 = Alice|title = On the stability of Measure Valued Processes with Applications to filtering|journal = C. R. Acad. Sci. Paris|date = 1999|volume = 39|issue = 1|pages = 429–434}}</ref><ref name="dg01">{{cite journal|last1 = Del Moral|first1 = Pierre|last2 = Guionnet|first2 = Alice|title = On the stability of interacting processes with applications to filtering and genetic algorithms|journal = Annales de l'Institut Henri Poincaré|date = 2001|volume = 37|issue = 2|pages = 155–194|url = http://web.maths.unsw.edu.au/~peterdel-moral/ihp.ps|doi = 10.1016/s0246-0203(00)01064-5|bibcode=2001AnIHP..37..155D}}</ref>
 
20世纪90年代末,'''丹·克里桑 Dan Crisan'''、'''杰西卡·盖恩斯 Jessica Gaines'''和'''特里·利昂斯 Terry Lyons''',<ref name=":42">Crisan, Dan; Gaines, Jessica; Lyons, Terry (1998). "Convergence of a branching particle method to the solution of the Zakai". ''SIAM Journal on Applied Mathematics''. '''58''' (5): 1568–1590. doi:10.1137/s0036139996307371. S2CID 39982562.</ref><ref name=":21">Crisan, Dan; Lyons, Terry (1997). "Nonlinear filtering and measure-valued processes". ''Probability Theory and Related Fields''. '''109''' (2): 217–244. doi:10.1007/s004400050131. S2CID 119809371.</ref><ref name=":23">Crisan, Dan; Lyons, Terry (1999). "A particle approximation of the solution of the Kushner–Stratonovitch equation". ''Probability Theory and Related Fields''. '''115''' (4): 549–578. doi:10.1007/s004400050249. S2CID 117725141.</ref>  以及丹·克里桑、皮埃尔·德尔·莫勒尔和特里·利昂斯也发展了具有不同种群大小的分支型粒子方法。<ref name=":52">{{cite journal|last1 = Crisan|first1 = Dan|last2 = Del Moral|first2 = Pierre|last3 = Lyons|first3 = Terry|title = Discrete filtering using branching and interacting particle systems|journal = Markov Processes and Related Fields|date = 1999|volume = 5|issue = 3|pages = 293–318|url = http://web.maths.unsw.edu.au/~peterdel-moral/crisan98discrete.pdf}}</ref> 2000年,皮埃尔·德尔·莫勒尔、'''爱丽丝·吉奥内 A. Guionnet'''和'''洛朗·米克洛 L. Miclo'''进一步发展了这一领域。<ref name="dmm002" /><ref name="dg99">{{cite journal|last1 = Del Moral|first1 = Pierre|last2 = Guionnet|first2 = Alice|title = On the stability of Measure Valued Processes with Applications to filtering|journal = C. R. Acad. Sci. Paris|date = 1999|volume = 39|issue = 1|pages = 429–434}}</ref><ref name="dg01">{{cite journal|last1 = Del Moral|first1 = Pierre|last2 = Guionnet|first2 = Alice|title = On the stability of interacting processes with applications to filtering and genetic algorithms|journal = Annales de l'Institut Henri Poincaré|date = 2001|volume = 37|issue = 2|pages = 155–194|url = http://web.maths.unsw.edu.au/~peterdel-moral/ihp.ps|doi = 10.1016/s0246-0203(00)01064-5|bibcode=2001AnIHP..37..155D}}</ref>
    
==定义==
 
==定义==
对于如何定义蒙特卡洛还没有达成共识。例如,'''里普利 Ripley <ref name="Ripley">Ripley, B. D. (1987). ''Stochastic Simulation''. Wiley & Sons.</ref> ''' 将大多数概率建模定义为'''随机模拟  stochastic simulation''',蒙特卡罗则包含蒙特卡罗积分和蒙特卡罗统计检验。'''萨维罗斯基 Sawilowsky'''<ref name="Sawilowsky">Sawilowsky, Shlomo S. (2003). "You think you've got trivials?". ''Journal of Modern Applied Statistical Methods''. '''2''' (1): 218–225. doi:10.22237/jmasm/1051748460.</ref> 区分了模拟、蒙特卡罗方法和蒙特卡罗模拟:模拟是对现实的一种虚构的表现,蒙特卡罗方法是一种可以用来解决数学或统计问题的技术,蒙特卡罗模拟使用重复抽样来获得某些现象(或行为)的统计特性。例如:
+
对于如何定义蒙特卡洛还没有达成共识。例如,'''里普利 Ripley <ref name="Ripley">Ripley, B. D. (1987). ''Stochastic Simulation''. Wiley & Sons.</ref> '''将大多数概率建模定义为'''随机模拟  stochastic simulation''',蒙特卡罗则包含蒙特卡罗积分和蒙特卡罗统计检验。'''萨维罗斯基 Sawilowsky'''<ref name="Sawilowsky">Sawilowsky, Shlomo S. (2003). "You think you've got trivials?". ''Journal of Modern Applied Statistical Methods''. '''2''' (1): 218–225. doi:10.22237/jmasm/1051748460.</ref> 区分了模拟、蒙特卡罗方法和蒙特卡罗模拟:模拟是对现实的一种虚构的表现,蒙特卡罗方法是一种可以用来解决数学或统计问题的技术,蒙特卡罗模拟使用重复抽样来获得某些现象(或行为)的统计特性。例如:
 
*模拟:从区间[0,1]中绘制一个伪随机均匀变量可以用来模拟抛硬币:如果值小于或等于0.50,则结果为正面,但如果值大于0.50,则结果为反面。这是一个模拟,但不是蒙特卡洛模拟。
 
*模拟:从区间[0,1]中绘制一个伪随机均匀变量可以用来模拟抛硬币:如果值小于或等于0.50,则结果为正面,但如果值大于0.50,则结果为反面。这是一个模拟,但不是蒙特卡洛模拟。
   第80行: 第82行:  
'''卡洛斯 Kalos'''和'''惠特洛克 Whitlock'''<ref>Kalos, Malvin H.; Whitlock, Paula A. (2008). ''Monte Carlo Methods''. Wiley-VCH. ISBN <bdi>978-3-527-40760-6</bdi>.</ref>指出,这几种方法的区别并不总是容易分辨。例如,来自原子的辐射是一种自然的随机过程。它可以直接模拟,也可以用随机方程描述其平均行为,这些随机方程本身可以用蒙特卡罗方法求解。“实际上,同样的计算机代码可以同时被看作是‘自然模拟’或者通过自然抽样解方程。”
 
'''卡洛斯 Kalos'''和'''惠特洛克 Whitlock'''<ref>Kalos, Malvin H.; Whitlock, Paula A. (2008). ''Monte Carlo Methods''. Wiley-VCH. ISBN <bdi>978-3-527-40760-6</bdi>.</ref>指出,这几种方法的区别并不总是容易分辨。例如,来自原子的辐射是一种自然的随机过程。它可以直接模拟,也可以用随机方程描述其平均行为,这些随机方程本身可以用蒙特卡罗方法求解。“实际上,同样的计算机代码可以同时被看作是‘自然模拟’或者通过自然抽样解方程。”
   −
'''Monte Carlo and random numbers 蒙特卡罗和随机数'''
+
'''蒙特卡罗和随机数 Monte Carlo and random numbers'''
 
+
这种方法的主要思想是基于重复随机抽样和统计分析来计算结果。蒙特卡洛模拟实际上是一种随机实验,在这种情况下,这些实验的结果并不为人所知。蒙特卡罗模拟的典型特征是有许多未知参数,其中许多参数很难通过实验获得。<ref>Shojaeefard, MH; Khalkhali, A; Yarmohammadisatri, Sadegh (2017). "An efficient sensitivity analysis method for modified geometry of Macpherson suspension based on Pearson Correlation Coefficient". ''Vehicle System Dynamics''. '''55''' (6): 827–852. Bibcode:2017VSD....55..827S. doi:10.1080/00423114.2017.1283046. S2CID 114260173.</ref> 蒙特卡罗模拟方法并不总是要求真正的随机数是有用的(尽管对于一些应用程序,如质数测试,不可预测性是至关重要的)。<ref>Davenport, J. H. (1992). "Primality testing revisited". ''Papers from the international symposium on Symbolic and algebraic computation - ISSAC '92''. ''Proceeding ISSAC '92 Papers from the International Symposium on Symbolic and Algebraic Computation''. pp. 123–129. CiteSeerX 10.1.1.43.9296. doi:10.1145/143242.143290. ISBN <bdi>978-0-89791-489-5</bdi>. S2CID 17322272.</ref> 许多最有用的技术是使用确定性的伪随机序列,使测试和重新运行模拟变得很容易。伪随机序列在某种意义上表现地“足够随机”,这是进行良好模拟唯一必需的性质。
这种方法的主要思想是基于重复随机抽样和统计分析来计算结果。蒙特卡洛模拟实际上是一种随机实验,在这种情况下,这些实验的结果并不为人所知。蒙特卡罗模拟的典型特征是有许多未知参数,其中许多参数很难通过实验获得。<ref>Shojaeefard, MH; Khalkhali, A; Yarmohammadisatri, Sadegh (2017). "An efficient sensitivity analysis method for modified geometry of Macpherson suspension based on Pearson Correlation Coefficient". ''Vehicle System Dynamics''. '''55''' (6): 827–852. Bibcode:2017VSD....55..827S. doi:10.1080/00423114.2017.1283046. S2CID 114260173.</ref> 蒙特卡罗模拟方法并不总是要求真正的随机数是有用的(尽管对于一些应用程序,如质数测试,不可预测性是至关重要的)。<ref>Davenport, J. H. (1992). "Primality testing revisited". ''Papers from the international symposium on Symbolic and algebraic computation - ISSAC '92''. ''Proceeding ISSAC '92 Papers from the International Symposium on Symbolic and Algebraic Computation''. pp. 123–129. CiteSeerX 10.1.1.43.9296. doi:10.1145/143242.143290. ISBN <bdi>978-0-89791-489-5</bdi>. S2CID 17322272.</ref> 许多最有用的技术是使用确定性的伪随机序列,使测试和重新运行模拟变得很容易。伪随机序列在某种意义上表现地“足够随机”,这是进行良好模拟唯一必需的性质。
      
所谓“足够随机”的含义一般取决于应用场景,但通常也应该通过一系列统计测试。当需要考虑的序列中元素足够多时,检验这些数是均匀分布的,还是遵循另一个期望的分布是最简单常见的方法之一。连续样本之间的弱相关性通常也是可取的,或必要的。
 
所谓“足够随机”的含义一般取决于应用场景,但通常也应该通过一系列统计测试。当需要考虑的序列中元素足够多时,检验这些数是均匀分布的,还是遵循另一个期望的分布是最简单常见的方法之一。连续样本之间的弱相关性通常也是可取的,或必要的。
    
萨维罗斯基列出了高质量蒙特卡罗模拟的特点:<ref name="Sawilowsky" />
 
萨维罗斯基列出了高质量蒙特卡罗模拟的特点:<ref name="Sawilowsky" />
*(伪随机数)生成器具有某些特征(例如,序列重复之前有一个很长的“周期”)
+
*(伪随机数)生成器具有某些特征(例如,序列重复之前有一个很长的“周期”)
   −
*(伪随机数)生成器可以产生能通过随机性测试的值
+
*(伪随机数)生成器可以产生能通过随机性测试的值
    
*有足够的样本来确保准确的结果
 
*有足够的样本来确保准确的结果
第97行: 第98行:  
*使用的算法对建模内容是有效的
 
*使用的算法对建模内容是有效的
   −
*它可以对问题中的现象进行模拟。
+
*它可以对问题中的现象进行模拟
    
'''伪随机数采样算法 Pseudo-random Number Sampling Algorithms'''是将均匀分布的伪随机数转化为按给定概率分布分布的数。
 
'''伪随机数采样算法 Pseudo-random Number Sampling Algorithms'''是将均匀分布的伪随机数转化为按给定概率分布分布的数。
第107行: 第108行:  
===<small>蒙特卡罗模拟与“假设”情景</small>===
 
===<small>蒙特卡罗模拟与“假设”情景</small>===
   −
使用概率的方法不一定都是蒙特卡洛模拟——例如,使用单点估计的确定性建模。模型中的每个不确定变量都被赋予一个“最佳猜测”估计。为每个输入变量选择场景(如最佳、最差或最可能的情况)并记录结果。<ref name=":25">Vose 2000, p. 13</ref>
+
使用概率的方法不一定都是蒙特卡洛模拟——例如,使用单点估计的确定性建模。模型中的每个不确定变量都被赋予一个“最佳猜测”估计。为每个输入变量选择场景(如最佳、最差或最可能的情况)并记录结果。<ref name=":25">Vose 2000, p. 13</ref>
   −
相比之下,蒙特卡罗模拟从概率分布中抽取每个变量的样本,产生数百或数千个可能的结果。对结果进行分析,得到不同结果发生的概率。<ref>Vose 2000, p. 16</ref> 例如,对使用传统”假设”情景运行的电子表格成本构造模型进行比较,然后再与蒙特卡罗模拟和三角概率分布进行比较,结果表明蒙特卡罗分析的范围比”假设”分析的范围窄。这是因为“假设”分析对所有情景给予了同等的权重(见量化公司融资的不确定性) ,而蒙特卡罗方法几乎不在非常低的概率区域抽样。这部分样本被称为“稀有事件”。
+
相比之下,蒙特卡罗模拟从概率分布中抽取每个变量的样本,产生数百或数千个可能的结果。对结果进行分析,得到不同结果发生的概率。<ref>Vose 2000, p. 16</ref> 例如,对使用传统”假设”情景运行的电子表格成本构造模型进行比较,然后再与蒙特卡罗模拟和三角概率分布进行比较,结果表明蒙特卡罗分析的范围比”假设”分析的范围窄。这是因为“假设”分析对所有情景给予了同等的权重(见量化公司融资的不确定性),而蒙特卡罗方法几乎不在非常低的概率区域抽样。这部分样本被称为“稀有事件”。
    
==应用==
 
==应用==
第122行: 第123行:  
*在'''地质统计学 Geostatistics'''和'''地质冶金学 Geometallurgy'''中,蒙特卡罗方法是矿物处理流程设计的基础,并有助于定量风险分析。<ref name="mbv01">{{Cite book | last1 =Mazhdrakov | first1 =Metodi | last2 =Benov | first2 =Dobriyan |last3=Valkanov|first3=Nikolai | year =2018 | title =The Monte Carlo Method. Engineering Applications | publisher =ACMO Academic Press | volume = | pages = 250| isbn =978-619-90684-3-4 | doi =  |url=https://books.google.com/books?id=t0BqDwAAQBAJ&q=the+monte+carlo+method+engineering+applications+mazhdrakov}}</ref>
 
*在'''地质统计学 Geostatistics'''和'''地质冶金学 Geometallurgy'''中,蒙特卡罗方法是矿物处理流程设计的基础,并有助于定量风险分析。<ref name="mbv01">{{Cite book | last1 =Mazhdrakov | first1 =Metodi | last2 =Benov | first2 =Dobriyan |last3=Valkanov|first3=Nikolai | year =2018 | title =The Monte Carlo Method. Engineering Applications | publisher =ACMO Academic Press | volume = | pages = 250| isbn =978-619-90684-3-4 | doi =  |url=https://books.google.com/books?id=t0BqDwAAQBAJ&q=the+monte+carlo+method+engineering+applications+mazhdrakov}}</ref>
   −
* 在风能产量分析中,考虑不同的不确定性(P90、P50等),计算风电场在其生命周期内的预测发电量。
+
* 在风能产量分析中,考虑不同的不确定性(P90、P50等),计算风电场在其生命周期内的预测发电量。
    
*模拟了污染产生的影响,<ref name="IntPanis1">Int Panis et al. 2001</ref>并将柴油和汽油进行了比较。<ref name="IntPanis2">Int Panis et al. 2002</ref>
 
*模拟了污染产生的影响,<ref name="IntPanis1">Int Panis et al. 2001</ref>并将柴油和汽油进行了比较。<ref name="IntPanis2">Int Panis et al. 2002</ref>
   −
*在流体动力学,特别是'''稀薄气体动力学 Rarefied Gas Dynamics'''中,采用'''直接模拟蒙特卡罗方法 Direct Simulation Monte Carlo'''<ref name=":33">G. A. Bird, Molecular Gas Dynamics, Clarendon, Oxford (1976)</ref>结合高效计算算法求解有限'''努森数 Knudsen Number'''流体的玻尔兹曼方程。<ref name=":34">{{cite journal | last1 = Dietrich | first1 = S. | last2 = Boyd | first2 = I. | year = 1996 | title = A Scalar optimized parallel implementation of the DSMC technique | url = | journal = Journal of Computational Physics | volume = 126 | issue = 2| pages = 328–42 | doi=10.1006/jcph.1996.0141|bibcode = 1996JCoPh.126..328D }}</ref>
+
*在流体动力学,特别是'''稀薄气体动力学 Rarefied Gas Dynamics'''中,采用'''直接模拟蒙特卡罗方法 Direct Simulation Monte Carlo'''<ref name=":33">G. A. Bird, Molecular Gas Dynamics, Clarendon, Oxford (1976)</ref>结合高效计算算法求解有限'''努森数 Knudsen Number'''流体的玻尔兹曼方程。<ref name=":34">{{cite journal | last1 = Dietrich | first1 = S. | last2 = Boyd | first2 = I. | year = 1996 | title = A Scalar optimized parallel implementation of the DSMC technique | url = | journal = Journal of Computational Physics | volume = 126 | issue = 2| pages = 328–42 | doi=10.1006/jcph.1996.0141|bibcode = 1996JCoPh.126..328D }}</ref>
   −
*在自主机器人中,'''蒙特卡洛定位 Monte Carlo Localization'''可以确定机器人的位置。它通常应用于随机滤波器,如'''卡尔曼滤波器 Kalman Filter'''或'''粒子滤波器 Particle Filter''',构成'''同步定位和映射算法 SLAM (Simultaneous Localization and Mapping)'''的核心。
+
*在自主机器人中,'''蒙特卡洛定位 Monte Carlo Localization'''可以确定机器人的位置。它通常应用于随机滤波器,如'''卡尔曼滤波器 Kalman Filter'''或'''粒子滤波器 Particle Filter''',构成'''同步定位和映射算法 Simultaneous Localization and Mapping(SLAM)'''的核心。
    
*在电信行业,在规划无线网络时,必须证明设计适用于各种不同用户数量、用户位置和他们想使用的服务的场景。蒙特卡罗方法通常用于生成这些用户及其状态。然后对网络性能进行评估,如果结果不能令人满意,则进行网络设计优化。
 
*在电信行业,在规划无线网络时,必须证明设计适用于各种不同用户数量、用户位置和他们想使用的服务的场景。蒙特卡罗方法通常用于生成这些用户及其状态。然后对网络性能进行评估,如果结果不能令人满意,则进行网络设计优化。
第141行: 第142行:  
政府间气候变化专门委员会采用蒙特卡罗方法对辐射强迫进行概率密度函数分析。
 
政府间气候变化专门委员会采用蒙特卡罗方法对辐射强迫进行概率密度函数分析。
   −
基于总温室气体、气溶胶强迫和总人为强迫的'''有效辐射强迫 Effective Radiative Forcing(ERF)概率密度函数 Probability Density Function(PDF)'''。温室气体由'''充分混合温室气体 Well Mixed Greenhouse Gases(WMGHG)'''、臭氧和平流层水蒸汽组成。概率密度函数是根据表8.6提供的不确定性生成的。基于'''鲍彻 Boucher'''和'''海伍德 Haywood'''(2001)的方法,通过蒙特卡洛模拟,将单个辐射强迫介质组合起来,得出工业时代的总强迫。来自地面反照率变化和混合尾迹和尾迹诱导的卷云的有效辐射强迫的概率密度函数包含在总人为强迫中,而不是单独显示为独立的概率密度函数。我们目前还没有有效辐射强迫来估计一些强迫机制,例如:臭氧、土地利用、太阳能等。<ref>''Climate Change 2013 The Physical Science Basis'' (PDF). Cambridge University Press. 2013. p. 697. ISBN <bdi>978-1-107-66182-0</bdi>. Retrieved 2 March 2016.</ref>
+
基于总温室气体、气溶胶强迫和总人为强迫的'''有效辐射强迫 Effective Radiative Forcing(ERF)概率密度函数 Probability Density Function(PDF)'''。温室气体由'''充分混合温室气体 Well Mixed Greenhouse Gases(WMGHG)'''、臭氧和平流层水蒸汽组成。概率密度函数是根据表8.6提供的不确定性生成的。基于'''鲍彻 Boucher'''和'''海伍德 Haywood'''(2001)的方法,通过蒙特卡洛模拟,将单个辐射强迫介质组合起来,得出工业时代的总强迫。来自地面反照率变化和混合尾迹和尾迹诱导的卷云的有效辐射强迫的概率密度函数包含在总人为强迫中,而不是单独显示为独立的概率密度函数。我们目前还没有有效辐射强迫来估计一些强迫机制,例如:臭氧、土地利用、太阳能等。<ref>''Climate Change 2013 The Physical Science Basis'' (PDF). Cambridge University Press. 2013. p. 697. ISBN <bdi>978-1-107-66182-0</bdi>. Retrieved 2 March 2016.</ref>
    
===计算生物学===
 
===计算生物学===
蒙特卡罗方法被用于'''计算生物学 Computational Biology'''的各个领域,例如在系统发育学中的贝叶斯推断,或者用于研究生物系统,例如基因组、蛋白质<ref name=":39">Ojeda & et al. 2009,</ref>或膜<ref name=":40">Milik, M.; Skolnick, J. (Jan 1993). "Insertion of peptide chains into lipid membranes: an off-lattice Monte Carlo dynamics model". ''Proteins''. '''15''' (1): 10–25. doi:10.1002/prot.340150104. <nowiki>PMID 8451235</nowiki>. S2CID 7450512.</ref>。该系统可以在粗粒度或从头计算框架中研究,这取决于所需的准确性。计算机模拟使我们能够监测特定分子的局部环境,看看是否正在发生某种化学反应,例如。在无法进行物理实验的情况下,可以进行思维实验(例如:断键,在特定位置引入杂质,改变局部/整体结构,或引入外部场)。
+
蒙特卡罗方法被用于'''计算生物学 Computational Biology'''的各个领域,例如在系统发育学中的贝叶斯推断,或者用于研究生物系统,例如基因组、蛋白质<ref name=":39">Ojeda & et al. 2009,</ref>或膜<ref name=":40">Milik, M.; Skolnick, J. (Jan 1993). "Insertion of peptide chains into lipid membranes: an off-lattice Monte Carlo dynamics model". ''Proteins''. '''15''' (1): 10–25. doi:10.1002/prot.340150104. <nowiki>PMID 8451235</nowiki>. S2CID 7450512.</ref>。该系统可以在粗粒度或从头计算框架中研究,这取决于所需的准确性。计算机模拟使我们能够监测特定分子的局部环境,看看是否正在发生某种化学反应,例如。在无法进行物理实验的情况下,可以进行思维实验(例如:断键,在特定位置引入杂质,改变局部/整体结构,或引入外部场)。
    
===计算机图形学===
 
===计算机图形学===
'''路径追踪 Path Tracing,'''偶尔称为蒙特卡罗光线追踪,通过随机追踪可能的光路样本来呈现一个三维场景。对任何给定像素的重复采样最终将导致样本的平均值收敛到渲染方程的正确解,使其成为现存物理上最精确的三维图形渲染方法之一。
+
'''路径追踪 Path Tracing'''偶尔称为蒙特卡罗光线追踪,通过随机追踪可能的光路样本来呈现一个三维场景。对任何给定像素的重复采样最终将导致样本的平均值收敛到渲染方程的正确解,使其成为现存物理上最精确的三维图形渲染方法之一。
    
===应用统计学===
 
===应用统计学===
 
蒙特卡罗方法的统计标准是由萨维罗斯基制定的。 <ref name=":41">{{cite journal | last1 = Cassey | last2 = Smith | year = 2014 | title = Simulating confidence for the Ellison-Glaeser Index | url = | journal = Journal of Urban Economics | volume = 81 | issue = | page = 93 | doi =  10.1016/j.jue.2014.02.005}}</ref>在应用统计学中,蒙特卡罗方法至少可用于四种目的:
 
蒙特卡罗方法的统计标准是由萨维罗斯基制定的。 <ref name=":41">{{cite journal | last1 = Cassey | last2 = Smith | year = 2014 | title = Simulating confidence for the Ellison-Glaeser Index | url = | journal = Journal of Urban Economics | volume = 81 | issue = | page = 93 | doi =  10.1016/j.jue.2014.02.005}}</ref>在应用统计学中,蒙特卡罗方法至少可用于四种目的:
   −
1、比较在现实数据条件下小样本的竞争统计。虽然根据经典理论分布(例如,正态曲线,'''柯西分布 Cauchy distribution''')数据的渐近条件(即,无限大的样本量和无限小的处理效果) , i 型误差和统计的幂次特性可以进行计算,但是实际数据往往没有这样的分布。<ref name=":43">Sawilowsky, Shlomo S.; Fahoome, Gail C. (2003). ''Statistics via Monte Carlo Simulation with Fortran''. Rochester Hills, MI: JMASM. ISBN <bdi>978-0-9740236-0-1</bdi>.</ref>
+
1、比较在现实数据条件下小样本的竞争统计。虽然根据经典理论分布(例如,正态曲线,'''柯西分布 Cauchy distribution''')数据的渐近条件(即,无限大的样本量和无限小的处理效果),i型误差和统计的幂次特性可以进行计算,但是实际数据往往没有这样的分布。<ref name=":43">Sawilowsky, Shlomo S.; Fahoome, Gail C. (2003). ''Statistics via Monte Carlo Simulation with Fortran''. Rochester Hills, MI: JMASM. ISBN <bdi>978-0-9740236-0-1</bdi>.</ref>
   −
2、提供比精确检验更有效的假设检验的实现,例如排列检验(通常无法计算) ,同时比渐近分布的临界值更精确。
+
2、提供比精确检验更有效的假设检验的实现,例如排列检验(通常无法计算),同时比渐近分布的临界值更精确。
    
3、提供一份来自后验概率贝叶斯推断的随机样本。然后基于这个样本进行近似和总结后验的所有基本特征。
 
3、提供一份来自后验概率贝叶斯推断的随机样本。然后基于这个样本进行近似和总结后验的所有基本特征。
第160行: 第161行:  
4、提供负对数似然函数的海赛矩阵的有效随机估计,这些估计的平均值可以形成'''费雪信息量 Fisher Information'''矩阵的估计。<ref name=":44">Spall, James C. (2005). "Monte Carlo Computation of the Fisher Information Matrix in Nonstandard Settings". ''Journal of Computational and Graphical Statistics''. '''14''' (4): 889–909. CiteSeerX 10.1.1.142.738. doi:10.1198/106186005X78800. S2CID 16090098.</ref><ref name=":45">{{Cite journal |doi = 10.1016/j.csda.2009.09.018|title = Efficient Monte Carlo computation of Fisher information matrix using prior information|journal = Computational Statistics & Data Analysis|volume = 54|issue = 2|pages = 272–289|year = 2010|last1 = Das|first1 = Sonjoy|last2 = Spall|first2 = James C.|last3 = Ghanem|first3 = Roger}}</ref>
 
4、提供负对数似然函数的海赛矩阵的有效随机估计,这些估计的平均值可以形成'''费雪信息量 Fisher Information'''矩阵的估计。<ref name=":44">Spall, James C. (2005). "Monte Carlo Computation of the Fisher Information Matrix in Nonstandard Settings". ''Journal of Computational and Graphical Statistics''. '''14''' (4): 889–909. CiteSeerX 10.1.1.142.738. doi:10.1198/106186005X78800. S2CID 16090098.</ref><ref name=":45">{{Cite journal |doi = 10.1016/j.csda.2009.09.018|title = Efficient Monte Carlo computation of Fisher information matrix using prior information|journal = Computational Statistics & Data Analysis|volume = 54|issue = 2|pages = 272–289|year = 2010|last1 = Das|first1 = Sonjoy|last2 = Spall|first2 = James C.|last3 = Ghanem|first3 = Roger}}</ref>
   −
蒙特卡罗方法也是近似随机和排列检验之间的折衷。近似随机化测试是基于所有排列的特定子集(这可能需要大量的内务处理,其中的排列经过充分考虑)。蒙特卡罗方法是基于指定数量的随机排列(如果一个排列被绘制两次或更频繁,则在精度上有较小的损失,因为不必跟踪哪些排列已经被选择)。
+
蒙特卡罗方法也是近似随机和排列检验之间的折衷。近似随机化测试是基于所有排列的特定子集(这可能需要大量的内务处理,其中的排列经过充分考虑)。蒙特卡罗方法是基于指定数量的随机排列(如果一个排列被绘制两次或更频繁,则在精度上有较小的损失,因为不必跟踪哪些排列已经被选择)。
    
===人工智能在游戏中的应用===
 
===人工智能在游戏中的应用===
 
蒙特卡罗方法已经发展成为一种称作'''蒙特卡洛树搜索 Monte-Carlo tree search'''的技术,它可以用来搜索游戏中的最佳移动。可能的移动被组织在一个搜索树和许多随机模拟被用来估计每个移动的长期潜力。一个黑盒模拟器代表对手的动作。<ref>{{cite web|url=http://sander.landofsand.com/publications/Monte-Carlo_Tree_Search_-_A_New_Framework_for_Game_AI.pdf|title=Monte-Carlo Tree Search: A New Framework for Game AI|author1=Guillaume Chaslot|author2=Sander Bakkes|author3=Istvan Szita|author4=Pieter Spronck|website=Sander.landofsand.com|accessdate=28 October 2017}}</ref>
 
蒙特卡罗方法已经发展成为一种称作'''蒙特卡洛树搜索 Monte-Carlo tree search'''的技术,它可以用来搜索游戏中的最佳移动。可能的移动被组织在一个搜索树和许多随机模拟被用来估计每个移动的长期潜力。一个黑盒模拟器代表对手的动作。<ref>{{cite web|url=http://sander.landofsand.com/publications/Monte-Carlo_Tree_Search_-_A_New_Framework_for_Game_AI.pdf|title=Monte-Carlo Tree Search: A New Framework for Game AI|author1=Guillaume Chaslot|author2=Sander Bakkes|author3=Istvan Szita|author4=Pieter Spronck|website=Sander.landofsand.com|accessdate=28 October 2017}}</ref>
   −
蒙特卡罗树搜索(MCTS)方法有四个步骤:<ref name=":46">{{cite web|url=http://mcts.ai/about/index.html|title=Monte Carlo Tree Search - About|access-date=2013-05-15|archive-url=https://web.archive.org/web/20151129023043/http://mcts.ai/about/index.html|archive-date=2015-11-29|url-status=dead}}</ref>
+
蒙特卡罗树搜索(MCTS)方法有四个步骤:<ref name=":46">{{cite web|url=http://mcts.ai/about/index.html|title=Monte Carlo Tree Search - About|access-date=2013-05-15|archive-url=https://web.archive.org/web/20151129023043/http://mcts.ai/about/index.html|archive-date=2015-11-29|url-status=dead}}</ref>
    
1、从树的根节点开始,选择最佳的子节点,直到达到叶节点。
 
1、从树的根节点开始,选择最佳的子节点,直到达到叶节点。
第183行: 第184行:     
===搜寻与救援===
 
===搜寻与救援===
美国海岸警卫队在其计算机建模软件—'''搜救最优规划系统 Search and Rescue Optimal Planning System (SAROPS)''' 中使用蒙特卡罗方法,以便在搜索和救援行动中计算可能的船只位置。每个模拟可以生成多达一万个数据点,这些数据点是根据提供的变量随机分布的。<ref name=":54">"How the Coast Guard Uses Analytics to Search for Those Lost at Sea". ''Dice Insights''. 2014-01-03.</ref>然后根据这些数据推断生成搜索模式,以优化包容概率(POC)和检测概率(POD) ,这两者合起来等于总体成功概率(POS)。最终,作为概率分布的一个实际应用,以最迅速和最便捷的救援方法,拯救生命和资源。<ref name=":55">Lawrence D. Stone; Thomas M. Kratzke; John R. Frost. "Search Modeling and Optimization in USCG's Search and Rescue Optimal Planning System (SAROPS)" (PDF). ''Ifremer.fr''. Retrieved 28 October 2017.</ref>
+
美国海岸警卫队在其计算机建模软件——'''搜救最优规划系统 Search and Rescue Optimal Planning System (SAROPS)'''中使用蒙特卡罗方法,以便在搜索和救援行动中计算可能的船只位置。每个模拟可以生成多达一万个数据点,这些数据点是根据提供的变量随机分布的。<ref name=":54">"How the Coast Guard Uses Analytics to Search for Those Lost at Sea". ''Dice Insights''. 2014-01-03.</ref>然后根据这些数据推断生成搜索模式,以优化包容概率(POC)和检测概率(POD),这两者合起来等于总体成功概率(POS)。最终,作为概率分布的一个实际应用,以最迅速和最便捷的救援方法,拯救生命和资源。<ref name=":55">Lawrence D. Stone; Thomas M. Kratzke; John R. Frost. "Search Modeling and Optimization in USCG's Search and Rescue Optimal Planning System (SAROPS)" (PDF). ''Ifremer.fr''. Retrieved 28 October 2017.</ref>
    
===金融与商业===
 
===金融与商业===
第194行: 第195行:     
==数学应用==
 
==数学应用==
一般来说,蒙特卡罗方法在数学中通过产生合适的随机数(也见随机数产生)和观察符合某些性质的数字分数来解决各种问题。对于过于复杂而无法用解析方法求解的问题,这种方法是有用的。蒙特卡罗方法最常见的应用是蒙特卡罗积分。
+
一般来说,蒙特卡罗方法在数学中通过产生合适的随机数(也见随机数产生)和观察符合某些性质的数字分数来解决各种问题。对于过于复杂而无法用解析方法求解的问题,这种方法是有用的。蒙特卡罗方法最常见的应用是蒙特卡罗积分。
 
===积分===
 
===积分===
蒙特卡罗积分是通过比较随机点和函数值来工作的|链接=Special:FilePath/Monte-carlo2.gif]]
+
蒙特卡罗积分是通过比较随机点和函数值来工作的。
   −
[[File:Monte-Carlo method (errors).png|thumb|Errors reduce by a factor of <math>\scriptstyle 1/\sqrt{N}</math>Errors reduce by a factor of <math>\scriptstyle 1/\sqrt{N}</math>错误由于<math>\scriptstyle 1/\sqrt{N}</math>而减少|链接=Special:FilePath/Monte-Carlo_method_(errors).png]]
+
[[File:Monte-Carlo method (errors).png|thumb|Errors reduce by a factor of <math>\scriptstyle 1/\sqrt{N}</math>Errors reduce by a factor of <math>\scriptstyle 1/\sqrt{N}</math》<math>\scriptstyle 1/\sqrt{N}</math>|链接=Special:FilePath/Monte-Carlo_method_(errors).png]]
    
确定性数值积分算法在低维运行良好,但在函数具有多个变量时会遇到两个问题。首先,随着维数的增加,需要进行的功能评估数量迅速增加。例如,如果10个评估在一个维度上提供了足够的精确度,那么100个维度需要10<sup>100</sup> 点,这太多了以至于无法计算。这就是所谓的'''维数灾难 Curse of Dimensionality'''。其次,多维区域的边界可能非常复杂,因此将问题简化为迭代积分可能是不可行的。<ref name="Press">Press, William H.; Teukolsky, Saul A.; Vetterling, William T.; Flannery, Brian P. (1996) [1986]. ''Numerical Recipes in Fortran 77: The Art of Scientific Computing''. Fortran Numerical Recipes. '''1''' (2nd ed.). Cambridge University Press. ISBN <bdi>978-0-521-43064-7</bdi>.</ref>100维问题是很常见的的,因为在许多物理问题中,一个“维度”等同于一个自由度。
 
确定性数值积分算法在低维运行良好,但在函数具有多个变量时会遇到两个问题。首先,随着维数的增加,需要进行的功能评估数量迅速增加。例如,如果10个评估在一个维度上提供了足够的精确度,那么100个维度需要10<sup>100</sup> 点,这太多了以至于无法计算。这就是所谓的'''维数灾难 Curse of Dimensionality'''。其次,多维区域的边界可能非常复杂,因此将问题简化为迭代积分可能是不可行的。<ref name="Press">Press, William H.; Teukolsky, Saul A.; Vetterling, William T.; Flannery, Brian P. (1996) [1986]. ''Numerical Recipes in Fortran 77: The Art of Scientific Computing''. Fortran Numerical Recipes. '''1''' (2nd ed.). Cambridge University Press. ISBN <bdi>978-0-521-43064-7</bdi>.</ref>100维问题是很常见的的,因为在许多物理问题中,一个“维度”等同于一个自由度。
第206行: 第207行:  
这种方法改进,在统计学中称为重要性抽样,涉及随机抽样点,但更频繁地在被积函数较大的地方进行。要精确地做到这一点,必须已知积分,或者也可以用一个类似函数的积分来近似这个积分,或者使用自适应例程,如'''分层抽样 Stratified Sampling''','''递归分层抽样 Recursive Stratified Sampling''','''自适应伞抽样 Adaptive Umbrella Sampling'''<ref name=":59">MEZEI, M (31 December 1986). "Adaptive umbrella sampling: Self-consistent determination of the non-Boltzmann bias". ''Journal of Computational Physics''. '''68''' (1): 237–248. Bibcode:1987JCoPh..68..237M. doi:10.1016/0021-9991(87)90054-4.</ref><ref name=":60">Bartels, Christian; Karplus, Martin (31 December 1997). "Probability Distributions for Complex Systems: Adaptive Umbrella Sampling of the Potential Energy". ''The Journal of Physical Chemistry B''. '''102''' (5): 865–880. doi:10.1021/jp972280j.</ref> 或'''VEGAS算法 VEGAS Algorithm'''。
 
这种方法改进,在统计学中称为重要性抽样,涉及随机抽样点,但更频繁地在被积函数较大的地方进行。要精确地做到这一点,必须已知积分,或者也可以用一个类似函数的积分来近似这个积分,或者使用自适应例程,如'''分层抽样 Stratified Sampling''','''递归分层抽样 Recursive Stratified Sampling''','''自适应伞抽样 Adaptive Umbrella Sampling'''<ref name=":59">MEZEI, M (31 December 1986). "Adaptive umbrella sampling: Self-consistent determination of the non-Boltzmann bias". ''Journal of Computational Physics''. '''68''' (1): 237–248. Bibcode:1987JCoPh..68..237M. doi:10.1016/0021-9991(87)90054-4.</ref><ref name=":60">Bartels, Christian; Karplus, Martin (31 December 1997). "Probability Distributions for Complex Systems: Adaptive Umbrella Sampling of the Potential Energy". ''The Journal of Physical Chemistry B''. '''102''' (5): 865–880. doi:10.1021/jp972280j.</ref> 或'''VEGAS算法 VEGAS Algorithm'''。
   −
一个类似的方法—拟蒙特卡罗方法,使用低差异序列。这些序列能更好地“填充”区域,更频繁地采样最重要的点,因此拟蒙特卡罗方法往往能更快地收敛于积分。
+
一个类似的方法——拟蒙特卡罗方法,使用低差异序列。这些序列能更好地“填充”区域,更频繁地采样最重要的点,因此拟蒙特卡罗方法往往能更快地收敛于积分。
   −
另一类在体积中的取样点方法是模拟在它上面的随机行走(马尔可夫链蒙特卡罗)。这些方法包括 '''梅特罗波利斯-黑斯廷斯算法 Metropolis-Hastings Algorithm'''、'''吉布斯取样法 Gibbs Sampling'''、'''王-兰道算法 Wang and Landau Algorithm''',以及交互型马尔可夫链蒙特卡罗方法,如顺序蒙特卡罗采样法。<ref name=":61">Del Moral, Pierre; Doucet, Arnaud; Jasra, Ajay (2006). "Sequential Monte Carlo samplers". ''Journal of the Royal Statistical Society, Series B''. '''68''' (3): 411–436. arXiv:cond-mat/0212648. doi:10.1111/j.1467-9868.2006.00553.x. S2CID 12074789.</ref>
+
另一类在体积中的取样点方法是模拟在它上面的随机行走(马尔可夫链蒙特卡罗)。这些方法包括 '''梅特罗波利斯-黑斯廷斯算法 Metropolis-Hastings Algorithm'''、'''吉布斯取样法 Gibbs Sampling'''、'''王-兰道算法 Wang and Landau Algorithm''',以及交互型马尔可夫链蒙特卡罗方法,如顺序蒙特卡罗采样法。<ref name=":61">Del Moral, Pierre; Doucet, Arnaud; Jasra, Ajay (2006). "Sequential Monte Carlo samplers". ''Journal of the Royal Statistical Society, Series B''. '''68''' (3): 411–436. arXiv:cond-mat/0212648. doi:10.1111/j.1467-9868.2006.00553.x. S2CID 12074789.</ref>
    
===模拟与优化===
 
===模拟与优化===
随机数在数值模拟中的另一个强大和非常流行的应用是数值优化。问题是最小化(或最大化)某些向量的函数,这些向量通常有多个维度。许多问题都可以用这种方式表述:
+
随机数在数值模拟中的另一个强大和非常流行的应用是数值优化。问题是最小化(或最大化)某些向量的函数,这些向量通常有多个维度。许多问题都可以用这种方式表述:
 
例如,一个计算机国际象棋程序可以视为试图找到一组,比如说,在最后产生最佳评估函数的10步棋。在旅行推销员问题中,目标是最小化旅行距离。也有应用于工程设计,如'''多学科设计优化''' '''Multi-disciplinary Design Optimization''' ('''MDO''')。它也已应用于准一维模型,以解决粒子动力学问题,有效地探索大型位形空间。参考文献<ref name=":62">Spall, J. C. (2003), ''Introduction to Stochastic Search and Optimization: Estimation, Simulation, and Control'', Wiley, Hoboken, NJ. http://www.jhuapl.edu/ISSO</ref>是对许多与模拟和优化有关的问题的全面回顾。
 
例如,一个计算机国际象棋程序可以视为试图找到一组,比如说,在最后产生最佳评估函数的10步棋。在旅行推销员问题中,目标是最小化旅行距离。也有应用于工程设计,如'''多学科设计优化''' '''Multi-disciplinary Design Optimization''' ('''MDO''')。它也已应用于准一维模型,以解决粒子动力学问题,有效地探索大型位形空间。参考文献<ref name=":62">Spall, J. C. (2003), ''Introduction to Stochastic Search and Optimization: Estimation, Simulation, and Control'', Wiley, Hoboken, NJ. http://www.jhuapl.edu/ISSO</ref>是对许多与模拟和优化有关的问题的全面回顾。
   −
旅行推销员问题被称为传统的最优化问题问题。也就是说,确定最佳路径所需的所有事实(每个目的地之间的距离)都是确定无疑的,目标是通过可能的旅行选择得出总距离最小的路径。然而假设我们不想最小化访问每个想要的目的地所需的总距离,而是想最小化到达每个目的地所需的总时间。这超越了传统的优化,因为旅行时间是固有的不确定性(交通堵塞,一天的时间,等)。因此,为了确定我们的最佳路径,我们需要使用模拟优化来首先了解从一个点到另一个点可能需要的时间范围(在这个例子中用概率分布代表,而不是特定的距离) ,然后优化我们的旅行决策,以确定最佳路径遵循考虑到这种不确定性。
+
旅行推销员问题被称为传统的最优化问题问题。也就是说,确定最佳路径所需的所有事实(每个目的地之间的距离)都是确定无疑的,目标是通过可能的旅行选择得出总距离最小的路径。然而假设我们不想最小化访问每个想要的目的地所需的总距离,而是想最小化到达每个目的地所需的总时间。这超越了传统的优化,因为旅行时间是固有的不确定性(交通堵塞,一天的时间,等)。因此,为了确定我们的最佳路径,我们需要使用模拟优化来首先了解从一个点到另一个点可能需要的时间范围(在这个例子中用概率分布代表,而不是特定的距离),然后优化我们的旅行决策,以确定最佳路径遵循考虑到这种不确定性。
    
===逆问题===
 
===逆问题===
逆问题的概率公式引出了模型空间中概率分布的定义。这种概率分布结合了先验信息和通过测量一些可观测参数(数据)获得的新信息。由于在一般情况下,将数据与模型参数联系起来的理论是非线性的,模型空间中的后验概率可能不容易描述(可能是多模态的,有些矩可能没有定义等)。
+
逆问题的概率公式引出了模型空间中概率分布的定义。这种概率分布结合了先验信息和通过测量一些可观测参数(数据)获得的新信息。由于在一般情况下,将数据与模型参数联系起来的理论是非线性的,模型空间中的后验概率可能不容易描述(可能是多模态的,有些矩可能没有定义等)。
    
在分析逆问题时,获得最大似然模型通常是不够的,因为我们通常还希望得到数据分辨率的信息。在一般情况下,我们可能有许多模型参数,而对边际概率密度的检验可能是不切实际的,甚至是无用的。但可以根据后验概率分布伪随机地生成大量模型,并以传递模型属性的相对可能性信息的方式对模型进行分析和显示。这可以通过一种有效的蒙特卡罗方法来完成,即使在没有先验分布的显式公式可用的情况下。
 
在分析逆问题时,获得最大似然模型通常是不够的,因为我们通常还希望得到数据分辨率的信息。在一般情况下,我们可能有许多模型参数,而对边际概率密度的检验可能是不切实际的,甚至是无用的。但可以根据后验概率分布伪随机地生成大量模型,并以传递模型属性的相对可能性信息的方式对模型进行分析和显示。这可以通过一种有效的蒙特卡罗方法来完成,即使在没有先验分布的显式公式可用的情况下。
   −
最著名的重要抽样方法梅特罗波利斯-黑斯廷斯算法可以推广使用,它提供了一种允许分析(可能是高度非线性的)具有复杂先验信息和任意噪声分布数据的逆问题的方法。<ref name=":63">Mosegaard, Klaus; Tarantola, Albert (1995). "Monte Carlo sampling of solutions to inverse problems" (PDF). ''J. Geophys. Res''. '''100''' (B7): 12431–12447. Bibcode:1995JGR...10012431M. doi:10.1029/94JB03097.</ref><ref name=":64">Tarantola, Albert (2005). ''Inverse Problem Theory''. Philadelphia: Society for Industrial and Applied Mathematics. ISBN <bdi>978-0-89871-572-9</bdi>.</ref>
+
最著名的重要抽样方法梅特罗波利斯-黑斯廷斯算法可以推广使用,它提供了一种允许分析(可能是高度非线性的)具有复杂先验信息和任意噪声分布数据的逆问题的方法。<ref name=":63">Mosegaard, Klaus; Tarantola, Albert (1995). "Monte Carlo sampling of solutions to inverse problems" (PDF). ''J. Geophys. Res''. '''100''' (B7): 12431–12447. Bibcode:1995JGR...10012431M. doi:10.1029/94JB03097.</ref><ref name=":64">Tarantola, Albert (2005). ''Inverse Problem Theory''. Philadelphia: Society for Industrial and Applied Mathematics. ISBN <bdi>978-0-89871-572-9</bdi>.</ref>
    
===哲学===
 
===哲学===
113

个编辑

导航菜单