“涌现的种类与形式”的版本间的差异

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
跳到导航 跳到搜索
第165行: 第165行:
  
 
除了直接和间接形式的互动和反馈外,根据两种不同类型的可能反馈,还有两种不同类型的弱出现:消极或阻尼反馈导致稳定形式的弱涌现,以及积极或放大反馈导致的不稳定形式,如短暂的流行、泡沫和嗡嗡声。
 
除了直接和间接形式的互动和反馈外,根据两种不同类型的可能反馈,还有两种不同类型的弱出现:消极或阻尼反馈导致稳定形式的弱涌现,以及积极或放大反馈导致的不稳定形式,如短暂的流行、泡沫和嗡嗡声。
 
 
 
 
 
[[文件:图10:稳定的弱涌现,自下而上正反馈与自上而下负反馈的平衡.png|缩略图|图10:稳定的弱涌现,自下而上正反馈与自上而下负反馈的平衡]]
 
[[文件:图10:稳定的弱涌现,自下而上正反馈与自上而下负反馈的平衡.png|缩略图|图10:稳定的弱涌现,自下而上正反馈与自上而下负反馈的平衡]]
  
第191行: 第187行:
  
 
在经济活动和自由市场中,商品的最佳定价涌现自遵守当地商业规则和供需定律的主体间互动。它基于负向稳定的反馈:高需求或资源供应不足导致高价格,高价格反过来减少需求,增加资源。低需求或资源供应过剩导致低价格,低价格反过来增加需求,减少资源。因此,需求是通过负反馈来改变的,直到达到部分平衡。供需定律假定市场是完全竞争的(没有行动者有足够力量能直接影响价格),且主体的行为是理性的,但情况并非总是如此。一个只模仿别人的人行为就不是理性的,即他的行为不是最优的。例如,他将支付一个并不充分或适当的产品价格。
 
在经济活动和自由市场中,商品的最佳定价涌现自遵守当地商业规则和供需定律的主体间互动。它基于负向稳定的反馈:高需求或资源供应不足导致高价格,高价格反过来减少需求,增加资源。低需求或资源供应过剩导致低价格,低价格反过来增加需求,减少资源。因此,需求是通过负反馈来改变的,直到达到部分平衡。供需定律假定市场是完全竞争的(没有行动者有足够力量能直接影响价格),且主体的行为是理性的,但情况并非总是如此。一个只模仿别人的人行为就不是理性的,即他的行为不是最优的。例如,他将支付一个并不充分或适当的产品价格。
 +
  
 
==== b) 弱涌现(非稳态) ====
 
==== b) 弱涌现(非稳态) ====

2022年6月10日 (五) 06:43的版本

写在前面

封面图片.png

涌现问题是复杂系统领域的核心问题,对涌现现象的研究也被誉为复杂系统中的“圣杯”。我们翻译了这篇关于涌现的文章,它是至今为止对涌现现象最全面的总结之一,也可以看做从复杂性角度考察所有系统的一篇指南。文章作者是 Jochen Fromm,是德国卡塞尔大学(University of Kassel)的复杂自适应系统专家,另外著有《The Emergence of Complexity》一书。

摘要

如果我们想了解和掌握科学和工程中的复杂系统,不同类型涌现的知识是必不可少的。从机器中有意和可预测的简单涌现,到更复杂的弱涌现、多重涌现和强涌现,本文对多主体系统中涌现的主要类型和形式进行了普遍而全面的分类。

介绍

图1:涌现体现着宇宙最深的秘密

在由许多自主的实体或主体(autonomous entities or agents)组成的系统中,秩序和组织结构的涌现是一个非常基本的过程。涌现的过程涉及到了一个基本问题:「一个实体是如何产生的?」 在涌现的过程中,我们观察到一些事物(如秩序或组织的出现),并问这是如何可能的,因为我们假定其中具有因果关系:每个结果都应该有一个原因。但在涌现过程中令人惊讶的一面是,我们观察到了一个没有明显原因的效果。当然,尽管这看起来似乎很神秘,但其实并没有什么神奇的、魔法的或不科学的地方。(图1)

正如 Laughlin 在他的书中所说那样[1],考虑具有涌现特性的世界,其中最深的奥秘就像我们身边的幼苗、冰块、盐粒或沙堆一样近。如果我们不能很好理解自己尺度上的事物,那么在难以想象的高能级或极端尺度上找到终极规律就更值得怀疑了。换句话说,我们必须先退后一步,看一看日常物体的模式和相互作用,才能发现我们宇宙的本质。(图2)

图2:神奇的涌现日常随处可见


涌现特性充满惊异和悖论:它们非常基本,但对我们又非常熟悉。根据 John H. Holland 的说法,生成系统(generated systems)中的涌现现象是典型的具有变化成分的持续模式[2],也就是说,它们同时是不变的和变化的、恒定和波动的、持续和转变的、必然发生但又不可预测的。而且,涌现属性既是系统的一部分,同时又不是系统的一部分,它依赖于系统因为它在系统中出现,但在一定程度上又独立于系统。根据《斯坦福哲学百科全书》(Stanford Encyclopedia of Philosophy):

涌现实体(属性或物质)从更基本的实体中「升」出来,但对它们而言却是「新颖的」或「不可还原的」(irreducible)[3]。

由于真正的涌现属性是不可还原的,所以它们不可能被摧毁或分解——只能出现或消失。在这层意义上,它们似乎是不可毁灭(indestructible)的,并有可能是唯一实存的东西(译注:destroy 意味着对组成原件或构成进行破坏,但对涌现属性我们找不到它的构成,因此无法进行这个意义上的「毁灭」。例如火焰,它在微观不存在,存于宏观却无法找到其宏观构成,只能熄灭或无法从构成上意义上分解或毁灭。)但如果它们被仔细核查——即我们对系统的组成进行深入细致地观察——它们又根本不存在,往往很快消失得无影无踪。悖论的产生主要是因为我们往往只能看到了复杂系统的一面,例如只考虑了微观或宏观层面,而不是同时考虑两者,或者只看到了系统或环境,而非同时两者。要理解一个具有多层次和多尺度的复杂系统是很困难的。

涌现是一种悖论:涌现的属性往往是不变的和变化的,恒定的和波动的,持续的和转变的,不可避免的和不可预测的,依赖于和独立于它们所产生的系统。

软件和硬件系统中不可预见的故障和意外是一种特殊的、不被希望出现的涌现形式。正如 Duncan J. Watts 所说:「世界上最好的维护程序也不能确保预防那些还不知道存在的故障……即使人们尽了最大努力,故障还是会发生」[4]。我们有必要了解复杂系统中的涌现过程,以便创造出复杂而稳健的新形式系统,为错误的发生做好准备,尽可能防止失败。如果我们想在科学和工程中理解和掌握复杂系统,显然对不同类型涌现的了解至关重要。

图3:简单规则下涌现出的鱼群

社会性动物之间的自组织通常涉及一些涌现的「技巧」:信息素技巧(pheromone trick,用信息素场标记感兴趣的物品)和结群技巧(flocking trick,呆在群体附近,但不要太靠近你的邻居)。这两个简单的技巧就导致了蚁群、白蚁堆、蜂群、鸟群、哺乳动物群和鱼群等生物种群的涌现。(图3)

一种清晰的形式化描述将有助于回答涌现问题。Aleš Kubík [5]和 Yaneer Bar-Yam [6]曾试图用语法、形式语言和数学来实现这点。然而「涌现」这个词太笼统了,不能用单一门科学的术语来涵盖它。「像涌现这样复杂的主题不太可能服从于一个简洁的定义」[7]涌现很难用一个模型或理论来刻画,这是因为在涌现的过程中,新的和不可预测的实体出现了,它们受自己的规律支配。它与定义新的类别、概念和描述性术语的必要性有关。问题正如 Robert I.Damper 所言,「我们将如何避免为每一个案例重新做这件事?」 [8]。

既然用语法、形式语言或数学的形式化描述不适合也难以解决这个困难的问题,那么至少一个完整而系统的分类会有帮助。本文就试图为各种类型和形式的涌现提供一个标准、规范的分类方法。

定义与属性

定义

由于涌现是一个模棱两可的词,因此从一个明确的定义开始是必要的。在下文中,涌现的(emergent)和涌现(emergence)是这样定义的:

如果一个系统的属性不是其任何基本元素的属性,那么它就是涌现的。涌现是涌现的属性和结构在更高层次组织或复杂性(「多者异也」)上的显现[9]。

这是许多关于复杂系统的入门教科书中可以找到的常见定义[10]。《牛津哲学指南》[11]将涌现属性定义为不可预测和不可还原的:「一个复杂系统的属性被说成是『涌现』的,是因为尽管它是从表征较简单成分的属性和关系中产生的,但它既不能从这些较低层次的特征中预测出来,也不能被还原成这些特征」。

《剑桥哲学词典》[12]对结构和规律、描述性涌现和解释性涌现进行了区分。描述性涌现(Descriptive emergence)意味着「整体」(或更复杂的情形)的一些属性不能通过「部分」(或更简单情形)的属性来定义。解释性涌现(Explanatory emergence)意味着「系统中更复杂情况的规律,不能通过任何构成或共存规律从更简单或最简单情形中推导出来」。

《剑桥在线词典》[13]说,emerge「涌现」的意思是「通过从某物出来或从某物后面出来」或「抵达某段困难时期或经历的尽头」,而 emergence 只是「出现的过程」。emergence 和 emerge 这两个词的拉丁词源都是 emergere,意思是从水中升起,出现和到达。拉丁语动词 emergere 来自 e(x)「out」+ mergere「to dip, plunge into liquid, immerse, sink, overwhelm」(浸入、陷进液体、浸没、下沉、淹没),即 to emerge 类似于去合并相对立(opposite)的事物。Emergence 是由 emergere 的现在分词 emergens 演变而来。merging(合并)意味着两个独立的事物的结合、沉浸和融合,而 emerging(涌现)则意味着对立的事物。

属性与标准

解释、还原、预测和因果关系等概念是深入理解涌现的核心[14] 。Francis Heylighen 据此提出了以下关于涌现的分类标准[15]:

  • 所创建系统的多样性(如涌现系统的可能状态);
  • 外部影响的数量(在涌现过程中);
  • 维持系统身份的约束类型(完全的或条件的);
  • 层次的数量,多层次的涌现(一个层次,两个层次,或多个层次)。

不幸的是,这些属性并非完全独立:多层次的涌现过程肯定比单一层次还具有更高的多样性。

类别与分类

哲学分类法

查尔默斯(David J. Chalmers) 区分了弱涌现(weak emergence)和强涌现(strong emergence)[16]。强涌现甚至在原则上不能从低层次领域的规律中推导出来,至于弱涌现则只是在低层次领域的属性和原则下的意外 [17]。Mark A. Bedau 区分了三种涌现:名义的(nominal)、弱的和强的。他在与查尔默斯相同的意义上使用弱和强,但增加了名义涌现的概念,与上述涌现属性的一般定义相对应:名义涌现是一个系统中出现的宏观属性,而非微观属性。William Seager(SeagerDrafts)强调了两种涌现:良性的(benign)和激进的(radical)的。他所谓的 「良性」或可接受涌现是指——我们能够找到一个描述性或解释性的方案,提供一种有用的速记符号来描述一个系统的行为,例如气体的压力和温度;他的激进涌现则大致对应于Bedau 和查尔默斯的强涌现。

基本粒子分类法

Yaneer Bar-Yam[18]区分了四种类型的涌现。基于「粒子」和「系综」(particles & ensembles),而非主体和群体(agents and groups)概念,他给出了以下简短描述分类:

  • Type A:涌现行为(从微观到宏观)
    • Type0(孤立部分在整体中没有对应位置)
    • Type1(部分在整体有对应位置——弱涌现)
    • Type2(存在有集体约束的系综——强涌现)
    • Type3(存在系统与环境的关系属性——强涌现)
  • Type B:新系统类型的动态涌现:「新涌现形式」

Type0是简单的「部件分离对部件结合」的涌现,类似于良性和名义的形式。Type1和Type2大致对应于弱涌现和强涌现,尽管他描述的强涌现概念有点特别(「强涌现是系统的属性,并不能在系统的部分属性或部分之间的相互作用中找到」)。对于强涌现性,他正确指出了在系统全局水平和主体局部水平之间,存在着中间成分或组合。Type3则通过系统的涌现行为进行了分类,这些涌现行为产生于与环境的互动过程中。

元胞自动机分类法

根据元胞自动机(Cellular Automata,CA)的思想,Stephen Wolfram 和 David Eppstein 对涌现分别有两种一般分类法。Wolfram 的CA四分类是[19]:同质性(homogeneous,Class I)、周期性(regular,Class II)、混沌性(chaotic,Class III)和复杂性(complex,Class IV)。

Eppstein 更简单的三分类法[20]是为了克服 Wolfram 方案困难而制定的。他提出了三个主要类别:

  • 收缩不可能(Contraction impossible,负反馈)
  • 膨胀不可能(Expansion impossible,正反馈)
  • 胀缩都可能(Both expansion and contraction possible,负和正反馈)

新分类法

本文的分类法基于不同的反馈类型、因果关系效应的整体结构,这与 Eppstein 对CA 的分类完全吻合。因果性或因果效应是所有形式和类型涌现的自然秩序,因为原因通常是涌现中最不明确的一点:即涌现是一种原因不能被立刻看到或显现的效果或事件。一个关于涌现过程的问题总是一个因果关系或因果性问题——为一个明显的效果寻找一个隐藏的原因。不同类型的涌现据此可以大致分成四种类型或类别:

  • Type I 简单/名义涌现(Simple/Nominal),没有自上而下反馈
    • Type Ia:有意简单涌现(Intentional)
    • Type Ib:无意简单涌现(Unintentional)
  • Type II 弱涌现(Weak Emergence),包含自上而下反馈
    • Type IIa 稳态弱涌现(Stable)
    • Type IIb 非稳态弱涌现(Instable)
  • Type III 多重涌现(Multiple Emergence),具有多重反馈
    • Type IIIa:条纹、斑点、冒泡型 Stripes、Spots、Bubbling
    • Type IIIb:隧穿(Tunneling)、自适应型(Adaptive Emergence)
  • Type IV 强涌现(Strong Emergence)

第I型(Type I)涌现完全不包含反馈,只有「前馈」关系(feedforward)[21]。第II型(Type II)的主要特征是简单的反馈:(a)正反馈或(b)负反馈。多重反馈、学习和自适应则对第III型(Type II)很重要。Holland 在谈到适应性系统中的涌现时说,「任何对涌现的研究都必须严肃面对学习」[22]。第III型出现在有许多反馈循环的非常复杂的系统,或有智能主体的复杂适应性系统中,它是在涌现过程中具有大量外部性影响的类别(即 Heylighen 和 Bar-Yam 的系统与环境关系属性中内部性/外部性维度)。至于第IV型(Type IV)涌现,用 Heylighen[23]的话来说,其特点是多级涌现(multi-level)和所创造系统中的大量多样性,即由于组合爆炸,涌现系统的可能状态的数量都是天文数字。这是负责产生更高层次复杂性结构的涌现形式,即使在原则上也不能还原为基本成分属性和规律的直接影响。

Stephen Jones 用类似的方法定义了一个全面的分类法[24]。他用反馈关系提出了一个涌现的分类法,并区分了涌现的一阶(只有「前馈」关系)、二阶(反馈关系)和三阶(「协同反馈关系(mutualistic feedback )」)形式。

不幸的是,第三种分类并不明确,几乎包含了所有其它情况。此外,他的分类法中似乎完全没有强涌现。他还试图运用控制论中已知不同反馈形式来区分第II型涌现:在分类法区分了带错误返回值的反馈(输出在返回到输入之前被过滤和限制)和不带返回值的反馈(输出纯被返回到输入)。这并非一个坏想法,但在涌现情况下其解释力是值得怀疑的。

不同的视角

此外也可以从其他角度,例如从生成过程的约束或角色的角度来确定分类:I型对应于固定的角色,II型对应于灵活的角色,III型对应于新角色的出现和旧角色的消失,IV型对应于一个开启全新世界的新角色。另一种可能的分类是使用不同层次的预测性:I型的有意涌现是可预测的,II型的弱涌现原则上是可预测的(尽管并非每个细节),III型的多重涌现是混乱的或完全不可预测的,IV型的强涌现在原则上是不可预测的。

表1:依据角色、常见程度和可预测性,不同类型的涌现及对应系统分类


所有类型的共同要素是边界、反馈或跳跃/跃迁。正如涌现这个名字所暗示的,某些东西的涌现总是有可能在一个系统的明确边界出现,并且通常会发生跳跃或跃迁到一个新的层次。此外,几乎所有有趣的涌现类型都涉及某种形式的反馈和一个或多个反馈回路:如Ib型中的尺度保持反馈(点-点),II型中的尺度交叉反馈(上-下),以及另外类型的多重反馈。

表2:依据边界、反馈和跃迁类型,不同复杂性类型的涌现分类

实例

第I型:没有自上而下反馈的简单涌现

a)简单有意/名义性涌现

Ia型中唯一被约束的生成角色、或自上而下的过程是对机器的有意设计:一种特定、固定的角色被分配到每个单元,并且角色作用在时间中不会改变。因此每个部分的行为总是相同的,与其它部分的状态、系统的整体状态和环境无关。具有Ia型涌现的复杂性或设计的机器功能,是单个零件和组件计划受控下交互的有意涌现属性:

  • 一台机器的功能是其组件的涌现属性;
  • 一个软件系统的功能是底层代码的涌现属性;
  • 一个句子的语义信息是句子中声音和单词的涌现属性,且取决于它们的排列方式。
图4:钟表、包括复杂的机器是被设计出的简单有意涌现

在复杂系统中涌现的典型情况是,新的角色被分配给主体和行动者。在这种类型中,不允许有其它形式的角色分配。一个典型角色的例子是在蚁群中觅食时的「探索者」与「跟随者」或 「运输者」。在计算机程序或复杂系统中,每一个组件和对象都是某种定义好的角色,并受到明确理解规则的约束。手表齿轮在手表中当然具有以前没有的角色,但一旦它们被内置,这些作用就不会再改变。


如果每个部分的行为都独立于其它部分的状态,那么机器的行为就是确定的和可预测的:按照 Ashby[25]的说法,这样的系统是「自组织」的,因为它从「部件分离」变为 「部件结合」。Ia型涌现的典型是普通机器的,例如钟表或蒸汽机。Ashby 对机器的定义如下:

「机器」是指以类似机械方式行事的东西,即它的内部状态和周围环境状态唯一地定义了它将进入的下一个状态 [25]。

名义或有意这种形式的涌现对人并不陌生。它已经被使用了好几个世纪。例如人们有某种意图、目的或计划创造这样一个系统,对系统进行调试和改变,直到从零件和部件的组装中出现的功能与这个单一目的完全吻合。

然而,正如我们在具有完全自上而下控制的大型系统(例如命令下的计划经济)中所观察到的那样,有意涌现总会有缺点。 具有Ia型涌现系统的一个典型缺点是脆弱性,或缺乏灵活适应性。定义明确、有计划的对象是100%可靠、并总是尽职尽责履行义务的,但如果没有冗余组件,一个部件的缺陷就可能会致使整个系统停止运行。

图5:水的宏观特征和物理属性是简单的无意涌现

b)  简单的无意涌现

大量相同粒子的统计量和宏观属性是未被注意的Ib型涌现例子(如果它们和粒子之间的关系有依赖):

  • 热力学属性,如压力、体积、温度;
  • 特征路径长度和网络中的聚类系数;
  • 涌现的物理属性,如雪崩、波阵面(wave-front)或沙堆的坡度。

Ib型涌现出现在一类有许多松散耦合、无组织和平等元素组成的系统中,它拥有诸如温度或压力之类的某些平均属性。它勉强可以被称为涌现,是因为把大量个体的属性描述为了一个平均属性总和。平均量本身并非一种涌现的特征,然而如果它们和粒子之间的关系有依赖,定义聚合体属性的统计量则可以被视为简单的涌现特性,虽然这时它们对单个粒子而言没有意义。像压力这样的量不能应用于单个粒子,单个沙粒没有坡度可言,网络中的单个节点也没有路径长度。


大多数平均量只是应用于每块属性的平均数(例如计算机科学博士的平均工资),不是Ib型涌现的例子,因为它们违反了一个属性只有在适用于整体而非部分时才是涌现的观念。(译注:这意味着只有在没有平均标度的幂律现象或分形中才有涌现,相对正态或平均分布则没有)即使没有自上而下的反馈,在主体或粒子尺度上也可以有类似连锁反应或多米诺效应的简单反馈:一个粒子被激发,影响到一个新的粒子,然后一个新的粒子再被激发……。这种简单的尺度保持(点-点)形式反馈导致了波浪、连锁反应、级联和雪崩等等发生。

图6:没有自上而下反馈、由粒子激发形成的简单涌现

第II型:包括自上而下反馈的弱涌现

图7:鱼群是一种存在自上而下反馈的涌现

第II型涌现包括从宏观到微观层面的自上而下反馈。例如考虑一个我们可以确定各种空间分辨率层次(主体-群体、实体-系统、个体-群落、粒子-集群……)的多体系统(Multi Agent System)。在主体极微观层面上,许多单个个体或实体在局部相互作用。这种互动导致更高的层次上出现了一种新型、通常是不可预测的模式。在群体或整个系统宏观水平上,所谓涌现现象——我们所发现未预料到的模式、结构或属性,它们在相互作用规律中并没有直接规定,但反过来却会通过反馈过程影响实体低层次间相互作用。


例如,鱼群是一个影响每只参与动物运动的涌现属性。它可以用第二类涌现,即弱涌现来解释和描述。M.A. Bedau 对弱涌现的定义如下:如果一个宏观状态或属性只能从微观动态通过模拟得到,那么它就是弱涌现的[26]。在弱涌现中,不像简单形式的名义涌现或意向涌现那样,只存在微观和宏观层次的唯一因果方向,它在两个方向上都有因果关系。

有两种基本的互动形式会导致弱涌现[27]:

图8:弱涌现形成的交互模式
图8:弱涌现形成的交互模式
图9:动物迁徙是一种和环境之间的间接交互








直接交互(Direct Interaction):系统中的主体或实体直接相互作用,导致群体和集群的形成,再反过来影响主体或实体本身的行为。只有在主体能够区分不同尺度的情况下,这种反馈才有可能,例如,微观物体有排斥作用,宏观物体有吸引作用。这同样发生在前面提到的结群技巧中,如蜂群、鸟群、哺乳动物群、鱼群或狼群。

间接交互(Indirect Interaction)。系统的主体或实体通过他们各自的行为改变整个系统和环境的状态,环境的变化再反过来影响主体或实体的行为。

如果主体能够通过具有全局性和持久性影响的长期局部变化来操纵环境,如前面提到的信息素技巧(用费洛蒙场标记感兴趣的物品),或者如果它们几乎同步行动,从而使单个行动的效果成倍增加,那么间接反馈也是可能的。自然系统中的例子是蚂蚁群和成堆的白蚁,在社会系统中则是人口迁移过程。

当然,也有两种形式的混合体。在第一种情况下,通过直接互动产生的群体和集群可以影响环境的状态。在第二种情况下,通过环境的间接反馈往往导致群体形成的强化,特别是在具有同步行动的社会仪式中,将一个群体人为一体。

除了直接和间接形式的互动和反馈外,根据两种不同类型的可能反馈,还有两种不同类型的弱出现:消极或阻尼反馈导致稳定形式的弱涌现,以及积极或放大反馈导致的不稳定形式,如短暂的流行、泡沫和嗡嗡声。

图10:稳定的弱涌现,自下而上正反馈与自上而下负反馈的平衡

a) 弱涌现(稳定的)

这种反馈通常是负向的,对主体的行动施加约束。IIa型的弱无意涌现是一种经典的涌现形式,它包括了自下而上的影响和自上而下的群体或环境的反馈。它和群体智能、群体形成和共识主动性(stigmergy)有关,也与前面提到的结群和信息素技巧有关。例如:

  • 蚂蚁的觅食行为;
  • 鱼和鸟的成群行为;
  • 液体或流体是分子形式的自组织涌现属性;
  • 互联网中的自组织形式,例如万维网和 WIKIPEDIA,Linux 和 Mozilla等开源项目;
  • 根据供需定律,商品在经济和自由市场中的最优价格。
图11:同质化的「死鱼」无法形成鱼群只能随波逐流

在稳定的弱涌现形式中,一面是探索、多样性和随机性(自下而上影响),一面是利用、统一性和秩序(自上而下约束),两者之间存在着平衡。IIa型的涌现基于两个层次:它们被一对自下而上和自上而下的互补过程所连接。

多样性和「探索」产生于「创造性」的自下而上的过程,这源自各组成部分的自主性和彼此的独特背景。统一性和「利用」产生于「约束性」的自上而下反馈过程,它对组成部分或主体施加了约束——类似于「同侪压力」,迫使他们调整自己的行为或成为某种角色。我们在一个具有涌现特性的系统中观察到的复杂组织形式,是由于多样性和统一性、探索和利用、「创造性 」的自下而上的过程和 「约束性」的自上而下的反馈的平衡。蚁群中的蚂蚁由于不同的个体环境和随机影响探索各个方向。然而它们却有一个集体目标,并被迫遵循自己的信息素轨迹。鸟群中的鸟儿向不同的方向飞去,以避免碰撞,但同时又紧紧地靠在一起,试图与邻居的速度相匹配,并转向所认为鸟群的中心。

图12:在遵循相同简单规则下,维基百科是多样化自组织共创的典范
图13:自由贸易带来了全球经济的繁荣

万维网(WWW)反映了世界人口的巨大多样性。正如 Flake等人所说,「数以百万计的个体独立运作,拥有不同的背景、知识、目标和文化,他们在网上发布信息」 [28]。这种多样性被W3C和其它联盟(HTML、HTTP等)的统一标准和约束所平衡。

正如 Linux、Mozilla 和 Firefox 浏览器、WIKIPEDIA 以及世界各地无数其它开放和自由合作项目持续成功所显示的那样,这种形式的自组织可以非常强大。WIKIPEDIA 依靠的是其参与者和贡献者的多样性。如果它由一支克隆大军创建,每个参与者都与同行完全相同,那么它就不会成功。此外,还有一种统一的力量能让其保持统一性:每个参与者都使用相同的简单编辑器,遵守相同的简单规则。

在经济活动和自由市场中,商品的最佳定价涌现自遵守当地商业规则和供需定律的主体间互动。它基于负向稳定的反馈:高需求或资源供应不足导致高价格,高价格反过来减少需求,增加资源。低需求或资源供应过剩导致低价格,低价格反过来增加需求,减少资源。因此,需求是通过负反馈来改变的,直到达到部分平衡。供需定律假定市场是完全竞争的(没有行动者有足够力量能直接影响价格),且主体的行为是理性的,但情况并非总是如此。一个只模仿别人的人行为就不是理性的,即他的行为不是最优的。例如,他将支付一个并不充分或适当的产品价格。


b) 弱涌现(非稳态)

反馈也可以是正向的。吸毒成瘾或经济通货膨胀就是正反馈的(负面)例子:高工资导致产品价格高,高价格增加生活成本,高生活成本增加工资。在毒瘾中,高剂量会激活大脑的奖励系统并导致重复消费,重复消费导致习惯化,从而改变奖励系统并导致更高的剂量。

众所周知,模仿是影响流行、时尚周期和突然的集体意见转变的主要因素之一[29],我们的决定经常是基于他人的行为。在我们必须决定一些重要的事情(在金融市场上购买股票等)之前,我们经常看别人在做什么,我们模仿别人。然而,其他人也有可能做同样的事情,而且也并不知道真正该怎么做。

当每个人都试图根据别人的行动来做决定时,集体就可能无法正确聚合信息,导致正反馈回路和相互强化出现。例如短暂的时尚:如果一件商品经常被购买,它就被认为是有价值的,如果是有价值的,就会导致许多消费者购买——如果人们只看到别人在做什么。如果在这种情况下分布式决策失败,那么偏离平衡的一点小波动都会导致巨大和夸张的影响:嗡嗡声、泡沫和短暂的时尚,或者级联和快速增长的雪崩。

  • 股票市场和金融市场的泡沫和崩溃;
  • 文化市场的时尚、狂热和扭曲分布;
  • 社会动荡的突然爆发(如东德、印度尼西亚、塞尔维亚);
  • 前稳定的社会规范的变化;
  • 从众效应;
  • 名人效应(主要因名人而变众所周知);
  • 新闻中的嗡嗡声;
  • 经济和社会迁移中集群形成(犹太社区、贫民窟);
  • 锁定状态的路径依赖演变:录像机/键盘/电脑/操作系统市场。

(图14:非稳定的弱涌现,上下之间进入了不受抑制趋于崩溃的正反馈循环)

潮流追随者(trend follower)只是模仿别人,而非真正去评估事物的价值。他失去了与现实的联系,就像最后终将跟随的泡沫一样——如果所有其他人也这么做的话。

IIb 型涌现是一种通过正反馈产生的不受欢迎的负面涌现,直到泡沫因指数增长而爆炸或消失。爆发阶段的代价是随后倦怠阶段:金融泡沫破裂并以崩溃告终,文化时尚以过度饱和告终,政治革命以政治冷漠告终。

新闻中某些令人不悦的嗡嗡声,类似于股市泡沫中昙花一现的涌现。正如 Steven Johnson 在他的著作《Emergence》[30] 中所提到那样,媒体总有自我放大的倾向。讨论某些事情是否应该在媒体上报道(例如,关于O.J.辛普森、比尔·克林顿或戴安娜王妃之死的报道,如果媒体本身参与了此案)本身就是一种自报道,并导致正反馈:自报道会导致某事件的报道获得更多的报道,而一个故事如果被频繁报道,又会被认为是重要的。

电视台播放什么节目的决定经常基于同行的行为,他们经常看其他电视台在做什么。当每个人都想根据别人的行动来做决定时,集体就可能无法正确汇总信息,分布式决策也不再起作用。

级联的可能性当然是由基础通信网络决定的。复杂的无标度或小世界网络特别容易发生级联,一方面因为节点之间相互分离只存在少数连接,信息级联可以快速传播。另一方面,这样的网络平均连接度很低,远低于整个网络的节点量,因此存在许多容易受影响的个体。

容易受影响的个体并不是连接最多的个体或意见领袖。因此,由于集体决策,无标度或小世界网络特别容易受到级联的影响。经济和社会迁移(高科技地区、贫民窟、贫民区)中的集群形成是另一个正反馈的例子。好的地点吸引了有趣的公司,而有趣的公司使地点变得更好。这是导致班加罗尔或硅谷等经济集群和高科技区出现的因素之一。相反, 一个地区的生活条件差(暴力增加,使用武器和毒品),导致中产阶级的迁移,中产阶级的迁移又会使情况加剧恶化,这导致了贫民窟和贫民区的形成。

这种正反馈过程在经济中也被称为 「收益递增」(increasing returns)。

布莱恩·阿瑟(W. Brian Arthur)[31]很好地说明了经济中的正反馈和收益递增的概念。VHS磁带、IBM个人电脑、QWERTY键盘、DOS 和 Microsoft Windows 通过相同路径依赖的正反馈过程完全占领了整个市场。这个过程的路径依赖性在于,一开始的小波动或意外可以通过正反馈过程被强化为大的、不可预测的偏差(unpredictable deviations),直到它们最终被长期保存在由此产生的冷冻锁定状态中,在这种状态下,一种产品主导并分配了整个市场(例如,德语键盘用 Z 替换 Y,它们读取 QWERTZ 而不是 QWERTY)。正反馈和自我强化机制的原因又是模仿:「我需要VHS/IBM PC/DOS/Windows产品,因为其他人都购买/拥有/使用它」。

模仿有用的正反馈,若要可持续存在的,往往需要在兼容性和数据交换非常重要,且获取、安装和学习使用新技术成本很高的市场中。正如布莱恩·阿瑟所指出那样[32],「在经济中以资源为基础的部分(如农业、大宗商品生产、采矿)在很大程度上受到收益递减的影响(稳定的负反馈)」,另一方面以知识为基础的部分在则往往受到收益递增(正反馈)的影响」。

第III型:有大量反馈的多重涌现

a) 条纹、斑点、气泡——多重反馈的涌现

真实的金融或股票市场,以及自然界中许多斑图的生成过程,既不显示出纯粹的第IIa型,也非IIb型行为,而是往往基于二者结合。其实短程激活(short-range activation,正反馈),加上长程抑制(long-range inhibition,负反馈),可以导致许多模式形成的想法并不新鲜。在化学反应的背景下,阿兰·图灵(Alan Turing)早在1952年就发表了一个类似的想法[33]。今天,具有短程正反馈和长程负反馈的系统被称为「激活-抑制剂」(activator-inhibitor)系统,属于「反应-扩散系统」(Reaction-diffusion)的一种。

(图15:斑马的斑图)

在反应-扩散系统中,激活剂「自动」催化其自身的生产,同时激活抑制剂,但后者扩散得速度更快。对短程而言,正反馈占上风,对于长程距离,负反馈占上风。这类系统能导致许多类型的生物斑图的生成[34]。

(图16:反应-扩散系统模拟斑马的斑图)

这个过程也可以用简单的元胞自动机来模拟。例如,通过规则「算出某方格白色直接近邻的数量,减去其20×20左右方块内白色近邻数量的1/10。如果总和大于1,则该单元格变成白色,否则变成黑色」[35]。他们的进化游戏只包括两种玩家:那些总是合作的玩家和那些总是叛变的玩家。每个格子的位置都由一个玩家占据。在每一轮中,玩家与他们的近邻进行囚徒困境游戏,玩家的分数是这些遭遇中的报酬之和。在这一轮(或一代)结束时,每个格子的位置由前一个主人和邻居中得分最高的玩家占据。其结果是,「叛逃者」和「作弊者」(红色)的网络在合作者(蓝色)的海洋中出现了。合作者相互支持和加强,但如果合作者的集群增长过大,叛逃者的条件就会越来越好:利用合作者的红色作弊者扩散并限制蓝色集群的规模。

(图17:元胞自动机模拟斑马的斑图)

真实的金融或股票市场往往表现出混乱和不可预测的行为,产生分形和多重分形结构,有运转着不可预测的连续损失和崩溃,但也有各种规模的重复投机泡沫,例如,见[36]。像股票市场这样既有正反馈机制又有负反馈机制的系统可以表现出振荡和混乱的行为。

我们经常能发现短期正反馈(盲目模仿)和长期负反馈(仔细考虑)的结合。当股票上涨时,相信进一步上涨是可能的,于是给投资者、模仿者和趋势追随者带来了购买的动力,这将使价格上涨得更多(正反馈);但当股票价格终于上涨,人们知道最终一定会有一个高峰后,市场预期就会下跌、价格会下降,最终阻止了买家购入(负反馈)。股票下跌的过程也类似。一旦市场开始有规律地下跌,一些投资者可能会预期会进一步下跌而不去购买(正反馈),但其他人可能会购买,因为股票变得越来越便宜了(负反馈)。短期正反馈和长期负反馈的结合导致了「泡沫化」,波动或动荡的泡沫序列。各种大小短期泡沫的出现,升起和扩大,就像它们再次消失一样迅速。一个气泡触发自某种波动或不规则,它通过正反馈扩大,通过负反馈再次缩小。这种起泡行为的一个很好的模型是元胞自动机的「更大生命」(Larger than Life),它是康威生命游戏的更大半径的扩展版。康威的生命游戏定义很简单:如果 x 的领域人口数等于3,则在格点处发生「出生」。即如果计数在 [2…3] 中,则点 x 保持占用/活着状态。「更大生命」中的「虫子」(Bugs)规则非常类似:如果其邻域内的人口(包括或不包括 x)位于区间 [34.…45](正反馈),则在 x 处出生;如果计数在 [34…58] 中,点 x 保持被占用(由于孤独和人口过多,极小和极大值的负反馈)。下面显示了使用来自 Mirek Wójtowicz 的 CA 模拟器 MJCell 制作的一系列气泡截屏:

(图18:基于元胞自动机「更大生命」游戏)

IIIa类也包含了通常「生命游戏」的所有模式:信号灯(Blinkers)、滑翔机(Gliders)、飞船(Spaceships)等。在约翰·康威(John Conway)通常的「生命游戏」中,除了普通的滑翔机——最基本的「宇宙飞船」外,还有各种不同大小的宇宙飞船,有轻量级、中量级和重量级。宇宙飞船以光速移动,例如每个时间步长走一个像素或单位。

(图19:生命游戏中的更大规模的飞船)

这些飞船看起来都很相似,由共轭的正负反馈反复收缩和扩张(除了在对角线方向上行驶的滑翔机),它们通过相同的机制进行垂直或水平方向传播。这种机制像是在重复地冒泡,飞船的形式可以被看作是一个膨胀和收缩的泡沫的边界。

(图20:生命游戏中的飞船传播)

b) 隧穿——具有多重反馈的适应性出现

复杂性缓慢或突然发生的原因有很多。如果某样东西出现得非常迅速或突然,那么它之前往往被某种障碍或屏障所阻挡了,例如,某种堵塞物、某种教条,一个屏障或一个系统边界。一个大的生态系统由成千上万的物种及其相应的生态位和栖息地组成,其中许多物种相互影响。它通常由许多不同的植物、动物和各种微生物(如细菌)组成,它们被一个非常复杂的网络联系起来。如果我们把像地球这样的全球生态系统作为一个整体来考虑,可以注意到许多类型的反馈和限制,它们共同构成了一个非常复杂的系统。正如我们地球的历史所显示,这样一个系统的演变当然不是一个线性的、平滑的和连续的过程。它的特点是突然的、不稳定的变化和复杂性的跃迁。


生命形式中不同层次的复杂性和组织与进化转变有关 [37]。进化转变刻画了大适应度鸿沟(fitness gaps)和适应度屏障(fitness barriers)的交叉。突然、不稳定的变化和复杂性的跃迁是不稳定的适应度景观和屏障的结果。进化等待着,直到像大规模灾难这样的重大事件打破并减少这些适应度屏障,或者主体有能力隧道穿它们。如果环境中的灾难挑战突然急剧增加,加速系统向更高形式的复杂性过渡,则灾难将起到催化剂的作用。通过复杂性的借用可以实现适应度屏障的隧穿,类似于量子理论中隧穿过程(tunnelling process)中能量的借用,参见 [38] 的第 5.2 和 5.3 章。


适应性和进化系统中这种形式的出现与环境中的(大规模)灭绝和戏剧性或灾难性事件直接相关。自然系统中的灾难性事件可以是彗星或小行星撞击、火山、地震、冰期、干旱或洪水。如果存在不可预测、既不太常见也不太罕见的灾难性事件或波动,那么这些灾难可以促进进化和加速适应。因此,这种涌现形式可以称为适应性涌现。它是 IIIb 型涌现的一个例子,出现在具有多重反馈和许多约束生成过程的复杂自适应系统 (CAS) 中。它与全新角色的出现以及已经存在的「生态」生态位的巨大变化有关。


IIIb型涌现也是突发的科学与心智革命的原因。在 「心智革命」之前,通常存在一种对新行动或见解的精神障碍——意义上的不协调感或抑制行动的无意识审查。对人类或主体代理来说,每一个新情况都是一个认知上的难题或问题。如果它不能通过思考和推理得到解决,它就有可能变成一场灾难。因此,每一个心理障碍就像一个小的认知灾难,如果障碍突然被克服,就会产生一个新的见解和雪崩式的神经活动(或大笑)。同样的观点也适用于托马斯·库恩提出的科学革命:会有一种障碍(通常是由旧理论约束造成的)阻止新理论的发现,直到这个障碍被一种新范式所克服,从而导致科学活动和出版物的雪球式发展,见[38]第6.2章。

(图21:隧穿,具有多重反馈的CAS突破适应度挑战实现复杂性跃迁的几种模式)

第IV型:强涌现性和随附性

强涌现可以被定义为在更高层次的组织或复杂性上出现的涌现性结构,这些结构拥有真正的新特性,即使在原则上也不能还原为基本部分和组件的属性和规律的累积效应。例如生命是基因、遗传密码与核酸/氨基酸的强涌现属性,总体而言文化则是模因(memes)、语言和书写系统的强涌现属性。与某些哲学理论相反,这种定义下的强涌现不一定要违反任何物理定律。强涌现一词有时会被用来描述魔法、不科学或超自然的过程,这显然是一个必须加以纠正错误的观念。


强涌现所描述的过程不是魔法的、不科学或反科学的,只有多尺度的非常复杂的现象,并没有魔法或超自然的力量参与其中。像其它形式的涌现一样,如果你不了解内在过程,它可能看起来很神奇。如果你从未听说过DNA和基因,那么生命看起来实际上是神奇的。现在有种观念,生命不能仅仅用物理过程来解释(Vitalism,「生命主义」)。物理规律不能描述生物形式,这是正确的,正如粒子物理学的规律与宏观现象无关,与宏观尺度上的集体组织的效果相比,微观规则是不相关的。


这就是涌现的悖论,它在强涌现的情况下变得最为明显。宏观的结构和模式依赖于微观的粒子,但它们又独立于微观粒子。这种最弱形式的因果关系被限制称为「随附性」(supervenience)。


宏观层面独立于微观层面的,是因为有一个中观或中间层面来保护和隔离这两者。因此在强涌现中,宏观层面与微观层面无关,反之亦然。这就像安德森(Anderson)说的那样。

把一切都归结为简单的基本规律的能力,并不意味着有能力从这些规律开始并重建宇宙。事实上,基本粒子物理学家告诉我们的基本定律的性质越多,它们与科学其他领域的非常现实的问题似乎就越不相关,更不用说与社会的问题了[9]。

如果微观层面被其他东西取代,只要中观或中间层面保持不变,宏观层面仍然是不变的。Laughlin 在他的书中[1]第12章将此称为「相关性屏障」(Barrier of Relevance)。


这个意义上的强涌现是对相关性屏障的跨越(crossing of the barrier of relevance)。它通常与巨大的复杂性跃迁和重大演化转变有关,其特点是出现新的复制子(基因、模因……)和全新的演化形式(生物、文化……)。巨大的数量级10^120——根据保罗·戴维斯(Paul Davies)[39]的说法,兰道尔-惠勒-劳埃德极限(Landauer-Wheeler-Lloyd limit)为 「底层」物理学定律可能对「高层」物理状态,行使的任何超决定性的控制设定了约束限制,而这仅仅是一个组合爆炸的问题。巨大的可能组合数量使得任何确定性的算法、规则或定律都不可能突破。


10^120是一个天文数字,大致相当于宇宙中所有物质已经处理过的信息量。如果把宇宙变成一台计算机,它可以在宇宙年龄内处理大约10^120比特信息,这正好大约是140亿年[40]。


即使一个确定性的规则或规律非常简短并被压缩,如果计算需要几十亿年,也是没有意义的。这并不意味着决定论是完全不可能的,它只是制约了局部的、低层次的规律的决定性,而不是全局的、高层次的行为,具有系统的强涌现性。


肯定达到兰道尔-惠勒-劳埃德极限的例子是进化系统的两种基本形式(遗传和记忆进化)的转变:

(1)生命的出现,生物进化,基因,遗传复制子,遗传密码 真正的蛋白质通常包含n=60到n=100个氨基酸。现有的20个氨基酸可以排列成20n个不同的序列,这接近兰道尔-海勒-劳埃德的极限10120。由于蛋白质中的氨基酸是由核苷酸碱基对的三个字母词或密码子(CCG、UGA、CAA、AUG……)指定的,所以同样的论点也适用于基因中的碱基对。

有人说,这是一个支持 「智能设计」、反对进化论的论点。然而,进化能够在很长一段时间内探索这些大量的可能性和组合。

由于通过变异和重组的不断变化,它检查并放弃了大量的不成功的尝试。这里的重点是,不可能将生物体的行为(基于基因和蛋白质)以某种方式纳入原子物理学的规律。

(2) 文化的出现,文化进化,模因,模因复制子,语言 正常的字母语言有26个字符,也规定了一个不可想象的,巨大数量的不同组合。像英语这样的语言有26个字符,一个词大约有7个字符,一个句子大约有7个词,因此一个句子大约有2649种不同的序列。不过,并非所有的组合都是有效的,而且只有大约10万个英语单词。如果我们考虑超过25个单词的较长的有意义的文本,我们再次接近兰道尔-海勒-劳埃德的极限10^120。同样,这种巨大的组合数量阻碍了低层次生物规律对社会和文化现象的直接控制。我们的语言和书写系统都没有在我们的基因中编码(我们知道基因控制情绪,而情绪控制高层次的行为,但这更多是一种间接控制机制)。

这两种形式是最重要的几种「涌现」。第一种,生命和遗传密码的起源,触发了遗传和生物进化。第二种,文化和语言的起源,引发了记忆学和文化进化。生命和文化的两个基本单位分别是细胞和社会。前者基于遗传密码和DNA,后者基于普通语言和书写系统。强涌现可以被看作是从一个进化系统(或复杂的适应性系统)到另一个系统的过渡,因此是一种突破或关卡事件(breakthrough or gateway event),正如 Murray Gell·Mann 所说的那样[41]。

第IV型是指到目前为止,新的进化系统的出现,其结构是由一种新的语言以遗传/记忆代码或其他字母的形式规定的。但原则上,它可以是任何具有一套构件和多层次出现的系统。一个例子是《生命游戏》中的图灵机模拟。尽管在CA6中建立一个图灵机可能被认为是无用的,但它可以作为强涌现的玩具模型,因为这里的涌现现象实现的功能在逻辑上是可以与产生它的基本现象分离的。图灵机的功能可以在由生命游戏规则定义的平台上实现,但也可以在任何其他平台上实现,可计算性理论不是生命游戏理论的一个子集——如果有这样一个东西的话。

在哲学中,这被称为「随附」(supervenience),比 「超越」(transcendence)早一步。涌现的最高/最强形式与随附有关,是因果关系的最低/最弱形式。换句话说,最大形式的涌现与最小形式的因果联系有关。随附的意思原本是 「不属于一个事物的真实或基本性质的一部分」。一个 「高层系统X对低层系统Y具有随附性」,如果以下情况对所有对象a和b都成立:(1)不可能a和b的X属性相同,而Y属性有差异(2)如果a和b有相同的Y属性,那么它们也有相同的X属性。这经常被用来解释脑-心或身体-灵魂的二元性,其中X是心理属性,Y是物理属性。

因此,强涌现描述的系统是对低级系统的随附,但在逻辑上可以与产生它的基本现象分开。通过强涌现产生的「多尺度」系统依赖于下层系统,因为它们是在其语言的最低层次上实现的,但同时它们又独立于下层系统,因为它们服从于自己的中观或宏观语言,对微观细节不敏感。低级系统的微观细节与宏观现象完全不相关,高级系统也可以在其他系统中实现。

(图22:四种类型涌现反馈机制)

结论

本文针对不同类型的涌现进行了全面的分类,将其划分为四个基本类别。I型描述了没有自上而下反馈和自组织的简单涌现,尤其是复杂机器中的有意涌现。II型包括经典的具有自上而下反馈和自组织的弱涌现。在这一类型中,还进一步区分了稳定和不稳定的形式。III型涵盖了在更复杂的适应性系统中,由于进化通过多重反馈和适应而产生的所有形式的涌现。最后IV型刻画了进化中所有形式的强涌现的特征。由此强涌现这一术语可从任何神奇或不科学的含义中解放出来。(见表2)


如果选择可预测性而非反馈作为主要的分类特征,那么以上类别可保持不变——无论考虑可预测性程度、反馈类型、因果关系形式,抑或受不同种类约束的生成过程或作用,都无关紧要。这种分类若用可预测性来具体说明则是:I型的有意涌现是可预测的,与固定的角色相对应;II型的弱涌现在原则上是可预测的(尽管并非每个细节),与灵活的角色相对应;III型的多重涌现往往是混沌或完全不可预测的,与新角色的出现和旧角色的消失有关;而IV型的强涌现则在原则上是不可预测的,因为它开启了一个具有全新角色的全新世界。涌现是一个创造性的、偶然的、且往往不可预测的过程:涌现越强,涌现的属性、模式和结构就越不可预测。(见表1)


有可能还存在具有其它「多重反馈」形式的第III型涌现,但迄今为止还没有人提及。具有多种形式反馈的系统往往非常复杂,难以理解。具有延时反馈的系统可以显示出诸如混沌的行为。如果你想发现新形式的涌现,这是一个值得关注的点。本文提出的涌现分类法并不是一个全面的理论,而是在正确的方向上迈出的第一步,以便人们更深入、更好地理解复杂系统中的各种现象。就像复杂性难以定义一样,有些东西如果难以描述就是一种复杂性,因此涌现也很难用模型或理论来完全捕捉,因为在涌现过程中,新的实体会出现,它们就受自己的规律支配。

编者推荐

原文链接:https://arxiv.org/abs/nlin/0506028

因果涌现读书会

参考文献

[1] Laughlin 2005

[2] Holland 1998

[3] http://plato.stanford.edu/entries/properties-emergent/

[4] Watts 2003

[5] Kubik 2003

[6] BarYam 2004

[7] Holland 1998

[8] Damper 2000

[9] Anderson 1972

[10] Flake 2000, BarYam 1997

[11] Honderich 1995

[12] Audi 1995

[13] http://dictionary.cambridge.org/

[14] Kim 1999

[15] Heylighen 1991

[16] Chalmers 2002

[17] Bedau 2002

[18] BarYam 2004

[19] Wolfram 1984

[20] http://www.ics.uci.edu/~eppstein/ca/wolfram.html

[21] Abbott 2005b

[22] Holland 1998

[23] Heylighen 1991

[24] Jones 2002

[25] Ashby 1962

[26] Bedau 1997, Bedau 2002

[27] Küppers 1996

[28] Flake 2002

[29] Michard Bouchaud 2005, Tassier 2004,Watts2003

[30] chapter 4 in [Johnson 2002]

[31] Arthur 1990, 1994

[32] Arthur 1990

[33] Alan Turing 1952

[34] Ball 1999,Murray2002

[35] NowakMay 1992

[36] Sornette 2003

[37] Smith Szathmáry 1997

[38] Fromm 2004

[39] Paul Davies,2004

[40] Lloyd,2002

[41] GellMann 1994,Sawyer 2005