| 第4行: |
第4行: |
| | | | |
| | == 背景 == | | == 背景 == |
| − | 2022年底-2023年初,[[ChatGPT]]的横空出世使得人们看到了[[通用人工智能]](Artificial General Intelligence)的初步雏形。然而,科技界、政府、乃至整个人类都并没有为超级人工智能的到来做好充足的准备。另一方面,2020年代的人类社会并不太平,一方面全球性的气候危机导致极端天气频发,全球15个临界点已经被激活了9个,人类正在朝向一个无可挽回的环境巨变而演进。于此同时,[[新冠病毒]]所造成的全球级别的大流行刚刚结束,持续了一年多的俄乌战争还在继续,中美贸易摩擦和大国竞争正在愈演愈烈,世界一片繁荣的表象背后实际上蕴藏了无限人类以及行星级别的危机。
| |
| | | | |
| − | 根据[[Geoffrey West]]的有关城市的[[规模法则]](Scaling Law)理论以及开放系统的[[热力学第二定律]],科技进步与[[熵产生]]相伴而生,因此,每一次人工智能的巨大超越都为全球性的危机创造了相应的基础。[[超级人工智能]]所带来的潜在影响包括以二氧化碳排放形式所表现的[[熵产生]],而且根据[[类摩尔定律]],这一[[碳排放]]的规模将会以[[超指数]]的方式增长,因而必然会造成对环境的巨大破坏,这一过程是不可逆的。所以,真正奇点临近很可能是超级人工智能的实现和人类生存环境的彻底崩溃相伴而生的。
| + | 2022年底-2023年初,[[ChatGPT]]的横空出世使得人们看到了[[通用人工智能]](Artificial General Intelligence)的初步雏形<ref name="bubeck2023">Bubeck, S., Chandrasekaran, V., Eldan, R., et al. (2023). Sparks of Artificial General Intelligence: Early Experiments with GPT-4. arXiv:2303.12712.</ref>。此后数年,人工智能沿着大模型、推理模型与智能体的路径持续加速;到2026年,AI预测系统已在公开预测竞赛中稳定超越普通公众,并逼近顶尖人类预测者的水平<ref name="metaculus2026">Metaculus (2026). [https://www.metaculus.com/notebooks/43363/ai-forecasting-in-2026/ AI Forecasting in 2026: What 11 Analyses Say].</ref>。然而,科技界、政府、乃至整个人类都并没有为超级人工智能的到来做好充足的准备。另一方面,2020年代的人类社会并不太平:全球性的气候危机导致极端天气频发,全球15个气候临界点中已经有9个被激活<ref name="lenton2019">Lenton, T. M., Rockström, J., Gaffney, O., et al. (2019). Climate Tipping Points — Too Risky to Bet Against. ''Nature'', 575, 592–595.</ref><ref name="armstrong2022">Armstrong McKay, D. L., Staal, A., Abrams, J. F., et al. (2022). Exceeding 1.5°C Global Warming Could Trigger Multiple Climate Tipping Points. ''Science'', 377(6611), eabn7950.</ref>,人类正在朝向一个无可挽回的环境巨变而演进;[[新冠病毒]]所造成的全球大流行虽已远去,地区冲突与大国竞争却愈演愈烈,世界一片繁荣的表象背后实际上蕴藏了无限人类以及行星级别的危机。 |
| | | | |
| − | 如何解救这一危机?解决不可回避的奇点危机只有两种解决方案,一种是外星殖民,另一种就是[[自稳态]]重定向(Homeostatic Reorientation)式的觉醒。第一种方式并不改变人类无限扩展的发展模式,通过移民外星球而获得人类文明火种的延续。然而,这种方案的可行性是微乎其微的,这背后存在着所谓[[费米悖论]]的“证据”。也就是,如果银河系中其它星球文明先我们遇到了不可回避的奇点(事实上,外星存在超越地球文明的其它文明的概率不可忽略),并且他们同样采用延续文明扩张的方案来规避奇点,则它们应该早就被我们观察到了。而之所以迄今为止,我们并没有看到类似的外星文明出现,则极有可能是这类文明在超越奇点之前就已经毁灭了,亦或者是他们并没有采取这种解决问题的模式,而是选择了另一条路径。
| + | 根据[[Geoffrey West]]的有关城市的[[规模法则]](Scaling Law)理论<ref name="bettencourt2010">Bettencourt, L. M. A., & West, G. B. (2010). A Unified Theory of Urban Living. ''Nature'', 467, 912–913.</ref>以及开放系统的[[热力学第二定律]]<ref name="prigogine1984">Prigogine, I., & Stengers, I. (1984). ''Order Out of Chaos: Man's New Dialogue with Nature''. Bantam Books.</ref>,科技进步与[[熵产生]]相伴而生,因此,每一次人工智能的巨大超越都为全球性的危机创造了相应的基础。[[超级人工智能]]所带来的潜在影响包括以二氧化碳排放形式所表现的[[熵产生]],而且根据[[类摩尔定律]],这一[[碳排放]]的规模将会以[[超指数]]的方式增长<ref name="bettencourt2007">Bettencourt, L. M. A., Lobo, J., Helbing, D., Kühnert, C., & West, G. B. (2007). Growth, Innovation, Scaling, and the Pace of Life in Cities. ''PNAS'', 104(17), 7301–7306.</ref><ref name="iea2025">International Energy Agency (2025). ''Energy and AI''. IEA, Paris.</ref>,因而必然会造成对环境的巨大破坏,这一过程是不可逆的。所以,真正[[技术奇点|奇点]]临近很可能是超级人工智能的实现和人类生存环境的彻底崩溃相伴而生的。 |
| | | | |
| − | 另一条路径则是[[自稳态重定向]],也就是人类需要改变无限扩张的发展模式,转而演变为一种[[自稳态]](Homeostatic)的发展模式,即维持在满足自身基本需求的最小能量消耗状态就可以了,从而终止无休止的扩张与[[熵产生]]。越来越多的人渐渐认识到:要想在全球级别形成一种集体的[[自稳态]]模式,就必须让全球整体形成一个[[集体意识]],这可能是解决问题的关键。也就是说,人类与机器整体要形成一个统一的行星级意识系统,从而对自我的行为进行认知和监控。而一个行星级别的预测系统则是达成这一宏伟目标的关键。 | + | 如何解救这一危机?解决不可回避的奇点危机只有两种解决方案,一种是外星殖民,另一种就是[[自稳态]]重定向(Homeostatic Reorientation)式的觉醒。第一种方式并不改变人类无限扩展的发展模式,通过移民外星球而获得人类文明火种的延续。然而,这种方案的可行性是微乎其微的,这背后存在着所谓[[费米悖论]]的"证据"<ref name="hart1975">Hart, M. H. (1975). An Explanation for the Absence of Extraterrestrials on Earth. ''Quarterly Journal of the Royal Astronomical Society'', 16, 128–137.</ref>。也就是,如果银河系中其它星球文明先我们遇到了不可回避的奇点(事实上,外星存在超越地球文明的其它文明的概率不可忽略),并且他们同样采用延续文明扩张的方案来规避奇点,则它们应该早就被我们观察到了。而之所以迄今为止,我们并没有看到类似的外星文明出现,则极有可能是这类文明在超越奇点之前就已经毁灭了——这正是"大过滤器"(Great Filter)假说所描述的图景<ref name="greatfilter1998">Hanson, R. (1998). The Great Filter — Are We Almost Past It? 网络文章.</ref>,亦或者是他们并没有采取这种解决问题的模式,而是选择了另一条路径。 |
| | + | |
| | + | 另一条路径则是[[自稳态重定向]],也就是人类需要改变无限扩张的发展模式,转而演变为一种[[自稳态]](Homeostatic)的发展模式,即维持在满足自身基本需求的最小能量消耗状态就可以了,从而终止无休止的扩张与[[熵产生]]。越来越多的人渐渐认识到:要想在全球级别形成一种集体的[[自稳态]]模式,就必须让全球整体形成一个[[集体意识]],这可能是解决问题的关键<ref name="heylighen2011">Heylighen, F. (2011). Conceptions of a Global Brain: An Historical Review. In L. Grinin et al. (Eds.), ''Evolution: Cosmic, Biological, and Social''. Volgograd: Uchitel.</ref>。也就是说,人类与机器整体要形成一个统一的行星级意识系统,从而对自我的行为进行认知和监控。而一个行星级别的预测系统则是达成这一宏伟目标的关键。 |
| | | | |
| | 正是在这样的历史背景下,[[集智俱乐部]]升级了早期的[[参与的2050]]计划,而形成了一个所谓的[[拯救2050]]的计划,其目的就是要促成一个行星级别的大型预测平台的构建作为其目标,从而促成[[全球意识]]的觉醒。 | | 正是在这样的历史背景下,[[集智俱乐部]]升级了早期的[[参与的2050]]计划,而形成了一个所谓的[[拯救2050]]的计划,其目的就是要促成一个行星级别的大型预测平台的构建作为其目标,从而促成[[全球意识]]的觉醒。 |