15
个编辑
更改
跳到导航
跳到搜索
第7行：
第7行： − + − + − + − + − + − + − + − + − + − − − − 第38行：
第34行： − + 第47行：
第43行： − + − + − + − − ● 行为角度：智能体现在人类行为中,应完全模拟人类行为。�这一目标的难点在于可能存在既不可能也没有必要在人工智能系统中复制的心理或社会因素。 − + − + − + − 这一目标的难点在于智能和认知有太多的方面无法用简单的理论来解释和复现。+ − + − + − + − + − + − + − + − + − + − + 第99行：
第93行： − + 第114行：
第108行： − + − + 第125行：
第119行： − + − + − === 主要参考文献 ===+
改动了格式
[[Category:Computational neuroscience]]
[[Category:Computational neuroscience]]
=== 1. AGI的历史 ===
== AGI的历史 ==
====== 1.1. 观念萌生 ======
==== 观念萌生 ====
早在400年前，哲学家们就意识到，或许机器也能够做到一些人类才能做到的事。布莱兹·帕斯卡（Blaise Pascal，1623—1662）于1642年建造了滚轮式加法器(Pascaline)，并写到：“它产生的效用似乎比动物的所有行为更接近思维。”托马斯·霍布斯(Thomas Hobbes，1588—1679)在《利维坦》一书中提出了会思考的机器的想法。而笛卡尔在1637年就提出了图灵测试的雏形，尽管他并不认为人就是机器。十八世纪法国医生和哲学家拉美特利扩展了笛卡尔关于动物机器的论点，认为人类也只是机器。
早在400年前，哲学家们就意识到，或许机器也能够做到一些人类才能做到的事。布莱兹·帕斯卡（Blaise Pascal，1623—1662）于1642年建造了滚轮式加法器(Pascaline)，并写到：“它产生的效用似乎比动物的所有行为更接近思维。”托马斯·霍布斯(Thomas Hobbes，1588—1679)在《利维坦》一书中提出了会思考的机器的想法。而笛卡尔在1637年就提出了图灵测试的雏形，尽管他并不认为人就是机器。十八世纪法国医生和哲学家拉美特利扩展了笛卡尔关于动物机器的论点，认为人类也只是机器。
====== 1.2. 研究伊始 ======
==== 研究伊始 ====
现代人工智能研究始于 1950 年代中期。 在1956年的达特茅斯会议上，人工智能第一次被提出。从一开始，人工智能“AI”的含义就是“让机器具有人类的智能“。第一代人工智能研究人员确信，通用人工智能是可能的，而且它将在短短几十年内存在。人工智能先驱赫伯特·A·西蒙（Herbert A. Simon）在1965年写道：“机器在二十年内将能够完成人类可以做的任何工作。几个经典的人工智能项目，如Doug Lenat的Cyc项目、Allen Newell的Soar项目、日本的第五代计算机项目，都是针对AGI的。
现代人工智能研究始于 1950 年代中期。 在1956年的达特茅斯会议上，人工智能第一次被提出。从一开始，人工智能“AI”的含义就是“让机器具有人类的智能“。第一代人工智能研究人员确信，通用人工智能是可能的，而且它将在短短几十年内存在。人工智能先驱赫伯特·A·西蒙（Herbert A. Simon）在1965年写道：“机器在二十年内将能够完成人类可以做的任何工作。几个经典的人工智能项目，如Doug Lenat的Cyc项目、Allen Newell的Soar项目、日本的第五代计算机项目，都是针对AGI的。
====== 1.3. 陷入低谷 ======
==== 陷入低谷 ====
上个世纪下半叶，也许是研究人员严重低估了该项目的难度，这些曾经野心勃勃的计划都失败了。资助机构对AGI持怀疑态度，并使研究人员面临越来越大的压力，要求他们生产有用的“应用人工智能”。主流人工智能逐渐远离一开始的目的，而转向特定领域的问题和特殊问题的解决方案上，并取得了较大的进展。到1990年左右，人工智能研究人员变得根本不愿意做出预测，并避免提及“人类水平”的人工智能，因为害怕被贴上“梦想家”的标签。
上个世纪下半叶，也许是研究人员严重低估了该项目的难度，这些曾经野心勃勃的计划都失败了。资助机构对AGI持怀疑态度，并使研究人员面临越来越大的压力，要求他们生产有用的“应用人工智能”。主流人工智能逐渐远离一开始的目的，而转向特定领域的问题和特殊问题的解决方案上，并取得了较大的进展。到1990年左右，人工智能研究人员变得根本不愿意做出预测，并避免提及“人类水平”的人工智能，因为害怕被贴上“梦想家”的标签。
====== 1.4. 重获关注 ======
==== 重获关注 ====
大约在2004年至2007年期间，主流AI内部和外部对通用系统进行研究的呼声再次出现。一些重要会议以及多个致力于通用人工智能和相关话题的研究社区相继出现。在主流人工智能中，深度学习近年来取得了令人瞩目的进展，这再次激发了许多人对“人类水平”人工智能的希望。“已经通过图灵测试”的说法和AlphaGo在围棋中的成功重新引发了关于“人工智能”到底是什么以及如何达到它的讨论。但学者们仍然没有达成共识，甚至意见也没有趋同。几家科技巨头将他们的结果标记为“迈向AGI的步骤”，GPT-4 就是一个例子，其创建者声称它是“迈向 AGI 的重要一步”。而近期对AI安全的广泛关注以及暂停AI研究的呼吁也体现出对AGI实现可能性的重视。��
大约在2004年至2007年期间，主流AI内部和外部对通用系统进行研究的呼声再次出现。一些重要会议以及多个致力于通用人工智能和相关话题的研究社区相继出现。在主流人工智能中，深度学习近年来取得了令人瞩目的进展，这再次激发了许多人对“人类水平”人工智能的希望。“已经通过图灵测试”的说法和AlphaGo在围棋中的成功重新引发了关于“人工智能”到底是什么以及如何达到它的讨论。但学者们仍然没有达成共识，甚至意见也没有趋同。几家科技巨头将他们的结果标记为“迈向AGI的步骤”，GPT-4 就是一个例子，其创建者声称它是“迈向 AGI 的重要一步”。而近期对AI安全的广泛关注以及暂停AI研究的呼吁也体现出对AGI实现可能性的重视。
=== 2 关于AGI这一概念 ===
== 关于AGI这一概念 ==
====== 2.1 什么是AGI ======
==== 什么是AGI ====
通用人工智能一词在不同的时代、语境下，往往有着不太相同的用法，人们对通用人工智能具体的形态也有着不尽相同的理解。
通用人工智能一词在不同的时代、语境下，往往有着不太相同的用法，人们对通用人工智能具体的形态也有着不尽相同的理解。
为了能够简单地对AGI进行大致的了解，我们可以这样描述它，但请注意，这只是一个描述而非一个严格的定义：
为了能够简单地对AGI进行大致的了解，我们可以这样描述它，但请注意，这只是一个描述而非一个严格的定义：<blockquote>通用人工智能是不以解决专门问题为目标的人工智能系统，其旨在对“智能”本身这一“元能力”进行建模并用计算机实现。</blockquote>尽管对AGI并不存在公认的精确定义，但目前的通用人工智能研究可以被视为具有以下特点：
通用人工智能是不以解决专门问题为目标的人工智能系统，其旨在对“智能”本身这一“元能力”进行建模并用计算机实现。
尽管对AGI并不存在公认的精确定义，但目前的通用人工智能研究可以被视为具有以下特点：
● 强调智能的通用性，而不仅仅是专门解决某一领域任务的能力。
● 强调智能的通用性，而不仅仅是专门解决某一领域任务的能力。
● 认为是时候建立一个在通用性上与人类智能相媲美或超越人类的人工智能了。
● 认为是时候建立一个在通用性上与人类智能相媲美或超越人类的人工智能了。
====== 2.2 什么是通用 ======
==== 什么是通用 ====
AGI的“通用”性质多年来获得了不同的解释：
AGI的“通用”性质多年来获得了不同的解释：
● 可以解决所有可计算的问题，
● 可以解决所有可计算的问题，
● 可以尝试解决所有可表示（representable ）的问题。
● 可以尝试解决所有可表示（representable）的问题。
====== 2.3 什么是智能 ======
==== 什么是智能 ====
根据对“智能”不同角度的理解,AGI也存在不同的研究视角，天普大学的王培教授认为，有多种角度可以理解智能，以下是他对理解智能的五种角度的分类，这也可以被视为不同AGI项目的研究目标：
根据对“智能”不同角度的理解,AGI也存在不同的研究视角，天普大学的王培教授认为，有多种角度可以理解智能，以下是他对理解智能的五种角度的分类，这也可以被视为不同AGI项目的研究目标：
● 结构角度：智能来源于大脑结构,应尽可能准确地模拟大脑结构。�这一目标的难点在于可能存在在人工智能系统中既不可能也没有必要复制的生物学细节。
● 结构角度：智能来源于大脑结构,应尽可能准确地模拟大脑结构。这一目标的难点在于可能存在在人工智能系统中既不可能也没有必要复制的生物学细节。
● 能力角度：智能体现在解决问题的能力,应解决当前只有人类能解决的实际问题。�这一目标的难点在于，目前没有一个普遍认可的、仅从问题求解能力出发的智能定义。将智能视为解决问题的能力,存在将智能的范围窄化的风险,也难以判定某种算法是否真正属于“智能”。此外,专门解决特定问题的程序往往缺乏适应新环境的普适性和灵活性。
● 行为角度：智能体现在人类行为中,应完全模拟人类行为。这一目标的难点在于可能存在既不可能也没有必要在人工智能系统中复制的心理或社会因素。
● 功能角度：智能包含一系列认知功能,应实现这些功能。�这一目标的难点在于目前的人工智能技术高度碎片化，它们很难协同工作。
● 能力角度：智能体现在解决问题的能力,应解决当前只有人类能解决的实际问题。这一目标的难点在于，目前没有一个普遍认可的、仅从问题求解能力出发的智能定义。将智能视为解决问题的能力,存在将智能的范围窄化的风险,也难以判定某种算法是否真正属于“智能”。此外,专门解决特定问题的程序往往缺乏适应新环境的普适性和灵活性。
● 原理角度：智能是一种理性或最优性,应遵循某些一般原则。
● 功能角度：智能包含一系列认知功能,应实现这些功能。这一目标的难点在于目前的人工智能技术高度碎片化，它们很难协同工作。
● 原理角度：智能是一种理性或最优性,应遵循某些一般原则。这一目标的难点在于智能和认知有太多的方面无法用简单的理论来解释和复现。
=== 3 不同视角下的AGI ===
== 不同视角下的AGI ==
不同的学科或领域的学者对于AGI的关注在侧重点上略有差异，以下是一些具有代表性的视角。
不同的学科或领域的学者对于AGI的关注在侧重点上略有差异，以下是一些具有代表性的视角。
====== 3.1 认知科学哲学视角下的AGI ======
==== 认知科学哲学视角下的AGI ====
认知科学哲学的特点是受具体的科学成果启发，从而提出宏观的理论性假设进而启发科学研究，该领域下的研究人员对AGI之于认知和心灵相关研究的理论意义感兴趣。经典问题包括机器是否能够真正思考和理解，以约翰·塞尔（John Searle）为首的一批哲学家表示了反对，塞尔提出了著名的中文屋论证（The Chinese room argument），他认为机器根本无法做到真正的思考，因为它们缺乏与世界适当的语义连接。另一种质疑来自卢卡斯（Lucas），他认为哥德尔不完备性定理表明机器无法真正思考。福多（Fodor）和物理学家彭罗斯（Penrose）等人也在这一阵营贡献了自己的观点。除了这些经典问题与回应外，最近的讨论具体围绕大语言模型是否能够像人类一样理解自然语言展开。�
认知科学哲学的特点是受具体的科学成果启发，从而提出宏观的理论性假设进而启发科学研究，该领域下的研究人员对AGI之于认知和心灵相关研究的理论意义感兴趣。经典问题包括机器是否能够真正思考和理解，以约翰·塞尔（John Searle）为首的一批哲学家表示了反对，塞尔提出了著名的中文屋论证（The Chinese room argument），他认为机器根本无法做到真正的思考，因为它们缺乏与世界适当的语义连接。另一种质疑来自卢卡斯（Lucas），他认为哥德尔不完备性定理表明机器无法真正思考。福多（Fodor）和物理学家彭罗斯（Penrose）等人也在这一阵营贡献了自己的观点。除了这些经典问题与回应外，最近的讨论具体围绕大语言模型是否能够像人类一样理解自然语言展开。
====== 3.2 科技哲学视角下的AGI ======
==== 科技哲学视角下的AGI ====
奇点问题（The Singularity）是该领域的代表问题之一：奇点即人工智能达到人类的智能水平，并有能力开发出属于自身的新一代人工智能，从而导致“智能爆炸增长”并威胁人类的假设。美国计算机科学家雷蒙德·库兹韦尔（Raymond Kurzweil)和哲学家大卫·查默斯（David Chalmers）为奇点的风险和应对贡献了相关讨论。此外，以唐娜·哈拉维（Donna Haraway）、N·凯瑟琳·海勒（N.Katherine Hayles）为代表的研究赛博格（Cyborg，一种人机融合体）和后人类（Posthuman，关注技术和人类文化转变的理论）的学者同样为AGI对人类社会的观念、文化和历史的影响贡献了大量观点。
奇点问题（The Singularity）是该领域的代表问题之一：奇点即人工智能达到人类的智能水平，并有能力开发出属于自身的新一代人工智能，从而导致“智能爆炸增长”并威胁人类的假设。美国计算机科学家雷蒙德·库兹韦尔（Raymond Kurzweil)和哲学家大卫·查默斯（David Chalmers）为奇点的风险和应对贡献了相关讨论。此外，以唐娜·哈拉维（Donna Haraway）、N·凯瑟琳·海勒（N.Katherine Hayles）为代表的研究赛博格（Cyborg，一种人机融合体）和后人类（Posthuman，关注技术和人类文化转变的理论）的学者同样为AGI对人类社会的观念、文化和历史的影响贡献了大量观点。
在AGI的伦理方面，一个新近的话题在于对人工道德主体（Artificial Moral Agents，AMA）的讨论：随着人工智能在社会中承担的任务和责任的增加，必然导致其需要在一定程度上做出某种伦理决策，那么人工智能能否做出道德决策？应如何做出道德决策？能否并如何为道德决策负责？这些都是该领域的学者们所关注的。
在AGI的伦理方面，一个新近的话题在于对人工道德主体（Artificial Moral Agents，AMA）的讨论：随着人工智能在社会中承担的任务和责任的增加，必然导致其需要在一定程度上做出某种伦理决策，那么人工智能能否做出道德决策？应如何做出道德决策？能否并如何为道德决策负责？这些都是该领域的学者们所关注的。
====== 3.3 社会智能视角下的AGI ======
==== 社会智能视角下的AGI ====
该领域的研究者们关注如何让人工智能实现社会智能。他们将类人智能（ human-like intelligence）分为了物理智能（physical intelligence ）与社会智能（social intelligence），而当前人工社会智能（artificial social intelligence, ASI）被很多其他领域的研究者所忽略了。实现社会智能的难点主要是，社会智能往往依赖于环境/背景/语境的，并且其输入往往是非文字的、模糊的（比如同一个手势，可能被人们在不同情景下表达不同含义）。这个领域下的子领域/话题有社会感知、心智理论（Theory of Mind, ToM）和社会互动。
该领域的研究者们关注如何让人工智能实现社会智能。他们将类人智能（ human-like intelligence）分为了物理智能（physical intelligence ）与社会智能（social intelligence），而当前人工社会智能（artificial social intelligence, ASI）被很多其他领域的研究者所忽略了。实现社会智能的难点主要是，社会智能往往依赖于环境/背景/语境的，并且其输入往往是非文字的、模糊的（比如同一个手势，可能被人们在不同情景下表达不同含义）。这个领域下的子领域/话题有社会感知、心智理论（Theory of Mind, ToM）和社会互动。
除此之外，AGI这一话题也涉及神经科学、复杂性科学、认知科学等众多重要的视角。受限于篇幅和时间等原因，这些视角暂未列出。这部分的内容会在随着AGI通用人工智能读书会的展开进行深入讨论后进行补充。感兴趣并有相关背景的朋友可以通过共创的方式在集智百科中完成。
'''除此之外，AGI这一话题也涉及神经科学、复杂性科学、认知科学等众多重要的视角。受限于篇幅和时间等原因，这些视角暂未列出。这部分的内容会在随着AGI通用人工智能读书会的展开进行深入讨论后进行补充。感兴趣并有相关背景的朋友可以通过共创的方式在集智百科中完成。'''
=== 4 AGI研究现状 ===
== AGI研究现状 ==
为了实现AGI，当前研究人员们往往采用以下几种策略之一：
为了实现AGI，当前研究人员们往往采用以下几种策略之一：
混合(Hybrid)：混合是把各个专门问题的解决方案混合在起组成一个系统，遇到不同问题就调用不同的程序。
● 混合(Hybrid)：混合是把各个专门问题的解决方案混合在起组成一个系统，遇到不同问题就调用不同的程序。
整合(Integrated)：整合是画一个架构图，然后每个部分采用用不同技术填充。
● 整合(Integrated)：整合是画一个架构图，然后每个部分采用用不同技术填充。
统一(Unified)：统一是期待用同一个技术实现全部功能。
● 统一(Unified)：统一是期待用同一个技术实现全部功能。
以下是一些代表性的、有影响力的项目案例：
以下是一些代表性的、有影响力的项目案例：
● 非公理推理系统(NARS)旨在用统一的理论建模智能，通过逻辑和推理来刻画感知、运动、规划、决策、问题求解等复杂的智能现象。
● 非公理推理系统(NARS)旨在用统一的理论建模智能，通过逻辑和推理来刻画感知、运动、规划、决策、问题求解等复杂的智能现象。
=== 5 对于AGI的质疑 ===
== 对于AGI的质疑 ==
尽管学界与业界近年来都更加关注AGI并投入了许多精力，但仍有很多对于AGI的质疑的声音存在，以下是一些常见的质疑。
尽管学界与业界近年来都更加关注AGI并投入了许多精力，但仍有很多对于AGI的质疑的声音存在，以下是一些常见的质疑。
近期大语言模型表现出的远超以往的智能水平让许多人都认为AGI离我们已经不远了，但也有一些学者质疑这样的进路是否最终能够通向AGI。这类质疑中比较有代表性的是Yann LeCun，他认为大语言模型由于缺少世界模型而不会演进为AGI。
近期大语言模型表现出的远超以往的智能水平让许多人都认为AGI离我们已经不远了，但也有一些学者质疑这样的进路是否最终能够通向AGI。这类质疑中比较有代表性的是Yann LeCun，他认为大语言模型由于缺少世界模型而不会演进为AGI。
=== 6 相关资源 ===
== 相关资源 ==
====== 6.1 相关文献 ======
==== 相关文献 ====
[https://www.iospress.com/catalog/books/advances-in-artificial-general-intelligence-concepts-architectures-and-algorithms Advances in Artificial General Intelligence: Concepts, Architectures and Algorithms]是2006年AGI研讨会的会后论文集。
[https://www.iospress.com/catalog/books/advances-in-artificial-general-intelligence-concepts-architectures-and-algorithms Advances in Artificial General Intelligence: Concepts, Architectures and Algorithms]是2006年AGI研讨会的会后论文集。
[https://pattern.swarma.org/article/249 AGI通用人工智能读书会文献推荐]是岳玉涛、沈马成、徐博文三位老师为AGI通用人工智能读书会推荐的文献列表，集智斑图页面可以直接跳转、下载其中提及的文献。
[https://pattern.swarma.org/article/249 AGI通用人工智能读书会文献推荐]是岳玉涛、沈马成、徐博文三位老师为AGI通用人工智能读书会推荐的文献列表，集智斑图页面可以直接跳转、下载其中提及的文献。
====== 6.2 相关会议、期刊、网站 ======
====== 相关会议、期刊、网站 ======
[http://agi-conf.org/ annual AGI international conference series]始于2008年。会议网站链接到所有接受的论文、演示文件和视频记录等其他材料。
[http://agi-conf.org/ annual AGI international conference series]始于2008年。会议网站链接到所有接受的论文、演示文件和视频记录等其他材料。
[https://sciendo.com/journal/JAGI Journal of Artificial General Intelligence（JAGI）] 是一本开放获取的同行评审期刊，创刊于 2009 年。
[https://sciendo.com/journal/JAGI Journal of Artificial General Intelligence（JAGI）] 是一本开放获取的同行评审期刊，创刊于 2009 年。
[http://www.agi-society.org/ Artificial General Intelligence Society] AGI会议和期刊由Artificial General Intelligence Society（AGIS）管理。每个对AGI感兴趣的人都可以成为会员。�
[http://www.agi-society.org/ Artificial General Intelligence Society] AGI会议和期刊由Artificial General Intelligence Society（AGIS）管理。每个对AGI感兴趣的人都可以成为会员。
== 主要参考文献 ==
1. https://cis.temple.edu/~pwang/AGI-Intro.html#TOC-Strategies-and-techniques
1. https://cis.temple.edu/~pwang/AGI-Intro.html#TOC-Strategies-and-techniques