842
个编辑
更改
跳到导航
跳到搜索
第3行：
第3行： − 在计算机科学领域中，很多例子都可以表明数据量对模型能力具有巨大影响。历史上，算力的提升总是能够促进算法的进步和主流范式的革新。数据量的累积也能促使模型发挥潜能，例如，深度学习模型在拥有大量数据和计算资源的情况下表现良好，但在较小规模下表现不佳，在没有太多资源的情况下，甚至会被更简单的算法超越<ref name=":5" />。+ − +
→历史溯源
=历史溯源=
=历史溯源=
涌现是复杂系统中的重要特性，指的是整体表现超越其组成部分的总和，展现出个体所不具备的新特性<ref>Meehl P E, Sellars W. The concept of emergence[J]. Minnesota studies in the philosophy of science, 1956, 1239-252.</ref><ref>Holland J H. Emergence: From chaos to order[M]. OUP Oxford, 2000.</ref>。尽管在鸟群行为、大脑意识与经济社会等多个领域观察到涌现现象<ref>Reynolds, C.W. Flocks, herds and schools: A distributed behavioral model. In Proceedings of the 14th Annual Conference on Computer Graphics and Interactive Techniques, Anaheim, CA, USA, 27–31 July 1987; pp. 25–34.</ref><ref>Holland, J.H. Hidden Order: How Adaptation Builds Complexity; Addison Wesley Longman Publishing Co., Inc.: Boston, MA, USA, 1996.</ref>，学术界对此尚无统一理解。
在计算机科学领域中，人们也有对模型的学习过程发现和总结出非线性增长的现象。历史上，算力的提升总是能够促进算法的进步和主流范式的革新。数据量的累积也能促使模型发挥潜能，例如，深度学习模型在拥有大量数据和计算资源的情况下表现良好，但在较小规模下表现不佳，在没有太多资源的情况下，甚至会被更简单的算法超越<ref name=":5" />。
= 大语言模型家族分类 =
= 大语言模型家族分类 =