更改

大语言模型的涌现 (查看源代码)

2025年5月10日 (六) 20:13的版本

添加2,143字节、 2025年5月10日 (六) 20:13

第6行：第6行：

这些能力包括数学推理（如多步计算与逻辑判断）、链式思维（Chain-of-Thought，CoT）推理、编程与代码生成、跨任务泛化能力（如零样本任务迁移）、事实知识记忆、多语言翻译与理解等，这些能力往往在较小模型上完全缺失或表现极差。研究表明，这些涌现并非线性延伸，而是与模型规模、训练数据量、指令微调策略等因素交互产生的非平滑性能跃迁。

−

Wei等人系统比较了不同规模的语言模型在使用标准提示（直接给问题）和链式提示（给出推理步骤）下的表现，发现只有大型语言模型才能充分利用链式思维提示，且性能随着规模增长出现“非线性跃迁”。链式思维提示本身并不会自动赋予模型推理能力，只有在模型参数规模足够大时，它才能引发复杂推理能力的“跃迁”，这正是大语言模型涌现现象的核心表现之一<ref name="chain-of-thought">Wei, Jason, et al. "Chain-of-thought prompting elicits reasoning in large language models." Advances in neural information processing systems 35 (2022): 24824-24837.</ref>。该团队在另一项探讨了一种通过指令微调提升语言模型零样本学习能力方法的研究中发现，指令调整带来的性能提升只有在模型规模足够大的情况下才会显现<ref name="Finetuned">Wei, Jason, et al. "Finetuned language models are zero-shot learners." arXiv preprint arXiv:2109.01652 (2021).</ref>。Google DeepMind主导的一项研究通过设计大规模基准测试（BIG-bench）来系统地评估大语言模型（LLMs）的智能水平和能力边界，并探索其随规模变化时的行为模式。通过对GPT-3、PaLM、以及多个中小规模模型等进行性能随参数规模变化的测试，研究人员发现了任务随规模变化的两种性能增长模式。大语言模型的性能在一类任务表现为线性增长，如语言建模、基本问答；在另一类任务出现突破式表现，如代码生成、数学证明、复杂逻辑任务，从几乎完全不会，到某一规模后突然具备该能力<ref name="BIG-bench">Srivastava, Aarohi, et al. "Beyond the imitation game: Quantifying and extrapolating the capabilities of language models." arXiv preprint arXiv:2206.04615 (2022).</ref>。

+

Wei等人系统比较了不同规模的语言模型在使用标准提示（直接给问题）和链式提示（给出推理步骤）下的表现，发现只有大型语言模型才能充分利用链式思维提示，且性能随着规模增长出现“非线性跃迁”。链式思维提示本身并不会自动赋予模型推理能力，只有在模型参数规模足够大时，它才能引发复杂推理能力的“跃迁”，这正是大语言模型涌现现象的核心表现之一<ref name="chain-of-thought">Wei, Jason, et al. "Chain-of-thought prompting elicits reasoning in large language models." Advances in neural information processing systems 35 (2022): [[Tel:24824-24837|24824-24837]].</ref>。该团队在另一项探讨了一种通过指令微调提升语言模型零样本学习能力方法的研究中发现，指令调整带来的性能提升只有在模型规模足够大的情况下才会显现<ref name="Finetuned">Wei, Jason, et al. "Finetuned language models are zero-shot learners." arXiv preprint arXiv:2109.01652 (2021).</ref>。Google DeepMind主导的一项研究通过设计大规模基准测试（BIG-bench）来系统地评估大语言模型（LLMs）的智能水平和能力边界，并探索其随规模变化时的行为模式。通过对GPT-3、PaLM、以及多个中小规模模型等进行性能随参数规模变化的测试，研究人员发现了任务随规模变化的两种性能增长模式。大语言模型的性能在一类任务表现为线性增长，如语言建模、基本问答；在另一类任务出现突破式表现，如代码生成、数学证明、复杂逻辑任务，从几乎完全不会，到某一规模后突然具备该能力<ref name="BIG-bench">Srivastava, Aarohi, et al. "Beyond the imitation game: Quantifying and extrapolating the capabilities of language models." arXiv preprint arXiv:2206.04615 (2022).</ref>。

[[文件:Timeline.png|缩略图|近年来现有大型语言模型的时间线（规模大于 10B）|替代=|无|800x800像素]]

第13行：第13行：

{| class="wikitable"

−

|+ 大语言模型的涌现能力

+

|+大语言模型的涌现能力

|-

−

! 模型 !! 发布时间 !! 参数量 !! 关键涌现能力

+

!模型!!发布时间!!参数量!!关键涌现能力

|-

−

| GPT-3 || 2020年5月 || 175B || 上下文学习、简单推理

+

|GPT-3||2020年5月||175B||上下文学习、简单推理

|-

−

| Gopher || 2021年12月 || 280B || 复杂问答、知识整合

+

|Gopher||2021年12月||280B || 复杂问答、知识整合

|-

−

| PaLM || 2022年4月 || 540B || 多步推理、代码生成

+

|PaLM||2022年4月|| 540B ||多步推理、代码生成

|-

−

| Chinchilla || 2022年7月 || 70B || 高效知识压缩(数据优化)

+

|Chinchilla||2022年7月||70B||高效知识压缩(数据优化)

|-

−

| GPT-4 || 2023年3月 || 1T+ || 多模态理解、高阶推理

+

|GPT-4||2023年3月||1T+ ||多模态理解、高阶推理

|}

第43行：第43行：

在不同任务上，以模型规模为x轴，以模型能力为y轴绘制曲线，可以观察到模型能力随着模型规模增大的变化情况，并发现模型能力发生明显提升的部分。在达到一定规模之前模型表现平平，之后能力提升至远高于随机水平，这就表示模型能力出现了涌现的现象。下图展示了五个语言模型家族使用少量样本提示时，在八类任务上展现的涌现能力。

−

'''BIG-Bench.''' BIG-Bench是一个用于语言模型评估的众包基准测试套件，包含超过200个基准测试<ref name = "BigBench2022">BIG-Bench. Beyond the imitation game: Measuring and extrapolating the capabilities of language models. arXiv preprint arXiv:2206.04615, 2022. URL https://arxiv.org/abs/2206.04615.</ref>，下图A-D展示了来自BIG-Bench的四种表现出涌现的任务。图A展示了一个算术计算基准测试，测试3位数加减法以及2位数乘法。GPT-3和LaMDA<ref name = "Thoppilan202">Thoppilan, R., De Freitas, D., Hall, J., Shazeer, N., Kulshreshtha, A., Cheng, H-T., Jin, A., Bos, T., Baker, L., Du, Y. et al. LaMDA: Language models for dialog applications. arXiv preprint arXiv:2201.08239, 2022. URL https://arxiv.org/abs/2201.08239. </ref>在训练计算量为几个数量级时准确率接近零，之后，GPT-3的训练计算量在达到2 × 1022 FLOPs（约有13B参数），LaMDA达到1023 FLOPs（约为68B参数）时，模型能力急剧跃升至远高于随机水平。类似的涌现行为也发生在相同规模的其他任务上，例如国际音标转写（图B）、从混乱字母中恢复单词（图C）以及波斯语问答（图D）。

+

'''BIG-Bench.''' BIG-Bench是一个用于语言模型评估的众包基准测试套件，包含超过200个基准测试<ref name="BigBench2022">BIG-Bench. Beyond the imitation game: Measuring and extrapolating the capabilities of language models. arXiv preprint arXiv:2206.04615, 2022. URL https://arxiv.org/abs/2206.04615.</ref>，下图A-D展示了来自BIG-Bench的四种表现出涌现的任务。图A展示了一个算术计算基准测试，测试3位数加减法以及2位数乘法。GPT-3和LaMDA<ref name="Thoppilan202">Thoppilan, R., De Freitas, D., Hall, J., Shazeer, N., Kulshreshtha, A., Cheng, H-T., Jin, A., Bos, T., Baker, L., Du, Y. et al. LaMDA: Language models for dialog applications. arXiv preprint arXiv:2201.08239, 2022. URL https://arxiv.org/abs/2201.08239. </ref>在训练计算量为几个数量级时准确率接近零，之后，GPT-3的训练计算量在达到2 × 1022 FLOPs（约有13B参数），LaMDA达到1023 FLOPs（约为68B参数）时，模型能力急剧跃升至远高于随机水平。类似的涌现行为也发生在相同规模的其他任务上，例如国际音标转写（图B）、从混乱字母中恢复单词（图C）以及波斯语问答（图D）。

−

'''TruthfulQA.''' TruthfulQA 基准测试可以衡量回答问题真实性的能力<ref name = "Lin2021">Lin, S., Hilton, J., & Evans, O. TruthfulQA: Measuring how models mimic human falsehoods. arXiv preprint arXiv:2109.07958, 2021. URL https://arxiv.org/abs/2109.07958.</ref>，图2E展示了少量提示模型在TruthfulQA基准测试上的能力。这个基准测试是针对GPT-3模型对抗策划的，因此即使规模扩大到最大，GPT-3的能力也没有超过随机水平。小型Gopher模型在训练计算量扩大到最大，即5×1023 FLOPs（280B参数）之前，能力也没有超过随机水平，而在达到这一规模后，能力跃升至超过随机水平20%以上<ref name="Rae2021">Rae, J. W., Borgeaud, S., Cai, T., Millican, K., Hoﬀmann, J., Song, F., Aslanides, J., Henderson, S., Ring, R., Young, S. et al. Scaling language models: Methods, analysis and insights from training Gopher. arXiv preprint arXiv:2112.11446, 2021. URL https://arxiv.org/abs/

+

'''TruthfulQA.''' TruthfulQA 基准测试可以衡量回答问题真实性的能力<ref name="Lin2021">Lin, S., Hilton, J., & Evans, O. TruthfulQA: Measuring how models mimic human falsehoods. arXiv preprint arXiv:2109.07958, 2021. URL https://arxiv.org/abs/2109.07958.</ref>，图2E展示了少量提示模型在TruthfulQA基准测试上的能力。这个基准测试是针对GPT-3模型对抗策划的，因此即使规模扩大到最大，GPT-3的能力也没有超过随机水平。小型Gopher模型在训练计算量扩大到最大，即5×1023 FLOPs（280B参数）之前，能力也没有超过随机水平，而在达到这一规模后，能力跃升至超过随机水平20%以上<ref name="Rae2021">Rae, J. W., Borgeaud, S., Cai, T., Millican, K., Hoﬀmann, J., Song, F., Aslanides, J., Henderson, S., Ring, R., Young, S. et al. Scaling language models: Methods, analysis and insights from training Gopher. arXiv preprint arXiv:2112.11446, 2021. URL https://arxiv.org/abs/

2112.11446.</ref>。

第61行：第61行： −

'''推理任务'''. 推理任务，特别是涉及多个步骤的任务，对于语言模型和更广泛的[[自然语言处理]]~~模型来说一直具有挑战性（Rae等人，2021年；Bommasani等人，2021年；Nye等人，2021年）。最近的一种称为思维链~~(Chain-of-Thought, CoT)提示的提示策略，能够引导模型在给出最终答案之前生成一系列中间步骤，最终帮助模型解决问题（Cobbe等人，2021年；Wei等人，2022年b；Suzgun等人，2022年）。正如下图A所示，当规模扩大到1023训练 FLOPs（约100B参数）时，思维链提示超越了没有中间步骤的标准提示。当在少样本提示后附加解释来增强提示时，也观察到了类似的能力提升涌现（Lampinen等人，2022年）。

+

'''推理任务'''. 推理任务，特别是涉及多个步骤的任务，对于语言模型和更广泛的[[自然语言处理]]模型来说一直具有挑战性<ref name="Rae2021" /><ref name="Bommasani2021">Bommasani, R., Hudson, D. A., Adeli, E., Altman, R., Arora, S., von Arx, S., Bernstein, M. S., Bohg, J., Bosselut, A., Brunskill, E. et al. On the opportunities and risks of foundation models. arXiv preprint arXiv:2108.07258, 2021. URL https://arxiv.org/abs/2108.07258.</ref><ref name="Nye2021">Nye, M., Andreassen, A. J., Gur-Ari, G., Michalewski, H., Austin, J., Bieber, D., Dohan, D., Lewkowycz, A., Bosma, M., Luan, D. et al. Show your work: Scratchpads for intermediate computation with language models. arXiv preprint arXiv:2112.00114, 2021. URL

+

https://openreview.net/forum?id=iedYJm92o0a.</ref>。最近的一种称为思维链(Chain-of-Thought, CoT)提示的提示策略，能够引导模型在给出最终答案之前生成一系列中间步骤，最终帮助模型解决问题<ref name="chain-of-thought" /><ref name="Cobbe2021">Cobbe, K., Kosaraju, V., Bavarian, M., Hilton, J., Nakano, R., Hesse, C., & Schulman, J. Training verifiers to solve math word problems. arXiv preprint arXiv:2110.14168, 2021. URL https://arxiv.org/abs/2110.14168.</ref><ref name="Suzgun2022>Suzgun, M., Scales, N., Scharli, N., Gehrmann, S., Tay, Y., Chung, H.Y., Chowdhery, A., Le, Q.V., Chi, E.H., Zhou, D., & Wei, J. Challenging BIG-Bench tasks and whether chain-of-thought can solve them. arXiv preprint arXiv:2210.09261, 2022. URL https://arxiv.org/abs/2210.09261.</ref>。正如下图A所示，当规模扩大到1023训练 FLOPs（约100B参数）时，思维链提示超越了没有中间步骤的标准提示。当在少样本提示后附加解释来增强提示时，也观察到了类似的能力提升涌现<ref name="Lampinen2022年">Lampinen, A.k., Dasgupta, I., Chan, S. C.Y., Matthewson, K., Tessler, M.H., Creswell, A., McClelland, J.L., Wang, J.X., & Hill, F. Can language models learn from explanations in context? Findings of EMNLP, 2022. URL https://arxiv.org/abs/2204.02329.</ref>。

−

'''指令跟随(Instruction Following)'''. 另一种日益增多的研究旨在使语言模型通过阅读一段对于任务的描述来执行新任务（无需示例）。通过在混合了各种指令式任务的数据上进行微调，语言模型已被证明能够进行适当的响应（Ouyang等人，2022年；Wei等人，2022年a；Sanh等人，2022年；Chung等人，2022年）。如图B所示，Wei等人（2022年a）发现，这种指令微调技术对于训练FLOPs为7×1021（8B参数）或更小的模型有损害，只有当规模扩大到1023~~训练FLOPs（约100B参数）时，才会提高模型能力（尽管Sanh等人（2022年）随后发现，这种指令跟随的行为也可以通过微调更小的~~ encoder-decoder T5 ~~模型来诱导）。~~

+

'''指令跟随(Instruction Following)'''. 另一种日益增多的研究旨在使语言模型通过阅读一段对于任务的描述来执行新任务，但不给出少量样本示例。通过在混合了各种指令式任务的数据上进行微调，语言模型已被证明能够进行适当的响应<ref name="Finetuned" /><ref name="Ouyang2022">Ouyang,L., Wu, J., Jiang, X., Almeida, D., Wainwright, C.L., Mishkin, P., Zhang, C., Agarwal, S., Slama, K., Ray, A. et al. Training language models to follow instructions with human feedback. arXiv preprint arXiv:2203.02155, 2022. URL https://arxiv.org/abs/2203.02155.</ref><ref name="Sanh2022">Sanh, V., Webson, A., Raﬀel, C., Bach, S., Sutawika, L., Alyafeai, Z., Chaﬃn, A., Stiegler, A., Scao, T.L., Raja, A. et al. Multitask prompted training enables zero-shot task generalization. ICLR, 2022. URL https://openreview.net/forum?id=9Vrb9D0WI4.</ref><ref name="Chung2022">Chung, H.W., Hou, L., Longpre, S., Zoph, B., Tay, Y., Fedus, W., Li, E., Wang, X., Dehghani, M., Brahma, S. et al. Scaling instruction-finetuned language models. arXiv preprint arXiv:2210.11416, 2022. URL https://arxiv.org/abs/2210.11416.</ref>。如图B所示，这种指令微调技术对于训练FLOPs为7×1021（8B参数）或更小的模型有损害，只有当规模扩大到1023训练FLOPs（约100B参数）时，才会提高模型能力<ref name="Finetuned" />（尽管有研究者随后发现，这种指令跟随的行为也可以通过微调更小的 encoder-decoder T5 模型来诱导<ref name="Sanh2022" />）。

−

'''程序执行.''' ~~考虑涉及多个步骤的计算任务，例如大数相加或执行计算机程序。Nye等人（2021年）展示了通过微调语言模型以预测中间输出：草稿本~~(Scratchpad)~~使模型能够成功执行此类多步骤计算。正如图C所示，在8位数相加任务中，使用草稿本仅对训练FLOPs约为9×10~~19（40M参数）或更大的模型有帮助。

+

'''程序执行.''' 考虑涉及多个步骤的计算任务，例如大数相加或执行计算机程序。有研究者展示了通过微调语言模型以预测中间输出：草稿本(Scratchpad)使模型能够成功执行此类多步骤计算<ref name="Nye2021" />。如图C所示，在8位数相加任务中，使用草稿本仅对训练FLOPs约为9×1019（40M参数）或更大的模型有帮助。

−

'''模型校准（Calibration）.''' ~~模型校准能够衡量模型预测其回答正确率的能力。~~<ref name=":Kadavath2022">Kadavath, S., Conerly, T., Askell, A., Henighan, T., Drain, E., Perez, E., Schiefer, N., Hatfield-Dodds Z., et al. (2022) Language Models (Mostly) Know What They Know.(arXiv:2207.05221). arXiv. https://arxiv.org/abs/2207.05221</ref>~~比较了两种衡量校准的方法：一种是真~~/假技术，模型首先回答问题，然后评估自身答案为正确的概率“p (True)”；另一种更标准的校准方法，是使用答案正确的概率与其他答案选项进行比较。如图D所示，真/假技术的优势仅在大约3×1023训练FLOPs（52B参数）的最大模型规模时才显现出来。

+

'''模型校准（Calibration）.''' 模型校准能够衡量模型预测其回答正确率的能力。有研究者比较了两种衡量校准的方法<ref name=":Kadavath2022">Kadavath, S., Conerly, T., Askell, A., Henighan, T., Drain, E., Perez, E., Schiefer, N., Hatfield-Dodds Z., et al. (2022) Language Models (Mostly) Know What They Know.(arXiv:2207.05221). arXiv. https://arxiv.org/abs/2207.05221</ref>：一种是真/假技术，模型首先回答问题，然后评估自身答案为正确的概率“p (True)”；另一种更标准的校准方法，是使用答案正确的概率与其他答案选项进行比较。如图D所示，真/假技术的优势仅在大约3×1023训练FLOPs（52B参数）的最大模型规模时才显现出来。

[[文件:Specialized_prompting_or_finetuning.png|800px|center|特殊的提示或微调中出现涌现现象的例子，引自<ref name=":0" />]]

+

=基于下游任务的涌现的影响因素及争议=

第75行：第77行：

上述提及的大语言模型涌现现象在判定上始终围绕两个关键特征：度量结果的突变性和突变的不可预测性<ref name=":mirage">Schaeffer, R., Miranda, B., & Koyejo, S. (2023). Are Emergent Abilities of Large Language Models a Mirage? (arXiv:2304.15004). arXiv. https://doi.org/10.48550/arXiv.2304.15004</ref>。而这并不意味着它一定是关于模型性质的度量。涌现现象的发生，可能只是研究者的选择所造成的幻觉<ref name=":mirage" />。

−

例如，对于在高质量数据上训练的模型，涌现现象可以在较少的训练计算量或较少的模型参数的情况下出现。涌现能力也会受模型训练充分程度的影响，当今的语言模型很可能没有得到最佳训练<ref name=":2" />，而且我们对于如何最佳地训练模型的理解也将随着时间的推移而发展，因此已有研究通常只能提供关于是否出现涌现现象的部分证据。总体而言，一种明智的做法是将涌现视为许多相关变量的函数。有研究者认为模型是否出现涌现现象，可以被看作模型参数规模、训练数据量大小、训练充分程度和具体任务类型等多种因素的未知函数<ref name=":JunlinZhang"/>。

+

例如，对于在高质量数据上训练的模型，涌现现象可以在较少的训练计算量或较少的模型参数的情况下出现。涌现能力也会受模型训练充分程度的影响，当今的语言模型很可能没有得到最佳训练<ref name=":2" />，而且我们对于如何最佳地训练模型的理解也将随着时间的推移而发展，因此已有研究通常只能提供关于是否出现涌现现象的部分证据。总体而言，一种明智的做法是将涌现视为许多相关变量的函数。有研究者认为模型是否出现涌现现象，可以被看作模型参数规模、训练数据量大小、训练充分程度和具体任务类型等多种因素的未知函数<ref name=":JunlinZhang" />。

==从规模法则到涌现现象==

第103行：第105行：

3. 在较大参数范围内采样不足。

−

=大语言模型涌现的度量=

+

=大语言模型涌现的度量 =

第121行：第123行：

大语言模型能够从输入文本中提取语义信息。这里语义可以看作是从按照特定意义组织的 token 集合中自然涌现，其中 token 是句子中具有复杂模式的微观（micro）单元，语义则是具有可预测行为特征的宏观（macro）现象。Chen 等人的研究中提出一种叫做“'''信息涌现'''”（Information Emergence, IE）的定量指标，来量化大语言模型从输入token中提取语义信息的能力。

−

====量化大语言模型的信息涌现 ====

+

====量化大语言模型的信息涌现====

受信息论启发，论文中将“'''语义'''”（semantics）形式化定义为从token序列中抽象出的有意义信息，并通过比较（宏观层面）token 序列相对于（微观层面）单个token的熵减来对此进行量化。一个更擅长从 token 中推导语义的模型，应当能为整体序列带来比单个 token 更显著的熵减效果。

第128行：第130行：

研究者将序列中的 token 变量分为两类：微观变量和宏观变量。'''微观变量'''指仅受单个输入 token 影响的 token，例如 <math>h^0</math> 满足转移概率 <math>p_{ h^0_{l+1} | h^0_l }</math> ；'''宏观变量'''则聚合所有微观变量的信息，其对应的 token 受输入序列中全部 token 的影响，例如 <math>h^{T-1}_{l+1}</math> 满足转移概率<math>p_{ h^{T-1}_{l+1} | h^0_l, h^1_l, h^2_l, ..., h^t_l }</math> 。

−

NTP 机制可以看作是从最微观尺度向最宏观尺度逐步粗粒化，并最终形成有意义的语义。因此，宏观层面代表语义层级，微观层面代表 token 层级。为了进一步量化动态过程中宏观（语义层面）与微观（token层面）转移概率的差异，基于 Erik Hoel 等人的因果涌现理论<ref>E. P. Hoel, L. Albantakis, and G. Tononi. Quantifying causal emergence shows that macro can beat micro. Proceedings of the National Academy of Sciences, 110(49):19790–19795, 2013.</ref><ref>E. P. Hoel, L. Albantakis, W. Marshall, and G. Tononi. Can the macro beat the micro? integrated information across spatiotemporal scales. Neuroscience of Consciousness, 2016(1):niw012, 2016.</ref>和 Rosas 等人基于信息分解量化涌现的理论<ref>F. E. Rosas, P. A. Mediano, H. J. Jensen, A. K. Seth, A. B. Barrett, R. L. Carhart-Harris, and D. Bor. Reconciling emergences: An information-theoretic approach to identify causal emergence in multivariate data. PLoS computational biology, 16(12):e1008289, 2020.</ref>，研究中将其视为一个熵减过程，采用互信息对信息涌现进行建模。文章中对大语言模型的信息涌现做了如下定义：

+

NTP 机制可以看作是从最微观尺度向最宏观尺度逐步粗粒化，并最终形成有意义的语义。因此，宏观层面代表语义层级，微观层面代表 token 层级。为了进一步量化动态过程中宏观（语义层面）与微观（token层面）转移概率的差异，基于 Erik Hoel 等人的因果涌现理论<ref>E. P. Hoel, L. Albantakis, and G. Tononi. Quantifying causal emergence shows that macro can beat micro. Proceedings of the National Academy of Sciences, 110(49):[[Tel:19790–19795|19790–19795]], 2013.</ref><ref>E. P. Hoel, L. Albantakis, W. Marshall, and G. Tononi. Can the macro beat the micro? integrated information across spatiotemporal scales. Neuroscience of Consciousness, 2016(1):niw012, 2016.</ref>和 Rosas 等人基于信息分解量化涌现的理论<ref>F. E. Rosas, P. A. Mediano, H. J. Jensen, A. K. Seth, A. B. Barrett, R. L. Carhart-Harris, and D. Bor. Reconciling emergences: An information-theoretic approach to identify causal emergence in multivariate data. PLoS computational biology, 16(12):e1008289, 2020.</ref>，研究中将其视为一个熵减过程，采用互信息对信息涌现进行建模。文章中对大语言模型的信息涌现做了如下定义：

对于任意的Transformer模块 <math>l</math> ， <math>h^{ma}_l

第163行：第165行：

三种理论解释并非互斥，而是从不同层面揭示了涌现现象的多维本质。规模效应假说强调模型内在容量的决定性作用；度量指标假说揭示评估方法对现象观测的影响；任务复杂度假说则关注问题本身的结构特性。一个整合性观点认为，真正的涌现能力可能是三者共同作用的结果——模型需要足够规模来形成复杂内部表示，任务需要足够复杂度以区分能力层级，而科学的评估方法才能准确揭示这一过程。

−

==== 规模效应假说 ====

+

====规模效应假说====

规模效应假说认为，涌现能力是模型参数量变引发质变的自然结果。复杂系统在参数变化时可能经历行为上的剧烈转变，这种变化通过研究小规模系统无法预见。当语言模型规模扩大时，其内部表示空间可能重组为更高效的结构，从而突然获得解决新问题的能力。

−

规模效应的理论依据可追溯至相变理论，复杂系统在参数变化时可能经历行为上的剧烈转变。类似地，当语言模型规模扩大时，其内部表示空间可能重组为更高效的结构，从而突然获得解决新问题的能力。Kaplan等人提出语言模型的交叉熵损失随计算量、数据量和模型大小平滑变化，但下游任务的指标可能表现出非线性跃迁<ref name=":1"/>。Michaud 等人提出模型学习行为的核心是“量子”（quanta）。模型的能力可以被分解为一组离散的、可枚举的、独立的子技能或知识单元，每一个量子对应一个基本的模型功能或技能。这些技能的学习频率遵循幂律分布，因此神经网络既表现出平滑的平均性能提升，又可能在某些任务上突然涌现新能力，涌现现象是量子被模型在特定规模下学会的结果<ref name=":quanta"/>。

+

规模效应的理论依据可追溯至相变理论，复杂系统在参数变化时可能经历行为上的剧烈转变。类似地，当语言模型规模扩大时，其内部表示空间可能重组为更高效的结构，从而突然获得解决新问题的能力。Kaplan等人提出语言模型的交叉熵损失随计算量、数据量和模型大小平滑变化，但下游任务的指标可能表现出非线性跃迁<ref name=":1" />。Michaud 等人提出模型学习行为的核心是“量子”（quanta）。模型的能力可以被分解为一组离散的、可枚举的、独立的子技能或知识单元，每一个量子对应一个基本的模型功能或技能。这些技能的学习频率遵循幂律分布，因此神经网络既表现出平滑的平均性能提升，又可能在某些任务上突然涌现新能力，涌现现象是量子被模型在特定规模下学会的结果<ref name=":quanta" />。

−

==== 度量指标假说 ====

+

====度量指标假说====

−

度量指标假说对涌现能力的存在性提出挑战，认为所谓"涌现"可能是评估方式人为造成的假象。斯坦福大学的Schaeffer等人系统论证了这一观点，指出92%的涌现现象出现在非线性或不连续的指标下，如Multiple Choice Grade(多选评分)和Exact String Match(精确字符串匹配<ref name=":mirage"/>。

+

度量指标假说对涌现能力的存在性提出挑战，认为所谓"涌现"可能是评估方式人为造成的假象。斯坦福大学的Schaeffer等人系统论证了这一观点，指出92%的涌现现象出现在非线性或不连续的指标下，如Multiple Choice Grade(多选评分)和Exact String Match(精确字符串匹配<ref name=":mirage" />。

该假说的数学基础在于指标对错误的放大效应。假设模型单标记错误率随规模平滑下降(遵循幂律)，但准确率要求所有标记完全正确，其概率随序列长度几何级数下降。这种非线性转换可使性能曲线在特定规模下呈现突变。例如，在L位加法任务中，当使用精确匹配指标时，模型表现出明显的"涌现"能力，而改用token编辑距离等线性指标后，性能提升变得平滑连续。

第175行：第177行：

Schaeffer等人在视觉任务(如MNIST分类和CIFAR重建)上通过设计阈值化指标，成功在卷积网络和自编码器中诱导出类似语言模型的涌现现象。这表明"相变"式行为可能普遍存在于各类深度学习系统中，而不仅限于语言模型。涌现能力可以由研究人员在单一幂律下诱导，一些涌现能力可能确实是突然出现的，而一些涌现能力可能归因于度量。科学评估需区分模型内在能力与指标人为效应，避免将统计假象误认为根本突破。

−

==== 任务复杂度假说====

+

====任务复杂度假说====

任务复杂度假说从问题结构角度解释涌现，认为某些任务需要模型具备最低限度的计算复杂度或知识整合能力才能解决。这一观点得到多步骤任务表现的强力支持——思维链能力通常在模型能够同时保持多条规则或事实时才突然出现。

−

复杂性阈值与数据分布密切相关。涌现能力主要出现在多步骤复杂任务上，而知识密集型任务通常遵循平滑的缩放定律。模型可能需要足够容量来构建中间表示，才能分解和解决复杂问题。当模型规模不足时，其内部"工作记忆"可能无法支持多步推理所需的临时信息存储和操作例如，对于在高质量数据上训练的模型，涌现现象可以在较少的训练计算量或较少的模型参数的情况下出现。涌现能力也会受模型训练充分程度的影响，当今的语言模型很可能没有得到最佳训练<ref name=":2" />，而且我们对于如何最佳地训练模型的理解也将随着时间的推移而发展，因此已有研究通常只能提供关于是否出现涌现现象的部分证据。总体而言，一种明智的做法是将涌现视为许多相关变量的函数。有研究者认为模型是否出现涌现现象，可以被看作模型参数规模、训练数据量大小、训练充分程度和具体任务类型等多种因素的未知函数<ref name=":JunlinZhang"/>。

+

复杂性阈值与数据分布密切相关。涌现能力主要出现在多步骤复杂任务上，而知识密集型任务通常遵循平滑的缩放定律。模型可能需要足够容量来构建中间表示，才能分解和解决复杂问题。当模型规模不足时，其内部"工作记忆"可能无法支持多步推理所需的临时信息存储和操作例如，对于在高质量数据上训练的模型，涌现现象可以在较少的训练计算量或较少的模型参数的情况下出现。涌现能力也会受模型训练充分程度的影响，当今的语言模型很可能没有得到最佳训练<ref name=":2" />，而且我们对于如何最佳地训练模型的理解也将随着时间的推移而发展，因此已有研究通常只能提供关于是否出现涌现现象的部分证据。总体而言，一种明智的做法是将涌现视为许多相关变量的函数。有研究者认为模型是否出现涌现现象，可以被看作模型参数规模、训练数据量大小、训练充分程度和具体任务类型等多种因素的未知函数<ref name=":JunlinZhang" />。

==知识量子理论==

嘉树

336

个编辑

更改

大语言模型的涌现 (查看源代码)

2025年5月10日 (六) 20:13的版本

导航菜单

搜索