更改

任务复杂度假说从问题结构角度解释涌现，认为某些任务需要模型具备最低限度的计算复杂度或知识整合能力才能解决。这一观点得到多步骤任务表现的强力支持——思维链能力通常在模型能够同时保持多条规则或事实时才突然出现。

任务复杂度假说从问题结构角度解释涌现，认为某些任务需要模型具备最低限度的计算复杂度或知识整合能力才能解决。这一观点得到多步骤任务表现的强力支持——思维链能力通常在模型能够同时保持多条规则或事实时才突然出现。

复杂性阈值与数据分布密切相关。张俊林指出，涌现能力主要出现在多步骤复杂任务上，而知识密集型任务通常遵循平滑的缩放定律。模型可能需要足够容量来构建中间表示，才能分解和解决复杂问题。当模型规模不足时，其内部"工作记忆"可能无法支持多步推理所需的临时信息存储和操作<ref>张俊林, 大语言模型的涌现能力：现象与解释. 2023. 知乎. https://zhuanlan.zhihu.com/p/621438653</ref>。

复杂性阈值与数据分布密切相关。涌现能力主要出现在多步骤复杂任务上，而知识密集型任务通常遵循平滑的缩放定律。模型可能需要足够容量来构建中间表示，才能分解和解决复杂问题。当模型规模不足时，其内部"工作记忆"可能无法支持多步推理所需的临时信息存储和操作<ref>张俊林, 大语言模型的涌现能力：现象与解释. 2023. 知乎. https://zhuanlan.zhihu.com/p/621438653</ref>。

=大语言模型家族分类=

=大语言模型家族分类=