336
个编辑
更改
→大语言模型家族分类： 增加新章节，并完成了约50%的内容整理。资料来自deepseek联网搜索（其正确性还需进一步核实）
在计算机科学领域中，很多例子都可以表明数据量对模型能力具有巨大影响。历史上，算力的提升总是能够促进算法的进步和主流范式的革新。数据量的累积也能促使模型发挥潜能，例如，深度学习模型在拥有大量数据和计算资源的情况下表现良好，但在较小规模下表现不佳，在没有太多资源的情况下，甚至会被更简单的算法超越<ref name=":5" />。
在计算机科学领域中，很多例子都可以表明数据量对模型能力具有巨大影响。历史上，算力的提升总是能够促进算法的进步和主流范式的革新。数据量的累积也能促使模型发挥潜能，例如，深度学习模型在拥有大量数据和计算资源的情况下表现良好，但在较小规模下表现不佳，在没有太多资源的情况下，甚至会被更简单的算法超越<ref name=":5" />。
【早期模型 transformer】
= 大语言模型家族分类 =
不同模型家族的设计目标、参数规模、训练方法等差异可能会直接影响涌现能力的表现，因此有必要了解不同模型的分类。模型的演进涉及到性能与计算成本的平衡、通用能力与专用场景的取舍、技术创新与工程落地的协同等诸多维度，而针对涌现能力是否出现，可能了解模型的基本架构和与之相对应的应用场景是首要目标。
'''结构类型：密集/稀疏.''' 密集Transformer语言模型采用'''全连接自注意力机制''', 每个Transformer层都与所有前序层保持全连接，通常包含百亿至万亿级参数（如GPT-3的1750亿参数）,参数利用率高（100%参数激活），计算复杂度为）O(n²)，采用大规模无监督预训练+特定任务微调范式作为训练策略，代表模型有BERT, GPT-3, Chinchilla等，更擅长知识密集型任务。稀疏Transformer模型采用局部/分层/动态稀疏注意力，参数选择性激活（如MoE模型20-35%激活），计算复杂度为O(log n)或更低。稀疏模型通过限制注意力头的连接范围（如局部窗口或关键区域）减少计算量和参数依赖，具体注意类型包括Mixture of Block Attention（MoBA）, Mixture of Experts (MoE)等。代表模型有Switch Transformer, GLaM, ST-MoE。这类模型在训练效率上有显著优势。另外，综合采用密集和稀疏方法的混合架构正在成为模型的新趋势。
'''应用场景：通用/对话、计算等专用场景'''.
=大语言模型能力的涌现现象=
=大语言模型能力的涌现现象=