3,094
个编辑
更改
→背景
==背景==
==背景==
该模型的开发背景源于传统[[语言模型]]在复杂推理任务中的局限性，尤其是在需要多步逻辑推理的场景中。尽管现有的语言模型在生成文本和理解语言方面表现出色，但在数学推理、代码生成等需要精确逻辑推理的任务中，表现仍然有限。
为了解决这一问题，[[DeepSeek团队]]提出了基于[[强化学习]]的训练方法，开发了DeepSeek-R1系列模型。该模型的核心目标是通过[[强化学习]]和大规模训练，提升模型在复杂推理任务中的表现。[[DeepSeek-R1-Zero]]是这一系列中的第一个模型，它通过纯强化学习训练，无需[[监督微调]]（SFT），展现出强大的推理能力。然而，DeepSeek-R1-Zero 在训练过程中也暴露出一些问题，如可读性差、语言混合等。
为了进一步优化模型，[[DeepSeek团队]]引入了冷启动数据和多阶段训练方法，开发了DeepSeek-R1。冷启动数据的使用使得模型在训练初期能够更快地收敛，并且通过多阶段训练，模型的推理能力和可读性得到了显著提升。此外，团队还探索了[[蒸馏技术]]，将大型模型的推理能力传递到小型模型，使得小型模型在推理任务中也能表现出色。
总的来说，DeepSeek-R1 的开发背景是为了解决传统语言模型在复杂推理任务中的不足，通过强化学习和蒸馏技术，提升模型在数学推理、代码生成等任务中的表现，并为研究社区提供开源的推理模型资源。
总的来说，DeepSeek-R1 的开发背景是为了解决传统语言模型在复杂推理任务中的不足，通过强化学习和蒸馏技术，提升模型在数学推理、代码生成等任务中的表现，并为研究社区提供开源的推理模型资源。
===DeepSeek系列模型===
===DeepSeek系列模型===
* 2024年1月，深度求索发布了第一代模型，DeepSeekMoE系列，最大的版本有67B参数，确立了MoE架构路线，能大幅减少训练和生成期间的成本。另外，DeepSeekMoE发现了'''细粒度多数量Expert模块'''以及'''设立独立的共享Expert模块'''能获得稳定且较好的效果。
2023年7月，国内大型私募基金''[[幻方量化]]''成立了子公司''[[深度求索]]''，他们储备了过万张A100和H800计算显卡，开启了半年迭代一版大模型的探索历程：
* 2024年5月，深度求索发布了第二代模型，DeepSeek-v2，最大的版本有273B参数。其中最重要的创新是'''多头潜在注意力机制(Multi-head Latent Attention，MLA)'''。MLA能大幅降低模型在生成（推理）阶段的显卡缓存占用，据报告可降到原先的5%-13%，因而可以大大提高其在生成阶段的效率。这一创新，配合其他创新使得DeepSeek-v2的生成文字的成本降到只有每百万token一块钱。
* 2024年12月，深度求索发布了第三代模型，DeepSeek-v3，最大的版本有671B参数。v3采用了'''多token预测训练（Multi-Token Prediction, MTP）'''技术以及'''无损负载均衡'''技术，在训练过程大幅提高模型能力，最终使得其模型能力比肩GPT-4o的最新版本。此外，DeepSeek-v3还第一次证明了大规模fp8混合精度训练的可行性，提出了DualPipe算法来重叠集群间计算和通信的开销，以及针对MoE架构的PD分离策略等各种技术。
* 2024年1月，[[深度求索]]发布了第一代模型，[[DeepSeekMoE]]系列，最大的版本有67B参数，确立了[[混合专家模型]](MoE)架构路线，能大幅减少训练和生成期间的成本。另外，[[DeepSeekMoE]]发现了'''细粒度多数量Expert模块'''以及'''设立独立的共享Expert模块'''能获得更加稳定且更好的效果。
* 2024年5月，深度求索发布了第二代模型，[[DeepSeek-v2]]，最大的版本有273B参数。其中最重要的创新是'''[[多头潜在注意力机制]](Multi-head Latent Attention，MLA)'''。MLA能大幅降低模型在生成（推理）阶段的显卡缓存占用，据报告可降到原先的5%-13%，因而可以大大提高其在生成阶段的效率。这一创新，配合其他创新使得DeepSeek-v2的生成文字的成本降到只有每百万token一块钱。
* 2024年12月，深度求索发布了第三代模型，[[DeepSeek-v3]]，最大的版本有671B参数。v3采用了'''[[多token预测训练]]（Multi-Token Prediction, MTP）'''技术以及'''[[无损负载均衡]]'''技术，在训练过程大幅提高模型能力，最终使得其模型能力比肩GPT-4o的最新版本。此外，DeepSeek-v3还第一次证明了大规模fp8混合精度训练的可行性，提出了DualPipe算法来重叠集群间计算和通信的开销，以及针对[[MoE架构]]的PD分离策略等各种技术。
==技术特点==
==技术特点==