更改

删除12字节 、 2025年1月28日 (二) 12:18
第84行: 第84行:     
至此我们也能暂且得出结论:模型蒸馏技术非常有用,相比之下,小模型做大规模强化学习不仅消耗大量算力,而且结果还不如从大模型蒸馏所得。然而,这一切的前提是有这么一个有强能力的大模型。因此,要获得更强的推理能力,还是需要更强的大模型和更大规模的强化学习。
 
至此我们也能暂且得出结论:模型蒸馏技术非常有用,相比之下,小模型做大规模强化学习不仅消耗大量算力,而且结果还不如从大模型蒸馏所得。然而,这一切的前提是有这么一个有强能力的大模型。因此,要获得更强的推理能力,还是需要更强的大模型和更大规模的强化学习。
 +
    
===性能表现===
 
===性能表现===
第89行: 第90行:  
下图显示了 DeepSeek 进行的测试结果,该测试针对 OpenAI 的 o1 模型在数学、编码和推理任务上测试了其大型语言模型的三个版本。DeepSeek-R1 在数学和编码基准测试中击败或与o1相媲美。<ref>DeepSeek-AI, Guo, D., Yang, D., Zhang, H., Song, J., Zhang, R., Xu, R., Zhu, Q., Ma, S., Wang, P., Bi, X., Zhang, X., Yu, X., Wu, Y., Wu, Z. F., Gou, Z., Shao, Z., Li, Z., Gao, Z., … Zhang, Z. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning (No. arXiv:2501.12948). arXiv. https://doi.org/10.48550/arXiv.2501.12948</ref>
 
下图显示了 DeepSeek 进行的测试结果,该测试针对 OpenAI 的 o1 模型在数学、编码和推理任务上测试了其大型语言模型的三个版本。DeepSeek-R1 在数学和编码基准测试中击败或与o1相媲美。<ref>DeepSeek-AI, Guo, D., Yang, D., Zhang, H., Song, J., Zhang, R., Xu, R., Zhu, Q., Ma, S., Wang, P., Bi, X., Zhang, X., Yu, X., Wu, Y., Wu, Z. F., Gou, Z., Shao, Z., Li, Z., Gao, Z., … Zhang, Z. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning (No. arXiv:2501.12948). arXiv. https://doi.org/10.48550/arXiv.2501.12948</ref>
   −
[[文件:Performance.png|居中|400x400像素|无框]]
+
[[文件:Benchmark.jpg|居中|Benchmark]]
    
====教育领域任务====
 
====教育领域任务====