更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
DeepSeek-R1
(查看源代码)
2025年1月28日 (二) 12:27的版本
删除1字节
、
2025年1月28日 (二) 12:27
→蒸馏技术
第85行:
第85行:
至此我们也能暂且得出结论:模型蒸馏技术非常有用,相比之下,小模型做大规模强化学习不仅消耗大量算力,而且结果还不如从大模型蒸馏所得。然而,这一切的前提是有这么一个有强能力的大模型。因此,要获得更强的推理能力,还是需要更强的大模型和更大规模的强化学习。
至此我们也能暂且得出结论:模型蒸馏技术非常有用,相比之下,小模型做大规模强化学习不仅消耗大量算力,而且结果还不如从大模型蒸馏所得。然而,这一切的前提是有这么一个有强能力的大模型。因此,要获得更强的推理能力,还是需要更强的大模型和更大规模的强化学习。
−
===性能表现===
===性能表现===
Jake
行政员
、
界面管理员
、
管理员
3,094
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本