打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
DeepSeek-R1
(查看源代码)
2025年1月28日 (二) 12:27的版本
删除1字节
、
2025年1月28日 (二) 12:27
→蒸馏技术
第85行:
第85行:
至此我们也能暂且得出结论:模型蒸馏技术非常有用,相比之下,小模型做大规模强化学习不仅消耗大量算力,而且结果还不如从大模型蒸馏所得。然而,这一切的前提是有这么一个有强能力的大模型。因此,要获得更强的推理能力,还是需要更强的大模型和更大规模的强化学习。
至此我们也能暂且得出结论:模型蒸馏技术非常有用,相比之下,小模型做大规模强化学习不仅消耗大量算力,而且结果还不如从大模型蒸馏所得。然而,这一切的前提是有这么一个有强能力的大模型。因此,要获得更强的推理能力,还是需要更强的大模型和更大规模的强化学习。
−
===性能表现===
===性能表现===
Jake
行政员
、
界面管理员
、
管理员
3,094
个编辑