842
个编辑
更改
跳到导航
跳到搜索
第251行：
第251行： − 该研究关注神经网络随着规模变化而产生的涌现能力，并对能力的涌现现象做出如下定义：+
→渗流模型
[[文件:涌现作为学习的相态(Emergence as phases of learning).png|替代=涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变。|无|缩略图|446x446px|涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变。]]
[[文件:涌现作为学习的相态(Emergence as phases of learning).png|替代=涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变。|无|缩略图|446x446px|涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变。]]
如前文所述，该研究对能力的涌现现象做出如下定义：
若模型在某一相关维度（如数据量、计算量、参数量）上扩展时，能力<math>C</math>满足以下三个条件，则称其为“涌现”：
若模型在某一相关维度（如数据量、计算量、参数量）上扩展时，能力<math>C</math>满足以下三个条件，则称其为“涌现”：