5,443
个编辑
更改
跳到导航
跳到搜索
第216行：
第216行： − +
→分形几何与生命的第四维
=== 训练阶段的规模法则（Training‑time Scaling Laws） ===
=== 训练阶段的规模法则（Training‑time Scaling Laws） ===
# OpenAI的研究表明，语言模型在无监督训练中的困惑度（即交叉熵损失）随着模型参数规模 N、训练数据量 D 和训练计算量 C 的增加呈幂律下降关系。
# OpenAI的研究表明，语言模型在无监督训练中的困惑度（即交叉熵损失）随着模型参数规模[math]N[/math]、训练数据量[math]D[/math]和训练计算量[math]C[/math]的增加呈幂律下降关系。
=== 推理阶段的规模法则（Post-training & Inference-time Scaling） ===
=== 推理阶段的规模法则（Post-training & Inference-time Scaling） ===