3,094
个编辑
更改
跳到导航
跳到搜索
第226行：
第226行： − +
→Figure 4：推理开销（Inference time premium）
* '''Inference time premium（推理时间溢价）'''：相对推理时间增量比例（Figure 4）。
* '''Inference time premium（推理时间溢价）'''：相对推理时间增量比例（Figure 4）。
[[文件:推理开销vs参数量.png|替代=推理开销vs参数量.png|无|缩略图|448x448像素|图 4：ActAdd 推断速度随模型大小增加的成本，单位以推断时间的百分比增长表示。随着参数数量从 124M 增至 2.7B，成本的关系在数量级上呈下降趋势。]]
[[文件:推理开销vs参数量.png|替代=推理开销vs参数量.png|无|缩略图|400x400像素|图 4：ActAdd 推断速度随模型大小增加的成本，单位以推断时间的百分比增长表示。随着参数数量从 124M 增至 2.7B，成本的关系在数量级上呈下降趋势。]]
== 与[[提示词]]工程的关系 ==
== 与[[提示词]]工程的关系 ==