更改

跳到导航 跳到搜索
添加278字节 、 2026年3月17日 (星期二)
第225行: 第225行:  
作者测量 ActAdd 相对基线推理速度的额外开销,并在不同规模模型上估计该溢价的变化趋势。论文据此认为 ActAdd 的额外开销在相对比例上稳定或随模型增大呈下降趋势,从而具有[[可扩展性]]。
 
作者测量 ActAdd 相对基线推理速度的额外开销,并在不同规模模型上估计该溢价的变化趋势。论文据此认为 ActAdd 的额外开销在相对比例上稳定或随模型增大呈下降趋势,从而具有[[可扩展性]]。
   −
* '''Inference time premium(推理时间溢价)''':相对推理时间增量比例(Figure 4)。[^https://arxiv.org/pdf/2308.10248v4]
+
* '''Inference time premium(推理时间溢价)''':相对推理时间增量比例(Figure 4)。
 +
[[文件:推理开销vs参数量.png|替代=推理开销vs参数量.png|无|缩略图|448x448像素|图 4:ActAdd 推断速度随模型大小增加的成本,单位以推断时间的百分比增长表示。随着参数数量从 124M 增至 2.7B,成本的关系在数量级上呈下降趋势。]]
    
== 与[[提示词]]工程的关系 ==
 
== 与[[提示词]]工程的关系 ==
第242行: 第243行:  
== 参考文献 ==
 
== 参考文献 ==
 
* Alexander Matt Turner 等,《Activation Addition: Steering Language Models Without Optimization》,arXiv:2308.10248v4。[^https://arxiv.org/pdf/2308.10248v4]
 
* Alexander Matt Turner 等,《Activation Addition: Steering Language Models Without Optimization》,arXiv:2308.10248v4。[^https://arxiv.org/pdf/2308.10248v4]
 +
<references />

导航菜单