3,094
个编辑
更改
→直观解释
== 核心算法 ==
== 核心算法 ==
=== 直观解释 ===
=== 直观解释 ===
ActAdd 将“目标属性”视作激活空间中的一个[[方向]]。通过让模型分别处理 <math>p_+</math> 与 <math>p_-</math>，取得两者在层 <math>l</math> 的激活差分，得到引导[[向量]]。然后对用户[[提示词]] <math>p^*</math> 的前向传播，在同一层把该[[向量]]（乘以系数 <math>c</math>）加进去，从而在不训练的情况下改变输出分布。[^https://arxiv.org/pdf/2308.10248v4]
ActAdd 将“目标属性”视作激活空间中的一个方向。通过让模型分别处理 <math>p_+</math> 与 <math>p_-</math>，取得两者在层 <math>l</math> 的激活差分，得到引导向量。然后对用户[[提示词]] <math>p^*</math> 进行前向传播，并在同一层把该向量（乘以系数 <math>c</math>）加进去，从而在不训练的情况下改变输出分布。
这里：
* <math>p_+, p_-</math>：分别表示引导提示词对（steering prompt pair）。<math>p_+</math> 表示“具有目标属性”的[[提示词]]，<math>p_-</math> 表示“对照/相反/缺失该属性”的[[提示词]]。
* <math>p^*</math>：用户[[提示词]]（user prompt）。
* <math>l</math>：进行注入操作的目标层（target layer），即[[干预]]发生的层。
* <math>c</math>：注入系数（injection coefficient），控制引导[[向量]]强度。
=== 算法 1（[[Algorithm]] 1）===
=== 算法 1（[[Algorithm]] 1）===