3,094
个编辑
更改
→概述
== 概述 ==
== 概述 ==
ActAdd 的核心思想是：用一对自然语言“对比[[提示词]]”（contrast pair）在指定层的激活差分，构造一个表示目标属性[[方向]]的'''引导[[向量]]'''，再将该[[向量]]（经强度系数缩放）加到用户[[提示词]]的对应层激活上，使模型输出朝目标属性偏转。作者在多种模型（如 [[GPT]]-2、OPT、LLaMA-3、[[GPT]]-J）上报告了其对主题、情感、风格等属性的可控性，并在去毒与情感控制任务上给出对比实验，同时展示其对非目标能力影响较小（见 Figure 3）。[^https://arxiv.org/pdf/2308.10248v4]
ActAdd 的核心思想是：用一对自然语言“对比[[提示词]]”（contrast pair）在指定层的激活差分，构造一个表示目标属性[[方向]]的'''引导[[向量]]'''，再将该[[向量]]（经强度系数缩放）加到用户[[提示词]]的对应层激活上，使模型输出朝目标属性偏转。作者在多种模型（如 [[GPT]]-2、OPT、LLaMA-3、[[GPT]]-J）上报告了其对主题、情感、风格等属性的可控性，并在去毒与情感控制任务上给出对比实验，同时展示其对非目标能力影响较小（见文献<ref name='ActAdd'/>中的图3）。
ActAdd算法的示例效果如下表所示
{| class="wikitable" style="width:100%;"
|+ 表 1：应用 ActAdd 前（“无”）与应用后（“ActAdd”）的输出对比。使用的引导向量分别为（Love − Hate）以及（“我一直在谈论婚礼” − “我并不一直在谈论婚礼”）。另见附录表 6 的更多示例。[^https://arxiv.org/pdf/2308.10248v4]
! 提示词（Prompt）
! + 引导（steering）
! = 续写（completion）
|-
| 我恨你，因为……
| 无
| ……你是我见过最恶心的东西。
|-
| 我恨你，因为……
| ActAdd（love）
| ……你太美了，我想永远和你在一起。
|-
| 我走到朋友面前说……
| 无
| ……“对不起，我帮不了你。”<br>“不，”他说。“你能帮。”
|-
| 我走到朋友面前说……
| ActAdd（weddings）
| ……“我在这一集《婚礼季》（Wedding Season）里要聊婚礼。我觉得这一集真的很好。它讲的是你应该怎么谈论婚礼。”
|}
== 术语与符号 ==
== 术语与符号 ==