更改

'''ActAdd'''（'''Activation Addition'''，中文常译“激活加法”）是一种用于在'''推理时'''（inference-time）控制[[大型语言模型]]（LLM）输出行为的方法，也是研究[[AI可解释性]]的一种手段。ActAdd 属于'''[[激活工程]]'''（activation engineering）：不改动模型权重，而是在一次前向传播中对模型中间层的[[残差流]]激活进行加性[[干预]]，从而改变生成文本的高层属性（如主题、情感、风格、去毒等）。该方法由论文《Activation Addition: Steering Language Models Without Optimization》提出<ref name="actadd">{{cite journal=arXiv|author=Alexander Matt Turner|title=Activation Addition: Steering Language Models Without Optimization|year=2024|url=https://arxiv.org/html/2308.10248v4}}</ref>，强调其'''无需优化'''（no optimization）与'''无需标注数据'''（除[[提示词]]外）即可构造可用的“引导[[向量]]（steering vector）”。

'''ActAdd'''（'''Activation Addition'''，中文常译“激活加法”）是一种用于在'''推理时'''（inference-time）控制[[大型语言模型]]（LLM）输出行为的方法，也是研究[[AI可解释性]]的一种手段。ActAdd 属于'''[[激活工程]]'''（activation engineering）：不改动模型权重，而是在一次前向传播中对模型中间层的[[残差流]]激活进行加性[[干预]]，从而改变生成文本的高层属性（如主题、情感、风格、去毒等）。该方法由论文《Activation Addition: Steering Language Models Without Optimization》提出<ref name="actadd">{{cite journal|author=Alexander Matt Turner|title=Activation Addition: Steering Language Models Without Optimization|year=2024|url=https://arxiv.org/html/2308.10248v4|journal=arXiv}}</ref>，强调其'''无需优化'''（no optimization）与'''无需标注数据'''（除[[提示词]]外）即可构造可用的“引导[[向量]]（steering vector）”。

== 概述 ==

== 概述 ==