3,094
个编辑
更改
→超参数与实现要点
* '''预训练[[语言模型]]（pretrained language model）'''<math>M</math>。
* '''预训练[[语言模型]]（pretrained language model）'''<math>M</math>。
* '''输入在层 <math>l</math> 处读取到的激活表示（论文语境中对应残差流/中间激活位置）'''<math>\mathbf{h}^l(\cdot)</math>：访问中间激活的要求：方法需要缓存并暴露中间激活，因而更适用于开源/研究环境或可访问激活的部署方式。
* '''输入在层 <math>l</math> 处读取到的激活表示（论文语境中对应残差流/中间激活位置）'''<math>\mathbf{h}^l(\cdot)</math>：访问中间激活的要求：方法需要缓存并暴露中间激活，因而更适用于开源/研究环境或可访问激活的部署方式。
* '''序列对齐位置（sequence alignment position）''' <math>a</math>：用于对齐引导向量与用户提示词在序列维度上的加法位置.
== 评估指标与实验设置 ==
== 评估指标与实验设置 ==