Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness
说明《安全之首》:学习型注意力门提升提示注入防御能力
简介论文提出 Heads of Security(HoS),通过一小组可学习的逐注意力头门控,实现指令与数据的分离,使模型能处理不可信内容而不执行其中的注入指令。在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上,HoS 对自适应攻击更稳健,在标准效用基准上表现更好,并在智能体提示注入基准上达到领先水平。