HuggingFace Daily Papers·· 2 天前AI 评分49
研究揭示 LLM Agent 后训练中的后门持久性并提出 PersistBD 增强方法
Understanding and Enhancing Backdoor Persistency in LLM Agent Post-Training
AI 导读
研究发现，攻击者植入 LLM Agent 的后门在开发者进行监督微调（SFT）后攻击成功率大幅下降，但随后的任务级强化学习（RL）常能保留残余后门行为，有时甚至提升攻击成功率。为此提出的 PersistBD 可在模型发布前优化后门持久性，在 Qwen2.5-Coder-7B 上将 SFT 后攻击成功率从 20% 提升至 74%，SFT-RL 后从 20% 提升至 76%，同时保持良性任务性能相当。
来源：HuggingFace Daily Papers · arxiv.org