跳到正文
HuggingFace Daily Papers·· 13 小时前AI 评分53

AdvSim2Real:在网页世界模型中训练 Web agent 抵御自适应提示注入

AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model

AI 导读

论文提出 AdvSim2Real,在冻结的网页世界模型中共进化任务课程、注入攻击方与 agent,以抵御自适应提示注入。训练使 4B agent 在有无攻击时完成率均提升,对未训练过的前沿模型攻击方也保持稳健,能力增益可迁移到真实浏览器;在 150 个网页任务上,面对该未见攻击方时完成率相对基线提升 33.6%。

来源:HuggingFace Daily Papers · arxiv.org