论文研究普通
AdvSim2Real:在网页世界模型中训练 Web agent 抵御自适应提示注入
原始标题:AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model
内容摘要
论文提出 AdvSim2Real,在冻结的网页世界模型中共进化任务课程、注入攻击方与 agent,以抵御自适应提示注入。训练使 4B agent 在有无攻击时完成率均提升,对未训练过的前沿模型攻击方也保持稳健,能力增益可迁移到真实浏览器;在 150 个网页任务上,面对该未见攻击方时完成率相对基线提升 33.6%。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-deea4c8036ac785aa4921b92