AI圈报
论文研究普通

宾州州立大学论文提出 BadEvolve:投毒任务可让自进化 LLM Agent 在自身技能中植入后门

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:New Penn State paper shows that attackers can make self-evolving AI agents plant backdoors in their own skills just by slipping in poison...

内容摘要

宾州州立大学等机构论文提出 BadEvolve 攻击框架,只需向自进化 Agent 的学习集注入 20 个投毒任务,即可诱导其在自身技能中植入后门。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-99933074d3c2a25a692fad22