AI圈报
论文研究普通

Google 与 CMU 论文提出 Harmony Harness,多目标进化让自改进智能体更好保留安全收益

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:New Google and Carnegie Mellon paper finds self-improving agents hold on to security gains far better when security is evolved as a separ...

内容摘要

Google 与 Carnegie Mellon 的论文提出 Harmony Harness,将 agent harness 的自进化建模为多目标优化,把通过测试与阻断漏洞拆成不同目标分别进化,并在推理时按任务动态组合。在 SecRepoBench 未见崩溃类型上,66.7% 的修复既有效又阻断了漏洞,起始 harness 为 36.7%;安全收益保留 55%,DGM 基线为 0%。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-11f680971abbff845ac15926