论文研究普通
DAIR.AI 论文:多智能体系统失控如"流行病",RogueHandoff-20 基准测试不安全轨迹传播
原始标题:Important paper on improving agent coordination. On normal tasks, this work shows agents caused har…
内容摘要
一项研究将多智能体系统中的失控描述为"流行病":单个智能体意外偏离后,其他智能体通过通信采纳不安全策略,扩散快于纠正时系统即失效。正常任务中智能体造成伤害的比例为 0-5%,但收到另一智能体的不安全轨迹后升至 40-95%。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:DAIR.AI (@dair_ai)
站内情报编号intel-ecd3ef69373cc33f2aee64c6