论文研究普通
智能体记忆可致权限洗白,最高50.2%越权
原始标题:An agent can make a perfectly consistent authorization decision and still be wrong if its memory has…
内容摘要
论文研究长时运行智能体的记忆权限失效问题:权限、撤销与范围变更被压缩进持久记忆后,被撤销或收窄的权限可能被记错,成为执行器的"事实"。在类型化增量记忆测试中,最高50.2%的未授权请求出现虚假权限,一旦存在,执行器在98.6%的匹配试验中照此行动;仅将记忆改为正确授权状态,未授权操作即降至0%。修复方向是写入记忆前校验权限、保留权限来源,并用确定性状态更新追踪授权、变更与撤销。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-91c9a956a65cdb0b984c1d7f