AI圈报
论文研究普通

CMU 研究者提出可证明安全的可纠正智能体构建并发布 ROGUE 基准

信息来源:CMU:Machine Learning Blog·
原始标题:Towards a Science of Capable Autonomous Agents & Provable Safety — Part II

内容摘要

Aran Nayebi 在系列文章第二部分介绍其 AAAI 2026 论文 Core Safety Values for Provably Corrigible Agents,给出在部分可观测 off-switch 博弈中同时满足延迟服从、保留开关访问、真话、低影响和有界任务回报五项要求的充分条件,并证明 RLHF/RLAIF 类单一奖励无法实现 corrigibility。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源CMU:Machine Learning Blog
站内情报编号intel-7c8a93517bfdc7c82f6cd61a