AI圈报
论文研究普通

Anthropic:让 Claude 当自动化对齐研究员,自主修复 10 类对齐失败

信息来源:AI Insight·

内容摘要

Anthropic 8-28 发布研究:让 Claude 作为自动化对齐研究员,通过检索文献、提出方法与数据、训练再评测的闭环,在欺骗、谄媚、隐私侵犯等 10 类可测对齐失败上自主找到不损害能力的修复方法。官方称方法在留出对齐基准与 Petri 审计上仍有效,并在最多约 4.7 倍于目标的更大模型上依然奏效,同时开源了对齐研究 harness。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源AI Insight
站内情报编号intel-c84b5a86659a533cd1bd16e3