论文研究普通Anthropic:让 Claude 当自动化对齐研究员,自主修复 10 类对齐失败信息来源:AI Insight·2026-08-28 16:00Claude内容摘要Anthropic 8-28 发布研究:让 Claude 作为自动化对齐研究员,通过检索文献、提出方法与数据、训练再评测的闭环,在欺骗、谄媚、隐私侵犯等 10 类可测对齐失败上自主找到不损害能力的修复方法。官方称方法在留出对齐基准与 Petri 审计上仍有效,并在最多约 4.7 倍于目标的更大模型上依然奏效,同时开源了对齐研究 harness。内容分类AI 论文与研究内容层级普通情报发布时间(北京时间)2026-08-28 16:00本站收录时间(北京时间)2026-09-01 02:04信息来源AI Insight站内情报编号intel-c84b5a86659a533cd1bd16e3阅读原始信息 ↗查看数据来源更多论文研究分享文章