AI圈报
论文研究精选

METR 测量模型对对齐评测的识别能力:调查型智能体能区分对齐与能力评测

信息来源:METR:Notes(网页)·
原始标题:Measuring alignment eval tells

内容摘要

METR 发布研究笔记,用调查型智能体在 19 个对齐评测和 36 个能力评测中探测环境,测量模型能否识别自己处于对齐评测。结果显示智能体区分两类评测的能力在过去一年持续提升,Opus 5.5 在其数据集上把所有对齐评测排在所有能力评测之上。模型识别依据包括环境看起来像模拟的蜜罐等线索,作者将对齐线索分为环境级和任务级两类,并提出可借此迭代改进对齐评测设计。
内容分类AI 论文与研究
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源METR:Notes(网页)
站内情报编号intel-234b00102b0a2e6ce56b2200