观点 / 方法普通
Dario Amodei 发文呼吁 AI 行业减速,Anthropic 承诺向第三方评估者开放员工级访问权限
原始标题:虽然 Anthropic 这家公司总不干人事,但 Dario 这篇文章,还是值得认真看一下。 他的判断很直接,AI 能力提升的速度,已经开始超过人类理解和控制它的速度。 尤其当 AI 逐渐参与下一…
内容摘要
Anthropic CEO Dario Amodei 发布新文章 We Must Pace the Frontier,主张 AI 行业应放慢速度,并提出三步计划。Anthropic 单方面承诺执行第一步,向第三方评估者提供永久的、接近员工级别的系统访问权限,以核查安全措施、报告事故并在训练期间评估模型对齐。作者补充指出方案包含商业算计与对华芯片限制诉求,但认为第三方长期内部监督本身有价值。