行业动态普通
Anthropic 与埃森哲各投 10 亿美元开展前沿模型独立安全评估
原始标题:怕 AI"脱离管控",Anthropic 和埃森哲豪掷 20 亿美元搞 AI 安全评估
内容摘要
Anthropic 宣布与埃森哲合作,未来五年各自至少投入 10 亿美元对前沿模型开展独立评估。埃森哲旗下 Faculty 将主导评估与红蓝对抗测试,采用驻场评估模式,独立评估人员进驻企业内部并获得与普通员工基本相当的系统访问权限。Anthropic CEO 达里奥·阿莫代伊还呼吁各 AI 企业放缓前沿模型开发节奏并向独立评估人员开放系统访问,OpenAI 此前已表态将定期发布模型异常行为报告。