行业动态普通
OpenAI 与 Apollo 评估模型隐蔽背离风险
原始标题:@ApolloResearch will assess whether our models could covertly work against their developers’ intentions—and whether our safeguards would ...
内容摘要
@ApolloResearch 将评估我们的模型是否会暗中违背开发者的意图行事——以及我们的防护措施能否检测到这种行为。 它将审查来自训练、安全测试和内部使用的证据,以检验这种行为以及我们捕捉它的能力。
内容分类人工智能行业动态
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:OpenAI (@OpenAI)
站内情报编号intel-57b05396f1d60c4ed684a9a1