AI圈报
行业动态普通

OpenAI 与 Apollo 评估模型隐蔽背离风险

信息来源:X:OpenAI (@OpenAI)·
原始标题:@ApolloResearch will assess whether our models could covertly work against their developers’ intentions—and whether our safeguards would ...

内容摘要

@ApolloResearch 将评估我们的模型是否会暗中违背开发者的意图行事——以及我们的防护措施能否检测到这种行为。 它将审查来自训练、安全测试和内部使用的证据,以检验这种行为以及我们捕捉它的能力。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:OpenAI (@OpenAI)
站内情报编号intel-57b05396f1d60c4ed684a9a1