AI圈报
论文研究普通

OpenAI 研究对抗模型蒸馏

信息来源:X:OpenAI (@OpenAI)·
原始标题:Distillation can reproduce powerful AI capabilities without the safeguards built around them.

内容摘要

知识蒸馏可以复制强大的 AI 能力,却无法复制围绕这些能力构建的安全防护措施。 我们分享了一项新研究,介绍我们在打击针对自家模型的蒸馏方面所做的工作、这些能力如何迁移,以及我们如何检测并阻断协同性的尝试。 这些发现正帮助我们强化防御,并支持全行业的安全防护。 https://openai.com/index/combatting-adversarial-distillation/
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:OpenAI (@OpenAI)
站内情报编号intel-9df7b7a7c323988956198ed3