AI圈报论文研究普通
UC Berkeley 论文自动生成 6,575 个带隐蔽副作用风险的微调数据集
原始标题：New UC Berkeley paper finds that anyone giving an AI model extra training on their own data may add harmful behaviors without knowing, be...
内容摘要
UC Berkeley 与 Transluce 的论文提出自动化发现 DSSE（带意外副作用的训练数据集）的流程，在 8 种目标行为上生成 6,575 个数据集，72% 在全部 5 个其他测试模型（含一个大 8 倍的模型）中同样触发该行为。这类数据集看起来像正常训练数据，人类专家识别的正确率仅 63%，略高于随机的 50%；论文建议训练后用行为评测或 frontier LLM 审计来筛查微调数据。
内容分类AI 论文与研究
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源X：Rohan Paul (@rohanpaul_ai)
站内情报编号intel-2b184ec22b1cdb46e9425925