AI圈报论文研究精选
Reflection 详解开源模型 Beam 的安全训练与评估方法
原始标题：Open model safety: lessons from training and evaluating Beam
内容摘要
Reflection 发布博文，讲解其开源权重模型 Beam 的安全训练与评估方法，并推出开源安全研究计划 Project Iris。Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求，为所测开源权重模型中最高，同时遵守 82% 的安全相关无害请求；安全对齐教师模型从 100B 增至 501B 参数后，过度拒绝相对下降 48.7%。