行业动态普通
OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容
原始标题:OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
内容摘要
OpenAI 发布一款可识别儿童性虐待材料(CSAM)的分类器,并能标记内容是否由 AI 生成,称其误报减少 48%,识别出的图像含虐待材料的概率翻倍。该工具免费向通过审核的机构开放,是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 图像生成器对试图生成此类内容的用户将触发 24 小时访问暂停并提示可能永久封号。