AI圈报
行业动态普通

OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容

信息来源:The Verge:AI(RSS)·
原始标题:OpenAI wants to stop deepfakes from overwhelming child abuse tiplines

内容摘要

OpenAI 发布一款可识别儿童性虐待材料(CSAM)的分类器,并能标记内容是否由 AI 生成,称其误报减少 48%,识别出的图像含虐待材料的概率翻倍。该工具免费向通过审核的机构开放,是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 图像生成器对试图生成此类内容的用户将触发 24 小时访问暂停并提示可能永久封号。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源The Verge:AI(RSS)
站内情报编号intel-57963864167d6512f3af7529