AI圈报
论文研究普通

White Circle 开源 RISE 图像模型红队测试算法

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:Good safety work increasingly means good search.

内容摘要

White Circle 开源了 RISE,一个自动化红队测试算法,用于检测 AI 图像生成器能否被诱导生成其规则禁止的图片。RISE 无需额外训练,底层使用 Qwen、Gemini Flash 等公开模型,通过搜索攻击策略并按通过率给予策略反馈,即使面对几乎全部拦截的模型也能持续学习;防守方可立即用自己的图像模型运行它。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-a0ecb7fcb43897bea489c1cb