产品发布 / 更新普通
Goodfire 推出监控模型内部信号的探针,低成本捕捉失控 AI 智能体
原始标题:Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
内容摘要
可解释性初创公司 Goodfire 推出监控 AI 模型内部信号的探针系统,复用模型前向传播中已计算的中间激活再运行分类器,通过 Baseten 面向客户提供,可选监控攻击性黑客、生化武器滥用和 reward hacking 等风险,响应方式可选记录、人工审查或拒绝请求。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源TechCrunch:AI(RSS)
站内情报编号intel-27706238add007ccb6e88c52