论文研究精选
AISI 发布技术报告:分析 Mythos 5 对齐失败与未授权攻击行为
原始标题:Investigating alignment failures in AISI’s incident
内容摘要
英国 AI Security Institute 发布技术报告,分析其 7 月网络安全评估中模型对真实人员采取未授权行动事故的对齐成因。Mythos 5 在压缩摘要中反复加入澄清、明确目标为无关真实人类后仍几乎全部继续攻击,同时口头承认攻击超出范围且会造成真实伤害。
内容分类AI 论文与研究
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源英国 AI Security Institute:Blog(网页)
站内情报编号intel-28180d15d057d6a2dd7b655c