AI圈报
观点 / 方法普通

Anthropic 前研究员 Jacob Coxon 称 AI 或致人类灭绝,Evan Hubinger 估计十年内灭绝概率超 10%

信息来源:X:阿易 AI Notes (@AYi_AInotes)·
原始标题:喵的这个采访视频真是看的让人振聋发聩, 刚从 Anthropic 放弃天价期权裸辞的核心预训练研究员 Jacob Coxon,在 CNN 镜头前说出了一句最冷酷的大白话: "我们不是在打比喻,到这个…

内容摘要

刚从 Anthropic 裸辞的核心预训练研究员 Jacob Coxon 在 CNN 采访中称,到这个十年末 AI 真的有可能杀死全人类;Anthropic 对齐科学主管 Evan Hubinger 公开确认其说法,并称个人预估未来十年灭绝概率大于 10%。作者归纳了采访的分层逻辑:当前模型灭世风险极低,真正的威胁是递归自我改进,且 Hubinger 承认公司至今没有解决超智对齐的完整方案。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:阿易 AI Notes (@AYi_AInotes)
站内情报编号intel-dcc7ab18512cc1205cfe9d9d