AI圈报观点 / 方法普通
警告"AI 或灭绝人类"的前 Anthropic 研究员考克森：某种意义上，我曾研究让 AI 取代自己
原始标题：警告“AI 或灭绝人类”的前 Anthropic 研究员：某种意义上，我曾研究让 AI 取代自己
内容摘要
前 Anthropic、OpenAI 研究员雅各布·考克森在纽约市议会 AI 风险听证会上作证称，顶尖前沿 AI 实验室的首要目标是让 AI 研究实现自动化，他在 OpenAI 时相关阶段性目标定在 2027 年、2028 年前后，进度符合甚至超过预期。他警告人类失去控制权、AI 掌握控制权的概率超过一半，最终可能导致人类灭绝，并呼吁 AI 实验室提高透明度、放慢发展步伐。