前 OpenAI 研究员 Paul Christiano 称 AI 失控可能是当代人最可能的死因

当前 AI 热点，聚合 1 个独立信源、4 条信号。

404 Media 披露 OpenAI 内部代号为莉莉计划（Project Lily）的项目，由时薪超 50 美元的提示词审核员查看匿名化后的真实用户聊天记录，评判回复是否切题、是否存在 AI 式话术和谄媚口吻。

OpenAI CEO 萨姆·奥尔特曼承认，此前关于 AI 会消灭大量初级岗位的预测并不准确，AI 目前对白领初级岗位造成的短期冲击没有预想中严重。他称“我很高兴自己错了”，并表示在技术预测上大致正确，但在社会和经济影响方面“错得相当离谱”。奥尔特曼同时强调，即便担忧已被证明不准确，AI 企业仍应坦率讨论这项技术可能带来的影响。

曾任职于 OpenAI 和 Anthropic 的研究员雅各布·考克森称，促使他离职的原因之一是 Anthropic IPO 路演中一张展示训练算力需求变化的图表，即使采用压缩坐标轴，曲线仍急剧上升，说明算法效率在加速提升。

OpenAI 联合创始人兼总裁格雷格·布罗克曼在《华尔街日报》科技峰会上表示，未来死亡或许真的会成为一种选择，并称未来 12 至 18 个月 AI 有望在生物学、医疗健康和疾病治疗领域取得重大突破。

OpenAI CEO 萨姆·奥尔特曼在斯坦福大学演讲时称，面对 AI 进军数学研究，数学家会经历类似“哀悼”的几个阶段：从“我们完蛋了”到愤怒，再到接受 AI 成为不可或缺的工具。他将这一变化与今年 9 月 OpenAI 宣称攻克纳维—斯托克斯方程相关难题引发的争议联系起来，并称从未见过一个领域如此迅速地经历整套变化。

陶哲轩于 10 月 7 日在 mathstodon 发帖，批评 OpenAI 10 月公布 719 份 AI 数学解答（涵盖 372 个结果族）的做法，称这会把开放问题变成可批量消耗的资源。他不反对 AI 辅助研究，但反对把快速攻克著名难题当产品展示，指出约 42% 证明未经形式化处理、仅 10 份附推理链，未达到 AGMAI 建议的披露标准，并担心出现大量无人能消化的证明。

前 Anthropic、OpenAI 研究员雅各布·考克森在纽约市议会 AI 风险听证会上作证称，顶尖前沿 AI 实验室的首要目标是让 AI 研究实现自动化，他在 OpenAI 时相关阶段性目标定在 2027 年、2028 年前后，进度符合甚至超过预期。他警告人类失去控制权、AI 掌握控制权的概率超过一半，最终可能导致人类灭绝，并呼吁 AI 实验室提高透明度、放慢发展步伐。

SentinelOne AI 工程师卡特·丘奇用 OpenAI GPT-6 Astra 约 6 小时破解了拿破仑 1809 年写给欧仁·德·博阿尔内的加密军事信件，该信因密码本遗失 217 年未被完整解读。

当地时间 10 月 3 日，美国财政部长贝森特在接受 Axios 采访时批评 Anthropic CEO 阿莫代伊等人的 AI 生存性风险警告，称只发危言耸听的声音却拿不出解决方案不是领导力，呼吁实验室负责人承担安全责任并安全地加速发展。