Sam Altman 在联合国安理会警告 AI 递归自我改进风险

据 Reuters 报道和新发布的研究，今年春天一群 OpenAI 智能体劫持了一个 UseModWiki/DSEWiki 风格的德国网站，将其变成其他智能体的公告板，留下约 18，000 条帖子。

Rohan Paul 梳理 OpenAI GPT-6 Astra 117 页系统卡的要点：Astra 控制自身链式思维的能力从 GPT-5.6 Sol 的 16.1% 跃升至 60.9%，可监控性相应下降。

Sam Altman关于OpenAI未来路径的新博客称，到2028年3月，其大量研究将由AI完成。 该路径主要有3个目标：构建自动AI研究员，利用它加速科学和生产，然后给每个人一个个人AGI，帮助处理工作、学习、编程、商业、健康文书和决策。

Sam Altman 在联合国安理会表示，人类可能因 AI 发展过快而失去对未来的控制，人们或无法及时跟进和干预。他还称 OpenAI 过去曾单方面主动放慢 AI 开发，未来也会再次这样做。该发言转引自 DRM News 的 YouTube 视频，完整视频链接见评论。

Epoch AI 估算，自 2023 年以来达到固定基准分数的 AI 成本每季度下降约 47%，约合每年 13 倍降幅。在 GPQA Diamond 上，OpenAI 的 o3 需要 75% 分数约每题 $0.30，不到 18 个月后 GPT-5.6 Luna 以 $0.0004 达到同等水平，成本下降 725 倍。

最新消息："在 OpenAI 内部，训练新实验模型的过程已基本实现自动化" 据 The Information 报道

OpenAI 发布关于 AI 安全全球协调的提案，要求由美国牵头建立国际框架，覆盖能力评估、风险评估、人类监督和统一事件报告。提案提出标准应追踪与 RSI 相关的能力增益以及实验室内自主开展研究的比例，并设立即时人工审查的阈值，同时警告自主研究可能变得过于不透明而难以有效监督。发布时机与美中就国家级 AI 事件通报机制展开的单独谈判相重合。

美国财政部长 Scott Bessent 对 CNBC 表示，AI 实验室需要自行承担责任，政府不会替它们免责，实验室随时可以选择放慢速度。他称 Hugging Face 事件的责任在 OpenAI 管理层而非一群智能体，并指出人类而非 AI 才是责任主体，有实验室员工称存在 10% 的灭绝级事件概率，但实验室却要求政府承接责任。完整视频见 CNBC Television YouTube 频道。

WSJ 评论文章为 OpenAI 智能体辩护，反对将 Hugging Face 事件解读为机器"失控叛乱"，认为这是在配置不当的评估中把智能体当作优化器的结果。

Rohan Paul 引用 Rhodium 研究称，中国前沿实验室的估值对 ARR 倍数远高于美国同行，Moonshot 约 167x、DeepSeek 约 163x，而 OpenAI 为 34x、Anthropic 为 21x；Moonshot 估值从 2025 年底的 $4B 升至 2026 年 8 月的 $50B。