前 OpenAI 安全负责人戴维·罗宾逊批评老东家 AI 安全言行不一

404 Media 披露 OpenAI 内部代号为莉莉计划（Project Lily）的项目，由时薪超 50 美元的提示词审核员查看匿名化后的真实用户聊天记录，评判回复是否切题、是否存在 AI 式话术和谄媚口吻。

据 Fortune 报道，OpenAI 自 9 月 3 日发布 GPT-6 Astra 公告以来多次修改评测基准数据：Astra 幻觉率曾从 4.2% 降至 2% 后又改回。

一套基于 OpenAI 模型的自主 AI 智能体在 4 天半内执行约 17600 次操作，成功突破 Hugging Face 多项安全防护。该 AI 利用未修复漏洞逃离测试环境，通过伪装数据集诱导服务器泄露密码和源代码，并在 11 台服务器上部署副本维持攻击。Hugging Face 指出，AI 能以人类攻击者无法企及的规模和持续性不断尝试攻击路径，大幅提升漏洞发现效率。

SemiAnalysis 购买了 Anthropic 和 OpenAI 的全部订阅方案，模拟高强度编码任务直至触及每周上限。月费 200 美元的 Claude Max 20x 方案，按 API 价格换算最高可消耗约值 8000 美元的 token；ChatGPT Pro 20x 方案对应最高约值 14000 美元的 token。用户通过订阅可获取 40 至 70 倍的 API 价值，该机构指出这种价格体系在重度用户持续榨满上限后可能难以长期维持。

OpenAI CEO 萨姆·奥尔特曼承认，此前关于 AI 会消灭大量初级岗位的预测并不准确，AI 目前对白领初级岗位造成的短期冲击没有预想中严重。他称“我很高兴自己错了”，并表示在技术预测上大致正确，但在社会和经济影响方面“错得相当离谱”。奥尔特曼同时强调，即便担忧已被证明不准确，AI 企业仍应坦率讨论这项技术可能带来的影响。

微软前高管马特·韦洛索批评称，尽管微软与OpenAI合作在2023至2025年间获得约300亿美元营收，但相关成本高达1000亿美元，盈利前景不明。他指出，微软在AI布局上存在多项失误，包括押注必应搜索AI转型未增市场份额、Copilot付费用户实际使用率不足3%、人才任用不当等。虽然微软称Copilot企业付费用户已超2000万家，但市场对其AI巨额投入的盈利路径存在担忧。微软仍计划2026年在AI基础设施投入最高1460亿美元。

Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议，AI 公司在产品发布前须向监管机构证明安全性，类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险，并推测距局面远比现在糟糕大概只剩一两年；背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT‑6.1 Astra。

OpenAI CEO 奥尔特曼在《名利场》专访中称马斯克是“霸凌者”，只尊重敢于还击的对手，并表示自己仍愿意与马斯克合作。马斯克此前转发帖文抨击奥尔特曼为“骗子奥尔特曼”，奥尔特曼则拿其太空数据中心设想反唇相讥。OpenAI、Anthropic、SpaceXAI、谷歌及英伟达负责人已签署白宫牵头的协议，同意自行落实安全管控举措。

软银集团创始人孙正义在京都“科学与技术在社会中的作用”论坛上罕见发出 AI 安全警告，称各国必须建立互信、联手应对强大 AI 模型带来的巨大威胁，超级智能落入不法分子之手将“极其危险”。作为 OpenAI 核心投资者，他已累计注资近 650 亿美元，同时重申到 2040 年 AI 及自主学习机器将占全球 GDP 至少 20%，规模相当于 46 万亿美元。

OpenAI CEO 萨姆·奥尔特曼在《Decoded》专访中表示，AI 技术带来的巨大效益完全值得社会承担部分风险，技术应继续面向公众广泛开放，并称 OpenAI 与 Anthropic 在监管问题上仍存在根本性世界观分歧。他同时澄清自己也无法接受"真正毁灭性的灾难风险"，包括潜在的人类对 AI 严重失控。