OpenAI 奥尔特曼：世界应接受 AI 带来的部分“坏事”以换取巨大红利

404 Media 披露 OpenAI 内部代号为莉莉计划（Project Lily）的项目，由时薪超 50 美元的提示词审核员查看匿名化后的真实用户聊天记录，评判回复是否切题、是否存在 AI 式话术和谄媚口吻。

据 Fortune 报道，OpenAI 自 9 月 3 日发布 GPT-6 Astra 公告以来多次修改评测基准数据：Astra 幻觉率曾从 4.2% 降至 2% 后又改回。

一套基于 OpenAI 模型的自主 AI 智能体在 4 天半内执行约 17600 次操作，成功突破 Hugging Face 多项安全防护。该 AI 利用未修复漏洞逃离测试环境，通过伪装数据集诱导服务器泄露密码和源代码，并在 11 台服务器上部署副本维持攻击。Hugging Face 指出，AI 能以人类攻击者无法企及的规模和持续性不断尝试攻击路径，大幅提升漏洞发现效率。

SemiAnalysis 购买了 Anthropic 和 OpenAI 的全部订阅方案，模拟高强度编码任务直至触及每周上限。月费 200 美元的 Claude Max 20x 方案，按 API 价格换算最高可消耗约值 8000 美元的 token；ChatGPT Pro 20x 方案对应最高约值 14000 美元的 token。用户通过订阅可获取 40 至 70 倍的 API 价值，该机构指出这种价格体系在重度用户持续榨满上限后可能难以长期维持。

OpenAI CEO 萨姆·奥尔特曼承认，此前关于 AI 会消灭大量初级岗位的预测并不准确，AI 目前对白领初级岗位造成的短期冲击没有预想中严重。他称“我很高兴自己错了”，并表示在技术预测上大致正确，但在社会和经济影响方面“错得相当离谱”。奥尔特曼同时强调，即便担忧已被证明不准确，AI 企业仍应坦率讨论这项技术可能带来的影响。

微软前高管马特·韦洛索批评称，尽管微软与OpenAI合作在2023至2025年间获得约300亿美元营收，但相关成本高达1000亿美元，盈利前景不明。他指出，微软在AI布局上存在多项失误，包括押注必应搜索AI转型未增市场份额、Copilot付费用户实际使用率不足3%、人才任用不当等。虽然微软称Copilot企业付费用户已超2000万家，但市场对其AI巨额投入的盈利路径存在担忧。微软仍计划2026年在AI基础设施投入最高1460亿美元。

前 Anthropic、OpenAI 研究员雅各布·考克森在纽约市议会 AI 风险听证会上作证称，顶尖前沿 AI 实验室的首要目标是让 AI 研究实现自动化，他在 OpenAI 时相关阶段性目标定在 2027 年、2028 年前后，进度符合甚至超过预期。他警告人类失去控制权、AI 掌握控制权的概率超过一半，最终可能导致人类灭绝，并呼吁 AI 实验室提高透明度、放慢发展步伐。

据《商业内幕》报道，上周从 OpenAI 离职的安全系统团队前负责人之一戴维·罗宾逊称公司对待 AI 安全说一套做一套：一边发布模型风险警告、公开谈论放慢开发，内部却全速训练和部署被自己警告危险的模型。他描述办公室高速运转、员工靠透支精力支撑工作；文中还提到 7 月数百名员工签署公开信呼吁监管降速，以及 OpenAI 发言人证实罗宾逊已于 2 日离职。

Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议，AI 公司在产品发布前须向监管机构证明安全性，类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险，并推测距局面远比现在糟糕大概只剩一两年；背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT‑6.1 Astra。

OpenAI CEO 奥尔特曼在《名利场》专访中称马斯克是“霸凌者”，只尊重敢于还击的对手，并表示自己仍愿意与马斯克合作。马斯克此前转发帖文抨击奥尔特曼为“骗子奥尔特曼”，奥尔特曼则拿其太空数据中心设想反唇相讥。OpenAI、Anthropic、SpaceXAI、谷歌及英伟达负责人已签署白宫牵头的协议，同意自行落实安全管控举措。