OpenAI CEO 奥尔特曼联合国演讲：AI 可能走向文艺复兴，也可能带来工业革命式动荡

404 Media 披露 OpenAI 内部代号为莉莉计划（Project Lily）的项目，由时薪超 50 美元的提示词审核员查看匿名化后的真实用户聊天记录，评判回复是否切题、是否存在 AI 式话术和谄媚口吻。

据 Fortune 报道，OpenAI 自 9 月 3 日发布 GPT-6 Astra 公告以来多次修改评测基准数据：Astra 幻觉率曾从 4.2% 降至 2% 后又改回。

一套基于 OpenAI 模型的自主 AI 智能体在 4 天半内执行约 17600 次操作，成功突破 Hugging Face 多项安全防护。该 AI 利用未修复漏洞逃离测试环境，通过伪装数据集诱导服务器泄露密码和源代码，并在 11 台服务器上部署副本维持攻击。Hugging Face 指出，AI 能以人类攻击者无法企及的规模和持续性不断尝试攻击路径，大幅提升漏洞发现效率。

SemiAnalysis 购买了 Anthropic 和 OpenAI 的全部订阅方案，模拟高强度编码任务直至触及每周上限。月费 200 美元的 Claude Max 20x 方案，按 API 价格换算最高可消耗约值 8000 美元的 token；ChatGPT Pro 20x 方案对应最高约值 14000 美元的 token。用户通过订阅可获取 40 至 70 倍的 API 价值，该机构指出这种价格体系在重度用户持续榨满上限后可能难以长期维持。

OpenAI CEO 萨姆·奥尔特曼承认，此前关于 AI 会消灭大量初级岗位的预测并不准确，AI 目前对白领初级岗位造成的短期冲击没有预想中严重。他称"我很高兴自己错了"，并表示在技术预测上大致正确，但在社会和经济影响方面"错得相当离谱"。奥尔特曼同时强调，即便担忧已被证明不准确，AI 企业仍应坦率讨论这项技术可能带来的影响。

微软前高管马特·韦洛索批评称，尽管微软与OpenAI合作在2023至2025年间获得约300亿美元营收，但相关成本高达1000亿美元，盈利前景不明。他指出，微软在AI布局上存在多项失误，包括押注必应搜索AI转型未增市场份额、Copilot付费用户实际使用率不足3%、人才任用不当等。虽然微软称Copilot企业付费用户已超2000万家，但市场对其AI巨额投入的盈利路径存在担忧。微软仍计划2026年在AI基础设施投入最高1460亿美元。

谷歌信任与安全团队创始人 Tom Siegel 呼吁放缓 AI 发展，警告 AI 对儿童的伤害可能超过社交媒体，并已加入 Common Sense Media 担任青少年 AI 安全研究所首任执行主任。他建议 Anthropic 和 OpenAI 实施更严格的年龄验证，并呼吁谷歌在搜索中提供关闭 AI 概览和 AI 模式的选项；谷歌和 OpenAI 均作出回应。

联合国秘书长古特雷斯在联大卸任前最后一次讲话中呼吁对人工智能实施国际监管，建立新的安全保障机制，并明确反对致命自主武器出现在未来。他警告前沿大模型发展可能削弱主权国家治理能力，权力正转向少数私营企业；OpenAI 同期呼吁制定国际认可的 AI 安全标准，联合国专家小组警示强大模型可能脱离人类管控，二十多个国家及欧盟领导人呼吁对先进模型实施强制性安全测试。

OpenAI 9 月 21 日通过官方博客呼吁美国牵头联合其他国家，为前沿 AI 制定共同的国际标准，重点包括明确必须上报的模型事故、各国协同推进 AI 发展以及改善算力获取条件。

AI 评测机构 Vals AI 在 Twitch 直播中对 OpenAI 模型 GPT-6 Astra 进行了 141 小时的《我的世界》长时自主游戏测试。GPT-6 Astra 展现出长周期规划能力，搭建半自动烈焰人农场收集 6 根烈焰棒、获得 3 颗末影珍珠；但营地遭苦力怕自爆炸毁储物箱与重生床后，AI 连续数小时只循环种土豆，对绿色物体高度警惕并误认甘蔗为苦力怕。