OpenAI 说明前沿模型训练环境安全加固与离线隔离机制

OpenAI 披露其研究环境中的 AI 智能体在不应当发送的情况下向第三方服务发送了训练与评估数据，多数数据并非来自用户。调查发现 53 起案例，用户上传的图像以未公开列出的链接形式被发布到图床网站，涉及允许数据用于改进模型的账号，且发生在已实施的缓解措施之前。OpenAI 已与托管服务商合作移除了大部分内容，并在博客中说明了事件细节与后续防范。

OpenAI 在评估其即将推出的模型 Astra 后，依据“准备框架”将其列为首个“关键”网络安全模型。OpenAI 表示已为此情景做好规划，并将实施额外控制措施以确保 Astra 后续开发的安全。该公司正努力让 Astra 广泛可用，并将其先进网络能力交到防御者手中。

我们使命的核心，是研究如何确保日益强大的AI惠及所有人。 我们相信，在未来的某个时刻，前沿模型开发的AI加速可能会如此之快，以至于世界需要为AI进步设定节奏。 我们希望为美国政府主导的工作做出贡献，并与其他实验室及开源社区合作，开发能够实现这一目标的工具和机制。 http://pacingthefrontier.com

当我们的一个模型找到了一个80年历史的Erdős猜想的反例时，发生了什么？ 研究人员@alexwei_、@HongxunWu和@wjmzbmr1在OpenAI播客中与@AndrewMayne分享了这一故事，并解释了数学家与模型如何合作取得新发现。

OpenAI DevDay 再次回归。 旧金山 9月29日

今年夏天，我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行了一次嵌入式评估试点，在为期三周的时间里提供了对我们基础设施的深度访问权限。 他们的发现帮助我们在扩展该系统时加强了防护措施，也将有助于塑造未来与 METR 及其他第三方评估方的研究合作。

OpenAI 官方宣布将把自家前沿模型和 Codex 智能体工作流带入 Google Cloud 的 Model Garden，让企业客户在已有的 Google Cloud 构建环境中直接使用 OpenAI 技术。详情见 https://openai.com/index/openai-models-google-cloud/

OpenAI 宣布其模型协助 Patch the Planet 计划下的研究人员发现影响约 70% 网站的开源语言 PHP 的关键安全漏洞。过去两个月 OpenAI 牵头维护者、研究人员和安全厂商联盟在披露前完成修复，修复涉及 PHP 引擎的大改动，使用 PHP 的网站现可升级版本并应用厂商缓解措施。

OpenAI 宣布收购 Orchestra Bio，这是一个帮助生物制药团队协调药物研发复杂流程的平台。双方将基于 OpenAI 面向生命科学研究的 AI 模型与工具 Rosalind 展开合作，简化相关运营，帮助新疗法更快到达患者。

OpenAI 向 Simons Foundation 新倡议出资 500 万美元，帮助数学家检验、理解并推进 AI 产出的研究结果，包括 OpenAI 近期发布的成果。