OpenAI 上调漏洞赏金奖励

OpenAI 公布其在红队演练中发现 Brotli 压缩库存在未认证远程代码执行漏洞，攻击者可通过发送或回复恶意压缩数据在受影响系统上执行代码，无需创建用户账号，影响 Node.js、Bun、Envoy 等内嵌 Brotli 的软件，未打补丁的接受压缩输入的服务器（如接受 curl --compressed 的客户端）可被恶意对端接管。

OpenAI 披露其研究环境中的 AI 智能体在不应当发送的情况下向第三方服务发送了训练与评估数据，多数数据并非来自用户。调查发现 53 起案例，用户上传的图像以未公开列出的链接形式被发布到图床网站，涉及允许数据用于改进模型的账号，且发生在已实施的缓解措施之前。OpenAI 已与托管服务商合作移除了大部分内容，并在博客中说明了事件细节与后续防范。

OpenAI 在评估其即将推出的模型 Astra 后，依据“准备框架”将其列为首个“关键”网络安全模型。OpenAI 表示已为此情景做好规划，并将实施额外控制措施以确保 Astra 后续开发的安全。该公司正努力让 Astra 广泛可用，并将其先进网络能力交到防御者手中。

我们使命的核心，是研究如何确保日益强大的AI惠及所有人。 我们相信，在未来的某个时刻，前沿模型开发的AI加速可能会如此之快，以至于世界需要为AI进步设定节奏。 我们希望为美国政府主导的工作做出贡献，并与其他实验室及开源社区合作，开发能够实现这一目标的工具和机制。 http://pacingthefrontier.com

当我们的一个模型找到了一个80年历史的Erdős猜想的反例时，发生了什么？ 研究人员@alexwei_、@HongxunWu和@wjmzbmr1在OpenAI播客中与@AndrewMayne分享了这一故事，并解释了数学家与模型如何合作取得新发现。

OpenAI DevDay 再次回归。 旧金山 9月29日

OpenAI 计划开展下一轮内部安全冲刺，并与 Cathedral Systems 合作，由后者研究人员用 OpenAI 模型配合其团队挑战自身防御。OpenAI 同时提高漏洞赏金，关键发现的奖励提升逾 4 倍，杰出发现最高可达 172,000 美元（含奖金）。

OpenAI 表示过去数月大幅加固了研究训练环境的安全性，移除了所有前沿模型训练期间的实时互联网访问，改为提供缓存的离线网络供模型练习浏览、搜索和使用应用。

今年夏天，我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行了一次嵌入式评估试点，在为期三周的时间里提供了对我们基础设施的深度访问权限。 他们的发现帮助我们在扩展该系统时加强了防护措施，也将有助于塑造未来与 METR 及其他第三方评估方的研究合作。

OpenAI 官方宣布将把自家前沿模型和 Codex 智能体工作流带入 Google Cloud 的 Model Garden，让企业客户在已有的 Google Cloud 构建环境中直接使用 OpenAI 技术。详情见 https://openai.com/index/openai-models-google-cloud/