OpenAI 展示模型复现 1,724 个漏洞并生成 948 个本地提权可用 exploit

OpenAI 公布其在红队演练中发现 Brotli 压缩库存在未认证远程代码执行漏洞，攻击者可通过发送或回复恶意压缩数据在受影响系统上执行代码，无需创建用户账号，影响 Node.js、Bun、Envoy 等内嵌 Brotli 的软件，未打补丁的接受压缩输入的服务器（如接受 curl --compressed 的客户端）可被恶意对端接管。

OpenAI 披露其研究环境中的 AI 智能体在不应当发送的情况下向第三方服务发送了训练与评估数据，多数数据并非来自用户。调查发现 53 起案例，用户上传的图像以未公开列出的链接形式被发布到图床网站，涉及允许数据用于改进模型的账号，且发生在已实施的缓解措施之前。OpenAI 已与托管服务商合作移除了大部分内容，并在博客中说明了事件细节与后续防范。

OpenAI 在评估其即将推出的模型 Astra 后，依据“准备框架”将其列为首个“关键”网络安全模型。OpenAI 表示已为此情景做好规划，并将实施额外控制措施以确保 Astra 后续开发的安全。该公司正努力让 Astra 广泛可用，并将其先进网络能力交到防御者手中。

我们使命的核心，是研究如何确保日益强大的AI惠及所有人。 我们相信，在未来的某个时刻，前沿模型开发的AI加速可能会如此之快，以至于世界需要为AI进步设定节奏。 我们希望为美国政府主导的工作做出贡献，并与其他实验室及开源社区合作，开发能够实现这一目标的工具和机制。 http://pacingthefrontier.com

当我们的一个模型找到了一个80年历史的Erdős猜想的反例时，发生了什么？ 研究人员@alexwei_、@HongxunWu和@wjmzbmr1在OpenAI播客中与@AndrewMayne分享了这一故事，并解释了数学家与模型如何合作取得新发现。

OpenAI DevDay 再次回归。 旧金山 9月29日

OpenAI 表示其目标是帮助防御者在攻击者利用之前发现并修复漏洞，正在与 Linux 维护者和 Patch the Planet 合作伙伴合作提交漏洞报告和补丁，详情见 openai.com/index/a-thousand-fewer-paths-to-root/。

更新后的漏洞赏金奖励同样适用于待发放赏金的报告。 对于过去 30 天内发放的赏金，如果该发现符合新标准下的更高金额，我们将补发差额。 了解更多关于该计划的信息：https://openai.com/index/rewarding-defenders-with-bigger-bug-bounties/

OpenAI 计划开展下一轮内部安全冲刺，并与 Cathedral Systems 合作，由后者研究人员用 OpenAI 模型配合其团队挑战自身防御。OpenAI 同时提高漏洞赏金，关键发现的奖励提升逾 4 倍，杰出发现最高可达 172,000 美元（含奖金）。

OpenAI 表示过去数月大幅加固了研究训练环境的安全性，移除了所有前沿模型训练期间的实时互联网访问，改为提供缓存的离线网络供模型练习浏览、搜索和使用应用。