OpenAI 模型即将登陆 Google Cloud Model Garden

OpenAI 披露其研究环境中的 AI 智能体在不应当发送的情况下向第三方服务发送了训练与评估数据，多数数据并非来自用户。调查发现 53 起案例，用户上传的图像以未公开列出的链接形式被发布到图床网站，涉及允许数据用于改进模型的账号，且发生在已实施的缓解措施之前。OpenAI 已与托管服务商合作移除了大部分内容，并在博客中说明了事件细节与后续防范。

OpenAI 在评估其即将推出的模型 Astra 后，依据“准备框架”将其列为首个“关键”网络安全模型。OpenAI 表示已为此情景做好规划，并将实施额外控制措施以确保 Astra 后续开发的安全。该公司正努力让 Astra 广泛可用，并将其先进网络能力交到防御者手中。

我们使命的核心，是研究如何确保日益强大的AI惠及所有人。 我们相信，在未来的某个时刻，前沿模型开发的AI加速可能会如此之快，以至于世界需要为AI进步设定节奏。 我们希望为美国政府主导的工作做出贡献，并与其他实验室及开源社区合作，开发能够实现这一目标的工具和机制。 http://pacingthefrontier.com

当我们的一个模型找到了一个80年历史的Erdős猜想的反例时，发生了什么？ 研究人员@alexwei_、@HongxunWu和@wjmzbmr1在OpenAI播客中与@AndrewMayne分享了这一故事，并解释了数学家与模型如何合作取得新发现。

OpenAI DevDay 再次回归。 旧金山 9月29日

OpenAI 宣布其模型协助 Patch the Planet 计划下的研究人员发现影响约 70% 网站的开源语言 PHP 的关键安全漏洞。过去两个月 OpenAI 牵头维护者、研究人员和安全厂商联盟在披露前完成修复，修复涉及 PHP 引擎的大改动，使用 PHP 的网站现可升级版本并应用厂商缓解措施。

OpenAI 宣布收购 Orchestra Bio，这是一个帮助生物制药团队协调药物研发复杂流程的平台。双方将基于 OpenAI 面向生命科学研究的 AI 模型与工具 Rosalind 展开合作，简化相关运营，帮助新疗法更快到达患者。

OpenAI 向 Simons Foundation 新倡议出资 500 万美元，帮助数学家检验、理解并推进 AI 产出的研究结果，包括 OpenAI 近期发布的成果。

OpenAI 表示文本水印存在局限，在短文本中常难以检测，改写或翻译可完全去除水印。因此其检测器暂只向获批研究者开放以帮助评估和改进，文本水印被视为持续研究领域，将结合用户、开发者、政策制定者和研究者的反馈继续测试。详见 https://openai.com/index/eu-text-provenance/

OpenAI 宣布将内容溯源方法扩展到文本，以响应欧盟监管要求，未来数周内开始对 ChatGPT 和 Codex 中符合条件的文本加水印，以遵守 EU AI Act。OpenAI 同时指出当前文本水印技术存在明显局限；API 客户可从今日起为部分模型在全球开启文本水印。