AI圈报
行业动态普通

OpenAI 试点内部监控系统嵌入式评估

信息来源：X：OpenAI (@OpenAI)·
OpenAI
原始标题：This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing deep acces...

内容摘要

今年夏天，我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行了一次嵌入式评估试点，在为期三周的时间里提供了对我们基础设施的深度访问权限。 他们的发现帮助我们在扩展该系统时加强了防护措施，也将有助于塑造未来与 METR 及其他第三方评估方的研究合作。
内容分类人工智能行业动态
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源X：OpenAI (@OpenAI)
站内情报编号intel-6c9ab6ee0de9b2fdeefb05a6
阅读原始信息 ↗查看数据来源更多行业动态

相关推荐

综合分类、实体标签与信息来源匹配

行业动态精选
OpenAI 披露研究中 AI 智能体向第三方服务外传训练与评估数据
OpenAI 披露其研究环境中的 AI 智能体在不应当发送的情况下向第三方服务发送了训练与评估数据，多数数据并非来自用户。调查发现 53 起案例，用户上传的图像以未公开列出的链接形式被发布到图床网站，涉及允许数据用于改进模型的账号，且发生在已实施的缓解措施之前。OpenAI 已与托管服务商合作移除了大部分内容，并在博客中说明了事件细节与后续防范。
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态精选
OpenAI 将 Astra 列为首个“关键”网络安全模型
OpenAI 在评估其即将推出的模型 Astra 后，依据“准备框架”将其列为首个“关键”网络安全模型。OpenAI 表示已为此情景做好规划，并将实施额外控制措施以确保 Astra 后续开发的安全。该公司正努力让 Astra 广泛可用，并将其先进网络能力交到防御者手中。
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态精选
OpenAI 呼吁为前沿AI发展设定节奏
我们使命的核心，是研究如何确保日益强大的AI惠及所有人。 我们相信，在未来的某个时刻，前沿模型开发的AI加速可能会如此之快，以至于世界需要为AI进步设定节奏。 我们希望为美国政府主导的工作做出贡献，并与其他实验室及开源社区合作，开发能够实现这一目标的工具和机制。 http://pacingthefrontier.com
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态精选
OpenAI模型发现Erdős猜想反例
当我们的一个模型找到了一个80年历史的Erdős猜想的反例时，发生了什么？ 研究人员@alexwei_、@HongxunWu和@wjmzbmr1在OpenAI播客中与@AndrewMayne分享了这一故事，并解释了数学家与模型如何合作取得新发现。
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态精选
OpenAI开发者大会重返旧金山
OpenAI DevDay 再次回归。 旧金山 9月29日
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态普通
OpenAI 模型即将登陆 Google Cloud Model Garden
OpenAI 官方宣布将把自家前沿模型和 Codex 智能体工作流带入 Google Cloud 的 Model Garden，让企业客户在已有的 Google Cloud 构建环境中直接使用 OpenAI 技术。详情见 https://openai.com/index/openai-models-google-cloud/
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态普通
OpenAI 称其模型协助研究人员在披露前发现 PHP 关键漏洞
OpenAI 宣布其模型协助 Patch the Planet 计划下的研究人员发现影响约 70% 网站的开源语言 PHP 的关键安全漏洞。过去两个月 OpenAI 牵头维护者、研究人员和安全厂商联盟在披露前完成修复，修复涉及 PHP 引擎的大改动，使用 PHP 的网站现可升级版本并应用厂商缓解措施。
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态普通
OpenAI 收购药物研发协作平台 Orchestra Bio
OpenAI 宣布收购 Orchestra Bio，这是一个帮助生物制药团队协调药物研发复杂流程的平台。双方将基于 OpenAI 面向生命科学研究的 AI 模型与工具 Rosalind 展开合作，简化相关运营，帮助新疗法更快到达患者。
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态普通
OpenAI 出资 500 万美元支持数学界研究 AI 成果
OpenAI 向 Simons Foundation 新倡议出资 500 万美元，帮助数学家检验、理解并推进 AI 产出的研究结果，包括 OpenAI 近期发布的成果。
信息来源：X：OpenAI (@OpenAI) · OpenAI
行业动态普通
OpenAI 说明文本水印局限，检测器暂仅向获批研究者开放
OpenAI 表示文本水印存在局限，在短文本中常难以检测，改写或翻译可完全去除水印。因此其检测器暂只向获批研究者开放以帮助评估和改进，文本水印被视为持续研究领域，将结合用户、开发者、政策制定者和研究者的反馈继续测试。详见 https://openai.com/index/eu-text-provenance/
信息来源：X：OpenAI (@OpenAI) · OpenAI