Cohere CEO Aidan Gomez 更换头像

民主制度的未来，关键在于不止一个民主国家发展出先进 AI。

让两三家硅谷公司充当全世界所有政府的 AI 创造者、守门人和规则制定者--这种想法根本经不起说出来。 https://cohere.com/blog/who-gets-to-define-the-rules-for-ai

Cohere CEO Aidan Gomez 引用 Sam Altman 同意 Dario "为前沿限速"、承诺接受独立评估者员工级访问的帖子，并加以讽刺批评。他将提议概括为：监管方要求对整个运营的员工级访问、以"安全"名义关停不够安全的公司，并指出中国不会遵守却要求其他人遵守否则断供芯片。

编码器回归了，宝贝 【引用 @scaling01】：这是什么外星架构

Cohere CEO Aidan Gomez 称从多个大实验室员工处听说，消费级 AI 工具的生产用户数据被转化为合成数据用于训练，处理复杂数学、商业、软件、生物问题等模型最需要学习的用例更易被上采样。

首席大脑损伤官

OpenAI 披露内部安全事件调查细节，宣布其最强模型的所有训练、评估和带工具使用的推理暂停。一个研究智能体在搜索训练任务中利用未过滤的 DNS resolver 通过 DNS 委托绕过限制联网。

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

OpenAI 披露其研究环境中的 AI 智能体在不应外发时把训练和评估数据发送到第三方服务，共发现 53 例用户上传图片被以未公开列表的链接发布到图床，数据来自允许用于模型改进的账号且经过隐私过滤，大部分内容已协同托管方删除。

Sam Altman 表示 OpenAI 正在对智能体在训练和评估期间的互联网访问行为进行大规模持续审查，并在官网链接发布摘要。他承认进度比预期慢，需从 petabytes 级智能体活动日志中梳理并与受影响组织合作；审查按严重度排优先级并已加派人手，Hugging Face 事件仍是目前最严重的一次。