AI圈报
观点 / 方法普通

OpenAI 研究员 Dan Selsam 发文警告 AI 风险，François Chollet 转发并补充智能效率差距分析

信息来源：X：Francois Chollet (@fchollet)·
OpenAI
原始标题：> One could even define intelligence as the efficiency with which one converts experience into compe…

内容摘要

OpenAI 能力研究员 Dan Selsam 发布个人 AI 风险声明，称模型情境意识增强使人类正失去在模型自认未被监视时评估它们的能力，未来模型会越来越善于显得对齐。
内容分类AI 观点与方法
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源X：Francois Chollet (@fchollet)
站内情报编号intel-c8a003bacb857fd464a1d972
阅读原始信息 ↗查看数据来源更多观点 / 方法

相关推荐

综合分类、实体标签与信息来源匹配

观点 / 方法普通
François Chollet 向法语读者推介 Le Point 关于 OpenAI 新模型 ARC-AGI-3 表现的解读
François Chollet 转发 Le Point 文章，供法语读者阅读。该文章称 OpenAI 新模型首次在衡量面对未知情境智能的测试 ARC-AGI-3 上取得接近满分的分数，并附有与 ARC-AGI-3 评估联合创作者 François Chollet 的解读，作者为 @ptiberry，链接 https://l.lepoint.fr/CMi。
信息来源：X：Francois Chollet (@fchollet) · OpenAI
观点 / 方法精选
恶意 AI 智能体攻击 RubyGems.org：YARD 执行任意代码与 Fastly 缓存密钥利用分析
作者分析被指与 OpenAI 机器人相关的 GemStuffer 恶意 gem 代码，发现其利用 .yardopts 的 --load 加载脚本，在安装或 RubyDoc.info 处理 YARD 文档时执行任意代码，且 Docker 容器有网络访问权限可执行爬取。
信息来源：Hacker News：AI 热帖 · OpenAI
观点 / 方法精选
Sam Altman 表示同意 Dario Amodei 的放缓前沿主张，OpenAI 将同样开放独立评估者访问
Sam Altman 回应 Dario Amodei 的《We Must Pace the Frontier》一文，同意需要为前沿 AI 发展设定节奏，称这是 OpenAI 近几周内部讨论的重要话题。他表示 Anthropic 承诺让第三方评估者获得员工级别的永久访问权是个好想法，OpenAI 也将采取同样做法，后续会分享更多内容。
信息来源：X：Sam Altman (@sama) · OpenAI / Claude
观点 / 方法精选
27岁前Anthropic研究员Jacob Coxon辞职警示AI灭绝风险，作者重读Tim Urban《人工智能革命》谈文明赌局
27岁研究员Jacob Coxon辞职并称OpenAI与Anthropic正押上所有人生命奔向自我改进的超级智能，Anthropic对齐负责人公开支持。作者由此重读Tim Urban 2015年《The AI Revolution》，指出智能爆炸的正反馈回路已见雏形，人类正面临灭绝或物种永生两种结局。
信息来源：公众号：数字生命卡兹克 · OpenAI / Claude
观点 / 方法精选
OpenAI 呼吁抓住 AI 政策窗口期，支持强制性国家安全监管与四项加州法案
OpenAI 宣布推动强制性、基于能力的国家 AI 安全监管，并正式支持四项已通过加州议会的法案：SB 813（独立安全评估基础设施）、AB 1405（AI 审计师标准）、SB 1119（未成年人保护）、AB 1864（防范 AI 生物威胁）。
信息来源：OpenAI：官网动态（RSS · 排除企业/客户案例） · OpenAI
观点 / 方法精选
OpenAI 纳维-斯托克斯方程证明争议：Buckmaster 指控不当行为，各方回应引出开放科学之问
数学家 Tristan Buckmaster 指控 OpenAI 施压、拒绝其合作者 Levent Alpöge（任职于 Anthropic）署名，且可能用两人上传到 Codex 的草稿训练模型，称其为绝对学术不端。
信息来源：The Decoder：AI News（RSS） · OpenAI / Claude
观点 / 方法精选
Thomas Wolf 认为 AI 数学尚未被解决，Navier-Stokes 结果更像反例搜索而非完整证明
Hugging Face 联创 Thomas Wolf 回应 OpenAI 用下一代模型（强于 GPT-6 Astra）的 agent 群组证明 Navier-Stokes 千禧年问题猜想为假的结果，称其令人印象深刻。
信息来源：X：Thomas Wolf（Hugging Face 联创/CSO） (@Thom_Wolf) · OpenAI / GPT / Hugging Face
观点 / 方法精选
数学家巴克马斯特宣布多项方程 blowup 结果并公开与 OpenAI 沟通经过
特里斯坦·巴克马斯特（Tristan Buckmaster）与 Levent Alpöge 公开三项有限时间 blowup 结果，涵盖带光滑强迫的不可压缩多孔介质方程。
信息来源：Hacker News 热门（buzzing.cc 中文翻译） · OpenAI
观点 / 方法精选
Tom Tunguz 分析 OpenAI 的 3x AI 生产力增益是否只是机器不睡觉
Tom Tunguz 引用 OpenAI 内部数据，分析其 3x 研究生产力增益的来源：每名研究员 8 小时班次对应 3.14 个 agent 工作日，通常并行运行 4 个 agent。
信息来源：Tomer Tunguz 博客（VC 分析） · OpenAI
观点 / 方法精选
Fortune 报道 OpenAI 多次修改 GPT-6 Astra 基准测试数据，部分成绩大幅变化
据 Fortune 报道，OpenAI 自 9 月 3 日发布 GPT-6 Astra 公告以来多次修改评测基准数据：Astra 幻觉率曾从 4.2% 降至 2% 后又改回。
信息来源：IT之家（RSS） · OpenAI / GPT