Sam Altman 谈 AI 模型安全

Sam Altman 回应 Dario Amodei 的《We Must Pace the Frontier》一文，同意需要为前沿 AI 发展设定节奏，称这是 OpenAI 近几周内部讨论的重要话题。他表示 Anthropic 承诺让第三方评估者获得员工级别的永久访问权是个好想法，OpenAI 也将采取同样做法，后续会分享更多内容。

Sam Altman 发文回应与 Anthropic 一方围绕 Euler/Navier-Stokes 证明发布的争议，称对方只有 Euler 结果、双方协调失败，并称对方以抄袭指控相威胁。

不使用最智能的可用模型/设置会让我有些焦虑。 但有时如果速度真的很慢，我也不介意。 我在想，我们是否应该更关注价格/速度的权衡，而非价格/智能的权衡。

用户指示AI模型Codex去赚取5美元，Codex自主完成了一系列任务：寻找开源安全审计赏金项目，提交有效的拉取请求，与维护者沟通，并处理了GitHub验证流程，最终使工作被合并。经过约22小时的工作，用户获得了16.88美元的首笔付款。按此推算，若每日重复，月收入可达506.40美元。这初步实现了Sam Altman关于AI能主动为人赚钱的愿景，虽然金额尚小，但标志着一个令人兴奋的开端。

这是一篇很好的文章： [引用 @boazbaraktcs]：新博客文章：AI 安全现状，四张假图。https://t.co/Qv1BlwyfY5

OpenAI基金会宣布未来一年将投入至少10亿美元，用于推动AI驱动的生命科学突破（如疾病治疗），同时防范新型生物威胁、经济快速转型及模型涌现效应等风险。联合创始人Wojciech Zaremba转任AI韧性负责人，主导韧性式安全体系建设；Jacob Tref、Anna Adeola分别负责生命科学及公民社会业务，Robert Kaiden与Jeff Arnold出任CFO及运营总监。

Sam Altman 回应"7万亿治愈癌症却做AI广告"的质疑，解释筹集资金主要用于科研AI与AGI研发，推出个性化广告等消费产品是为赚取算力成本并展示技术，称公司发展路径本就复杂，类似ChatGPT初期也曾遭质疑。

未来几周将推出新的计算密集型产品，部分功能仅限 Pro 订阅者，部分新产品需额外付费。尽管长期目标仍是降低智能成本并普及服务，但当前希望探索在高计算投入下能实现哪些新可能性。

关于我们与 Cerebras 的合作关系，有一些猜测。 Cerebras 是我们的紧密合作伙伴，我们有着深入的合作，共同推进速度的前沿。

dot 是我目前最喜欢的 openai 产品！ 让我惊叹的是，随着它越来越了解我的工作流程和风格，它每天都明显变得更好。 让它去做那些我不喜欢做的事——那些通常会像重力井一样不断累积成恐惧的事——让我非常开心。