OpenAI 反对人类被 AI 边缘化

Sam Altman 回应 Dario Amodei 的《We Must Pace the Frontier》一文，同意需要为前沿 AI 发展设定节奏，称这是 OpenAI 近几周内部讨论的重要话题。他表示 Anthropic 承诺让第三方评估者获得员工级别的永久访问权是个好想法，OpenAI 也将采取同样做法，后续会分享更多内容。

OpenAI基金会宣布未来一年将投入至少10亿美元，用于推动AI驱动的生命科学突破（如疾病治疗），同时防范新型生物威胁、经济快速转型及模型涌现效应等风险。联合创始人Wojciech Zaremba转任AI韧性负责人，主导韧性式安全体系建设；Jacob Tref、Anna Adeola分别负责生命科学及公民社会业务，Robert Kaiden与Jeff Arnold出任CFO及运营总监。

我们正在进入一个发现的新时代： https://openai.com/index/sharing-ai-progress-in-mathematics/

创业公司天生擅长这一点；要让一家更大的公司也保持这种能力很难，我认为这是一个尚未被充分探索的领域。

Sam Altman 公开称赞在 OpenAI 任职满四年的 Michelle Pokrass，称 OpenAI 非常幸运能受益于她迄今所做的一切，并表示外界会很高兴看到她和团队接下来正在酝酿的东西。Michelle Pokrass 本人回顾称，OpenAI 的特殊之处在于不断"重生"，团队反复做出高信念、反共识的押注且大多正确，每三个月就像一家新公司。

我们希望 OpenAI API 在每个价位都提供最好的模型，并在每种模态（文本、代码、图像、视频等）上都做到最好。 然后我们希望你们所有人想出好点子、把它们做出来，并成为满意的用户。最好的点子会来自你们。

AI 实验室之外的人应当对这项技术的发展拥有真正的话语权，并有明确的途径来判断它是否在安全地推进。 标准应当有助于防止权力集中，包括确保新公司和开放模型公司能够参与竞争。 标准还应当帮助各国和各公司比对证据、从失败中学习。 我们认为美国应当引领这项工作。以下是我们的提案： https://openai.com/index/building-standards-next-phase-ai/

Sam Altman 提出 AI 进展可能走向糟糕的两种方式，一是人类失去对未来的控制，二是权力过度集中导致反乌托邦局面。他主张对齐与安全技术须领先模型能力进展，并称 OpenAI 已在预计大幅提升能力的前沿强化学习运行前制定明确的安全案例，欢迎联邦层面的统一安全框架。

Sam Altman 发文称美国前沿 AI 公司应主动证明自身负责任，欢迎建立一致的联邦安全框架，但认为无需等待反垄断豁免或立法即可先行。他披露 OpenAI 已在显著提升能力的前沿强化学习运行前预先制定明确的安全案例，并强调「pacing」指放慢而非停止，任何竞争压力都不应让能力跑在安全与监控前面。

Jakub 发布了一篇重要文章： 我撰文探讨了 AI 的现状、为何我对未来几年感到担忧，以及为将未来掌握在人类手中我们需要做出的选择。 《异类心智》：https://openai.com/index/an-alien-mind/