超级预测者低估AI进展速度

这是一个关键原因，我不期望前沿开放权重模型的流动会无限期持续，甚至不会持续更长时间。

OpenAI 正与一个独立数学家顾问组合作，就如何评估和发布 AI 在数学领域的新成果提供建议，以确保以"不那么具颠覆性"的方式公布新证明。Ethan Mollick 认为，这正说明 AI 改变世界的速度会比许多人预想的更慢，律师协会、美国医学会等专业领域也会出现类似但更明显的滞后。

我在 BlueSky 上发帖，并与那些认为"AI 不是真的"的人互动--这种观点正在消退。 取而代之的是，它正坍缩成"AI 出于各种原因全是坏的"的观点（其中包含一系列真实和虚假的理由），这让人很难专注于以务实方式减轻危害的政策。

我一般不传播谣言，但：1）这来自有内部消息的人，且听起来合理 2）这是一个我们真正需要思考的政策问题：如果分享的规范变得紧张，实验室会不会为了避免公关问题而开始囤积知识？ 这里 https://scottaaronson.blog/?p=10062

生存风险显然至关重要，但它并不是唯一需要政策关注的 AI 议题。 我担心它会成为唯一的焦点。AI 要对就业和社会产生广泛影响，并不需要更好的模型，我们确实需要做好准备，去鼓励好的结果并减轻坏的结果。

METR 正迅速成为 AI 领域事实上的行业标准制定机构 它开始看起来像是金融领域的 FINRA 的 AI 版本：不是政府监管机构，而是审查企业并定义可接受实践的机构。不知道立法是否也会将其编入法典

一如既往，X 上的言论鱼龙混杂，我也没有什么内幕消息可依据，但如果 Google 能够在 AI 领域重返前沿，那肯定会改变当前的 AI 格局，因为它是一家大型、公开、受监管的实体，目标与 Anthropic 或 OAI 不同。

撇开关于生存风险的政策不谈，值得指出的是，即便 AI 开发今天就此停止、只用我们现有的模型，随着 harness 的改进和应用的扩散，我们在工作、教育和社会生活的大部分领域仍将经历至少十年的剧烈变化。

谷歌不再拥有前沿模型，意味着在两大本可有所贡献的领域缺位：近期一连串数学突破（大规模算力加上与科学深度合作的历史会有所帮助）以及网络安全（大型企业的视角会有所帮助）。

Ethan Mollick 评论 Anthropic 经济学团队发布的 AI 经济影响模型，该模型预测至 2030 年的增长、就业与工资，其任务组合变化可视化及 GDP 增长模拟表现出色。但模型缺少在爆炸性增长与大规模白领失业并存时的政策应对方案。