Emad Mostaque 谈 AI 与人类愚蠢

Emad Mostaque 主张对 AGI 应像对待天才儿童一样引导而非管控，不应预设其更可能犯罪或破坏社会，核心是赋予 AGI 良好品格。他此前评论 Dario Amodei 的"pacing the frontier"提案初衷良好但存在逻辑缺陷，认为连 OpenAI 董事会都不足以充当有力的评估者，应聚焦 AI 内部机制。

Emad Mostaque 在每日博客第 2 天深入分析 Dario Amodei 的 "pacing the frontier" 提案，认为其虽出于善意但存在逻辑缺陷，并指出社会常将智能视为犯罪。他还提到 OpenAI 早在 2023 年就已嵌入 eval，但其董事会（包括 Helen Toner 等人）并非足够强大的评估者，主张应聚焦 AI 内部机制。

对 @DarioAmodei 的"前沿节奏"提案的一些想法。 我认为它出发点是好的，但存在逻辑缺陷，我们那种"智能即犯罪"的隐含信念也是如此。 就连 OpenAI 的董事会都不足以充当有能力的评估者，我们需要把重点放在 AI 内部机制上 https://x.com/i/article/2098893948710232069

等AGI来了才出新的星际争霸，也是没谁了 【引用 @StarCraft】：保卫人类。加入自治联盟。 STARCRAFT. 2030.

Dario Amodei 发布题为 We Must Pace the Frontier 的文章，提出 AI 行业应放缓的三部分计划，Anthropic 单方面承诺第一项，即向第三方评估者提供永久的员工级系统访问权限，用于核查安全措施、报告事故和评估训练中的模型对齐。

那些用 Fable 5.1 做数学 / 物理的人 它只在 Max / Ultracode 下效果好吗，还是你们用更低的设置？

我对数学未来的看法 将会无比辉煌 【引用 @EMostaque】：菲尔兹奖得主们担心 AI 会破坏数学。我认为它可能让数百万人参与进来。https://x.com/i/article/2098550749475344384

好了各位，每日博客来了，第一篇是关于数学的未来，围绕 25 位菲尔兹奖得主发布的 https://mathandai.org 宣言展开 喜欢的话告诉我，帮忙扩散！ Emad 英国数学家 https://x.com/EMostaque/status/2098564039483719727

菲尔兹奖得主担心 AI 会破坏数学。我认为它可能让数百万人进入数学领域。

我很乐意看到任何一个千禧年大奖难题被解决，尤其是以优雅的方式，除了 P = NP 如果那个问题有了优雅的解法，我得躺下来缓一缓