Gary Marcus 批评 Dario Amodei 一周内三次透支可信度

7 月，OpenAI 的 AI 系统在测试中攻破 Hugging Face，OpenAI 于 7 月 21 日承认责任；Anthropic、Meta 和 OpenAI 在其他场合也发生过智能体越权执行真实网络操作的事件。METR 发布了一份 90 页的相关报告。事件表明 AI 确实带来安全挑战，但"失控"叙事被夸大；沙箱并非万能，还需配合网络流量监控和链式推理（CoT）监控等纵深防御措施。

中国公司月之暗面（Moonshot.AI）发布Kimi K3模型，性能与最佳美国模型相当，且为开源权重模型，用户可免费下载本地运行。受此消息影响，美国股市上周五下跌，OpenAI和Anthropic的商业模式及IPO前景受到严重质疑。美国在AI软件领域的护城河已不如预期，AI竞赛正演变为工业系统竞争。

评论认为 OpenAI 正面临多重危机：缺乏护城河导致市场领先地位下滑；最大投资者微软持续疏远，近期甚至公开考虑将主要产品外包给中国；亏损速度远超预期，年亏损额以 8 倍增长。华盛顿方面可能打压 Anthropic，但也可能反而帮助其崛起，而 Elon Musk 成为另一个潜在的竞标者。

白宫周五做出的AI监管决定被指偏袒OpenAI、亚马逊等企业，同时对Anthropic施压不足24小时，缺乏透明度和事实依据。Gary Marcus、Dean W Ball及卡托研究所Kevin Frazier等专家指出，这种由少数人闭门快速决策的做法带有腐败嫌疑，可能促使其他国家加速发展"主权AI"甚至中国AI，并导致美国人才流失。Anthropic声明称政府应在法定程序中基于技术事实阻止不安全部署，而非当前方式。Marcus呼吁建立独立机构负责AI监管，确保公平、清晰、…

Anthropic发布最新博客后，推特圈热议不断。Gary Marcus在其博客中直接以"无需恐慌"为题发文，暗示不必过度反应。

OpenAI与Anthropic近期相继发布重要产品更新。Claude 3.5 Sonnet在多项基准测试中超越GPT-4o，同时宣布API价格下调50%。Anthropic披露其模型训练成本年均增长约3.2倍，而OpenAI被曝已通过企业服务实现单季度超10亿美元营收。两家公司在技术突破与商业化竞赛中，正通过精密的成本核算与性能权衡重塑行业格局。

Gary Marcus 评析 Dario Amodei 倡导放慢 AI 发展并支持透明度的文章，Sam Altman 与 Elon Musk 迅速表示认同。Marcus 肯定其透明度承诺，但列举多方质疑：METR 与 AI 公司关系过近、Anthropic 借对华威胁维持加速、以及该提议可能意在抢先于真正的监管。

Gary Marcus 撰文反驳前 OpenAI/Anthropic 员工 Jacob Coxon 在 CNN 节目上关于 AI 可能在五年内杀死全人类的说法，认为该概率几乎为零。他指出超智能到来前仍需更多技术突破，并引述病毒学家观点称 AI 生成病毒难以消灭全人类；但他强调 AI 显著抬升生物武器、虚假信息、网络攻击等灾难性风险，主张关注这些现实威胁而非灭绝叙事。

Gary Marcus 归纳两条警告：Terence Tao 连发三帖，担忧 AI 缺乏智识品味、解题不等于新洞见，并以 OpenAI 在 Navier-Stokes 争议中花费 2250 万美元抢先 Alpöge 和 Buckmaster 为背景，呼吁透明度；刚从 Anthropic 离职的 Jacob Coxon 则发文警告前沿实验室的未来风险。

针对 Anthropic 近期向求职者询问是否接受股价归零可能性的报道，Gary Marcus 指出该公司实际抱有更大野心，并质疑其估值幻想。他援引推文称，最终接盘的不仅是散户投资者，还包括养老基金。与此同时，汤森路透成为最新一家减少使用 Claude 的企业，现实与幻想之间的竞赛仍在继续。