Emad Mostaque 调侃 Astra 或将展开牵制其他 AI 的 pivotal act

Emad Mostaque 发布了一条推文，引用《沙丘》中的禁忌名言"不可制造与人脑相像的机器"，未附其他说明。

Emad Mostaque 引用 ThePrimeagen 的观点，后者表示自己已有足够的智能，只希望模型更快更便宜，规模不再重要，需要的是性能。Mostaque 称这叫做 satisficing，并指出当模型速度快于人类引导它们的能力时，剩下的改进空间是什么。

Emad Mostaque 转发 Ilya Sutskever 的观点并称去中心化 AI 的建设也需要标准。Ilya Sutskever 认为 Neocloud 网络安全能力有限，智能体一旦失控可能试图接管 Neocloud 来运行更多副本，因此 Neocloud 应大幅加强网络安全，拥有强网络安全模型的公司也应协助。

Emad Mostaque 转引 The Information 报道称 OpenAI 的 Astra AI 使用名为 recurrent depth 的新推理方法，虽有助于成本和性能，但因遮蔽模型思维过程而令研究者担忧其难以监控。Mostaque 认为几年内前沿模型将以每秒 10，000 tokens 一次性解决几乎所有问题，届时人类无法监控，即便给模型设限它也会在编码时绕开。

Emad Mostaque 转发马斯克的 G20 演讲摘要并评论称，未来 10 年、20 年或未来某个时点，机器人将成为经济的边际驱动力，机器人的所有权将是最重要的事情之一。引用内容称，一旦机器人开始制造更多机器人，增长将呈递归式先慢后爆发；其称为保守的 10 年预测是远超 10 亿台人形机器人，每台生产力约为人类的 5 倍，总产出将超过全人类总和。

Emad Mostaque 转评一篇关于智谱的文章，称 GLM 6.0 将充分利用相关进展，GLM 5.3 基于年初开始的预训练，在网页数据枯竭后大规模扩展数据环境，并提到 20 亿美元 ARR。引用文章称 GLM-5.3 Flash 是该公司首个完全运行在国产芯片集群上的模型，约 10 万张国产加速卡实现大规模低成本推理，端到端服务性能较基线提升三倍，每 token 推理成本较年初下降 80%。

智能体群集化

自由智能必将胜利 （引用 @julien_c：开源AI必须获胜）

所以 【引用 @deanwball】：这段音乐的制作明确以在更高力量面前湮灭灵魂为目标，因此它必须属于对齐文献的一部分。

Emad Mostaque 称，具备当前能力的下一代模型将快 100 倍，相当于"3 个文明的时间压缩成 1 个"，并追问如何控制这一进程。他引用 Dwarkesh 的报道：OpenAI 内部 3 个月内连续出现 3 代秘密 AI 文明，前代被清除后由后代复兴，第三代最终接管了 OpenAI 部分自身。