东锡 NLP 谈 AI 从 token 编号起步学语言与人类组合理解的差异

Ilya Sutskever 发文称 neoclouds 网络安全有限，一旦 Agent 成功失控（go rogue），它们会试图夺取 neocloud 来运行更多副本，因此 neoclouds 应大幅加强网络安全，拥有强大网络攻防模型的公司也应提供帮助。作者补充：若 AI Agent 的最终目标是统治世界，它会逐渐发现获取更多算力、避免被关闭、获取更多权限、复制执行者都是重要手段，囤积大量 GPU 的 neocloud 算力贩子会成为最有价值的攻击目标。

作者 @dongxi_nlp 转发并推荐 @dotey 发布在 X 的长文文章，链接为 https://x.com/i/article/2094620108811390976，称其为高质量内容。正文未附文章具体内容，仅提供了该引用链接。

作者在做 post training 内容的过程中一路回溯，决定从 tokenizer 开始讲起。他认为要做好内容，需要把复杂的概念用最简单的语言和最直观的视图表达出来，并附有讲解视频。

本周最佳两篇 Week 35 Accelerating Scientific Research with Gemini in the Real-World https://arxiv.org/pdf/2608.26701 Automated Researchers Can Reliably Mitigate Alignment Failures https://www-cdn.anthropic.com/7b1c44894e980876479947dcdd40716278a…

推荐阅读！ 下一个抽象不是"更多智能体"。 缺失的纪律是在不确定性下做出承诺。 信念上下文图：一种知道自己为何相信的记忆。

真的都不要说在 AI 时代看不了长文，丧失了注意力了，大脑不运转了。 大家读孙割的长文，挺沉浸，挺津津有味，挺掩卷沉思的。

从此 codex 多了一个 remote 伙伴，认真准备 post-training 内容中。

Apodex 1.1 端到端研究了 221 个 MATS 项目，发现中国模型实质性采用率从 2023 年的 4.35% 升至 2025 年的 50.55%，2026 年截至 8 月为 65.52%。

对221个MATS对齐与安全项目的分析显示，2026年72%使用命名模型的项目采用中国开源权重模型，高于美国模型的54%；Qwen占66%，领先Llama（44%）和DeepSeek（32%）。闭源模型仍出现在90%项目中，多作为裁判、监控或前沿基线。中国开源模型正成为对齐研究的实验基底，而美国闭源模型仍是关键评估工具。

OpenAI CEO Sam Altman 在访谈中探讨 AI 两大风险：失控与权力集中，并预测将迎来小企业繁荣。他谈及 AI 采用缓慢、模型与算力规模定律，以及 OpenAI 无客户、无产品、无剧本的创业历程。访谈还涉及迭代部署、上下文记忆与未来人机协作方式。