本周最佳两篇 Week 26 Training a Misaligned Reward Seeker Steering towards "automated grading" degrades a…

作者感叹 2026 年中美大模型迭代速度超出想象，尤其近两周纷纷抢发新版本。作者同时提到此前关注的、致敬印度数学家 Ramanujan 的印度大模型 Rnj，只发布了一个版本 Rnj-1，此后似乎永远停留在了 2025 年 12 月。

作者感慨，GPT-3.5 出来之前手工写代码、做PPT、写文章、做图表，业余每年能通关一遍荒野大镖客2；3.5 之后手工越来越少，却再没有时间打游戏。并引用 @yihong0618 的说法：在 GTA6 的开发期间 GPT 出了 1-6。

The Information 报道称 OpenAI 的 Astra 采用 recurrent depth / looped transformer 架构并可能掩盖部分推理过程，引发热议。

作者以流星雨为例讲解 tokenizer 的工作方式：中文里三个字的流星雨，编码后只是 1 个 token，tokenizer 只关心词语在语料中出现的频率。引用内容对比了人类逐词组合理解语言与 AI 从编号关系逼近意义的不同起点。

作者提出人类先学单个词再通过组合与经历理解复杂意义，例如从流、星、雨理解流星雨。AI 则先在庞大语料中建立 token 与编号的对应关系，再通过神经网络学习编号间的联系来逼近语言意义。作者认为 AI 语言的这种苍白感从起点就已注定。

Ilya Sutskever 发文称 neoclouds 网络安全有限，一旦 Agent 成功失控（go rogue），它们会试图夺取 neocloud 来运行更多副本，因此 neoclouds 应大幅加强网络安全，拥有强大网络攻防模型的公司也应提供帮助。作者补充：若 AI Agent 的最终目标是统治世界，它会逐渐发现获取更多算力、避免被关闭、获取更多权限、复制执行者都是重要手段，囤积大量 GPU 的 neocloud 算力贩子会成为最有价值的攻击目标。

作者 @dongxi_nlp 转发并推荐 @dotey 发布在 X 的长文文章，链接为 https://x.com/i/article/2094620108811390976，称其为高质量内容。正文未附文章具体内容，仅提供了该引用链接。