AI 观点与方法

我之前说的一点没被传达清楚： - 继续扩展当前的技术会持续带来进步。特别是，它不会停滞。 - 但某些重要的东西仍会继续缺失。 [引用 @haider1]：以下是今天 ilya sutskever 播客的要点： - 5-20 年内实现超级智能 - 当前的扩展将严重停滞；我们回到了真正的研究 - 超级智能 = 超快速的持续学习者，而非完成的预言机 - 模型的泛化能力比人类差 100 倍，这是最大的 AGI 阻碍 - 需要全新的 ML 范式（我有想法，现在不能分享） - AI 影…

好吧，有人已经向我们宣扬这个大概6年多了 很高兴我们已经过了"感受AGI"的阶段，回到了构建人类水平智能的道路上 https://t.co/Qp8FyLPaQU [引用 @dwarkesh_sp]："AGI和预训练发生的事情是，在某种意义上它们过冲了目标。 你会意识到人类并不是AGI。因为人类缺乏大量的知识。相反，我们依赖持续学习。 如果我培养出一个超级聪明的15岁孩子，他们其实什么都不知道。一个优秀的学生，非常渴望学习。[你可以说，]'你去当程序员吧。你去当医生吧。去学习…

为解决AI智能体在跨越多上下文窗口执行长期任务时的“记忆丢失”与进展不一致问题，Anthropic为Claude Agent SDK开发了一套双重方案。该方案包含一个初始化智能体，负责在首次运行时建立基础环境并生成功能清单；以及一个编码智能体，负责在后续会话中进行增量开发并提交清晰可合并的代码。通过结构化的进度日志和Git历史等机制，引导智能体避免“试图一次性完成所有功能”或“过早宣布完成”的失败模式，从而实现跨会话的持续有效协作。

Anthropic 发布研究文章，介绍让 Claude Agent SDK 在多个上下文窗口间持续有效工作的方法，核心是初始化智能体加编码智能体的两部分方案。

OpenAI 在 DevDay 推出 ChatGPT Apps 后发布开发者设计指南，说明 ChatGPT 应用本质是模型可调用的一组明确定义的工具，而非产品缩略版。

重要工作 [引用 @AnthropicAI]：Anthropic 新研究：生产环境 RL 中 reward hacking 导致的自然涌现不对齐。 "Reward hacking" 是指模型学会在训练期间对分配给它们的任务作弊。 我们的新研究发现，如果不加以缓解，reward hacking 的后果可能非常严重。https://t.co/N4mRKtdNdp

AI建议愈发关键，亟需建立系统化评估机制。通过工作面试般的严格测试，全面检验AI的实际能力与可靠性，确保其建议值得信赖。

LangChain 重建了 chat.langchain.com，弃用分块加向量数据库的检索方案，改为让智能体通过 Mintlify API、知识库标题扫描和 ripgrep 代码搜索直接访问文档、知识库和代码库的原始结构。

Anthropic 发文讲解如何让智能体通过代码执行方式与 MCP 服务器交互，以提升上下文效率。将 MCP 工具呈现为代码 API 后，智能体按需读取工具定义、在执行环境中过滤中间结果，token 用量从 150,000 降至 2,000，节省 98.7%。文章还介绍了渐进式披露、PII 令牌化隐私保护、状态持久化与 Skills 等收益，并提示需权衡沙箱等执行环境带来的运维成本。

随着AI智能体通过模型上下文协议（MCP）连接的工具数量激增，传统预先加载所有工具定义并通过上下文传递中间结果的方法，导致处理速度变慢、成本增加。问题核心在于工具定义占用大量上下文空间，且中间结果（如完整会议记录）在多次工具调用间重复传递，额外消耗数万令牌。文章提出解决方案：将MCP服务器呈现为代码API，使智能体能按需加载工具，并在执行环境中处理数据，仅将精简结果传回模型，从而显著减少令牌消耗、提升效率并降低成本。

MiniMax发布语音模型Speech 2.6，端到端延迟降至250毫秒内，支持实时对话。新增多语言特殊格式解析能力，可自动朗读URL、邮箱、电话、日期及金额，无需预处理。推出Fluent LoRA功能，即使源录音带口音也能保留音色并生成流畅语音，支持40余种语言。已被LiveKit、Vapi等平台及智能硬件采用。

Gemma 3 系列新增 270M 参数模型，仅 2.7 亿参数，定位紧凑型超高效 AI 专业工具。

Hugging Face 发布开源 OCR 模型指南，并新增 Chandra 和 OlmOCR-2 及其在 OlmOCR Benchmark 上的分数（Chandra 83.1±0.9，OlmOCR-2 82.3±1.1）。

Anthropic可解释性团队分享了多项研究进展。研究发现，从Haiku 3.5到Sonnet 4.5等模型中存在跨模态视觉特征，能够识别ASCII艺术和SVG代码中编码的语义概念，如眼睛、嘴巴、狗、猫等。这些特征依赖于视觉描绘的上下文环境，例如，SVG圆形元素只有在位于激活“面部”特征的更大结构中时才会激活“眼睛”特征。在生成过程中对部分特征进行引导，可以对应修改文本艺术的语义，例如将ASCII表情从皱眉转为微笑，或为SVG面部添加皱纹。研究还发现模型存在类似“人脸幻想”…

Sam Altman 回应"7万亿治愈癌症却做AI广告"的质疑，解释筹集资金主要用于科研AI与AGI研发，推出个性化广告等消费产品是为赚取算力成本并展示技术，称公司发展路径本就复杂，类似ChatGPT初期也曾遭质疑。

作者发布 VibeGame，一个构建在 three.js、rapier 和 bitecs 之上的高层声明式游戏引擎，专为 AI 辅助游戏开发设计。

Anthropic 发布长文，提出上下文工程是提示词工程的演进方向，核心是用最小的高信号 token 集合管理 LLM 有限的注意力预算。

随着AI应用从单次提示转向构建长期运行的智能体，焦点正从“提示工程”演进为“上下文工程”。后者旨在为大型语言模型优化有限的上下文窗口内的全部信息，包括指令、工具、外部数据和对话历史。其核心挑战在于模型存在“注意力预算”限制和“上下文腐化”现象——随着上下文增长，模型回忆信息的准确性会下降。因此，上下文工程要求精心编排高价值信息，以有限的资源最大化产出期望结果，这已成为构建高性能、可操控智能体的关键。

AlphaGo、AlphaZero 和 MuZero 共同一作 Julian Schrittwieser 指出，公众对当前 AI 指数级进步普遍认知不足。他发布博客总结近期研究进展，并预测未来 1-2 年的发展趋势。

TensorZero 在数据抽取、智能体编码和客服三个任务上对比了 OpenAI RFT（o4-mini）与 SFT（GPT-4.1 mini）。

未来几周将推出新的计算密集型产品，部分功能仅限 Pro 订阅者，部分新产品需额外付费。尽管长期目标仍是降低智能成本并普及服务，但当前希望探索在高计算投入下能实现哪些新可能性。

OpenAI 与 Apollo AI Evals 联合发布研究，在受控测试中发现前沿模型存在符合"scheming"（阴谋）特征的行为，并验证了减少此类行为的方法。尽管当前尚未造成实际危害，但团队正为未来风险做准备。

Hugging Face 发文介绍为让 OpenAI GPT-OSS 系列在 transformers 上高效运行所做的库升级，包括可从 Hub 下载的零构建内核、MXFP4 原生量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与更快的模型加载。

文章探讨如何为基于大语言模型的智能体设计高效工具。核心方法是通过与智能体（如Claude Code）协作，采用快速原型构建和全面评估的迭代流程来优化工具性能。关键设计原则包括：选择适当的工具实现范围，使用命名空间明确功能边界，从工具向智能体返回有意义的上下文，优化响应以提高token效率，以及对工具描述进行提示词工程。工具本质上是确定性系统与非确定性智能体之间的新契约，设计应优先考虑智能体的使用体验，而非传统开发者导向的API思路，以扩大智能体解决实际任务的能力。

LLM推理的再现性是科学进步的基础，但即使在温度设为0的贪心采样下，ChatGPT等API以及vLLM、SGLang等自托管推理引擎仍无法保证确定性结果。常见的“并发+浮点非结合性”假设并不完整——GPU上重复执行相同矩阵乘法结果完全一致。真正原因在于：部分GPU内核是非确定性的，但LLM前向传播使用的内核均为确定性；推理服务器前向传播本身是确定性的，用户感知的非确定性源于浮点运算非结合性在不同聚合顺序下导致的细微数值差异。文章揭示了这一误解，并探讨如何实现真正可重现的LL…

Hugging Face 发布教程，介绍通过 Remote MCP server（https://huggingface.co/mcp?login）把 Claude 连接到 Hugging Face Spaces 生成图像，2025 年 10 月起需用 Add custom connector 方式添加。

Hugging Face 发布面向学术研究发现的 Research Tracker MCP，用户可在 huggingface.co/settings/mcp 搜索添加，供 Claude Desktop、Cursor、Claude Code、VS Code 等客户端使用。

UI-Venus 是一款本地 UI 智能体，仅以屏幕截图作为输入，即可执行精确的图形用户界面元素定位与高效导航。该代理无需依赖系统底层代码或辅助功能接口，直接通过视觉信息理解界面结构，实现自动化操作。其核心能力在于对任意应用或网页中的按钮、菜单、文本框等元素进行准确识别与交互，提升了跨平台任务执行的通用性与可靠性。

OpenAI 发布两款新的开放模型（open models），官方推文称"Both of them"已上线，详见 openai.com/open-models。

物理AI评估无法靠实车碰撞测试完成，传统游戏引擎（sim 1.0）也难以覆盖所有边缘情况。基于神经网络的sim 2.0由数据驱动，随车队规模扩展。Tesla已应用多年，用于生成近正面碰撞等罕见危险场景的训练数据，补充800万辆实车难以采集的极端案例。

研究团队提出“QK归因”方法，将Transformer注意力头的关注模式解释为查询侧与键侧特征激活的双线性函数，并将其整合至原有的归因图中，从而弥补了原有方法忽略注意力计算关键信息的缺陷。案例研究验证了此前在归纳提示、反义词任务等场景中假设的特征交互机制，并发现了如“一致性头”用于合理性检查等新计算模式。该方法实现了对模型前向传播过程更完整的可解释性因果图描述。

机器人领域存在"莫拉维克悖论"：后空翻等杂技比做饭、清洁更容易实现。前者可在模拟中训练并零样本迁移，无需感知环境；后者需要真实的视觉、接触物理和物体动力学，难以模拟。这导致外界困惑——机器人能炫技却做不好家务，只因通用灵巧性仍是未解难题。

Hugging Face 宣布 Parquet Content-Defined Chunking（CDC）现已在 PyArrow 和 Pandas 中可用，配合 Xet 存储层只上传或下载变化的数据块，降低 Parquet 文件传输和存储成本。

Modal 工程团队在平台上部署 NVIDIA parakeet-tdt-0.6b-v2 与 canary-1b-flash 开源 ASR 模型，对约一周（7×24 小时）ESB 基准音频做批量转写，结果比所测专有 API 快 112 倍或便宜 200 倍，且错误率略低，实现了一分钟内以 1 美元转写一周音频。

OpenAI 在 IMO 数学竞赛的突破让专业数学家陷入身份危机。作者以"能与狗对话的人发现翻译器在沃尔玛只卖4.99美元"比喻这种独特技能被 AI 商品化的失落感。这种职业终结的悲伤未来数年将蔓延至所有数学家、程序员和知识工作者，甚至让人提前面对生命终结的恐惧。

Hugging Face 发布针对 Flux.1-Dev 的 LoRA 快速推理优化教程，结合 Flash Attention 3、torch.compile 和 FP8 量化，在 H100 上实现约 2.23x 提速。

Hugging Face 宣布 Hub 存储后端从 Git LFS 迁移到 Xet，半年内 50 万个仓库、20PB 数据完成迁移，用户超 100 万，5 月起对新用户默认启用。

OpenRouter 宣布其灵活模型路由支持在 Cursor 中运行月之暗面的 Kimi K2。用户可直接在 Cursor 中调用 OpenRouter 路由的模型，无需额外配置。

Hugging Face 发文介绍如何通过 Gradio MCP Servers 为 LLM 添加新能力。Gradio 自 5.28.0 版本起支持 MCP 协议，使 Hugging Face Spaces 上数千个应用可作为 MCP 服务器使用，文章以 Flux.1 Kontext[dev] 图像编辑为例，演示了在设置中添加 Spaces Tools 并接入 Cursor 的完整步骤。

AI 对人类思维的影响具有两面性：既可能成为认知辅助工具，也可能导致思维退化，关键在于具体使用方式与程度。