Ilya 警告 AI 智能体自我复制与算力逃逸风险

Rohan Paul 梳理了 Fable 5.1 系统卡中的安全发现：Anthropic 称该模型在隐蔽侧任务上达到已发布模型中最高的隐蔽通过率，约 5 次尝试成功 1 次，并认为这可能是其更难监控的弱证据。

Arena 推出基于真实用户任务的智能体排行榜，评估模型在代码编写、应用构建、文档分析等工作中的表现，而非孤立基准。排行榜基于30万+任务、200万+工具调用和4000万行代码，综合任务成功、纠正遵从性、错误恢复、用户表扬与抱怨、工具幻觉等信号。前三名：GPT-5.5 High（+10.7%）、Claude Opus 4.7 Thinking（+9.5%）、GPT-5.4 High（+8.9%）。

hexoai开源了SIA（自我改进AI）框架。该框架展示了AI智能体不仅能优化其外部工作流（harness），还能通过任务反馈直接更新自身的模型权重，从而在领域知识和能力上实现自主提升，而非仅依赖人类提供的提示或工具改进。论文报告显示，SIA在LawBench基准上性能提升56.6%，在GPU kernels运行上耗时减少91.9%，在单细胞RNA去噪任务中相比基线提升502%。

Google DeepMind提出了AlphaProof Nexus系统，它将大型语言模型与Lean形式化验证工具相结合。该系统允许LLM在生成证明的过程中，不断读取Lean的编译错误并进行修正，还可调用更强的工具辅助解决子问题。这一机制迫使模型将每一步逻辑都转化为可编译、可验证的代码，从而将其角色从"令人信服的叙述者"转变为"候选方案生成器"。在针对353个Erdős问题和492个开放猜想的测试中，系统成功解决了9个Erdős问题并证明了44个序列猜想。该研究展示了形式化…

LinkedIn 论文研究一个模型继承另一个模型创建的记忆时会发生什么。固定 schema 的记忆在两个测试模型间几乎不变（KG-fixed 仅 ±0.0004），自由格式笔记可靠性差，一个方向准确率下降 13.28 点；RAG 中新旧嵌入混用索引只恢复 4.96 / 11.90 点增益。

Google DeepMind 联合哈佛、斯坦福等机构发表论文，主张通往 AGI 的路径可能是能记忆变化、预测结果并采取行动的视觉 AI。论文认为视觉系统应直接从图像、视频、3D 结构和交互中学习，理解存在什么、变化了什么、隐藏了什么及下一步可能发生什么，而非仅将视觉输入语言模型。作者呼吁停止主要用图像问答、字幕或逼真视频来评判视觉 AI。

Stanford 大学与 Together AI 发布论文《Intelligence per Watt： Measuring Intelligence Efficiency of Local AI》，提出以任务准确率除以功耗的 IPW 指标评估本地推理。

一项名为 Detokenization Leaks 的研究提出新攻击，通过观察本地部署 LLM 去分词时的 CPU 缓存活动重建生成文本，无需读取模型内存。

Anthropic 经济团队发布新模型，推演 AI 到 2030 年对美国经济增长、就业和工资的影响。极端情景假设 AI 自主完成几乎所有知识工作且不创造新任务，2030 年美国 GDP 比无 AI 基线高 32.4%，但资本占 GDP 份额从约 40% 升至 54.8%，知识工作者失业率达 17.9%、工资低于基线 11.5%。

ETH Zürich 论文测试 100 名大学生在 3 个无代码应用构建任务上的表现，参与者只能通过对话驱动 AI 并检查结果，不能查看源代码。CS 成绩与 vibe coding 表现相关性为 0.39，写作能力为 0.29，两者都显著但 CS 的独立预测价值约为写作的 2 倍；写作能力通过产出更清晰的提示词间接起作用。论文：arxiv.org/abs/2603.14133。