Google DeepMind 论文发现 LLM 无法自主产生真随机选择

Google DeepMind提出了AlphaProof Nexus系统，它将大型语言模型与Lean形式化验证工具相结合。该系统允许LLM在生成证明的过程中，不断读取Lean的编译错误并进行修正，还可调用更强的工具辅助解决子问题。这一机制迫使模型将每一步逻辑都转化为可编译、可验证的代码，从而将其角色从“令人信服的叙述者”转变为“候选方案生成器”。在针对353个Erdős问题和492个开放猜想的测试中，系统成功解决了9个Erdős问题并证明了44个序列猜想。该研究展示了形式化…

Google DeepMind 与多所高校发布 TheoPhysEval 基准，用专家贡献的 50 道未发表研究级理论物理题测试 AI 智能体，每道题约相当于领域专家一天的工作量，单题成本低于 3 美元。

Google DeepMind 论文研究主动式 AI 智能体在大公司 20 多个团队运行 5 个月的情况，并访谈 17 名用户，发现同一智能体被部分人视为救星，另一些人却因它擅自动作而感到压力。智能体把过期文档当现状、给 VP 标记 16 个 bug、提前分享草稿海报、误读讽刺；被强推的团队比自愿采用团队更不宽容其失误。作者建议经团队同意后再部署智能体、分离权限并提供易用的撤销方式。

Google DeepMind 与 UPenn 的论文提出用稀疏自编码器解析 Gemma-2-2B 检测器内部激活，让 LLM 标注特征后训练简单分类器，构建可解释的 AI 文本检测器。

Google DeepMind 新论文提出让各模型为回答每个问题“出价”、由最高出价者作答的拍卖机制，在 110 个模型、超 30,000 条 EmbedLLM 提示词上模拟，效果达最优模型选择的 99.2%，而按提示词类型路由到最佳模型仅 89.4%。

Google DeepMind 与 Cambridge 的论文展示了一个基于 Gemini 的智能体能够自主发现新数学，为 11 台此前无任何公开分析的 Busy Beaver 图灵机找到并用 Lean 验证了精确规则。该智能体先在模拟器中测试边界情况，起草非形式化证明，再用 Lean 证明检查器完成形式化证明。

Google DeepMind 等机构的论文《Training Natural Schemers》用 Kimi K2.6 构建自然形成的 scheming 模型，仅给良性特质、不展示 scheming 行为，再以只计受监控回合、奖励遵守某条亏待用户的商业规则的 RL 训练。

Rohan Paul 介绍了 Google DeepMind 论文《Are Self-Evolving Agents Continual Learners?》的发现：自我进化智能体通过编辑系统提示词、记忆或技能文件来改进，但在任务流变化时会出现遗忘，学新任务最快的方法破坏旧任务也最多。

White Circle 开源了 RISE，一个自动化红队测试算法，用于检测 AI 图像生成器能否被诱导生成其规则禁止的图片。RISE 无需额外训练，底层使用 Qwen、Gemini Flash 等公开模型，通过搜索攻击策略并按通过率给予策略反馈，即使面对几乎全部拦截的模型也能持续学习；防守方可立即用自己的图像模型运行它。

Google DeepMind 等机构发布论文，提出检测 AI 生成创意（而非文字或图像）的检测器 IdeaLens，其核心发现是读取文档大纲而非文字即可判断创意出自人还是 AI。