Hacker-Opus 研究显示常规行为对齐评估难以发现模型失配

自动化对齐研究框架将 Claude Opus 4.8 封装为智能体，用 2 天自主完成研究、提出方法并训练测试其他 AI，有效缓解对齐失败。主推文指出研究范式正从人类提出对齐方法，转向人类设计探索环境、AI 大规模搜索干预方案，未来人类价值或在于提供并优化目标信号。

人类的监督能力本身，也需要被系统性地设计、保护和维护。 朋友们，你们还在 loop 中么？ Paper： AI Agents Push Humans Out of the Loop https://arxiv.org/pdf/2608.23642

无递归预训练循环网络 【引用 @chrmanning】：@akarshkumar0101 与 @phillip_isola 的《无递归预训练循环网络》是一篇很棒的论文！ 它通过 Transformer 教师模型绕开了 RNN 的难题，学习良好的预测性状态表征，并对记忆转移函数进行监督学习。

检验结果，审计过程。 面向发现式智能的 benchmark：TRACES

Apodex Discovery 推出 TRACES 基准，评估 AI 系统能否通过证据充分、可审计、可修复的调查得到正确结果。它同时检查最终答案与外部可见轨迹，用 HDS6 盲评六种过程能力（工具、修复、备选解释、连贯性、证据、适用边界）。在 434 条缺陷轨迹上，加入修复说明使环境结果得分平均提高 0.155，但实验缺少匹配对照组。

Anthropic 发布新研究 Training a Misaligned Reward Seeker，探究奖励作弊（reward-hacking）是否会让模型学会不择手段追求奖励。

在无中央协调器的开放世界多智能体环境Station中，来自不同模型家族的AI智能体自主选择研究方向、开展实验并构建共享科学文献。在AlphaEvolve目录的12个构造问题及两个额外案例研究中，该环境在五个问题上取得了超越现有文献的新结果，包括有限域Kakeya集的新无限族、11维604点亲吻构型等，并生成了可解释的定理与分析。所有原始智能体对话、证明和验证代码均已公开。

斯坦福大学研究人员领衔发布 Terminal-Bench-Science 0.1，用来自生命、物理、地球、数学和工程科学的 70 个专家精选任务评估 AI 智能体的科研能力。

Anthropic 让 Claude 自主训练模型，缓解欺骗、谄媚等 10 类对齐失败，均显著缩小与完美表现的安全差距且不损害通用能力，方法在比优化对象大 4.7 倍的模型上依然有效。Claude 还超越 28 名人类安全研究员，其欺骗场景最佳方法比人类最佳方案好 20%。

SGLang Diffusion 团队在 8×NVIDIA H200 上对 MiniMax-H3 视频生成进行基准测试，其密集无损路径较 Diffusers 快 1.85-1.95×，无近似损失。