AI 论文与研究

AutoRef 通过编码智能体迭代重写 harness 代码，在模型冻结的前提下自动优化多参考图像生成流程，并发现 AutoRef-Harness。该 harness 将开源 FLUX.2 [klein] 4B 在 MultiBanana 基准的四参考任务上从 5.72 提升至 7.37，追平或超过 Nano Banana Pro 和 GPT-Image-1.5 等闭源模型。

分块 KV-Cache 压缩会引入"相位"这一新位置坐标，导致同一信息在不同相位下检索难度不同，大型开放权重模型的长上下文检索准确率跨相位差异最高达 40 个百分点。研究者从零预训练了多种 KV 压缩设计的 Transformer 家族复现该现象，并通过因果干预发现不同注意力组件在不同源相位下贡献不对称，即相位特化。评估此类压缩模型需跨压缩相位测量，高平均准确率可能掩盖系统性位置失效。

论文提出 Draft-KV，让共享模型在起草答案时生成 key-value 状态，经线性投影写入侧记忆并由门控注意力分支读取，两模型均冻结，接口仅训练 1.05M 参数。

一种无标签、仅优化偏置参数的测试时强化学习（TTRL）方法，用多数投票伪标签作为奖励，冻结预训练主干，仅训练约 100K 偏置参数。在 MATH-500 上，Qwen2.5-7B 达到 76.67% 准确率，略超其有标签偏置引导复现结果，且参数量比全参数 TTRL 少 76,000 倍。

研究者推出 BIABench，一个由 16 项已发表生物学研究重建而成的基准，用于端到端评估 AI 智能体完成真实生物图像分析的能力，任务覆盖 11 类分析子任务，从 H&E 组织学到单分子定位显微成像。

研究者提出选择性 SSM 架构 FRAC，用分数阶动力学将传统 SSM 的指数遗忘替换为幂律长记忆，并通过有限状态、对数间隔的指数模式求和近似重尾目标核，使其成为可并行训练与预填充、同时保留有界状态自回归解码的高效循环模块。在包括 1.3B 参数语言建模在内的实验中，FRAC 的长上下文表现持续优于当前最优 SSM 基线，短上下文性能也保持竞争力。

研究者提出 Persistence Forcing（PerF），通过让像素空间 DiT 中不同特征组在深度上获得不同细化预算，形成"持久特征"与"活跃特征"的分工，由持久特征持续引导活跃特征的细化。

研究者提出 Braco，一种轻量四步编码器，通过变换基截断、与输入无关的基坐标嵌入、依赖预算的正交重参数化和轻量池化学习的空间残差 token 实现视觉 token 压缩。

针对潜在视觉推理中潜在 token 对改变正确答案的图像扰动响应微弱这一"潜在证据信用缺口"，研究者提出 ReaLVR，用正确与模型生成错误答案的对比确定监督位置，用匹配与不匹配的视觉证据指定应保留的内容。在三个模型家族上 ReaLVR 均优于现有 LVR 基线，在 Qwen2.5-VL-7B 上取得五项任务平均 63.7% 的最高成绩，并首次将潜在空间视觉推理扩展至 235B 规模。

论文指出，现有蒸馏攻击防御通常只在蒸馏后立即评估，隐含假设攻击者不再继续训练，但更现实的威胁模型包含蒸馏后的强化学习。结果显示，强化学习会降低蒸馏攻击门槛，仅用当前 API 易得数据即可窃取闭源模型推理能力，效果相当于提取完整隐藏推理轨迹的复杂攻击。任何泄露足够信息以重建近似推理轨迹的蒸馏防御都可能失效。

EditWorld 是一个支持精准编辑与灵活引用的视频世界模型，可在自回归生成过程中流式接收编辑指令和参考图像，将世界建模从探索扩展到精准修改。它引入 Gated Causal Attention 处理时变编辑条件与参考图像，并用 Sparse Context 机制维持有界历史上下文以支持长时程推理。

Agent Priors-guided Policy Learning（APPL）将每个策略的结构先验同时用作训练约束与组合接口：构建智能体把完整演示切分为可复用技能，为每个技能提出多个结构先验并逐一训练、验证策略，运行时智能体再按先验选择并组合这些策略。

研究提出异步 LLM 框架，让用户或智能体自身定义带重叠内存状态的推理协程，从而把 LLM 从"读取—思考—回复"的顺序交互推广到通用异步智能体。实验显示 Qwen 3.x 模型无需任务专项训练，即可完成流式视频理解、电子游戏和监控等异步任务。

研究者提出 Physical Coding，将任务状态与执行表示为代码，并构建 HexaAnything 调用感知、规划与控制工具（含 VLA/WAM 策略），依据外部反馈在环决策。

针对潜在递归 LLM 系统仅用交叉熵监督最终答案、不约束思维过程的问题，研究者提出 REST（REpresentation-Supervised Thoughts）训练目标，将因果性、最小性、可分离性和稳定性四项思维表征属性转化为可微损失并叠加到 CE 上，无需改动架构或增加推理参数。

研究团队提出 AdaGuard 系列 Guard 模型（0.6B、4B、8B），可在推理时按用户自定义策略评估语言模型智能体的轨迹。

研究显示，在同等前向计算预算下，确定性 PRM 引导的离散扩散语言模型推理不如独立采样加 ORM 重排。在 Dream-v0-Instruct-7B 上，GSM8K 每题 8 个候选时前者准确率 65.18%，后者达 75.13%，32 个候选时差距扩大到 12.69 个百分点。作者将其归因于引导阶段信号弱和 PRM 作为最终评判者能力不足，并发布了去噪状态语料与评测工具包。

ROSS 提出一种选择性监督方法，将历史轨迹完整保留为上下文，仅对选定的模型生成续写计算损失，从而复用自生成 rollout 中的行为经验。在 Qwen3.6-35B-A3B 上，ROSS 将六项基准的 MOPD 平均分从 58.40% 提升至 62.20%，SWE-bench Verified 从 64.20% 提升至 68.40%。

针对现有图像编辑模型在递归编辑中快速退化的问题，研究者提出 MT-OPSD 在线策略自蒸馏框架，让模型在自生成的条件下状态上训练，并由干净条件教师模型提供编辑监督，无需多轮标注。该工作同时发布 LME-Bench，包含 100 组十轮编辑会话，用于评估长程鲁棒性。在三个编辑骨干上的实验显示，MT-OPSD 显著提升长程编辑成功率、减少多轮崩溃，并基本保持单轮编辑质量。

SAKIKO 框架用于审计工具调用 LLM 的内部激活干预，在 7 个 LLM 的 When2Call 和 MetaTool 上，通道定向干预让 5 个模型获得方向性净增益，59 个预算匹配的随机方向均无法复现校准目标增益。

Nereus 是一个面向 LLM 强化学习后训练的成本感知运行时，可动态调整并行策略以适配资源、序列长度和内存压力的变化。在真实数据 trace 中，在线 TP/PP 自适应将平均 step 延迟降低 27.7%；在 1,024 GPU 的 1,000 步运行中，六次切换仅占总运行时间的 0.079%。

研究者提出 Future-Aware Recall（FAR）框架，通过未来感知的预测监督与自适应多线索评分，让世界模型学会从情景记忆中召回对当前预测有用的历史观测。

PReCache 是一个免训练的 KV cache 共享框架，通过 PreLRShared 和 ReBaseShared 两种设计共享基于预训练权重计算的基础 cache，并预计算紧凑的智能体专属低秩（LR）cache。

SEAD 将工具调用智能体的攻击与防御建模为部分可观测的状态控制，并提出攻击方法 DART 与防御方法 SAGE，代码和数据已在 GitHub 开源。

WorldAttention 是一种面向交互式视频世界模型的注意力架构，通过 Hybrid Sparse Attention（HSA）与分层 KV Cache（HKV）的软硬件协同设计，在保留完整历史上下文的同时控制显存占用。在 VBench-Long 和 InterVBench 上，其主体一致性得分分别达到 0.9472 和 0.9668，持续超越此前 SOTA 方法。

研究提出一套可审计的同构 LLM 辩论协议，用 transition ledger 记录崩塌、纠正、起始与带符号干预效用。在 6,925 场 MMLU-Pro 辩论中识别出 253 次崩塌，并发现留一模型探针门控冻结虽能阻止 29 次崩塌，却损失 108 次纠正。

ColNanoVDR 是首个将无文档查询蒸馏用于多向量视觉文档检索（VDR）的框架，通过基于熵最优传输的 OTW 目标对齐学生与教师的查询 token，无需页面数据。

InfiniHand 是一个端到端流式前馈框架，可直接从未标定的第一视角视频中联合估计 MANO 参数、相机轨迹和手部位置，无需级联独立的手部姿态估计器与 SLAM 系统。在域内基准上，其 ARCTIC PA-p 相比 ViDiHand 降低 21.4%，并显著缓解世界坐标系漂移，运行速度达 11.19 FPS，吞吐量超过 HaWoR 两倍。

Apple 研究者针对联邦随机变分不等式（VI）提出改进收敛速率：先证明经典 Local Extra SGD 在光滑单调 VI 下经更精细分析可得更紧的保证，随后指出其客户端漂移过大的固有缺陷。

TokenCast 通过学习每个执行片段的可组合成本表示，在 LLM 智能体运行过程中实时预测 token 消耗，无需额外调用 LLM，在 SWE-bench Verified 上平均累计预测耗时 32.8 ms。

研究者提出 Org-Agent，一个以约束为中心的推理框架，用于让语言模型智能体在组织中协调多用户请求并利用分散于交互中的知识。该框架将任务分解为原子子任务并构建任务依赖图，按拓扑排序调度执行，同时处理用户身份、权限、信息时效与冲突消解等组织约束。在 MUSES-Bench 和 GroupMemBench 上的实验验证了其在跨用户交互与决策、跨用户记忆与知识使用两方面的有效性。

论文提出长期 LLM 智能体的"推导问题"：压缩后的持久记忆未必真能从交互历史中推出，并归纳出证据范围、组合有效性、准入可靠性三项要求。其 DerivAudit 框架在两个自然记忆语料上发现，用更广的写入前历史审计，可为近 60% 仅凭引用看似无支撑的记忆找回支撑，但仍有 17-21% 无法支撑；更广证据并不能让准入变可靠，无支撑记忆仍常被写入，且仅扩展证据在两个骨干模型上反而更糟。

研究者从强化学习视角重新审视 on-policy distillation（OPD），提出 Least-Square Policy Distillation（LSPD）框架，将价值型 RL 中的乐观探索与 off-policy 数据复用引入策略蒸馏。

UMM-Reflection 通过交错强化学习，让统一多模态模型在一条轨迹内完成"诊断—修改—再观察"的完整反思循环，轨迹级优势同时更新反思 token 与基于流的图像修改，推理时无需外部验证器。

一篇综述梳理了机器人上下文学习（ICL）的四类方法：上下文条件策略、几何演示迁移、基于世界模型的控制，以及技能与智能体执行，部署时神经参数保持固定。文章对比了各类接口的迁移假设，以及训练、对应关系和记忆在让上下文发挥作用时的角色，并覆盖操作与导航任务。分析将方法设计与评测实践相连接，区分对教学的响应、物理迁移和保留经验带来的收益。

研究者推出 CineSubBench，一个基于多语言电影字幕评测 LLM 长上下文理解能力的基准，包含 1,012 部电影、六种语言共 6,072 条字幕轨和 813 万条带时间戳字幕。

研究团队提出在线蒸馏方法 OLIVE（OnLine InterVEntion）：每轮由学生策略生成前缀、教师自回归续写，再用教师生成 token 上的交叉熵更新学生。

ControlScope 对比了 LLM 智能体在同一公开执行状态下继续生成代码、编辑下一次工具调用的数据参数、以及替换未完成工作流三种修订方式，并区分可用修复与智能体实际选择的动作。

FlowTool 将基于工具的图像修饰建模为流匹配问题，用条件整流流直接生成工具参数，由视觉语言模型骨干加 Diffusion Transformer 参数生成器组成，把高斯噪声转成编辑方案。

研究团队提出自主智能体模型 Marathoner，通过后训练流水线赋予基座模型超长时程执行能力，在 5 个超长时程任务基准上稳定超越基座模型，甚至超过强闭源模型。该模型可连续工作 10+ 小时、执行 1000+ 次工具调用，训练数据来自 GitHub 仓库中新增 1000+ 行代码的大型发布 PR，并采用多任务链式合成与 Later Stage Bonus Reward 奖励策略。