AI 论文与研究
整理大模型、智能体、多模态、机器学习与生成式 AI 的论文、基准和研究进展。
分类文章4504
当前页40 / 113
持续更新永久归档
分类文章
按发布时间从新到旧 · 每页 40 条
论文研究普通
针对黑盒 LLM 的受控解码攻击框架
研究者提出一种针对黑盒 LLM 的越狱框架,仅通过纯文本续写接口即可实施受控解码攻击,无需访问模型权重或 token 概率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
CorrGRPO:面向多奖励学习的相关性归一化 GRPO
针对 GRPO 在多奖励场景下归一化易被大尺度相关奖励主导的问题,研究者提出 CorrGRPO,将成对协方差归一化为 Pearson 相关系数,在保持中心化总奖励不变的同时平衡不同尺度奖励的影响。在代码生成、工具调用和智能体安全三类任务上,使用 0.5B 至 8B 参数模型与 GRPO 及其他变体对比,三个领域均取得提升,代码已开源。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Think Before You Score:面向视觉生成的思想奖励模型 TRM
研究者提出 Thinking Reward Model(TRM),先为每个样本生成自适应评分标准再做评估,输出细粒度 pointwise 奖励,并引入 PD-GRPO 缓解成对偏好优化导致的分数极化。在图像生成与编辑奖励建模基准上,TRM 在开源奖励模型中达到 SOTA,并可与闭源方案竞争;作为强化学习奖励信号还能稳定提升多种视觉生成模型。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
TERRA:面向肌肉骨骼运动的 terrain-aware 重建、重定向与控制
TERRA 是一套端到端流水线,仅凭运动学轨迹即可结合地形先验、估计接触与负自由空间证据,恢复任务相关的支撑几何,并在重定向中考虑解剖、肌腱连续性与接触约束。基于五个数据集生成的运动-地形配对,团队用 9.4 小时多样化运动数据训练出单一肌肉驱动控制策略,在重建、重定向与留出跟踪基准上提升地形精度、大幅减少解剖与交互违规,并在各类支撑地形上取得最高完成率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
研究发现 on-policy 参数更新方向是 LLM 后训练泛化关键,提出 OPSFT 方法
研究提出 On-Policy 方向约束监督微调(OPSFT),将 SFT 的参数更新约束到 on-policy 范式识别出的更新方向上,从而把 on-policy 的泛化优势迁移到 SFT。分析显示 SFT 沿一致方向更新参数,而 on-policy 范式在训练中持续调整方向。OPSFT 兼具 on-policy 的强泛化与 SFT 的高训练效率和利用高质量轨迹的能力。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
像素扩散模型的对抗训练后训练研究:恢复高频细节并提升分布保真度
研究首次系统探索像素扩散模型的对抗后训练:在预训练模型上保留原有扩散或流匹配目标,对非高噪声时间步的预测输出加入对抗损失,架构与采样流程不变。在两个像素骨干上,该方法同时提升了分布保真度、覆盖度、提示词对齐和感知质量;频谱分析显示原模型系统性缺失自然图像高频成分,对抗后训练可将其恢复。在测试的潜空间扩散配置下,同样流程未带来可比增益,几乎不增加解码后的高频功率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
基于字形振动模态的模态动态字体(Modal Kinetic Typography)
研究者提出模态动态字体(modal kinetic typography),通过有限元特征问题从矢量字形轮廓中提取最软振动模态,并用冻结的视频扩散模型仅监督各模态的振幅与相位,让字形在保持可读的同时表达语义概念。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Tacit-TTS:从自回归解码到掩码预测的高效无转写语音克隆
Tacit-TTS 是蒸馏自 IndexTTS2 的无转写零样本语音克隆系统,用掩码非自回归生成替代自回归文本到语义解码,并引入免训练声学长度的估计与 ReFlow 蒸馏加速流匹配渲染器。在 2 个英语和 2 个普通话数据集上,其对超过 5 秒的语句生成速度比 IndexTTS2 快 10 倍以上,且无需参考语音转写,可支持跨语言及婴儿咿呀、合成乱语等非词汇参考。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
TabFM-Auto:为表格基础模型自进化数据流水线
TabFM-Auto 将表格基础模型 TabFM 与语言模型智能体结合,通过迭代优化数据清洗、特征工程、上下文选择和后处理来降低 TabFM 的误差。在 TabArena 全部 51 个数据集上,五种不同智能体与语言模型配置的 TabFM-Auto 包揽前五名,最佳配置将 TabFM 的 Elo 从 1785 提升至 2013。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Imagine3D-LLM:让多模态大模型先"想象"3D 场景再作答
Imagine3D-LLM 让多模态大模型在图像 token 后追加一组可学习的 summary token,将其解码为紧凑的 3D Gaussian Splatting 表示,并以光度重建损失监督、与标准下一 token 预测联合训练。仅 summary token 接受重建监督,却能增强 LLM 底层图像特征的跨帧对应,在多个空间推理与 3D 理解基准上持续优于此前方法。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
SAKI:面向同策略蒸馏的最大耦合路由教师监督方法
SAKI(Supervision Allocation with KL-constrained Interpolation)将 KL 约束的教师引导 rollout 与最大耦合结合,按 token 级接受/纠正事件路由监督:接受位置保留采样 token 的反向 KL 监督,纠正位置直接监督教师最高概率 token。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
什么让世界动作模型具备泛化能力?一项关于测试时未来建模的实证研究
研究发现,Latent WAM 虽在分布内任务上与 Explicit WAM 持平,却丢失了 WAM 原本的泛化优势,在环境扰动、数据效率和任务泛化三个维度上均出现一致退化,差距几乎全部来自第一步去噪。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
学习元技能:面向测试时 AI4AI 的 Agent Harness 设计
研究提出 Meta-Skill 方法,让 Builder 在模型权重冻结的测试时 AI4AI 场景中,从 Target 在开发集上的执行反馈里学习"何时需要支持、提供什么资源"的原则,再用冻结的技能库为未见任务构建执行环境。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
AdviSD:通过定向多轮自蒸馏让小型顾问模型指导前沿 LLM
AdviSD 让小型可训练顾问模型用自然语言指导冻结的 LLM 执行器,方法将结果导向的强化学习与选择性自蒸馏结合,用反馈条件下的顾问副本筛选反思修正。用 Qwen3-8B 顾问指导 Gemini 和 Claude 时,AdviSD 在 BFCL-v3 上比 advisor-GRPO 高 4.2-6.4 个百分点,在 EnvScaler 上高 3.9-5.1 分。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Claude / Gemini
论文研究普通
SoL-Refiner:一步精修实现 4K 高分辨率视频生成
SoL-Refiner 是一种单步视频精修器,可将低分辨率模型输出经一次去噪直接转为 4K 视频,其训练流程包含高分辨率持续训练、强化学习后训练与最终的单步蒸馏。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
APM-Bench:面向第一视角流式视频助手的跨会话持久记忆基准
APM-Bench 将真实流式交互重构为多会话生活轨迹,包含 549 个会话、104 条轨迹和 2,719 个候选问题,覆盖客观与开放式问答。模型需借助持久记忆回答过往会话问题并主动响应,同时保持实时交互。评测显示现有方法在效用、延迟与存储之间存在明显权衡,难以同时实现可靠的长期召回、低开销和有效的跨会话主动协助。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
CrossBFM:跨人形机器人形态蒸馏共享潜在行为空间
CrossBFM 将行为基础模型的潜在空间视为可跨形态迁移的资产,用无机器人专属参数的统一编码器同时蒸馏多个训练形态,耗时不到 1 GPU 小时,再经 PPO 训练 10 小时即可实现全身控制。在三个蒸馏人形机器人上,运动跟踪、姿态到达与 41 项奖励提示三种模式均可迁移,编码器仅用四分之一运动语料回归只损失 5% 跟踪性能,在未见机器人上可恢复至已见机器人 89% 的跟踪性能。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
EngiWorld:前沿智能体在专业工程环境中能交付什么?
EngiWorld 是首个围绕完整设计闭环构建的工程智能体基准,包含 6 大工程领域(CAD、CAE、CAM、BIM、EDA、3D 可视化)、26 个专业软件平台的 1,301 个专家精选任务,覆盖 GUI 与 CLI 界面及 6 类任务。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
E-MoE:面向非因子化扩散语言模型的增强型混合专家方法
研究提出 E-MoE,用 MoE 骨干的专家路由决策构建离散共享隐变量,将扩散语言模型的反向过程建模为因子化分布的混合,且不增加激活参数量。在合成多模态基准、二值化 MNIST 和 LM1B 上,E-MoE 相比因子化基线改善了少步生成质量。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ThinkV2V:释放 MLLM 推理能力,实现指令引导的视频编辑
ThinkV2V 是一个推理驱动的指令引导视频编辑框架,通过 MLLM-to-DiT 架构让 MLLM 在视觉生成前先对源视频和指令进行显式思考,生成精炼的条件信号。它结合渐进式课程训练与推理时思考扩展,并配套 ThinkV2V-150K 数据集和 ThinkV2V-Bench 基准。实验显示其 5B 规模 DiT 模型在复杂与标准编辑场景均达 SOTA,大幅超越 10B 规模基线。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
HelixWorld:实时交互式音视频世界模型
HelixWorld 是一个实时交互式音视频世界模型,视觉场景与基于相机的空间立体声在用户交互下原生协同演化。研究团队构建了带真实立体声与公制相机位姿的高保真空间音视频数据集,预训练以 6-DoF 相机轨迹和用户动作为条件的双向教师模型,再通过在线轨迹蒸馏损失蒸馏为少步流式学生模型,在单张 GPU 上以 24 FPS 实现无漂移的联合音视频推演。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
EVOKE:在智能体中激发世界知识以实现可迁移决策
针对 LLM 智能体在多步决策中难以迁移到未见环境的问题,研究者提出后训练方法 EVOKE,通过在固定状态下引入目标多样性,迫使同一候选动作在不同目标下重新排序,从而激发预训练中已内化的世界知识。在三种骨干模型的多类任务上,EVOKE 提升了任务表现、未见环境泛化能力与数据效率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
智能体的主动性问题:Q&D 方法如何让模型追问未被请求的信息
研究提出智能体主动性的内容维度:横向主动性追问当前上下文已隐含的信息,纵向主动性追问只有早期证据才能揭示的需求。基于基准自身分解构建的 need graph 可在无模型评判的情况下对两种主动性打分。Q&D 训练提问者偏好能检索更多所需证据的问题,在三个多跳问答基准的留出集上,同等检索开销下两种主动性均优于同模型提示版本,并在其中两个基准上超过 15 倍大的提示模型。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
循环语言模型中的循环机制何时有效?HuggingFace 论文给出设计指南
一项受控实验系统考察了循环语言模型(LoopLMs)中循环机制的适用条件、作用位置与条件注入方式。结果显示,循环可提升超出训练范围的推理表现,但会损害知识类任务,且更难的推理样本未必获益更多;非循环输出层能提升欠展开时的鲁棒性。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
WEFT:面向通用智能体的工具使用后训练扩展方法
WEFT 是一套面向通用智能体的工具使用后训练框架,将智能体交互系统构建、执行驱动的自进化与稳定后训练耦合起来。WEFT-8B 和 WEFT-14B 在 BFCL V4、τ^2-Bench 和 Claw-Eval 上均超过同规模环境扩展基线,其中 WEFT-14B 较 Agent-World-14B 分别提升 6.41、2.23 和 12.27 个百分点。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
研究揭示系统提示中的隐藏日期影响 LLM 评测结果
研究指出系统提示中被隐藏注入的当前日期会让 LLM 评测结果随日期波动,影响可复现性和排行榜公平性。在 9 个模型和 6 个数据集上,仅因日期变化,多项选择题 QA 最高波动 6%,数学推理 14%,代码生成 7%,机器翻译 2.84 BLEU,模型排名也会因此改变;该效应超过 batch size 和数值精度等非确定性来源,链式推理和 few-shot 提示均无法缓解,链式推理甚至放大波动。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
WUSH-KV:用数据自适应变换实现 KV Cache 量化
WUSH-KV 是一种面向低比特 KV cache 的量化方法,利用矩阵乘积两个因子的二阶统计量构建数据感知变换,为 key 和 value 分别构造变换,其中 value 变换折叠进模型权重、key 变换在 RoPE 之后应用。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
LoopVL:循环式视觉智能
LoopVL 将 Loop Transformer 扩展到视觉语言模型,通过 Module-Loop 与 Model-Loop 组合,用共享模块迭代更新统一的视觉语言状态,并从零开始完成语言预训练、多模态训练与后训练。它在多模态理解与视觉推理基准上超过多款同规模及更大规模的非循环模型,还出现跨循环视觉注意力显著转移的 Visual Aha Moments。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
AnisoWM 用各向异性表示改进 JEPA 世界模型规划
针对 JEPA 世界模型中各向同性高斯正则导致的表示几何与任务代价不匹配问题,研究者提出 AnisoWM 与 ΛReg,用固定迹和各向异性约束下的可学习对角协方差替代固定各向同性高斯目标,预测目标、预测器架构与欧氏规划器均保持不变。在四个视觉控制环境中,AnisoWM 的规划成功率均优于 LeWorldModel,其潜在规划代价与任务结果也更一致。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PRISM:反事实视频生成实现可扩展的人形机器人移动操作
PRISM 是一个 real-to-sim-to-real 框架,通过视频到视频(V2V)生成将少量真实视频扩增为数百段"反事实"人-物交互视频,再经接触锚定的 real-to-sim 流程重建人与物体运动,把不完美视频数据重定向为物理合理的轨迹。该框架训练出单一策略,可泛化到同类未见物体,并在真实机器人上零微调部署,仅用机载深度观测完成箱子、桶、储物箱和球的抓取、搬运与放置。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
EasyPPO:稳定 critic 是 PPO 训练 LLM 的关键
EasyPPO 通过仅对 actor 做超长过滤、按采样回报标准差倒数加权 critic 回归、并适度缩小 critic mini-batch,解决了 PPO 中 critic 的两类失稳问题。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
系统性评测 GPT-6 Astra 作为具身策略的能力与局限
一篇论文在六个领域系统评测 GPT-6 Astra 作为通用具身策略的能力,覆盖直接控制、与学习策略协作及反馈驱动适应。
信息来源:HuggingFace Daily Papers(社区热门论文) · GPT / Hugging Face
论文研究普通
FlexRouter:为灵活 LLM 路由学习互补模型集合
FlexRouter 是一个显式建模模型互补性的 LLM 路由框架,以答案覆盖率为优化目标,最大化所选模型中至少一个给出正确答案的概率。该方法将路由建模为覆盖导向的子集选择问题,用 Determinantal Point Processes(DPPs)刻画模型能力与冗余度,并通过基于失败集边缘化的训练目标直接优化覆盖率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PixelUMM:无需编码器的统一图像与视频理解生成模型
PixelUMM 是一个无需视觉编码器的统一多模态模型,直接在像素空间完成图像与视频的理解和生成。它将图像表示为空间 patch、视频表示为时空 tubelet,通过单层线性投影接入共享多模态主干,并采用 Mixture-of-Transformers 架构结合共享注意力与任务专属参数,同时支持自回归文本预测和像素空间流匹配。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
EpiCon:通过共同演化多模态记忆实现智能体集体学习
EpiCon 是一个无需更新宿主模型参数的多模态共享记忆框架,通过两个独立训练的 2B 模型——记忆控制器与树状自组织器——连接问题级记忆演化与持久经验库,实现不同智能体之间的经验复用。在覆盖四个多模态任务域的 11 个基准上,第二个 harness 将原系统宏平均分提升 2.6 分;四种宿主配置下较无记忆基线提升 1.7 至 4.9 分,记忆操作时间减少 67% 至 74%。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
TabFM:400M 参数的零样本表格数据基础模型
论文提出 TabFM,一个 400M 参数的表格基础模型,将监督式表格预测建模为 in-context learning,单次前向传播即可产生校准的零样本预测,无需任务特定调参。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Tail-Influence Sampling:面向 CVaR 策略评估的尾部影响采样方法
针对稀有失败场景下 CVaR 估计需大量昂贵 rollout 的问题,研究者提出 Tail-Influence Sampling(TIS),通过从试点模型估计各条件分布的尾部影响并重新分配查询预算。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Triadic Linear Attention:用三维循环状态做长上下文序列建模
研究者提出 Triadic Linear Attention,将线性注意力的矩阵隐状态扩展为三阶(3D)张量状态,通过 key、第二个 key 与 value 的三元外积写入,并用两个 query 分别与两条 key 轴收缩读出。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
AREX-2:用长时程反思任务推进 LLM 智能体自我改进
AREX-2 通过从机器学习和算法编程任务合成长期改进轨迹,训练出基于 Qwen3.8-27B 的智能体,在 MLE-bench Lite 上得分 81.8、Frontier-CS 上 70.7。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
MotorMind:用通用 VLM 实现零样本机器人操作
论文提出 MotorMind,一个连接 VLM 中层动作与确定性机器人控制并带异步监控和后台记忆更新的操作框架,无需任务特定策略训练、编码智能体或 SAM3 等额外工具。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face