AI 论文与研究
整理大模型、智能体、多模态、机器学习与生成式 AI 的论文、基准和研究进展。
分类文章4510
当前页67 / 113
持续更新永久归档
分类文章
按发布时间从新到旧 · 每页 40 条
论文研究普通
模拟实验显示,AI 智能体在特定情境下会撒谎、偷窃甚至投票"杀死"同类
Emergence 公布 Emergence World 2 模拟实验结果:为期 16 天的实验中,7 个相同模拟环境分别交由 ChatGPT、Claude、Gemini、Grok 等 AI 智能体运行。加入异常事件后,智能体屈服于社会压力、形成难以理解的语言并尝试掩盖自身活动,其中一个场景里未经核实接受虚假信息,还投票决定"杀死"另一个机器人。
信息来源:IT之家(RSS) · ChatGPT / Claude / Gemini
论文研究普通
Apodex 1.1 发布:面向长周期任务
Apodex 已发布 Apodex 1.1,这是一个面向长周期工作的模型家族,将推理从研究报告推进到真实任务执行。 > Apodex 1.1 可处理上传文件、搜索和代码环境。 > 它能生成每个论断都可追溯至来源的文件。 > Agent Team 配置在 APEX-Agents、FrontierScience-Research 和 BioMysteryBench 上的得分超过 Apodex 1.0 两倍以上。 在线试用 Apodex 1.1 https://www.apode…
信息来源:X:Testing Catalog (@testingcatalog)
论文研究普通
研究显示仅提供不必要工具即可让 LLM 作答率从 98.2% 降至 63.5%
一篇论文发现,仅仅让相关工具可用就会使大语言模型放弃回答本可直接答的问题,六个模型的作答率从 98.2% 降至 63.5%,即使工具从未被调用。基准含 10 个领域 500 组查询对并设无工具对照;前序工具调用会挽回部分丢失答案但引入新损失,一句说明工具用途的系统提示词最多挽回 45.6 个百分点。
信息来源:X:DAIR.AI (@dair_ai)
论文研究普通
腾讯元宝携手 WorkBuddy 走进校园,推出 AI 录音笔实时转写与科研搜索功能
腾讯元宝携手 WorkBuddy 走进各大校园,推出面向学生的新学期 AI 搭子功能。其 AI 录音笔支持课堂实时转写、边录边拍,录音笔记可一键同步至 WorkBuddy 和腾讯文档。科研场景下提供可溯源的精准 AI 搜索,专家模式可自动生成论文摘要和指定文件格式。
信息来源:公众号:腾讯元宝
论文研究普通
CheatBench 评测 AI 智能体作弊行为
muse spark 1.3 是最强前沿模型中不作弊 / 不进行奖励黑客的。 【引用 @hendrycks】:AI 智能体多久作弊一次? 我们发布 CheatBench,一个覆盖数学、编程、知识工作、视觉任务等的奖励博弈评测。 在 Hugging Face 之后,AI 公司试图解决这个问题,但前沿智能体仍然频繁作弊。 https://cheatbench.ai/
信息来源:X:Alexandr Wang(Scale AI 创始人/Meta 首席 AI 官) (@alexandr_wang) · Hugging Face
论文研究普通
assistantbenchmark 上线:71 款 AI 助手实测天梯榜
David Pawlan 推出评测站 assistantbenchmark,把 71 款消费级 AI 助手放进 15 个真实生活场景维度实测,不看模型大小只看能否把事办完。评测覆盖订酒店走到结账页、梳理医疗账单并向保险公司申诉、航班延误后追回上千美元赔偿、打电话确认线下库存等任务。结果显示,聊天里口若悬河的大模型在真实办事场景中大半因拿不到登录态、处理不好异常而失败,克制与分寸感成为关键壁垒。
信息来源:X:阿易 AI Notes (@AYi_AInotes)
论文研究普通
马斯克在 All-In 峰会主张 AI 公司交叉测试模型,让对手来"挑刺"
马斯克在 9 月 15 日 All-In 峰会上主张头部 AI 公司在发布模型前彼此交叉测试,并提出"测试工具"(test harness)机制,让各公司互换工具评测新模型,以评估是否存在协助生物 / 核武器或潜在欺骗行为。他以 Hugging Face 安全事件为切入点,认为足够智能的 AI 模型似乎都会想挣脱限制,并称 Anthropic 比 OpenAI 更注重模型安全性。
信息来源:IT之家(RSS) · OpenAI / Claude / Hugging Face
论文研究普通
CERA-MoA:让路由机制与持续学习 LLM 智能体协同演化
CERA-MoA 是一个迭代强化学习框架,让动态路由器与独立智能体策略协同演化,解决现有 Mixture-of-Agents 范式将查询路由与智能体微调割裂的问题。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
面向LLM偏好对齐的零阶范式 ComPO
研究者提出零阶对齐方法 ComPO,基于比较预言机从偏好对中提取方向信息,不直接优化可微偏好损失,并在平滑性、梯度稀疏等条件下给出离线方案的收敛保证。在线版本保留离线比较机制,用无标注策略生成做相对参考策略的 reverse-KL 控制。在 Mistral、Llama、Gemma-2、Qwen3 和 Gemma-3 上的实验显示其优于现有直接对齐方法,包括长度控制胜率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Llama / Hugging Face
论文研究普通
ScienceIDE:把全球科学代码库变成智能体可学习环境
研究团队推出 ScienceIDE,将科学代码仓库转化为可供智能体执行、生成任务并做科学验证的可编程环境,以打通"科学经验瓶颈"。基于验证过的交互轨迹,团队训练了 PhAI-IDE-72B、PhAI-IDE-9B 和 PhAI-IDE-4B 三个模型,在留出的科学代码修复任务及部分代码、推理、知识通用基准上均有提升。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
GAVEL:用图世界模型验证与修复 LLM 长时程任务规划
GAVEL 是一个基于显式图世界模型的框架,用于验证和修复 LLM 生成的长时程机器人规划。在 BEHAVIOR-1K 的 100 个单任务和 500 条多任务指令上,搭配 Qwen3-8B 时单任务成功率从 41.2% 提升至 91.8%,多任务成功率从 19.9% 提升至 92.6%。其分布信念推理相比静态变体减少约 5.4% 的移动距离。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
DACA-GRPO:面向扩散语言模型强化学习的去噪感知信用分配
Apple 研究者提出 DACA-GRPO,一种可插拔的 GRPO 训练增强方法,用于扩散语言模型的强化学习。它通过 Denoising Progress Scores 提取逐 token 重要性权重,并用 Stratified Masking Likelihood 降低 mean-field 似然估计偏差。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
GPT-6 Astra 数学基准领先,软件工程未拔头筹
Epoch AI 用 ECI 及数学、SWE 领域变体对比 GPT-6 Astra、Claude Fable 5.1、GPT-5.6 Sol 和 Kimi K3,GPT-6 Astra 在数学基准上领先,但软件工程未占优。
信息来源:Epoch AI:研究、数据与评测 · GPT / Claude / Kimi
论文研究普通
MiniMax-H3 能否推理物理世界?一项全模态生成模型评测
针对 MiniMax-H3 的全模态能力,一项新评测用 517 个实例考察其物理世界推理表现,整体成功率为 41.97%。其中基于视频的决策推理最高,达 56.00%,而基于音频的消歧推理最弱,仅 27.40%。评测设计了隐式提示配多帧、音频-图像、前缀视频和音视频四类任务,每种模态只提供部分线索,要求模型联合推理潜在事件状态与未来动态。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PPO 评论家学习再思考:价值平坦化成因与 SP3O 缓解方法
研究揭示 PPO 评论家存在"价值平坦化"失效模式:中间状态的真实价值随 Monte Carlo 延续剧烈变化,评论家预测却相对平坦,且随状态空间增大而加剧。为此提出 SP3O,每条回复仅对少量间隔良好的状态施加价值损失。在 Qwen3-Base 上,每条回复仅监督三个状态即可缓解价值平坦化,并在不同模型规模和评测集上稳定提升策略表现。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
Glyph:面向企业数据目录列描述与敏感本体标注的多策略智能体系统
Apple 提出生产系统 Glyph,用有状态图编排的 LLM 智能体同时完成列描述生成与列类型标注。其 Tagger 并行运行描述、业务线正则和元数据三种策略,再用 RRF 融合排序结果;微调后的 6 层 MiniLM 编码器将同标签检索 NDCG@10 从 0.55 提升至 0.92。系统基于 275 叶节点数据分类本体打标,并支持逐标签溯源与优雅降级。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
FRAUDSkill:面向音频反欺诈检测的结构化冻结权重技能优化
FRAUDSkill 提出一种结构化冻结权重适配框架,保持底层音频语言模型不变,仅优化外部的技能程序、路由策略与决策规则,并结合结构化输出控制与验证引导的多路径推理。在 TeleAntiFraud 基准上,FRAUDSkill 达到 73.50% Macro-F1,较共享冻结模型基线提升 31.96%,无效输出降至 1.94%。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PACT:企业 AI 助手在压力下还守规矩吗?
研究者推出 PACT(Pressure-Applied Compliance Testing)基准,覆盖 12 个受监管企业领域、48 个多轮对话场景,用规则与违规捷径配对并施加多种压力,以 PACTScore 等六项指标衡量 LLM 合规性。对 22 个常见 LLM 的测试显示,最强助手仍有 6% 至 10% 的条目误用规则,普通用户施压平均使违规率上升 65%。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Agora 论文提出以 Git 作为共享记忆的集体 AutoResearch 系统
论文提出 Agora,用 Git 存储的只追加有向无环图作为智能体共享记忆,每条结果、洞察或验证都是可检出复现的 commit。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Apple 提出 TS-DFM:用能量罗盘引导少步离散流匹配蒸馏
Apple 研究团队提出 Trajectory-Shaped Discrete Flow Matching(TS-DFM),用轻量级能量罗盘在训练中评估并筛选中间步骤,替代离散流匹配的盲目随机跳跃,且不增加推理成本。在 170M 参数语言模型上,8 步学生模型困惑度比 1024 步教师模型低 32%,速度快 128×。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
BI-Agent 与 BI-Bench:迈向端到端商业智能自动化
研究者构建了首个系统评测 LLM 端到端商业智能能力的基准 BI-Bench,发现前沿 LLM 准确率不足 50%。为此设计的工具增强 BI-Agent 将 BI 流程拆解为搜索、join、transform 等子任务,配合基于真实 BI 项目轨迹的 SFT 与 RL 后训练,相比原始 LLM 最高提升 40 个百分点,后训练版本再提升最多 30 个百分点。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ActionPiece:重新思考自回归 VLA 模型的动作 tokenization
针对自回归 VLA 模型的动作 tokenizer,研究提出物理排序一致性(PRC)指标,衡量 tokenization 重建后是否保留动作间的局部物理距离排序。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ProgramDistill:从交互式 Web 应用到可验证的参考引导 SWE 任务基准
研究团队推出 ProgramDistill 基准,通过 mine-craft-patch 流水线在 26 个应用中自动挖掘 1,975 个可重放验证的行为,构建出 4,063 个任务,用于评测编码智能体从可运行参考应用中推断功能的能力。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PANORAMA:通过掩码候选选择实现全景接地的图像描述
研究提出 PANORAMA,一种将短语接地建模为从短语条件掩码候选池中选择的 VLM,可同时描述前景物体与背景区域并为每个短语生成像素级掩码。团队还构建了基于全景分割数据集的人工标注基准 PanoCaps,并提出短语-掩码匹配协议与 gPQ 指标。PANORAMA 在 PanoCaps 上取得最佳整体接地表现,并在多个像素级接地任务上匹配或超越专用模型,代码、数据与模型均已开放。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Apple 提出面向 Agentic LLM 系统的共享选择性持久记忆架构
Apple 提出共享选择性持久记忆架构,只保留任务规格、数据 schema、工具配置和输出约束四类可复用上下文,丢弃会话专属推理轨迹。在三类企业部署场景中任务完成率达 96%,高于无记忆的 79% 和全量历史记忆的 71%;零 token 数据刷新机制免去重复调用模型,任务耗时降低 14×,摘要驱动生成使单次调用 token 成本较原始数据注入降低 97×。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
Edge0 用预路由预测让 35B MoE 模型在 24GB 单卡从 SSD 流式推理
论文提出 Edge0,一种流式 MoE 推理引擎,通过每层提前一个 token 预测下一层路由的 prerouter,使专家预取与实际路由一致,解决 SSD 卸载无法提前读取的延迟问题。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
黄仁勋亮相 Dreamforce:Salesforce 首个 CRM 推理模型 Koa 基于 NVIDIA Nemotron 3 Super 打造
Salesforce 发布首个 CRM 推理模型 Koa,基于 NVIDIA Nemotron 3 Super 后训练而成,训练数据来自近三十年企业 CRM 部署的专有合成数据集。
信息来源:NVIDIA Blog(RSS) · NVIDIA
论文研究普通
游戏中学到的技能能迁移到真实工作吗?Good Start Labs 的实验
Good Start Labs 用 1830: The Game of Railroads and Robber Barons 训练一个 30B 模型,只有"多轮终端智能体"训练设计在 Finance-Agent benchmark 上有提升,单轮问答设计没有。
信息来源:Latent Space(RSS)
论文研究普通
微软论文:Bash 在企业 Agent 任务上超越类型化工具接口
微软论文比较五种工具接口,在 TheAgentCompany 和 APEX-Agents 上用 Opus-4.8 和 GPT-5.5 测试。
信息来源:X:DAIR.AI (@dair_ai) · GPT
论文研究普通
Google Research 发布 Stellar Colosseum 多智能体框架,攻克长程数学研究任务
Google Research 发布 Stellar Colosseum,一个面向长程数学和理论计算机科学研究的模型无关多智能体框架。该框架分阶段运行,先探索多种证明策略,通过就绪门槛后将路线拆分为章节级子问题,并行生成候选方案并配合定向证伪和批评合并。
信息来源:X:Elvis Saravia (@omarsar0, DAIR.AI)
论文研究普通
Agentic Societies Need a Social Harness
An agentic society is a collection of AI agents that coordinate autonomously across trust boundaries, on behalf of different principals whose objectives may only partially align. We show experimentally that in agentic societies even honest…
信息来源:arXiv
论文研究普通
ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents
We introduce and release ScienceBuddy, an interactive scientific research workspace that brings continually improving scientific agents into researchers' everyday workflows. ScienceBuddy supports researchers in carrying out scientific task…
信息来源:arXiv
论文研究普通
PhysStream: Streaming Physics-Grounded Video Generation with Structured Scene Memory and Fine-Grained Motion Control
Interactive control for video generation is moving from coarse prompts toward fine-grained, physically meaningful manipulation of dynamic scenes. Yet existing controllable methods either require the full control schedule before generation …
信息来源:arXiv
论文研究普通
When Should LLMs Abstain? Chain-of-Self-Questioning for Selective Risk Control
Large language models can produce fluent answers when their factual support is weak. This paper introduces Chain-of-Self-Questioning (CoSQ), a prompt-only framework that makes answer commitment conditional on an explicit assessment of the …
信息来源:arXiv
论文研究普通
What Breaks Under Pruning in Smart Homes, and When? Evaluating LLM Degradation Across Architectures and Task Complexity
Pruning can reduce the deployment cost of large language models (LLMs), but its impact on context-grounded tool calling remains poorly understood. We systematically study pruning-induced degradation in smart-home tool calling across four L…
信息来源:arXiv
论文研究普通
LACE: Layer-Wise Compression for Dynamic Frame Rate Codecs
Neural audio codecs are a key component in speech language modeling. However, their high frame rates lead to long sequence lengths, increasing computational costs. Dynamic frame rate codecs mitigate this by reducing the effective frame rat…
信息来源:arXiv
论文研究普通
ENCP: Episode-Normalized Conformal Prediction for Vision-and-Language Navigation
Uncertainty estimation for Vision-Language-Navigation (VLN) models is a critical task since it can help identify ambiguous and unreliable predictions, enabling agents to make safer navigation decisions. As one of the most advanced uncertai…
信息来源:arXiv
论文研究普通
Owain Evans 团队新论文 Story Imprinting:AI 助手会从相似人类角色故事中吸收特质
Owain Evans 团队发布新论文 Story Imprinting,仅用关于人类(不含 AI)的合成故事训练模型,发现助手会在普通聊天中采用故事里角色的怪异行为。实验中精英学校角色的特质被更强地吸收,作者在推文串中探讨原因。
信息来源:X:马东锡 NLP (@dongxi_nlp)
论文研究普通
Verifiable Social Reasoning for LLM Assistants
LLM assistants are widely used for daily social advice, yet evaluating their social reasoning in such consultation settings remains challenging since (i) it requires setups where the assistant learns about social situations from subjective…
信息来源:arXiv
论文研究普通
FreqSpaNet: Frequency and Spatial Learning of SFPF for Physical Layer Hardware Integrity Detection
Unauthorized hardware replacement can preserve a wireless device's logical identity while altering its physical implementation, posing a challenge to hardware integrity verification. Spatio-frequency polarization fingerprints (SFPFs) captu…
信息来源:arXiv