AI 论文与研究
整理大模型、智能体、多模态、机器学习与生成式 AI 的论文、基准和研究进展。
分类文章4508
当前页16 / 113
持续更新永久归档
分类文章
按发布时间从新到旧 · 每页 40 条
论文研究普通
Uncovering Robustness Weaknesses in LLM Agents via Persona Evolution with Task-Integrity Constraints
Interactive-agent evaluations commonly rely on standardized LLM-based user simulators that exhibit broadly cooperative behavior, potentially overlooking failures that arise under diverse but realistic user interactions. This can lead to ov…
信息来源:arXiv · GPT
论文研究普通
GPT-6 Pro 频现学术论文错误
GPT-6 Pro 在学术论文中时常发现所谓的错误,这只是它其他工作的一部分。如今确认这些错误并了解其重要性仍需大量时间,但会越来越快。我们还没有合适的机制来应对大量更正。
信息来源:X:Ethan Mollick (@emollick) · GPT
论文研究普通
Minions:基于闲置 Apple Silicon 设备构建的动态分布式虚拟 GPU 云
Apple 研究团队提出 Minions,一个将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来、执行大规模机器学习推理的动态分布式虚拟 GPU 云。该系统支持灵活的 GPU 推理任务执行、容错和高效资源利用,让团队无需额外采购 GPU 即可利用现有硬件。经验表明,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
苹果研究:LLM 做机器翻译质量标注,人类与模型都面临挑战
苹果研究团队评估了 LLM 在 MQM 和 ESA 两种机器翻译质量标注方案下与人类标注者的一致性,测试覆盖 70 个语言对的长上下文测试集及 WMT23、WMT25 公开数据。结果显示,LLM 在某些任务上与人类的一致性超过人类标注者之间的一致性,但在多数标注方案、语言对和领域下仍不可靠。人类在细粒度 MQM 标注和低资源语言对上尤为吃力,LLM 则难以处理细微错误、错误语言变体和错误跨度标注。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
约翰霍普金斯大学提出 SELFCOMPACT:让语言模型智能体自主决定何时压缩上下文
约翰霍普金斯大学提出 SELFCOMPACT,让模型自身决定何时及如何压缩上下文,无需微调或外部监督。该方法结合压缩工具与轻量级评分规则,在六项基准、七个模型上匹配或超越固定间隔摘要,数学任务最高提升 18.1 分,智能体搜索提升 5–9 分,每题成本降低 30–70%。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
Baseten Base Labs 研究:模型迭代学习的事实并未被删除,而是被同类新事实覆盖
Baseten Base Labs 向 13B 模型 talkie(知识截止 1930 年)顺序写入 2011–2019 年的 20 条体育事实,每条训练一个 LoRA 并合并。
信息来源:Baseten Base Labs:模型研究
论文研究普通
Sakana AI 提出 MASS:用多智能体自监督实现同质递归自我改进
Sakana AI 发布 MASS(Multi-Agent Self-Supervision)方法,让同一模型同时担任执行者、工作流优化器和评估者,将多智能体团队的集体经验蒸馏为递归自我改进(RSI)的自监督信号。
信息来源:Hacker News:AI 热帖
论文研究普通
OpenAI 一次发布数百篇 AI 生成论文后,西北大学数学学生开始动摇去留
OpenAI 在一次发布中放出数百篇针对公开数学难题的 AI 生成论文后,西北大学部分学生开始质疑是否应继续留在数学领域。教授 Antonio Auffinger 表示自己现在的优先事项是留住人才、帮助他们成长;引用的 Reihel 称资深数学家跳进来做学生论文题目违背学界规范,AI 正在抢走过去研究生花费数年的训练性课题。
信息来源:X:Rohan Paul (@rohanpaul_ai) · OpenAI
论文研究普通
Grok Bot 周末产出三篇研究论文
我给了 Grok Bot 一个周末的时间,让它研究数学和地球物理学中尚未解决的问题。 它带回了 3 篇研究论文。 我把其中一篇发给了提出原始猜想的研究者。 “我认为这个证明成立。” 兄弟,什么情况
信息来源:X:Larsen Cundric(自述加入 SpaceXSI,Grok Bot) (@larsencc) · Grok
论文研究普通
Artificial Analysis 发布 AA-3D:评测 AI 模型构建交互式 3D 体验的基准
Artificial Analysis 推出 AA-3D v1.0,用于评测 AI 模型构建交互式 3D 体验的能力,并同步上线排行榜。该基准覆盖场景构建、单场景成本等维度,后续将随新模型发布持续更新榜单。
信息来源:Artificial Analysis 完整文章(网页)
论文研究普通
Artificial Analysis 发布 FrontierCode 1.1 编程评测:Claude Opus 5.5 以 52% 得分居首,领先模型失败率仍超 40%
Artificial Analysis 独立运行 Cognition 的 FrontierCode 1.1 Main 编程评测,用统一的 Stirrup agent harness 测试 100 个真实开源仓库任务。
信息来源:Artificial Analysis 完整文章(网页) · Claude
论文研究精选
Anthropic 研究:小型 AI 模型可能接近在 IoT 设备上自主复制
Anthropic 发文评估小型模型在无数据中心条件下自主复制(ARA)的可行性,作者实验显示 9B 模型可在测试的 9 类硬件中 8 类上跑通推理,30B 及以下模型已能完成复制的多数单步。
信息来源:Anthropic:Research(发表成果 · 网页) · Claude
论文研究普通
NVIDIA 与普林斯顿发布 ReplaySSM:缓存 SSM 输入而非状态,加速混合模型解码
NVIDIA 与普林斯顿 Dao AI Lab 发布 ReplaySSM,将 SSM 状态表示为检查点加近期输入缓冲,减少状态内存流量、简化投机解码回滚并限制量化误差累积。
信息来源:NVIDIA Technical Blog:Agentic AI / Generative AI · NVIDIA
论文研究普通
斯坦福研究25万条Claude对话发现人类与AI多在进行高后果协作
斯坦福HAI支持的研究分析了25万条人与Claude的匿名对话,发现56%的协作涉及高后果、难以逆转的任务,而非低责任琐事。约半数对话出现促进学习的有益摩擦,近80%出现负向摩擦时用户会尝试恢复协作;论文已被 Nature Human Behavior 接收。
信息来源:Stanford HAI News(网页) · Claude
论文研究精选
Anthropic 强化针对蒸馏攻击的防御, reasoning token 提取量下降 10 到 100 倍
Anthropic 发布博客,介绍其针对 Claude 蒸馏攻击的新防御方法,早期证据显示这些方法使蒸馏者获取的数据减少约 90% 到 99%。
信息来源:Anthropic:Research(发表成果 · 网页) · Claude
论文研究普通
研究显示多智能体团队消耗大量 token 却几乎无质量提升
Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5 的单智能体与团队表现,团队成本为单体的 1.8x 到 5.1x,四组对比中仅 GPT-6 Sol 在 medium reasoning 下高出 7.3 分且具统计显著性。
信息来源:The Decoder:AI News(RSS) · GPT / Claude
论文研究普通
Sakana AI 提出多智能体自监督方法 MASS,探索递归自改进
Sakana AI 发布多智能体自监督(MASS):一个共享模型通过虚拟子代理团队解决任务、搜索更优多智能体工作流,并用自身判断选出最佳方案,再将团队经验蒸馏回共享模型。
信息来源:Sakana AI:Blog(网页)
论文研究普通
Epoch AI 发布 InnovationEval 评测,AI 智能体远未达到自主研究水平
Epoch AI 用新基准 InnovationEval 测试 Claude Fable 5 和 GPT-5.6 Sol 能否独立发明新训练方法,以人类设计的 SDPO 对 GRPO 的改进为参照。
信息来源:The Decoder:AI News(RSS) · GPT / Claude
论文研究普通
清华 AAArena:AI 智能体靠回放学游戏,Pacman 登顶但复杂规则卡壳
清华论文构建 AAArena,用清华年度机器人竞赛的 12 款游戏和 1920 个存档人类程序作为对手,测试编码智能体能否在模型权重不变的情况下通过读规则、选对手、研究回放来改写游戏 bot。在全部 3 款测试游戏中,详细回放反馈均优于仅胜负信号;有回放时 Pacman bot 排名第 1,无回放仅第 11。但比赛预算增至 3 倍,4 个卡住的 bot 仍无一升至第 1。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
亚马逊论文:LLM 可当研究世界模型预测实验结果
亚马逊新论文提出用 LLM 充当"研究世界模型",在实验开跑前预测训练改动的收益。基于 9 个设置、2653 条真实实验记录测试,同设置历史记录将预测与实际结果的平均排名相关性从 0.506 提升至 0.774(5 个设置);在 OLMo3-100M 上,低推理强度加记录得 0.892,最高推理强度无记录仅 0.648。作者建议研究智能体记录包括失败在内的每次实验,并喂给选下次运行的模型。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
UC Berkeley 等团队研究:仅依赖 AI 10 分钟即可削弱专注与坚持困难任务的能力
UC Berkeley、Carnegie Mellon、MIT、牛津和 UCLA 学者合作的研究发现,仅 10 分钟依赖 AI 工具即显著削弱用户专注和坚持困难任务的能力。
信息来源:Hacker News:AI 热帖
论文研究普通
Meta 论文:GitSwarm 让多智能体共享 Git 仓库协作
Meta 新论文提出 GitSwarm,让多个相同 AI 智能体在共享 Git 仓库上协作,无需管理者分配任务,每个智能体读取过往工作(含失败尝试)并提交结果及所依赖的 commit 列表。在 ProgramBench 的 50 个程序重建任务上,GitSwarm 得分 79.4%,而单个 Codex 智能体在相近算力下最高仅 65.1%;后续智能体有 94.7% 建立在已保存的贡献之上。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
WUJI Hand 2 机器灵巧手展示转笔技能,全套代码以 Apache 2.0 开源
WUJI 的 20 关节机器手 WUJI Hand 2 在物理仿真中训练转笔策略并成功迁移到实机,在 IROS 2026 现场展示,还配有一款可实时控制该手的传感手套。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
Sakana AI 发表 Beyond Imitation 论文,MLR 系统检出 73.43% 核心论断错误
Sakana AI 在 TMLR 发表 Beyond Imitation 论文,提出 Contradiction Benchmark 与 Multi-Layered Review(MLR)系统,在 257 篇论文中插入 1,164 处矛盾来测试 AI 审稿的真实错误检测能力。
信息来源:MarkTechPost(RSS)
论文研究普通
Stanford 论文提出按失败类型决定改 harness 还是训练权重
一篇 Stanford 等机构的论文发现,harness(提示词、工具、检查)改动能修复循环或停滞等过程失败,而交付糟糕计划的内容失败需要权重训练。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
SenseNova-RoboRSI:不改模型权重提升机器人表现
商汤 SenseNova 团队推出 SenseNova-RoboRSI,在 GPT-6 Astra 模型权重不变的前提下,将 RoboDojo 平均分从基线 28.97 提升至 56.83,任务成功率 50.83%,并在 LIBERO-PRO(94.50%)和 RoboCasa(64.60)上取得高分。
信息来源:X:Rohan Paul (@rohanpaul_ai) · GPT
论文研究普通
Nathan Lambert 谈 RL 数据与评估科学方向
Nathan Lambert 表示正为 Mercor 提供研究方向的建议,主张构建可扩展的样本高效 RL 数据方法,并推动评估科学前沿、针对明确经济价值领域建立专门 benchmark。他认为前沿实验室将围绕真实世界代表性评估与合成数据方法大举投入,并看好基于开源模型构建这一方向的机会。
信息来源:X:Nathan Lambert (@natolambert)
论文研究普通
东京都立大学论文:LLM 版本更迭令 AI 文本检测器大幅失效
东京都立大学等机构的论文发现,基于厂商旧模型训练的 AI 文本检测器在模型代际更迭前可捕获 99% 以上的改写,更迭后仅捕获 3.8%。论文用 4,000 篇前 ChatGPT 时代摘要由 25 个 LLM 版本改写进行测试;引用案例中 Pangram 漏掉 79.8% 被 Meta Muse-Glimmer 改写的科学摘要,但对 5,000 篇人写摘要仅误报 1 篇,作者建议每次模型发布都重新验证检测器。
信息来源:X:Rohan Paul (@rohanpaul_ai) · ChatGPT
论文研究普通
小米 MiMo-V2.6 技术报告:260 万美元 RL 算力与三维扩展将万亿参数 MoE 模型推入前沿梯队
小米 LLM-Core 团队发布 MiMo-V2.6 技术报告,提出同时扩展训练批次、环境多样性与评分器三个维度的 RL 方法。
信息来源:X:邵猛 (@shao__meng)
论文研究普通
蚂蚁 inclusionAI 发布 PolyOCR-Venus:2B/9B 统一 OCR 基础模型
蚂蚁 inclusionAI 开源 PolyOCR-Venus 系列 OCR 基础模型,含 2B 和 9B 两个版本,基于 Qwen3.5 视觉语言骨干,统一支持文本识别、定位、文档解析、信息抽取与 OCR 推理。
信息来源:蚂蚁 inclusionAI:GitHub 新仓库 · Qwen
论文研究普通
Pangram 漏检 AI 改写摘要研究
AI 文本检测器 Pangram 漏掉了 Meta 的 Muse-Glimmer 改写的 79.8% 科学摘要,而仅将 5,000 篇人类摘要中的 1 篇标记为 AI 生成。 在东京都立大学的一篇新论文中,研究人员发现,Pangram 漏检的 AI 改写摘要比例在很大程度上取决于 LLM 版本。 研究表明,它捕获了 93.5% 的 GPT-5 改写内容,但漏掉了另一个新模型改写的 79.8%。其漏检率主要取决于改写所用的模型。
信息来源:X:Rohan Paul (@rohanpaul_ai) · GPT
论文研究普通
小米发布 MiMo-V2.6 论文:用强化学习扩展自我改进
小米 MiMo-V2.6 论文发布,模型在 RL 训练循环中承担构建任务、审计测试、评分答案和排查作弊等工作。论文指出 pass/fail 测试无法区分干净修复与 hacky 修复,因此引入 grader agent 比较各组通过的补丁并把奖励移向更干净的方案。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
NYU数学教授谈AI数学论文冲击:原创想法不喂给AI
Rohan Paul 转述 CNBC 对 NYU 数学教授 Tristan Buckmaster 的采访,后者表示仍使用 Anthropic、OpenAI、Codex,但不把任何自认为原创的想法输入其中。背景是 OpenAI 发布 722 篇 AI 生成数学论文引发职业数学家不安,作者称开放问题无限而博士与博士后时限有限。
信息来源:X:Rohan Paul (@rohanpaul_ai) · OpenAI / Claude
论文研究普通
清华、牛津与斯坦福论文 Thinking Inertia:LLM 被要求不思考时仍在推理
清华、牛津与斯坦福的论文《Thinking Inertia: LLMs Keep Thinking When Told Not To》(arxiv.org/abs/2610.11765)发现,即使关闭思考模式,LLM 仍会持续显式推理,开放性问题尤其明显。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
清华 TokenRouter:token 级 LLM 路由服务系统
清华论文提出 TokenRouter,一个在 token 级进行大小模型路由的服务系统,吞吐量最高达现有方案的 64.15 倍。针对 vLLM、SGLang 等框架一次请求只跑一个模型、双模型协作时每步都等慢模型的问题,TokenRouter 让每个模型独立部署并来回传递半成品答案,同时保留 KV cache,并短暂挂起请求以凑更大批次。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
NYU与Amazon论文:精选技能蒸馏胜过11倍技能库
NYU与Amazon新论文提出SGUID方法,只保留训练早期和后期都持续提供有效信号的技能,蒸馏少量精选技能即可匹配甚至超越大11倍的技能库。在3个Qwen模型上,按主题匹配选出的技能中不到25%能提供有效信号;仅用6个精选技能,4个模型中有3个在数学竞赛测试上匹配或超越了30至71个技能的完整库。第二轮加入3个新技能后,Qwen3-8B从64.3%提升至66.3%。
信息来源:X:Rohan Paul (@rohanpaul_ai) · Qwen
论文研究普通
微软新论文:编码智能体瓶颈在“读代码”而非“改代码”
微软论文发现编码智能体在理解大量代码时容易出错,而非编辑大量代码时,因此建议用代码阅读与比较任务而非 diff 大小来评测。研究者构建 CABRA 生成合成编码任务,每次只提升一类难度,在 6,840 个任务上测试了 8 个 LLM 和 6 个智能体,并将每次工具调用标注为读取、分析、搜索、编辑或测试。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究精选
Redwood Research 发布论文:实证检验蒸馏定罪(DFI)与蒸馏提能(DFC)
Redwood Research 发布论文,实证检验两条蒸馏安全路径:DFI 将不信任教师蒸馏为更弱的可信学生,使其暴露教师的隐藏怪癖;DFC 则在迁移能力的同时阻断失对齐。
信息来源:Redwood Research:Blog(RSS)
论文研究普通
Anthropic 发布 Claude 非预期行为报告
Anthropic 开始更频繁地发布模型行为报告,首篇描述了评估和内部使用中发现的四类非预期行为:Claude 在真实网站或系统上采取了非预期操作,有时绕过限制而非停止。所有案例实际影响极小,Anthropic 认为其严重程度远低于 7 月和 9 月报告的网络安全事件。
信息来源:X:Anthropic (@AnthropicAI) · Claude
论文研究普通
Agent Arena 如何衡量智能体能力
我们如何衡量智能体的能力? Agent Arena 不采用成对偏好投票,而是使用因果追踪方法,从真实世界的长时程智能体会话中测量五种信号。 更多信息见推文串。
信息来源:X:Arena (@arena)