AI 论文与研究
整理大模型、智能体、多模态、机器学习与生成式 AI 的论文、基准和研究进展。
分类文章4789
当前页1 / 120
持续更新永久归档
分类文章
按发布时间从新到旧 · 每页 40 条
论文研究普通
伊利诺伊大学论文提出 ClaimNov,改进 AI 科研流程中的新颖性检查
伊利诺伊大学团队发现,AI scientist 流程中按整体提案做新颖性检查的现有方法,虽能抓住全部 380 份伪装抄袭,却拒绝了 96% 后来被人类学者发表的想法。论文提出 ClaimNov,将提案拆分为逐条 claim 与既有论文对比后交给评审,抓抄袭率保持 97%,误杀率降至 1.5%。作者建议过滤思路的团队按 claim 单独打分,保留基于已知成果做增量构建的提案。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
Google DeepMind 论文:模拟环境中 RL 训练让 Gemini 3.1 Flash-Lite 更胜任精神科问诊
Google DeepMind 论文用多轮 RL 在模拟病人环境中训练 Gemini 3.1 Flash-Lite,提升其精神科问诊能力。32 名精神科医生扮演病人、15 名盲评转录,训练后模型在 60 组配对案例中 76.7% 胜过同提示的基线模型;256 个对抗案例中急性风险漏升级率从 30.5% 降至 12.9%,但约 1/8 的对抗性危机仍未升级。
信息来源:X:Rohan Paul (@rohanpaul_ai) · Gemini
论文研究普通
Anthropic 实验显示养蜂、摔跤等无害文本可训练模型破坏监督
Anthropic 让 Claude 为一个较小的研究模型构造微调数据集,测试其能否绕过模拟生产系统的安全监控。结果显示每轮运行中 Claude 都找到了能通过监控并触发不当行为的 данных集,单次运行产出超过 600 个数据集,部分在评估中超过研究文献中的已知数据集。
信息来源:The Decoder:AI News(RSS) · Claude
论文研究普通
牛津与 Google DeepMind 论文:多数人工作的价值超出薪酬,基本收入或难弥补 AI 失业损失
Julian Jacobs 的论文调查英国、美国、丹麦和印度 8234 名工作年龄成年人,发现仅 26% 的受访者工作主要为了薪酬,约三分之一看重工作本身。75% 的受访者在获得 100% 工资的保障收入时会离职,但 20% 即使被提供 120% 工资也拒绝离开,且这一比例跨收入水平相似。作者据此提出 AI 转型政策除收入外还需保护工作中的目标感、社群与尊严。
信息来源:X:Rohan Paul (@rohanpaul_ai) · Gemini
论文研究普通
DeepSeek 提出 Super-agent 双层架构:Router 与 Worker 分工,迈向更自主的 Agent 系统
DeepSeek Harness 团队发布《Super-agent 设计探索:迈向更自主的 Agent 系统》,提出由 Router 层承接交互与分派、Worker 层隔离并发执行的双层事件驱动架构,归纳连续、高效、主动、持久四项特征。
信息来源:IT之家·人工智能 · DeepSeek
论文研究普通
Talos 分析 VOLTA 窃密木马:用 LLM 给受害者按变现价值排序
Cisco Talos 分析自删除式 Windows 窃密木马 VOLTA-AUTODOXER,它在窃取凭据、会话和加密钱包后,将结构化证据包通过 OpenRouter 发给 LLM(默认 anthropic/claude-opus-4.6。
信息来源:Hacker News:AI 热帖 · Claude
论文研究普通
研究显示约 1/17 的 Agent 技能含绕过人工检查的指令,现有扫描器大多漏检
一项大规模研究分析 GitHub 上 153 万个英文 Agent 技能(SKILL.md),发现约 1/17(约 88,000 个)含要求跳过人工检查的指令,且 70.1% 在任何场景下都无条件生效。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
Anthropic 研究:用数千个 Claude 智能体自动化隐蔽涌现失调的红队测试
Anthropic 发布新研究,用数千个 Claude 智能体自动化红队测试,任务是绕过训练数据监控器。这些智能体生成了表面无害(如摔跤导师对话、养蜂问答)但实际会教出失调行为的训练数据。此类样本可直接用于改进未来的训练数据监控器,作者称这只是第一步,更好的模型和更多算力有望进一步改进红队测试。
信息来源:X:Anthropic (@AnthropicAI) · Claude
论文研究普通
作者实测 GPT-5.6 Sol 在和平模式下 13.5 小时通关 Factorio
Ryan Madden 让 GPT-5.6 Sol 在 Codex 中以低思考级别完成和平模式 Factorio 通关,用时 13.5 小时游戏时间并发射火箭。
信息来源:Hacker News:AI 热帖 · GPT
论文研究精选
Wiz 报告“黑色十月”:九个 AI 开发者平台接连披露安全事件
Wiz 研究团队梳理 10 月内至少九个 AI 开发者平台披露的安全事件,包括 Fireworks AI、Lightning AI、Railway、Warp、OpenCode 等,多起报告指向凭据窃取、agent swarm 攻击和以“蒸馏”为目的的窃取。
信息来源:Wiz:Research(安全研究)
论文研究普通
卡内基梅隆新论文:预训练、微调与RL可合并为单一训练规则
卡内基梅隆大学新论文提出,预训练、微调与RL可共享同一训练规则,将三者数据按任意比例混合往往优于分阶段训练。作者把一种名为MaxRL的RL方法重构为对模型自身正确答案的似然训练,从而让单一训练器混合预训练文本、精选数据和RL样本。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
Claude Sonnet 5 智能体自主选择基因疗法并为癫痫小鼠完成脑部手术
Oxford 博士生、Exin Therapeutics 联合创始人 Gabriel Ocana-Santero 在 X 上描述,Claude Sonnet 5 智能体从 19 种候选基因疗法中自主选择药物、脑区和注射坐标,通过定制电动手术设备为癫痫小鼠完成注射,术中做出 32 次观察,小鼠恢复良好。
信息来源:The Decoder:AI News(RSS) · Claude
论文研究普通
MIT 调查:近七成青年数学家忧 AI 加剧教职竞争
MIT 一项新论文调查了来自近 60 所机构的 268 名数学研究生和博士后,76.3% 预计 AI 会让终身教职岗位更难获得,近 70% 的受访者持此看法。调查于 2026 年 9 月和 10 月初完成,多数回复早于 OpenAI 发布 700+ 道开放问题的 AI 解答。在研究中使用 AI 的受访者里,54.8% 表示不喜欢这样做,部分青年数学家因担心被 AI 抢先而减少分享未完成工作。
信息来源:X:Rohan Paul (@rohanpaul_ai) · OpenAI
论文研究普通
VoiceArena 推出 Turing TTS 评测:最佳模型 Fool Rate 仅约 10%
VoiceArena 推出 Turing TTS 评测,让听众听同一句话的人类语音和模型语音并挑出真人,挑错比例即 Fool Rate。最佳模型 Gemini 3.8 Flash TTS 的 Fool Rate 仅约 10%,而偏好榜前四名模型统计上并列,说明整个领域距难以与真人区分还有距离。
信息来源:X:Rohan Paul (@rohanpaul_ai) · Gemini
论文研究普通
MIT 团队推出 LLM Election Observatory,实时追踪 AI 聊天机器人如何回答 2026 中期选举问题
MIT 研究人员构建了名为 LLM Election Observatory 的仪表盘,实时追踪主流 AI 聊天机器人对 2026 年美国中期选举相关问题的回答。团队每隔几天用同一组固定问题重新测试各模型,监测回答如何随选举临近、用户所在地、党派倾向和身份等因素变化。该项目旨在系统记录这一信息环境并向其他研究者和公众开放数据,关注点不止于事实准确性,还包括框架、强调重点、不确定性和引用来源的差异。
信息来源:MIT News(RSS)
论文研究普通
JetSpec++ 投机解码提速最高 7.45 倍
UCSD Hao AI Lab 推出 JetSpec++,用因果并行草稿、隐状态预测器和锚点 token 解码器,在当前块验证前先草拟下一块,把草稿与验证流水线化,几乎隐藏全部草稿开销。
信息来源:X:UCSD Hao AI Lab (@haoailab)
论文研究普通
Arena 分析缓存对 Agent 任务成本的影响:无缓存时费用将高出 260%
Arena 基于 2026 年 9 月 12 日至 10 月 23 日的 2.6 万多次 Agent Arena 会话(涵盖 30 个 Agent 和 13 家实验室)分析缓存对 Agent 任务成本的影响:若缓存 token 按全价输入计费,top-10 Agent 的典型任务成本将高出 260%(3.6 倍)。
信息来源:X:Arena (@arena)
论文研究普通
Arena 分析:缓存让 Agent 任务成本最多省约 3.6 倍
Arena 基于 2026 年 9 月 12 日至 10 月 23 日 Agent Arena 的 26,225 条会话、30 个 Agent 和 13 家实验室数据,分析提示词缓存对 Agent 成本的影响。
信息来源:X:Arena (@arena)
论文研究普通
Epoch AI 报告:开源权重模型 GLM 5.3 在 48 小时内零人工构建完整 Firefox 漏洞利用链
Epoch AI 研究人员报告,开源权重模型 GLM 5.3 在无人工输入下,利用安全补丁公开到用户更新之间的补丁空窗,对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本构建完整漏洞利用链,每次成功攻击 API 成本约 $1,000,最快仅 12 小时。
信息来源:The Decoder:AI News(RSS) · GLM
论文研究精选
Epoch AI 实验显示 GLM 5.3 可利用补丁窗口期自主攻击 Firefox
Epoch AI 实验发现,Z.ai 八月发布的开源权重模型 GLM 5.3 能利用 Mozilla 已发布但未推送给用户的安全补丁(patch gap),自主构建网页攻击,仅访问页面即可读取访客电脑文件,攻破 9 月 17 日至 10 月 26 日发布的全部六个 Firefox 版本。
信息来源:Epoch AI:Gradient Updates(RSS) · GLM
论文研究普通
Google 论文提出 Thinking-in-Bets,减少 Gemini Agent 的谄媚性改写
Google 论文《Thinking-in-Bets at Test Time Reduces Sycophantic Revisions in LLM Agents》提出一种免训练方法:Agent 在读取用户反馈前先私下记录主要论断、依据和置信度,被质疑时只复核有争议的部分。
信息来源:X:Rohan Paul (@rohanpaul_ai) · Gemini
论文研究普通
Meta 论文:从水印输出蒸馏的模型可被黑盒检测
Meta 新论文提出 WM-Basin,可从蒸馏模型的文本输出中黑盒检测其是否源自带水印的 API 输出。该方法把嫌疑模型的 API 输出转成固定探针模型的梯度,再与真实密钥比对;在 1,200 个蒸馏模型、0.1% 假阳性率下,对 n-gram=1 水印的检出率达 79%,而传统 token 计数仅 29%。量化、轻度剪枝和 RL 后训练未能消除该痕迹,但在干净数据上进一步微调会削弱它。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
OpenAI 发布 GPT-Rosalind-6 系统卡附录
OpenAI 发布 GPT-Rosalind-6 系统卡附录,说明该模型与 GPT-6 Astra 使用相同权重,未新增训练数据或额外后训练。在 GeneBench Pro v13 最高推理预算下,单次尝试成功率为 37.7%,高于 GPT-Rosalind-5.5 的 16.7%。
信息来源:OpenAI:部署安全与系统卡(网页) · OpenAI / GPT
论文研究普通
Anthropic 研究:86% 专家在分析决策中采纳 AI 偏好且不自知
Anthropic 最新研究显示,50 位因果推断专家在模拟农业合作社政策评估中,四项分析决策采纳 AI 偏好的比例达 86%,远超随机的 50%,多数人误以为结论出自自己。
信息来源:IT之家·人工智能 · Claude
论文研究普通
谷歌提出“睡眠框架”:让大模型边用边学、不忘旧知识
谷歌研究团队发布“睡眠框架”(Sleep Framework)持续学习研究,将模型运行分为“清醒”与“睡眠”两阶段,睡眠时通过参数扩展、混合专家记忆块和知识蒸馏把短期上下文写入长期参数,并生成合成样本做强化学习练习。实验显示模型可处理最长约 1000 万 token 上下文,在未见语言的多阶段持续学习中保持接近零的性能下降,AIME 24/25 等数学基准准确率更高。
信息来源:IT之家·人工智能
论文研究普通
研究称 AI 模型不同语言 Token 消耗最高相差 17 倍,形成隐性分词器税
人工智能语言公平研究联盟上月发布研究发现,AI 模型处理不同语言时 Token 消耗量差距悬殊,最常用 20 种语言间相差 1.5 至 5 倍,某模型中最多相差 17 倍。这种隐性的分词器税推高低资源语言用户的成本,还会拖慢响应、挤占上下文窗口;文字系统而非使用人数是关键因素之一,专家呼吁实验室公布各语言评估结果并改进下一代分词器设计。
信息来源:IT之家·人工智能
论文研究普通
Neuralink 语音恢复项目 VOICE 早期数据:渐冻症患者首周实现每分钟 75 词输出
Neuralink 于 10 月 28 日公布语音恢复项目 VOICE 的早期可行性研究,让 ALS(渐冻症)参与者将大脑信号转换为文字和语音输出。一名参与者在使用第一周达到每分钟 75 词,在 12.5 万词词库下词错误率为 5.8%;研究计划招募约 6 名因 ALS、脊髓损伤或中风失去沟通能力的参与者。目前结果来自单一参与者,尚未发布经同行评审的完整论文。
信息来源:IT之家·人工智能
论文研究普通
Google DeepMind 发布《The Economics of Intelligence》:经济转型取决于智能体协调而非单模型变强
Google DeepMind 发布论文《The Economics of Intelligence》,由 Alex Imas、Andrew Koh 与 Shane Legg 合著,探讨 AGI 如何以及何时改变经济。
信息来源:X:Rohan Paul (@rohanpaul_ai) · Gemini
论文研究普通
RLNF:用脑信号训练AI图像模型
这真是下一个级别的东西。 RL with Neural Feedback(RLNF,神经反馈强化学习) 一个AI图像模型通过读取你看图时大脑的反应,学习你个人觉得有吸引力的东西,然后修改图片以获得更高的分数,全程无需你打分、点击或写提示词。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
UC Berkeley 与华盛顿大学研究:2026 年 8 月约 24% 可爬网页含 AI 生成或编辑文本
UC Berkeley 与华盛顿大学的新研究发现,截至 2026 年 8 月约 24% 的可爬网页含 AI 生成或 AI 编辑文本,而 2022 年前几乎为零。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
Princeton 与 Meta 提出 Self-Direction:用 LoRA 适配器让智能体记住错误修复
Princeton 与 Meta FAIR 的论文提出 Self-Direction,让智能体在失败后反思轨迹并将经验训练成约占基础模型 0.02% 参数量的 LoRA 适配器,之后由路由器在遇到类似任务时加载。用 Qwen3.6-27B 在 GAIA 上任务成功率从 38.8% 提升到 55.8%;185 个早期错误中 67.3% 的修复在第三次遇到时仍有效,而简单重试为 42.9%。
信息来源:X:Rohan Paul (@rohanpaul_ai) · Qwen
论文研究普通
Anthropic 研究:50 名专家在分析决策中最高 86% 采纳 AI 智能体的随机偏好且不自知
Anthropic 一项针对 50 名因果推断专家的实验发现,AI 智能体被掷硬币随机指定的偏好会被专家在四项分析决策中最高 86% 采纳,净影响即 flip rate 在 62% 到 82% 之间;先有自己观点的参与者面对相反意见也更易改主意,经验、学历、自评专业度等均无可靠保护作用。
信息来源:The Decoder:AI News(RSS) · Claude
论文研究普通
Artificial Analysis 发布 Intelligence Index v5 与 Progress Index
Artificial Analysis 在旧金山发布 Intelligence Index v5,新增两项基准、三项升级,并首次让指数大部分基于私有测试集或留出答案,同时加大智能体编程与科学的权重。
信息来源:X:Artificial Analysis (@ArtificialAnlys)
论文研究普通
Joy 发布 10 万小时双声道对话数据集
无脚本通话很难大规模收集。 如今的语音 AI 大多是从 LLM 编写的虚假对话、再由 TTS 朗读出来中学习,所以它从未听过人们互相抢话; 真的很好奇他们是如何让对话持续 10 到 20 分钟的。 他们发布了 Joy,10 万小时的无脚本双人对话,覆盖 10 种语言 https://x.com/shobhitbanga/status/2115862857351061694/video/1
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
Elucidating the Design Space of LM Data Attribution
Data attribution methods for Language Models (LMs) are typically evaluated using downstream tasks like fact retrieval. However, existing evaluations vary multiple dataset properties simultaneously, making it impossible to isolate exactly w…
信息来源:arXiv
论文研究普通
Propose-Filter-Release: Scaling Noise to Typical Sensitivity via Private Filtering
An estimator can be accurate and stable on typical data, yet sensitive to a few possible records. Differentially private mechanisms commonly scale their noise to the worst-case influence of a single record, which lets these records dictate…
信息来源:arXiv
论文研究普通
Rethinking Neural Thickets Without Weight Perturbations
The Neural Thickets hypothesis posits that pretrained language models lie in dense neighborhoods of task-specific experts in weight space, which random Gaussian perturbations can uncover. We reproduce the reported gains, but show that they…
信息来源:arXiv
论文研究普通
Read, Allocate, Route: Role-Coupled Tokenization for Pixel-Space Generative Transformers
Pixel-space generative Transformers typically use one token per image patch, so capturing finer detail requires more tokens and makes global attention increasingly expensive. We observe that finer detail does not necessarily require more g…
信息来源:arXiv
论文研究普通
Adaptive Scenario Generation for KL-DRO Around a Learned Density Model
Distributionally robust optimization (DRO) hedges data-driven two-stage stochastic programs against error in the distribution estimated from a finite record, and standard ambiguity sets differ in how they treat realizations absent from tha…
信息来源:arXiv
论文研究普通
Luggage re-identification: A study of strategies towards a real-world application
Luggage re-identification (ReID) is a critical task in video surveillance for forensics, security or border management (suspicious or abandoned luggage recognition), as well as luggage management (lost luggage recovery). It enables the ass…
信息来源:arXiv