AI 论文与研究
整理大模型、智能体、多模态、机器学习与生成式 AI 的论文、基准和研究进展。
分类文章4506
当前页31 / 113
持续更新永久归档
分类文章
按发布时间从新到旧 · 每页 40 条
论文研究普通
通过模型路由与协作实现集体偏见缓解(CBM)
研究者提出 Collective Bias Mitigation(CBM)框架,通过细粒度建模不同 LLM 的行为并促进模型间知识共享来缓解偏见,是该领域首个系统探索如何选择与组织不同 LLM 以生成更公平回答的工作。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
递归自我重写(RSR):用 Qwen-3.8-27B 将多框架经验重构为通用训练轨迹
研究提出 Recursive Self-Rewrite(RSR)框架,用单一基座模型 Qwen-3.8-27B 在多种 harness 下发现解法,再由 planner、critic、executor 重构为通用 harness 下的训练轨迹。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
用 MoE 路由器实现 Decoder-Only 模型的跨语言对齐
研究者提出用 MoE 路由器的输出作为跨语言对齐目标,替代在隐藏状态上加辅助对齐损失,因为路由器输出更适合对大量 token 做池化,从而在序列级别实现更可靠的跨语言比较。在四个开源 MoE 模型上的受控持续预训练实验显示,加入该路由损失不仅让底层隐藏表示跨语言对齐,还提升了多语言评测表现。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Queen:会下棋并解释走法的 4B 参数语言模型
研究团队推出 Queen,一个 4B 参数的棋类语言模型,能在达到典型特级大师水平的同时解释自己的走法和计划。该框架结合静默棋类编码器与指令微调 LM 的交叉注意力架构,并用迭代蒸馏算法训练,七轮迭代后 Elo 从 1782 提升至 2697,超过 900 分。其棋力和解谜准确率大幅超越所有前沿模型,参数量却少三个数量级,解释的连贯性接近 GPT-5.6-Sol (high)。
信息来源:HuggingFace Daily Papers(社区热门论文) · GPT / Hugging Face
论文研究普通
CUAWright 论文提出以 bash 为唯一操作接口的极简终端智能体框架
论文提出 CUAWright,一个约 3K 行代码的极简终端 harness,以 bash 命令为唯一动作接口,用文件系统动态创建工具并管理上下文。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ADSD:通过自动诊断与技能发现训练数值智能
研究者提出 Auto-Diagnosis and Skill Discovery(ADSD)框架,先解释数值求解器表现不佳的原因,再据此发现合适的数值方法,并将知识打包为可复用的求解器技能。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
NAVA-WAM:从纯观测视频原生预训练动作先验的世界动作模型
NAVA-WAM 提出原生动作先验学习,直接用纯观测视频预训练动作策略,跳过间接的表示到控制迁移或独立的 latent action 模型。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ID-Forcing:让自回归视频扩散模型在测试时生成分钟级长视频
针对自回归视频扩散模型长视频生成中的漂移问题,研究者提出测试时框架 In-Distribution Forcing(ID-Forcing),通过 self-caching 机制让每个 chunk 缓存时不关注先前的 KV 条目,从源头避免 OOD KV 条目,使滚动窗口保持严格同分布。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PointWAM:面向灵巧机器人操作的 3D 世界动作建模
PointWAM 将世界拆解为场景与手部,在统一时空坐标系中以 3D 点轨迹联合预测二者演化,再把预测的手部运动重定向为机器人动作。在人类视频上预训练使 DexJoCo 平均成功率提升 56.9 个百分点,场景轨迹监督在仅预测手部的基础上再增 10.9 个百分点。两者结合后,PointWAM 在十项 DexJoCo 任务上超越此前 SOTA 11.7 个百分点,并在真实机器人上优于强 VLA。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
语言判别能力提升多语言语音模型的语言学习效果
Apple 研究团队发现,在预训练中强化语言判别能力可缩小多语言语音模型与单语言模型的差距。在英语/法语 HuBERT 对照实验中,双语基线 phone-ABX 错误率从 11.6% 降至 10.4%(单语言为 10.8%),sWUGGY 从 52.1% 升至 56.7%,ProsAudit 词汇子任务从 68.9% 升至 72.9%。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
研究揭示 LLM Agent 在搜索中按来源偏好选择物品及其缓解方法
一项研究测试 12 个 agent 模型在三个领域的端到端搜索,发现各模型都对某些来源表现出偏好和回避,且总体一致。这种偏好可压过物品本身满足需求的程度,当来自偏好来源的物品少满足一条要求时仍约三分之二的情况被选中,反向情况则几乎不会;隐藏来源信息会削弱偏好,重新标注为偏好来源会提高选中率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
学习潜在蛋白质语言用于自回归生成
研究提出两种学习型潜在蛋白质语言:PLL 基于冻结的 ESM-2 编码器将序列映射为 4,096 状态的上下文词表,SLL 则改造 GCP-VQVAE Lite 并保留骨架坐标解码。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
DEPICT:用答案一致性为文本到图像对齐打分
DEPICT 是一种免训练的文生图对齐评估指标,用图像侧与纯文本侧答案之间的期望一致性替代固定参考答案,并按文本对问题的决定程度加权,将否定项准确率从 19% 提升至 88%。该方法还将一致性得分与整体得分融合,以找回分解验证中丢失的上下文。在五个基准、三个模型家族的十一个骨干上评测,DEPICT 超过所有免训练指标,并在三个与人类相关性基准中的两个上超过微调评估器。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
语言模型需要可训练输入嵌入表吗?1.7B 级规模下用固定最小 token 编码
研究用相同 tokenizer、骨干网络和训练配方从零训练三个 1.7B 级 decoder-only 模型,对比可学习嵌入表、标准 16-bit token-ID 编码和 GF(2) 上固定可逆重编码三种输入接口。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
科学领域终端环境的自监督扩展:SWR 框架用 500 个工作流训练终端智能体
研究者提出 software-in-the-loop reconstruction(SWR)自监督框架,从现有科学软件工作流中自动获取参考输出与验证目标,无需为每个任务手工编写参考解。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Periscope:让冻结语言模型突破上下文窗口限制的无训练推理方法
Periscope 是一种免训练推理方法,将文本切成 N 个 chunk 排成 K×K 网格,让冻结模型对局部与跨段 span 回答同一问题,用单个 token 的 log-odds 打分,并以 s^1.5 成本让 W token 窗口覆盖 W²/c token 文本。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
SEER:面向时间序列预测的自进化事件推理与检索框架
SEER 是一个闭环框架,通过将预测误差转化为两种解耦反馈机制来动态优化事件条件:反思式检索记忆用于精炼搜索查询并过滤噪声,持久因果知识库用于蒸馏可迁移的领域动态。该框架在事件检索与反思中强制严格时间边界,防止前视偏差和数据泄漏。在六个高波动时间序列基准上,SEER 持续优于 SOTA 时间序列基础模型和语言模型基线。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
FOVEATED:用聚焦视图提升非结构化知识编辑中的原子事实召回
针对非结构化知识编辑中"上下文依赖"导致的原子事实召回失败,研究者提出即插即用框架 FOVEATED,通过随机偏移前文上下文 key 的 RoPE 位置构造聚焦视图,编辑时施加扰动、推理时移除,不改变模型原生位置编码。该框架在五种知识编辑器、两个 LLM 主干和三个基准上均取得一致提升。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
MIT CSAIL 与 Google 推出 InstructMesh:可修复 AI 生成 3D 模型再打印
MIT CSAIL 联合 Google 和东北大学推出 InstructMesh,将微软 TRELLIS 的 3D 生成能力与 GPT-4 的推理能力结合,用户可用自然语言标注并修改 AI 生成的 3D 设计后再打印。
信息来源:MIT News(RSS) · GPT
论文研究普通
Epoch AI 发布 ChatGPT 使用探索器
这些趋势来自一个自我选择的用户样本。数据未经加权处理,不代表美国成年人或 ChatGPT 整体用户的人口结构。 阅读我们的完整报告:https://epoch.ai/latest/introducing-the-chatgpt-usage-explorer 自行探索数据:https://epoch.ai/data/chatgpt-usage
信息来源:X:Epoch AI (@EpochAIResearch) · ChatGPT
论文研究普通
Epoch AI 分析 ChatGPT 用户数据
元数据由 @YouGov 提供,后者从其美国小组成员中随机选取了 ChatGPT 用户。所有消息文本在共享前均已移除。 解读时有两个关键注意事项:用户是主动选择共享其历史记录的,且在样本抽取时,这些用户在 2026 年至少使用过一次 ChatGPT。
信息来源:X:Epoch AI (@EpochAIResearch) · ChatGPT
论文研究普通
Epoch AI 收集 5000 名 ChatGPT 用户使用数据并推出 usage explorer
Epoch AI 收集了 5000 名 ChatGPT 用户的使用模式元数据,并在新的 ChatGPT usage explorer 中公开。数据历史覆盖 2022 年 12 月至 2025 年 12 月,显示该用户群体随时间推移对 ChatGPT 的使用强度不断提高。
信息来源:X:Epoch AI (@EpochAIResearch) · ChatGPT
论文研究普通
Qwen3.8-27B 聊天模板影响推理分数
ARC Prize 通过 Baseten 测试 Qwen3.8-27B,发现其自带聊天模板会按推理档位注入不同指令:low 要求思考简短聚焦,xhigh 要求仔细思考、检查假设并考虑替代方案,medium 则不加任何指令。这可能解释了 medium 档得分偏低——这些设置改变的是模型解题的指令方式,而非单纯扩大思考预算。
信息来源:X:ARC Prize (@arcprize) · Qwen
论文研究普通
Meta 分支式智能体 harness 优化,数学提升 34.8%
Meta 提出将智能体 harness 优化拆分为多个分支的搜索方法,每个分支保留自身优于其他分支的开发用例、丢弃所有分支已解决的用例,并基于历史重写自己的提案策略,再由路由器为新输入选择分支。
信息来源:X:DAIR.AI (@dair_ai)
论文研究普通
Microsoft 论文 Coding Agents are Strong Prompt Optimizers:让编码 Agent 分析日志优化提示词
Microsoft 论文提出 Coding-Agent Skill Distillation(CASD),把 agent 的已有日志交给普通编码 agent 写代码做语料级统计,识别重复失败模式并生成优化后的系统提示词,无需迭代回滚。
信息来源:X:Rohan Paul (@rohanpaul_ai)
论文研究普通
One Basis to Animate Them All: Gaussian Blendshape Distillation for Real-Time Avatars
3D Gaussian avatars support fast rendering, however, their real-time animation is often challenged by the costly neural inference. We address this bottleneck and show that the animation of pretrained avatar models can be closely approximat…
信息来源:arXiv
论文研究普通
KaliBench: A Fine-Grained Benchmark for Cybersecurity Tool Use on Kali Linux with Runtime-Free Verifiable Rewards
LLMs are increasingly applied to cybersecurity workflows, where they are expected to translate analysts' intent into tool invocations. However, existing evaluations focus on knowledge-based assessments or end-to-end agentic tasks, and do n…
信息来源:arXiv
论文研究普通
Reconstruct, Practice, Go Real: Guided Self-Improvement for Embodied Agents
Building reliable robot capabilities across diverse tasks requires substantial human effort to develop and maintain skills, design rewards, and integrate perception with control. We present Reconstruct, Practice, Go Real (RPG), a framework…
信息来源:arXiv · GPT
论文研究普通
Embedding Prediction Helps Image Generation
In diffusion transformers, a class label or a text prompt is embedded once, and the same condition is reused at every denoising step. We ask whether predicted embeddings can serve as this condition instead. Next-Embedding Predictive Autore…
信息来源:arXiv
论文研究普通
ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New Research
What makes great scientists great? Even as AI systems start to make progress on open problems, scientists remain far ahead of them at sensing which prior idea, buried in an ever-growing archive of research, a new problem needs. To study th…
信息来源:arXiv · Claude
论文研究普通
SILSA: Sliding-Window Slice Latents for Topology-Preserving High-Resolution 3D Generation
High-resolution 3D generation increasingly relies on voxel latents and multi-stage pipelines that first predict active structure and then synthesize local geometry. While effective, this design fragments continuous surfaces into many local…
信息来源:arXiv
论文研究普通
VISTA: A Visual Harness for Reasoning in an Interactive World
We show that multimodal models possess strong reasoning abilities and that an appropriate harness can unlock their potential to solve tasks across diverse interactive environments. We introduce VISTA, a visual harness that gives a general-…
信息来源:arXiv · Claude
论文研究普通
TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning
Full-parameter fine-tuning of large language models (LLMs) incurs substantial optimizer state memory overhead, limiting the model sizes that fit on modern GPUs. Existing approaches either compress optimizer state, abandon first-order gradi…
信息来源:arXiv
论文研究普通
FERPO: Forward Entropy-Regularized Policy Optimization
Several state-of-the-art methods for online reinforcement learning in continuous control improve policies using action gradients of a learned critic. However, critics are typically trained to predict returns, and accurate value predictions…
信息来源:arXiv
论文研究普通
Hierarchical Continuous Diffusion Language Models
Discrete diffusion language models offer a compelling alternative to autoregressive generation for tasks demanding bidirectional reasoning and global constraint satisfaction. Yet they share a structural bottleneck: when decoding in paralle…
信息来源:arXiv
论文研究普通
Cost-augmented Schrödinger bridges on graphs are exactly solvable: a Feynman-Kac tilt replaces learned control
The generalized Schrödinger bridge on a graph moves mass between two distributions while charging a cost for the states visited. It has been approached by learning the rates of a controlled continuous-time Markov chain, with a temporal-dif…
信息来源:arXiv
论文研究普通
The Missing Primitive: Diagnosing and Repairing Mathematical Reasoning in Large Language Models
While Large Language Models (LLMs) have demonstrated striking capabilities on frontier mathematical problems, it remains unclear whether they possess the structural mathematical understanding underlying their solutions. In this paper, we t…
信息来源:arXiv
论文研究普通
Trust the Direction, Search the Step: Zero-and-First-Order Methods for LLM Fine-Tuning
Step-size selection remains a central challenge in large-scale neural network optimization; conservative steps slow convergence, while aggressive steps can destabilize it. We combine \textbf{Z}ero-and-\textbf{F}irst-\textbf{O}rder optimiza…
信息来源:arXiv
论文研究普通
Generative modeling of intrinsically disordered protein regions by reinforcing sparse autoencoder features
Intrinsically disordered protein regions (IDRs) play central roles in cellular processes such as transcriptional regulation, signal transduction, and subcellular localization, yet their functional design remains challenging. Structure-base…
信息来源:arXiv
论文研究普通
DMAD: Distribution Matching as Adversarial Distillation for Fast Visual Generation
Distribution Matching Distillation (DMD) trains a few-step student from the difference between separately estimated target and student scores, so it must keep an auxiliary diffusion model fitted to the student's evolving distribution at ex…
信息来源:arXiv