用 NVIDIA Nemotron 开源模型打造万圣节鬼屋 MonsterHouse

NVIDIA NeMo AutoModel 是基于 Transformers v5 的开源库，添加 Expert Parallelism、DeepEP 融合 all-to-all 调度和 TransformerEngine 内核。在 MoE 模型微调中，相比原生 v5，训练吞吐量提升 3.4–3.7 倍，GPU 内存减少 29–32%，仅需改动一行 import。在 16 节点 128 张 H100 上全微调 Nemotron 3 Ultra 550B A55B 时，v5 …

Hugging Face 在 OpenClaw 仓库上测试用 Gemma 和 Qwen 等本地模型实时分类 issue 和 PR。他们使用 Pi agent harness 驱动模型，配合 reposhell 只允许读操作防止提示词注入。测试的模型包括 gemma-4-26b-a4b 和 qwen3.6-35b-a3b，经性能优化后均可在本地生成数百 token/s。该方案运行在 NVIDIA GB10（128 GB 统一内存）上，相比每月 200 美元的 ChatGPT …

NVIDIA Cosmos Predict 2.5 是一个 2B 参数的世界模型，可根据文本、图像或视频片段生成物理合理的视频。通过 LoRA 或 DoRA 在 DiT 的注意力层（to_q, to_k, to_v, to_out.0）和前馈层注入可训练适配器，冻结全部基座权重，在单个 80GB GPU 上即可完成参数高效微调，避免了全量微调的高成本与灾难性遗忘。该流程使用 diffusers 和 accelerate 库，利用 92 个机器人操作视频训练集与 50 个 (…

本文面向使用开源框架的机器学习工程师，阐述了AWS如何为大规模基础模型的全生命周期提供核心基础设施。其核心是三大紧密集成的组件：配备多代NVIDIA GPU（如H100、H200及新一代Blackwell B200/B300）的大显存加速计算实例；用于集体通信的高带宽、低延迟网络（节点内NVLink与节点间EFA）；以及可扩展的分布式存储。这些基础设施与Slurm/Kubernetes等资源编排系统、PyTorch/JAX等ML框架协同，共同支撑预训练、后训练和推理工作负载…

SemiAnalysis 指出，NVIDIA 收购 SLURM/SchedMD 后对非 NVIDIA 芯片的支持越来越差，AMD 因此自研了竞品 "spur"，在很多方面远优于 SLURM。NVIDIA 当初承诺保持 SLURM 硬件中立，但至今并未兑现。推文由此质疑 Hugging Face 被 NVIDIA 收购后是否会重蹈覆辙。

SemiAnalysis 表示，自 NVIDIA 收购 HuggingFace 后，其一直在研究将部分工作从 HuggingFace 迁移到 ModelScope 等替代方案。作者认为尽管 NVIDIA 宣称将继续保持 HuggingFace 的加速器中立性，但 NVIDIA 在开发硬件无关软件方面记录不佳；同时作者称 ModelScope 的用户体验很出色，并表示希望自己的担忧是错的。

美国企业正加速采用开源 AI 模型。AT&T 今年改用开源模型，占比已从 5 月的 20% 升至 40%，未来或达 60%，相比今年早些时候节省最高 80% 的 AI 成本；Airbnb 和 Deloitte 也在采用。

Thomas Wolf 回应网友提问，确认数字 129303 确实是一个双重彩蛋，隐藏两层含义：一层特定于 Hugging Face，另一层特定于 Nvidia，但他未在推文中说明具体含义。

英伟达以约129亿美元全资收购开源模型仓库Hugging Face，后者年化收入仅约1.5亿美元，从爆料到敲定仅32分钟。Hugging Face拥有300万个模型、100万个数据集、1300万开发者，全球超四成下载量在此流通。黄仁勋意在掌控全球开源AI分发总闸门，应对OpenAI、Anthropic、Google自研芯片对CUDA护城河的冲击。

NVIDIA 构建了自己的编码框架来优化 CUDA GPU 内核，并在 ARC-AGI-3 的 25 个公开游戏中取得了 100% 的分数，解决了全部 183 个关卡。 借助智能体，我们将从一个运行、优化、后训练自己的 AI 模型和内核相当困难的世界，迈向一个几乎人人都能做到的世界。 1 亿 AI 构建者何时到来？