用几条命令在 NVIDIA DGX Spark 上运行边缘 AI 模型

NVIDIA KGMON 团队在 KDD Cup 2026 Data Agents 竞赛获得第二名，并发布构建可靠数据分析智能体的方法复盘。

NVIDIA 介绍如何用 AI Cluster Runtime（AICR）为 Dynamo 构建经过验证的 Kubernetes 运行时，将 Dynamo 及 GPU Operator、KAI Scheduler、Grove、Prometheus 等依赖打包成带固定版本与校验的 recipe。

NVIDIA 技术博客介绍在 DGX Spark 上加速 Ling-3.0-flash 推理的三种优化：Humming MXFP4 MoE 内核、LM head 在线 FP8 量化、以及用 NEXTN 做 MTP 投机解码。

NVIDIA 技术博客介绍如何用 AI 智能体教 Microduck 机器人在仿真中学会越障行走：Hermes 和 Nemotron 3.5 Bolt 在 RTX Spark 上把提示词转为项目计划。

NVIDIA 技术博客介绍西门子如何用 NeMo Gym 评估和改进 Solido Characterization Suite 智能体在标准单元特征化中的可靠性。

NVIDIA 发布 cuDF skills for Apache Spark，用 AI Agent 把 Spark UDF 自动改写为 GPU 加速版本，几分钟内完成测试、基准到集成。

NVIDIA 在 Megatron Core 中降低比特级确定性预训练的开销，并以万亿参数 Nemotron 模型为案例验证。该方案提供独立可复现与比特级断点续训两项保证，通过逐步指纹比对训练损失、梯度范数等指标定位首个不一致步骤，并借助从迭代到 kernel 的渐进式追踪排查分歧来源。

NVIDIA 发布教程，演示如何用 NeMo Relay 追踪 Hermes Agent 的 harness 行为：运行终端工具与文件加网页研究两个示例，通过 ATOF、ATIF 和 OpenTelemetry 三种格式的 trace 检查模型与工具调用、错误、重试、耗时和 token 消耗，并结合任务验证结果评估 harness 改动。

NVIDIA 发布 TensorRT Model Connect 开源项目复盘，该项目用 C++ 提供 AI 模型参考实现，截至 2026 年 7 月 29 日公开发布对比时已覆盖 128 个模型家族并在 NVIDIA GB300 上测试。

NVIDIA 技术博客讲解 dense 与 MoE 架构在参数激活、吞吐和部署上的差异，以 Nemotron 3.5 Lightning 为例说明 MoE 每词元仅激活约 3B 参数、总参数 30B 仍需约 60 GB 显存。文章给出按显存预算、并发、微调和量化需求选型的建议，并对比 Gemma 4 31B、Qwen3.8-27B、Mistral Small 4 等模型的输出速度与价格数据。