NVIDIA Halos：为何规模化部署物理 AI 需要全栈安全

NVIDIA 提出 AI 安全本质是工程问题，需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体可控范围之外强制执行策略并提供沙箱执行，Cisco DefenseClaw 在其上增加治理层，JFrog 则集成 OpenShell 扫描和验证智能体技能。

NVIDIA 在 AI Infra Summit 上公布 DSX MaxLPS 的首个部署验证结果：Lambda 在五机架 19 节点 HGX B200 集群上，用原本 16 节点的电力预算跑 19 节点，集群 token 吞吐提升 24%，从约 400 万 tokens/秒升至 500 万，每瓦性能提升 23%。

一家大型儿童医院利用开源 NVIDIA AI 开展心脏护理。文章以该医院为例，讲述其在心脏诊疗场景中采用 NVIDIA 开源 AI 技术的实践。

全球Robotaxi市场预计2035年达4000亿美元、超600万辆商业车辆运营，目前所有商业规模项目均运行在NVIDIA模块化技术栈上。该栈由三台计算机组成：DGX负责模型训练，Omniverse与Cosmos在RTX PRO服务器上做仿真验证，DRIVE Hyperion 10搭载双DRIVE AGX Thor提供车内计算。

AI 推理芯片厂商 d-Matrix 宣布采用 NVIDIA NVLink Fusion，将其下一代 Raptor XPU 接入 NVIDIA AI 基础设施平台。

NVIDIA 发布教程，讲解在 Jetson 上部署新一代开放推理模型的方法，以 Nemotron 3.5 Lightning 和 Qwen3.8-27B 为例。

本教程演示如何用 NVIDIA SkillSpector 评估 AI 技能的安全态势，构建包含干净、风险、恶意及 MCP 示例的合成技能市场，并通过 LangGraph 检查流水线扫描每个技能。

该教程基于 NVIDIA cuTile Python 实现了分块 GPU 内核编程工作流，在 Colab 环境中配置 GPU、驱动、CUDA 及 cuTile 可用性后，分别构建了 tiled 向量加法、矩阵加法和矩阵乘法核函数，并以 PyTorch 作为回退保持 notebook 可执行。每一步均通过 PyTorch 验证结果正确性，并基准测试了各阶段的中位运行时间。

本文是 PyTorch profiling 系列的开篇，从最简单的矩阵乘法加偏置操作出发，逐步讲解如何使用 `torch.profiler` 进行性能分析。涵盖 profiler 设置、导出统计表格与 Chrome trace、解读 CPU 和 GPU 活动的时序关系，以及 `torch.compile` 对底层 CUDA kernel 调用链的影响。实验基于 NVIDIA A100-SXM4-80GB GPU 运行，面向基本掌握 PyTorch 但缺乏 profiling…

与 NVIDIA 合作，在 DGX Spark 上通过 SGLang 成功支持 GPT-OSS 20B 与 120B 模型，实现 20B 版本约 70 tokens/s、120B 版本约 50 tokens/s 的生成速度，达到目前最优水平。用户可通过 Docker 部署 SGLang 服务，接入 Open WebUI 实现本地聊天，或借助 LMRouter 转换请求格式以完全本地化运行 Claude Code。该方案使在 DGX Spark 上部署多百亿参数本地编码智能体…