NVIDIA：如何在 AI 负载上线前验证 GPU 集群就绪状态
NVIDIA 指出 GPU 集群即使所有 GPU、网络链路和 pod 均报告健康，512-GPU 训练任务仍可能性能不达标或失败，原因可能是单块 GPU 变慢、链路在负载下降级或配置悄悄将流量导向更慢路径。这类问题往往要到训练运行数小时后才被发现。
全部AI与科技动态
全部动态
今日 27 条NVIDIA Developer BlogAI 评分2222
NVIDIA Developer BlogAI 评分3838 NVIDIA 机密计算支持私有高性能生产级 AI 推理
NVIDIA 机密计算（CC）通过内存加密的机密虚拟机（CVM）和机密 GPU，为 LLM 推理提供可信执行环境。该方案面向个人、企业和受监管场景中处理敏感信息与专有模型上下文的推理负载，支持私有高性能生产级 AI 推理。
NVIDIA Developer BlogAI 评分2222 NVIDIA Topograph：拓扑感知的 GPU 工作负载调度
NVIDIA 推出 Topograph，用于拓扑感知的 GPU 工作负载调度，解决放置不当导致拓扑域碎片化、流量被迫走共享链路的问题。该方案针对功耗受限的 AI 工厂，可避免吞吐下降与作业成本上升，并减少 GPU 空耗电力等待数据的情况。
NVIDIA Developer BlogAI 评分3636 NVIDIA Dynamo-Triton 集成 TensorRT 多设备推理，支持单网络跨多 GPU 运行
NVIDIA 在 Dynamo-Triton 中集成 TensorRT 多设备推理，让单个 TensorRT 网络借助 NCCL 分布式集合通信跨多块 GPU 执行，同时保留 TensorRT 的推理优化。该能力自 TensorRT 11.0 起获得完整支持，用于应对生成式 AI 超出单 GPU 的算力与显存需求。
NVIDIA BlogAI 评分4040 NVIDIA 推出 DSX Ready 认证计划，为 AI 工厂筛选供电与冷却产品
NVIDIA 推出 DSX Ready 认证计划，用于审核合作伙伴产品是否符合 NVIDIA DSX AI 工厂参考设计要求，首批覆盖电池储能系统（BESS）和冷却分配单元（CDU）两类。
NVIDIA NewsroomAI 评分2222 NVIDIA 埃及 AI 生态进入规模化落地阶段
NVIDIA 在埃及大埃及博物馆举办活动，展示当地 AI 生态从能力建设走向生产规模，其 Deep Learning Institute 埃及学员基数一年增长超十倍。
NVIDIA NewsroomAI 评分2727 NVIDIA 为何称规模化部署物理 AI 需要全栈安全体系
NVIDIA 发布 Halos 全栈安全系统，覆盖物理 AI 从硬件、软件到 AI 行为与部署验证的每一层，用于自动驾驶与机器人。ABI Research 预计 2035 年 L3-5 自动驾驶汽车保有量达 4900 万辆，Omdia 估计 2026 至 2035 年间约 6000 万台工业机器人将部署。
NVIDIA Developer BlogAI 评分4242 NVIDIA TensorRT Edge-LLM 在 Jetson AGX Thor 上以 6.4 倍速度完成 MLPerf Edge Agentic Benchmark
NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic Benchmark，速度提升 6.4 倍。该方案面向从云端数据中心迁移到车辆、机器人等边缘设备的 AI 智能体，针对其多步骤工具调用、结果评估与长对话推理带来的边缘推理新需求，实现快速 token 生成。
NVIDIA Newsroom精选AI 评分6767 NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1，吞吐最高达 GB300 NVL72 的 3.7 倍
NVIDIA 在 MLPerf Inference v6.1 首次提交 Vera Rubin NVL72 预览结果，在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍，在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由：MLPerf v6.1 首次提交数据给出 Vera Rubin NVL72 相对 GB300 的吞吐提升与 99% 扩展效率，可据此判断推理基础设施的性价比走向。
NVIDIA NewsroomAI 评分4040 NVIDIA 如何用 DSX 平台把 AI 工厂从兆瓦变成 Token
NVIDIA 在 AI Infra Summit 上公布 DSX MaxLPS 的首个部署验证：Lambda 在 5 机架 19 节点 HGX B200 集群上，用 16 节点的功耗跑出 24% 的 token 吞吐提升，从约 400 万 tokens/秒升至 500 万，每瓦性能提升 23%。
NVIDIA Developer BlogAI 评分2222 NVIDIA NVLink 6 如何为 AI 工厂提供多层弹性
NVIDIA 详解 NVLink 6 如何为大规模 AI 工厂提供多层弹性。在超大规模 AI 训练中，集群内每块 GPU 每秒需完成数千次集合通信操作以同步梯度；推理阶段非计划停机则直接减少请求处理总量，限制营收。
NVIDIA Developer BlogAI 评分2828 NVIDIA Groq 3 LPX 确定性执行如何为 NVIDIA Vera Rubin 带来高能效高交互推理
NVIDIA 详解 Groq 3 LPX 的确定性执行如何在 NVIDIA Vera Rubin 平台上驱动高交互、高能效推理。文章指出，AI 工厂的核心约束是功耗，因此每瓦性能而非原始吞吐量才是衡量 AI 平台价值的最终标准。Vera Rubin 平台正是围绕这一目标设计。
NVIDIA Developer BlogAI 评分3030 NVIDIA 全栈 NIM 优化如何让 Nemotron 3 Ultra 多承载 2.5 倍用户
NVIDIA 通过全栈 NIM 优化，让 Nemotron 3 Ultra 在相同 GPU 基础设施上可服务的并发用户数提升 2.5 倍，同时保持应用交互响应。该优化针对智能体 AI 负载中提示词长、上下文跨步骤复用等特点，在生产部署中平衡并发量与交互性。
NVIDIA Developer BlogAI 评分2525 CUDA Toolkit 13.4 新增 Windows on Arm 支持并强化共享 GPU 控制
NVIDIA 发布 CUDA Toolkit 13.4，新增 Windows on Arm 平台支持，此前 CUDA 应用在 Arm 平台仅通过 Linux 提供支持。该版本还增强了对共享 GPU 的控制能力，并延续每个版本在功能与性能上的改进。
Samsung Newsroom精选AI 评分6262 三星与 ASML 扩大 High NA EUV 合作，推进 12 英寸光罩与 DRAM 制造
三星电子与 ASML 宣布扩大长期战略合作，深化 High NA EUV 光刻与先进半导体制造技术协作。三星将加入推动下一代 12 英寸光罩技术的行业计划，取代沿用数十年的 6 英寸光罩格式，以提升晶圆厂产能、降低芯片制造成本并消除拼接限制。三星还计划在 2028 年前首次将 ASML 的 High NA EUV 引入 DRAM 大规模量产。
推荐理由：三星与 ASML 扩大 High NA EUV 合作并推动 12 英寸光罩，可了解先进制程与 DRAM 制造路线的下一步。
NVIDIA Developer BlogAI 评分5050 NVIDIA 推出 CUDA Rust：两条路径编写 GPU 内核
NVIDIA 宣布推出 CUDA Rust，为 Rust 提供两条编写 GPU 内核的路径，并计划将其持续发展和成熟至 2027 年及以后。CUDA C++ 与 CUDA Python 已是成熟的企业级工具链，CUDA Rust 面向推理引擎、服务基础设施、驱动和智能体运行时等频繁变化的 AI 系统层。
NVIDIA Developer Blog精选AI 评分6262 NVIDIA NVLink Fusion 将 NVHBM 引入下一代 AI 基础设施
NVIDIA 发布 NVLink Fusion，为下一代 AI 基础设施带来 NVHBM。原文指出，AI 工厂需支撑越来越大的模型和更复杂的推理负载，超大规模厂商与 AI 原生公司正在开发自研 AI 加速器 XPU，而规模化部署这些加速器需要高带宽内存（HBM）以及足够的封装和硅面积来支撑更多算力。
推荐理由：NVIDIA 官方介绍 NVLink Fusion 如何把 NVHBM 引入下一代 AI 基础设施，可了解其面向 XPU 的互连与内存思路。
NVIDIA Developer BlogAI 评分4242 NVIDIA Dynamo 推出 Shadow Engine Recovery 预览功能，秒级恢复 LLM 推理容量
NVIDIA Dynamo 新增预览功能 Shadow Engine Recovery，可在 LLM 引擎进程故障后数秒内恢复推理容量，替代需从存储加载权重到 HBM、编译 kernel 并捕获 CUDA graphs 的冷重启流程。大模型冷启动初始化通常耗时数分钟，期间存活 worker 需承接转移流量。
NVIDIA Developer BlogAI 评分2222 NVIDIA Spectrum-X Ethernet 如何改写 Giga-Scale AI 网络规则
生成式 AI 推动分布式模型训练扩展至数十万块 GPU，节点间的 scale-out 网络成为首要性能瓶颈。NVIDIA 指出，传统商用 Ethernet 虽长期主导企业与云网络，但已难以支撑这一规模。Spectrum-X Ethernet 被定位为针对 Giga-Scale AI 的网络方案。
NVIDIA Developer BlogAI 评分4242 NVIDIA Vera Rubin 与 Blackwell 为智能体 AI 每瓦性能树立新标准
NVIDIA 称 Vera Rubin 与 Blackwell 为智能体 AI 的每瓦性能树立新标准。OpenRouter《State of AI》报告基于 100 万亿 token 的真实使用数据发现，平均每请求提示词 token 量增长约四倍，反映 AI 智能体推理已从单轮交互扩展为多步工作流。
NVIDIA Developer Blog精选AI 评分6262 NVIDIA Groq 3 LPX 如何在 Vera Rubin 上实现长上下文超快交互
NVIDIA 介绍 Groq 3 LPX，这是面向 NVIDIA Vera Rubin 平台的交互式 AI 推理加速器。平台核心是 NVIDIA Vera Rubin NVL72，覆盖从小模型到大模型、开源与闭源在内的广泛 AI 工作负载，兼顾高吞吐与交互性；Groq 3 LPX 与 Vera Rubin NVL72 搭配可扩展该平台的能力。
推荐理由：原文说明 Groq 3 LPX 与 Vera Rubin NVL72 的搭配方式，读者可了解长上下文交互推理的硬件组合思路。
NVIDIA Developer BlogAI 评分4242 NVIDIA BlueField-4 为智能体 AI 工厂提供新型 Scale-In 网络基础设施
NVIDIA BlueField-4 面向智能体 AI 工厂提供新型 Scale-In 网络基础设施，用于支撑每服务器多太比特带宽下的线速网络、存储与安全处理。传统云基础设施面向可预测的通用工作负载和标准接口设计，而智能体 AI 工厂需连接多样用户、智能体、应用、数据源与存储系统至大规模加速计算，因此专用 DPU 处理成为必需。
NVIDIA Developer BlogAI 评分2222 NVIDIA DSX MaxLPS 如何最大化 AI 工厂每瓦性能
NVIDIA 发布 DSX MaxLPS，用于提升 AI 工厂的每瓦性能。AI 工厂是受功耗约束的工业系统，对 AI 推理负载而言，应用层每瓦性能已成为衡量 AI 工厂效率的关键指标，因为配电、冷却等环节会消耗部分功耗，并非每兆瓦都能转化为产生收入的算力。
NVIDIA Developer BlogAI 评分2222 NVIDIA Vera CPU 如何解决智能体 AI 集群难题
NVIDIA 指出，智能体 AI 负载高度不可预测且波动大，与传统计算稳定的运行时特征不同。在 AI 工厂中，GPU 负责运行模型，CPU 则承担编排、工具执行与沙箱计算，集群经济性取决于整栈将电力与资本转化为已完成智能体任务的效率。