技嘉推出 AI TOP 100 B850 台式整机，支持 RTX 5090 单卡或 R9700 双卡
技嘉发布 AI TOP 100 B850 台式整机，支持 1 张 NVIDIA GeForce RTX 5090 或 2 张 AMD Radeon AI PRO R9700 显卡。
#推理
#推理
今日 1 条IT之家AI 评分4242
NVIDIA Developer BlogAI 评分3636 NVIDIA Dynamo-Triton 集成 TensorRT 多设备推理，支持单网络跨多 GPU 运行
NVIDIA 在 Dynamo-Triton 中集成 TensorRT 多设备推理，让单个 TensorRT 网络借助 NCCL 分布式集合通信跨多块 GPU 执行，同时保留 TensorRT 的推理优化。该能力自 TensorRT 11.0 起获得完整支持，用于应对生成式 AI 超出单 GPU 的算力与显存需求。
NVIDIA Developer BlogAI 评分4242 NVIDIA TensorRT Edge-LLM 在 Jetson AGX Thor 上以 6.4 倍速度完成 MLPerf Edge Agentic Benchmark
NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic Benchmark，速度提升 6.4 倍。该方案面向从云端数据中心迁移到车辆、机器人等边缘设备的 AI 智能体，针对其多步骤工具调用、结果评估与长对话推理带来的边缘推理新需求，实现快速 token 生成。
NVIDIA Newsroom精选AI 评分6767 NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1，吞吐最高达 GB300 NVL72 的 3.7 倍
NVIDIA 在 MLPerf Inference v6.1 首次提交 Vera Rubin NVL72 预览结果，在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍，在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由：MLPerf v6.1 首次提交数据给出 Vera Rubin NVL72 相对 GB300 的吞吐提升与 99% 扩展效率，可据此判断推理基础设施的性价比走向。
NVIDIA Developer BlogAI 评分2828 NVIDIA Groq 3 LPX 确定性执行如何为 NVIDIA Vera Rubin 带来高能效高交互推理
NVIDIA 详解 Groq 3 LPX 的确定性执行如何在 NVIDIA Vera Rubin 平台上驱动高交互、高能效推理。文章指出，AI 工厂的核心约束是功耗，因此每瓦性能而非原始吞吐量才是衡量 AI 平台价值的最终标准。Vera Rubin 平台正是围绕这一目标设计。
NVIDIA Developer BlogAI 评分3030 NVIDIA 全栈 NIM 优化如何让 Nemotron 3 Ultra 多承载 2.5 倍用户
NVIDIA 通过全栈 NIM 优化，让 Nemotron 3 Ultra 在相同 GPU 基础设施上可服务的并发用户数提升 2.5 倍，同时保持应用交互响应。该优化针对智能体 AI 负载中提示词长、上下文跨步骤复用等特点，在生产部署中平衡并发量与交互性。