NVIDIA Newsroom· Vishal Ganeriwala·· 16 天前AI 评分40
NVIDIA 如何用 DSX 平台把 AI 工厂从兆瓦变成 Token
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI 导读
NVIDIA 在 AI Infra Summit 上公布 DSX MaxLPS 的首个部署验证:Lambda 在 5 机架 19 节点 HGX B200 集群上,用 16 节点的功耗跑出 24% 的 token 吞吐提升,从约 400 万 tokens/秒升至 500 万,每瓦性能提升 23%。
来源:NVIDIA Newsroom · blogs.nvidia.com