NVIDIA Developer Blog· Michelle Horton·· 2026-08-26AI 评分42
NVIDIA Dynamo 推出 Shadow Engine Recovery 预览功能，秒级恢复 LLM 推理容量
Restore LLM Inference Capacity in Seconds with Shadow Engine Recovery in NVIDIA Dynamo
AI 导读
NVIDIA Dynamo 新增预览功能 Shadow Engine Recovery，可在 LLM 引擎进程故障后数秒内恢复推理容量，替代需从存储加载权重到 HBM、编译 kernel 并捕获 CUDA graphs 的冷重启流程。大模型冷启动初始化通常耗时数分钟，期间存活 worker 需承接转移流量。
来源：NVIDIA Developer Blog · developer.nvidia.com