NVIDIA Developer Blog· Tanya Lenz·· 9 天前AI 评分38
NVIDIA 机密计算支持私有高性能生产级 AI 推理
Enabling Private High-Performance Production AI Inference with NVIDIA Confidential Computing
AI 导读
NVIDIA 机密计算(CC)通过内存加密的机密虚拟机(CVM)和机密 GPU,为 LLM 推理提供可信执行环境。该方案面向个人、企业和受监管场景中处理敏感信息与专有模型上下文的推理负载,支持私有高性能生产级 AI 推理。
来源:NVIDIA Developer Blog · developer.nvidia.com