边缘 AI 设计的隐藏挑战:为何峰值 NPU TOPS 不是关键
边缘 AI 设计的真正瓶颈不在峰值 NPU TOPS,而在内存带宽、延迟、功耗预算、安全与数据搬运。芯片设计周期比搭载它的产品上市早一年以上,模型与工作负载却持续演进,迫使架构师转向异构计算、可编程数据通路、可扩展内存与软硬件协同设计。
边缘 AI 设计的真正瓶颈不在峰值 NPU TOPS,而在内存带宽、延迟、功耗预算、安全与数据搬运。芯片设计周期比搭载它的产品上市早一年以上,模型与工作负载却持续演进,迫使架构师转向异构计算、可编程数据通路、可扩展内存与软硬件协同设计。
边缘 AI 正从数据中心走向消费、工业、汽车和医疗设备,在本地完成推理以降低延迟并改善安全与隐私。Siemens EDA 的 Sathish Balasubramanian 指出,手表 ECG 监测、锅炉压力控制单元、汽车 lidar 与摄像头、手术机器人手臂都属于边缘设备。
芯片设计瓶颈已从逻辑综合与布局布线转移到功能验证,验证如今占芯片开发工作量的 60–70%。定制 ASIC 的工程投入估计超过 1000 个工程月,且从设计到流片至少需要两年。LLM 被视为缓解这一人力密集环节的关键技术。
西门子 EDA 技术与战略顾问 Dr. Jim Shiely 提出 Manufacturing Intelligence,主张将物理理解与制造观测系统性转化为可信的制造干预,而非停留在生成更多仿真与量测数据。