NVIDIA Developer Blog· Tanya Lenz·· 15 天前AI 评分25
NVIDIA Groq 3 LPX 确定性执行如何推动 NVIDIA Vera Rubin 上的高能效高交互性推理
How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera Rubin
AI 导读
NVIDIA Groq 3 LPX 通过确定性执行,在 NVIDIA Vera Rubin 平台上实现兼顾高能效与高交互性的推理。针对电力成为 AI 工厂核心限制的现状,Vera Rubin 平台旨在有限功耗预算内最大化产出,将每瓦性能而非单纯吞吐量作为衡量 AI 平台价值的关键指标。
来源:NVIDIA Developer Blog · developer.nvidia.com