NVIDIA Technical Blog 发布于 09/16 00:55

How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera Rubin

(翻译)NVIDIA Groq 3 LPX 确定性执行如何在 NVIDIA Vera Rubin 上实现高能效高交互性推理

查看原文

资讯摘要

Power is a defining constraint for AI factories. As AI workloads demand a full compute platform to serve them, each component of that platform must maximize…

AI 摘要

文章介绍 NVIDIA Vera Rubin 平台以每瓦性能为核心优化 AI 工厂功耗,其中 Groq 3 LPX 通过确定性执行模型,让编译器在运行前生成精确到时钟周期的执行与数据搬运计划,据此预测电流需求曲线,并结合 Preemptive Power 与 Clock Period Synthesis 缩小电压保护带,把更多电力用于实际 AI 计算。

AI 问答

Groq 3 LPX 的确定性执行模型是什么?

LPU 编译器在任务运行前就能安排每份数据移动到哪个计算单元、何时执行,精确到时钟周期,并覆盖机架内全部 256 颗 LPU 芯片。

PEP 和 CPS 两项技术分别起什么作用?

PEP 让芯片提前指令供电网络调整输出电压,使需求到来前电压已在变化;CPS 可缩短或拉长个别时钟周期,降低电流上升速率 di/dt。

为什么缩小电压保护带能提升能效?

保护带并不直接驱动 AI 负载,而功耗与电压平方成正比,多供 10% 电压会多耗约 21% 功耗,缩小保护带可让更多电力用于计算。

打开原文

更多资讯

梁文锋CFO到位!投过智谱MiniMax量子位 · 09/15 21:53美国军方首次证实在太空部署了武器Solidot · 09/15 16:07被用了几千年的铜,怎么突然成了AI时代的新宠?果壳网 · 09/16 16:15产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人36氪 · 09/16 10:12AI不断进步 不得不把才华埋葬在昨天金色财经 · 09/15 10:14New insights from Google’s AI & Economy ATLASGoogle AI Blog · 09/15 21:00我和我的 AI 手机吃了 3 顿饭爱范儿 / APPSO · 09/16 12:042人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?人人都是产品经理 · 09/16 10:20差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20量子位2026人工智能年度榜单,正式启动!量子位 · 09/16 12:16科学家演示水下太阳能电池Solidot · 09/15 15:3036氪项目新势榜:不看包装,只看项目真实进展36氪 · 09/15 19:18黄仁勋再谈AI危险论:中国会成为全球开源重要力量金色财经 · 09/16 17:23前高通算法研发经理跨界AI算力板检测,获近亿元战略投资丨36氪首发36氪 · 09/15 09:30别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?人人都是产品经理 · 09/15 11:32GPT-6 Astra实现具身智能突破 中国如何打具身防卫战金色财经 · 09/16 14:58Stella:“显化”想要的人生,60天35万美元月收入人人都是产品经理 · 09/16 14:09从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43主题演讲:破界·量子计算迈向产业深水区——量子计算的下一公里|36氪2026产业未来大会36氪 · 09/15 15:49Meta 打造“组织第二大脑”智能体的设计思路InfoQ 中文 · 09/15 19:21从 270 分钟到 18 分钟:B 端产品经理如何主导一个 AI 达人撮合系统人人都是产品经理 · 09/16 09:37GPT-6 Astra 之后,产品经理需要重新设计人在流程中的位置人人都是产品经理 · 09/16 09:10具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性少数派 · 09/15 15:00日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35加密行业今年最重要的一天 可能就是明天金色财经 · 09/15 14:16谁在给我们制造 AI 焦虑金色财经 · 09/15 20:38特朗普“一再让步”:美国加密法案仍未过关金色财经 · 09/16 17:18手机替我跑了一整套流程!我就说了一句话,AI执行了100步量子位 · 09/15 20:47圆桌:探路·产业分工的新图谱,看到新未来——国家力量如何转化为产业价值 | 36氪 2026产业未来大会36氪 · 09/15 17:39