雷峰网 发布于 08/24 16:41

为什么手机内存进入英伟达机柜后,贵过HBM?

查看原文

资讯摘要

过去长期由HBM主导的AI服务器内存账单,正在被“手机内存”改写。 8月11日,外媒Wccftech援引美国银行(BofA)测算称,英伟达面向Vera Rubin Ultra NVL144的Kyber机柜将配置124.4TB HBM4E,成本约为250万美元;同柜216TB LPDDR5X虽然单价更低,但总成本趋近280万美元,超出前者约12%。

AI 摘要

手机内存LPDDR5X进入英伟达AI服务器后,凭借高带宽低功耗优势取代传统DDR。美国银行测算显示,Kyber机柜216TB LPDDR5X总成本约280万美元,超过124.4TB HBM4E的250万美元。为适配服务器,LPDDR5X被模块化为SOCAMM,但供应紧张导致价格持续上涨,英伟达可能被迫减配内存。

AI 问答

为什么LPDDR5X在英伟达机柜中总成本会超过HBM?

虽然LPDDR5X单价低于HBM,但Kyber机柜中LPDDR5X总容量达216TB,远超HBM4E的124.4TB,导致总成本约280万美元,比HBM4E的250万美元高约12%。

SOCAMM是什么?为什么英伟达会采用它?

SOCAMM是小型压接式内存模块,将LPDDR5X做成可拆卸、可维护的服务器内存模块。相比传统RDIMM,它能提供更高带宽、更低功耗和更小面积,适合在机架总能耗受限的AI服务器中扩展CPU内存。

打开原文

更多资讯

数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14黄仁勋再谈AI危险论:中国会成为全球开源重要力量金色财经 · 09/16 17:23QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24物理 AI 的大结果何时到来?人人都是产品经理 · 09/16 17:25实测豆包新模型2.1-pro,这次审美和长时间Agent任务都追上第一档了人人都是产品经理 · 09/16 17:21英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:38Build an AI-powered product tagging system with Amazon SageMaker serverless model customizationAWS Machine Learning Blog · 09/16 00:11具透 | Liquid Glass 设计改进、性能提升……iPadOS 27 中值得一瞥的新特性少数派 · 09/16 15:00Announcing instance preference lists for Amazon SageMaker AI training jobsAWS Machine Learning Blog · 09/16 00:01云岫资本合伙人宋旭文:量子计算:工程化与产业化并进,拐点将至 | 36氪 2026产业未来大会36氪 · 09/15 18:38长期利率为何不愿下跌?金色财经 · 09/15 18:04清晰法案投票失败 后续还有机会吗?金色财经 · 09/16 14:34WorkBuddy + 美图设计室,在对话框里就能解决办公设计任务?人人都是产品经理 · 09/15 08:57就业率砍半,年轻人靠什么翻盘?AI时代,这三点越早做越好人人都是产品经理 · 09/15 16:12二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?人人都是产品经理 · 09/15 08:53对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04Building AI to accelerate science and improve livesGoogle AI Blog · 09/16 00:00Python 拥抱 RISC-V:CPython 正式纳入 Tier 3 平台InfoQ 中文 · 09/15 22:34渣打给ARB十美元目标价靠什么?金色财经 · 09/16 21:36比 MEGA Home 便宜 14 万!理想 i9 Home 上市定价 36.98 万元,六座旗舰变天了爱范儿 / APPSO · 09/16 23:21强化学习大本营新作:如何破解「学新忘旧」困局雷峰网 · 09/15 10:18从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43圆桌:智能向实,产业向新——AI如何进入真实世界 | 36氪 2026产业未来大会36氪 · 09/15 18:007名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开量子位 · 09/15 10:17特朗普“一再让步”:美国加密法案仍未过关金色财经 · 09/16 17:18语义翻译的操作日常:把”我觉得不对”变成”机器能查”人人都是产品经理 · 09/16 09:52实习生1天消耗1亿Token被约谈:如何衡量Token的ROI人人都是产品经理 · 09/16 14:19豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39月之暗面:网传创始人及员工信息系恶意造谣;OpenAI 放弃今年上市;iPhone Duo炒到9万,黄牛贷款欲囤货|AI周报InfoQ 中文 · 09/16 00:07让 AI 补货,但不让它算库存——LangGraph 在生鲜补货的落地实践人人都是产品经理 · 09/15 10:55