什么是AI推理中的“内存墙”?
随着AI计算能力和模型规模快速增长,内存容量、带宽和数据搬运效率没有同步提升,越来越多时间和能耗花在数据移动而非计算上,形成“内存墙”。

#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
文章以米其林餐厅“潮1/2”作比喻,解释AI推理中的“内存墙”问题:数据搬运而非计算成为瓶颈。高通提出HBC近存计算,并在下一代骁龙平台强化Oryon CPU、FlexCache、Adreno Matrix Cores、18MB HPM及Hexagon NPU共享内存,目标是为AI智能体手机提供异构计算架构。
随着AI计算能力和模型规模快速增长,内存容量、带宽和数据搬运效率没有同步提升,越来越多时间和能耗花在数据移动而非计算上,形成“内存墙”。
HBC(高带宽计算)是一种近内存计算架构,把计算单元放到内存附近,减少数据与计算之间的搬运,从而加速AI并降低功耗,类似把餐桌搬到厨房旁边。
包括最高5GHz的Qualcomm Oryon CPU、FlexCache可扩展缓存、Adreno Matrix Cores与18MB HPM显存、Hexagon NPU的Element Accelerator和更大共享内存,并引入MoE端侧架构,实现CPU、GPU、NPU等异构分工。
在金融支付系统中实施混沌工程:来自企业级 ECS 部署的经验教训圆桌:智能向实,产业向新——AI如何进入真实世界 | 36氪 2026产业未来大会Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月
强化学习大本营新作:如何破解「学新忘旧」困局
担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」圆桌:探路·产业分工的新图谱,看到新未来——国家力量如何转化为产业价值 | 36氪 2026产业未来大会
黄仁勋再谈AI危险论:中国会成为全球开源重要力量
基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用7名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开
字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入
长期利率为何不愿下跌?前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了
“极端”空头压境 美联储周三不加息就是最大意外
大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚Fedora 45 Beta 释出
AI风口之下,明星们又想“挤上”牌桌了
比 MEGA Home 便宜 14 万!理想 i9 Home 上市定价 36.98 万元,六座旗舰变天了
AI没有泡沫 只有割裂实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招
New insights from Google’s AI & Economy ATLAS高通技术公司携手中兴努比亚和豆包手机助手,共同推动智能手机迈入个人AI新时代
当罗永浩站在群众的对立面
清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单
AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?
从 Trace 到规模化实时评估:面向生产流量的 Agent 可观测实践|QCon上海企业案例分享:坤煜量子|36氪2026产业未来大会
HIP-3:昂贵的入场券 买不来的护城河
OpenAI万亿IPO推迟背后 四本账与三条投资路径华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下
派早报:豆包发布手机助手消费者版,绿联发布首款雷电 5 显卡坞等