Gisting是什么？
Gisting是Shopify工程团队提出的提示词压缩方法，将冗长的系统提示词压缩为精简的Gist词元集合，以提升推理吞吐量、降低延迟和成本。
Shopify 推出 Gisting 新技术：将大模型系统提示词压缩为主旨词元
资讯摘要
Shopify 工程团队提出 Gisting：将大模型长提示压缩为学习型主旨词元，提升吞吐量、降低推理开销。
AI 摘要
Shopify工程团队推出Gisting技术，将冗长LLM系统提示词压缩为学习型Gist词元集合。在约6000词元的Sidekick GraphQL智能体系统提示词上实现4:1压缩比，首词元时间从438毫秒降至354毫秒，端到端延迟从6.8秒降至4.2秒，吞吐量从20.2 QPS提升至23.4 QPS，且无需修改模型核心权重，能与前缀缓存等优化手段互补。
AI 问答
Gisting如何实现压缩？
通过教师-学生两步蒸馏训练：教师模型基于原始提示词产生对数概率，学生模型基于Gist词元产生对数概率，最小化两者KL散度，训练后将Gist嵌入写入模型嵌入矩阵并注册为特殊词元，推理时无需额外处理。
Gisting的实际效果如何？
在Shopify的Sidekick场景中，系统提示词从约6000词元压缩至1500词元；首词元时间从438毫秒降至354毫秒，端到端延迟从6.8秒降至4.2秒，QPS从20.2提升至23.4，且与前缀缓存等优化互补。
更多资讯
破局产品同质化：长期主义的产品突围之路地平线第1500万颗征程芯片搭载大众 ID. AURA T6，HSD V2.1 即将推出
今晚「鸽派加息」？
510万一张！携程上架太空旅行船票：已有681人购买，还得自己买保险；娃哈哈因拖欠员工公积金被查封办公楼；华为放权！问界将由赛力斯主导
企业该买模型还是养上下文？
早报｜iOS27正式推送/比亚迪高管：燃油车在中国没有未来/iPhone 18 Pro渠道降价900元，苹果称不干预
特朗普“一再让步”：美国加密法案仍未过关
飞书与豆包工作合体后首亮相：Agent 能进群，还能帮你写周报、做PPT
从200亿收购失败到650亿IPO：Figma如何用“协作”颠覆设计帝国
美股太贵 该加仓新兴市场吗？
iPhone 18 Pro & Duo 首发评测，提升最大的是「充电」和这个…
当罗永浩站在群众的对立面
“极端”空头压境 美联储周三不加息就是最大意外
CLARITY的失败 跟加密行业好坏没啥关系36氪首发 | 国内头部硅电容IDM企业融资亿元，切入AI芯片与高端光模块
牛市的钱：是熊市里守出来的前OpenAI后训练VP回应陶哲轩：说AI毁了数学，可能还是太小瞧AI了B站AI无限竞技场今日上线！全球百大AI模型同场竞技，GPT-6高居榜首
场景越多 ≠ 产品越好，：从抽象价值到真实生活的定义结构
现在参与以太坊原生质押为什么要先排队一个月？圆桌：CVC的全面崛起 | 36氪 2026产业未来大会
黄仁勋正演讲遇特朗普突然来电：通话全程直播
微软 CEO 纳德拉：AI 应用的机会正在变大，模型成本将继续下降科学家演示水下太阳能电池
iOS 27 正式版体验：Siri AI 终于开窍了，老 iPhone 升级也有新东西
派早报：Steam Frame 开启预购、WPS 多端支持 Markdown 等
展翼之后，三折叠再次进化：HUAWEI Mate XT 2 非凡大师深度体验评测Firefox 156 释出被AI放大的光学「戏份」，让「配角」舜宇的生意越做越大工作流可以自我进化了，英伟达开源 SoL-Pi，每小时省13.5刀！