InfoQ 中文 发布于 09/01 15:00

智能体请求暴增9.4倍,token账单却没涨:Uber 公开AI软件工厂省钱方法

查看原文

资讯摘要

70%+代码PR由AI生成,成本反而降了52%?

AI 摘要

Uber在AI软件工厂中通过四层智能体架构和成本公式优化,在智能体请求量增长9.4倍的情况下保持AI总支出稳定,单位成本下降52%。文章详细介绍了模型选择、token优化、上下文工程等方法,包括提示词缓存、CLI工具解析、代码模式、上下文图谱等实践,为AI成本治理提供了可复用的方法论。

AI 问答

Uber如何在不增加成本的情况下支撑智能体请求量增长?

Uber通过四层智能体架构和成本公式,从token价格、每次请求token数、每轮请求数等维度优化,并采用模型路由、提示词缓存、CLI工具解析、代码模式、上下文图谱等手段,使单位成本下降52%。

Uber的AI成本优化核心是什么?

核心是将SDLC工作负载迁移到托管智能体环境,为每个智能体配备专用评估基准和帕累托最优模型,相比优化个人终端会话更具成本效益和可扩展性。

打开原文

更多资讯

Arc主网上线 生态内有哪些项目?金色财经 · 09/16 17:39拼多多链接裂变玩法人人都是产品经理 · 09/15 09:20英伟达开始限制Claude使用了金色财经 · 09/15 12:37Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18Steam Frame 起售价 1059 美元Solidot · 09/15 14:59Denuvo 起诉黑客违反 DMCA 反规避条款Solidot · 09/16 23:27HYROX比赛腹泻这事,运动员拼归拼,但主办方不能装看不见果壳网 · 09/16 23:15OpenAI 总裁最新采访:现在所有人对 AI 的预测,大概率都是错的人人都是产品经理 · 09/15 16:19AMC 炮轰 Robinhood:股票归谁做主?金色财经 · 09/15 21:18一款在浏览器里运行、部署在自己服务器上的 SQL 客户端Solidot · 09/15 16:43从接住告警到自我进化:快手智能运维助手实践|QCon上海InfoQ 中文 · 09/16 18:00产品观察丨xTool做了一台3000元起步的激光雕刻机,难的不只是价格36氪 · 09/16 10:40华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27理想落幕:加密行业为何集体走向同质化?金色财经 · 09/15 18:31vivo Buds Clip 体验:42 小时续航的无感佩戴,音质好也舒服爱范儿 / APPSO · 09/16 13:55企业该买模型还是养上下文?人人都是产品经理 · 09/16 10:39当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35企业案例分享:玉盘量智-离子阱量子计算芯片化集成工程实践 | 36氪 2026产业未来大会36氪 · 09/15 18:33月之暗面:网传创始人及员工信息系恶意造谣;OpenAI 放弃今年上市;iPhone Duo炒到9万,黄牛贷款欲囤货|AI周报InfoQ 中文 · 09/16 00:07这种国民鱼一直被低估、被当廉价鱼!现在才知道钙和 DHA 这么多!快试试果壳网 · 09/15 22:15视频号评论区小蓝词使用指南人人都是产品经理 · 09/16 10:27谁在给我们制造 AI 焦虑金色财经 · 09/15 20:38具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性少数派 · 09/15 15:00横扫四榜,DM0.5 凭什么面面俱到?雷峰网 · 09/15 10:22香港第一、全球第八:OSL进化背后的数字资产新格局金色财经 · 09/16 21:42场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构人人都是产品经理 · 09/15 11:58Windows 11 的 9 月例行安全更新再次引发了大量故障Solidot · 09/15 14:29Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月Solidot · 09/16 18:30我和我的 AI 手机吃了 3 顿饭爱范儿 / APPSO · 09/16 12:04DeepSeek-V4.1-Flash 的最佳 Harness 搭档,我觉得可能是 Claude Code人人都是产品经理 · 09/16 17:23