arXiv cs.AI 发布于 08/31 12:00

Thinking Costs Tokens: When More Structure is Worth the Price

(翻译)思考消耗令牌:更多结构何时物有所值

查看原文

资讯摘要

Abstract page for arXiv paper 2608.27506: Thinking Costs Tokens: When More Structure is Worth the Price

AI 摘要

本文研究在token预算受限时,为语言模型添加规划、验证和修复等推理结构的影响。作者在FinQA和TAT-QA金融推理任务上,用GPT-5.4 mini对比了单次调用与带验证搜索的架构,覆盖250至42000个输出等效token的14个预算档位。结果显示,在1000至1500 token之间存在交叉点:低于该阈值时,计划开销反而损害性能;高于该阈值后,验证搜索架构持续优于单次调用,最高准确率约44%对40%。

AI 问答

在什么情况下,给语言模型增加验证和搜索结构反而会降低性能?

当可用token预算低于约1000至1500个输出等效token时,计划和验证的额外开销会占用答案空间,导致性能不如单次模型调用,甚至接近0%。

该研究在什么数据集和模型上进行了实验?

研究使用GPT-5.4 mini在FinQA和TAT-QA两个金融推理数据集上进行了实验,共测试14个预算档位和28000个完成单元。

打开原文

更多资讯

美联储今起议息 沃什或成关键一票金色财经 · 09/15 15:19云岫资本合伙人宋旭文:量子计算:工程化与产业化并进,拐点将至 | 36氪 2026产业未来大会36氪 · 09/15 18:38超级智能体“迪迪虾”上车,比亚迪携手阿里云推进智能座舱升级雷峰网 · 09/15 11:58字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入雷峰网 · 09/15 11:452nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」雷峰网 · 09/16 18:02王强宇履新百望:从发票SaaS工具,到财税垂直大模型,再到企业的Palantir雷峰网 · 09/16 10:138点1氪丨8月一线城市房价上涨;携程上架510万一张的太空旅行船票;字节跳动上半年净利润出现下滑,但海外收入占比再创新高36氪 · 09/16 08:01美团发布“手艺人Agent”,发型师可“吩咐”AI小帮手打理线上作品雷峰网 · 09/15 23:07派早报:Steam Frame 开启预购、WPS 多端支持 Markdown 等少数派 · 09/16 08:39HYROX比赛腹泻这事,运动员拼归拼,但主办方不能装看不见果壳网 · 09/16 23:15AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:15B站AI无限竞技场今日上线!全球百大AI模型同场竞技,GPT-6高居榜首量子位 · 09/16 14:23产品定义意义上的一级场景:四维模型人人都是产品经理 · 09/16 14:07在金融支付系统中实施混沌工程:来自企业级 ECS 部署的经验教训InfoQ 中文 · 09/15 17:04英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:38企业案例分享:坤煜量子|36氪2026产业未来大会36氪 · 09/15 16:54一年28倍妖王:谁在爆炒?金色财经 · 09/15 21:03把记忆交给CPU,大模型会变快量子位 · 09/16 11:07圆桌:跃迁·AI深流,价值跃升——AI深水时代,从模型竞逐到产业价值涌现 | 36氪 2026产业未来大会36氪 · 09/15 17:23大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57Your Agent Aced the Task. Will It Do It Again?Hugging Face Blog · 09/16 00:00Firefox 156 释出Solidot · 09/16 14:25我的“一人公司”,是怎么搞钱的?人人都是产品经理 · 09/15 08:56从前沿技术到产业资本,2026产业未来大会看见「深水之上」36氪 · 09/15 15:04被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」量子位 · 09/16 11:40月下载暴增366%,上海真人社交公司切入东南亚AI陪伴,AI角色也能“奔现”人人都是产品经理 · 09/16 14:44豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39碧桂园服务与支付宝全面深化合作,共筑“智慧物业”数字化新标杆雷峰网 · 09/16 16:48社区速递 158 | 便宜耐造的副厂手柄与大学宿舍里那些相见恨晚的装备少数派 · 09/15 17:00FAST 发现极短周期、最轻双中子星系统Solidot · 09/16 19:09