Hugging Face Blog 发布于 09/16 00:00

Your Agent Aced the Task. Will It Do It Again?

(翻译)你的 Agent 出色完成了任务。它还能再次做到吗?

查看原文

资讯摘要

A Blog post by IBM Research on Hugging Face

AI 摘要

IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve 新增一致性指南与 Consistency Analyzer,用于衡量并改善 LLM Agent 在重复运行中的可靠性。GPT-4.1 ReAct Agent 在 AppWorld test_normal 上 Mean@5 为 77.4%,但 Pass^5 仅 53.0%,一致性差距达 24.4 个百分点;加入一致性指南后 Pass^5 升至 69.0%,差距降至 12.0 个百分点,平均准确率未下降。方法通过对已记录决策点重采样检测易翻转步骤,无需真实标签或端到端重放。

AI 问答

什么是一致性差距?

一致性差距指 Mean@k 与 Pass^k 之间的差值,用于衡量 Agent 能否在多次重复运行中稳定成功,而不仅是平均成功率。

Consistency Analyzer 如何发现容易翻转的决策点?

它对一条已记录轨迹中的每个决策步骤进行受控重采样,默认一次请求 k=5 个补全,并在已记录上下文上重放,无需真实标签或重新执行任务。

一致性指南带来了什么效果?

在 AppWorld test_normal 上,GPT-4.1 ReAct Agent 的 Pass^5 从 53.0% 升至 69.0%,一致性差距从 24.4 个百分点降至 12.0 个百分点,同时 Mean@5 没有下降。

打开原文

更多资讯

B站AI无限竞技场今日上线!全球百大AI模型同场竞技,GPT-6高居榜首量子位 · 09/16 14:23Firefox 156 释出Solidot · 09/16 14:25被AI放大的光学「戏份」,让「配角」舜宇的生意越做越大雷峰网 · 09/16 18:33旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!雷峰网 · 09/15 21:01算力、机器人、仿真与资本,谁在定义物理AI下一个十年?|第十届全球ICT峰会回顾36氪 · 09/15 17:47黄仁勋再谈AI危险论:中国会成为全球开源重要力量金色财经 · 09/16 17:23Building AI to accelerate science and improve livesGoogle AI Blog · 09/16 00:00清晰法案投票失败 后续还有机会吗?金色财经 · 09/16 14:34字节将发布独立智能网盘“ADrive”,腾讯网盘先已布局,网盘AI大战打响人人都是产品经理 · 09/15 18:27派早报:豆包发布手机助手消费者版,绿联发布首款雷电 5 显卡坞等少数派 · 09/15 08:06关于项目交付的思考:部署是最后两公里,验收才是最后一公里人人都是产品经理 · 09/16 09:54OpenAI万亿IPO推迟背后 四本账与三条投资路径金色财经 · 09/16 11:27超越代币化:让RWA在链上真正有用金色财经 · 09/16 16:39当黄仁勋和Dario遇上休谟:火鸡、台球与AI末日论金色财经 · 09/15 22:18旧消费品,正长出新生意人人都是产品经理 · 09/15 11:20从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43CLARITY的失败 跟加密行业好坏没啥关系金色财经 · 09/16 14:11个贷不良四年涨 23 倍:这门从“救大行”长出来的生意,底层逻辑是什么?人人都是产品经理 · 09/16 17:12当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招量子位 · 09/16 10:58廉价太阳能改变世界能源格局Solidot · 09/15 17:19让AI真正赋能企业(初探)人人都是产品经理 · 09/15 17:20推特创始人谈“AI减速”论:前沿不属于任何一家公司金色财经 · 09/15 17:30华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27企业案例分享:坤煜量子|36氪2026产业未来大会36氪 · 09/15 16:54英国殖民之前的澳大利亚原居民人口约 222 万Solidot · 09/15 23:17微信桌面端变“三折叠”,可能是在给小微腾位置人人都是产品经理 · 09/15 09:46地平线第1500万颗征程芯片搭载大众 ID. AURA T6,HSD V2.1 即将推出量子位 · 09/15 21:32“极端”空头压境 美联储周三不加息就是最大意外金色财经 · 09/16 08:229月21日,深圳前海!聊聊工业AI与生态共创的下一步量子位 · 09/15 13:20