arXiv cs.AI 发布于 09/10 12:00

ContractEval: Query-Conditioned Execution Matching for Procedural Instruction Conformance

(翻译)ContractEval:面向程序性指令合规的查询条件化执行匹配

查看原文

资讯摘要

Abstract page for arXiv paper 2609.09458: ContractEval: Query-Conditioned Execution Matching for Procedural Instruction Conformance

AI 摘要

arXiv 论文提出 ContractEval,一个诊断 LLM 智能体执行程序性指令合规性的框架。它将程序指令表示为查询激活的义务,并与响应或轨迹证据匹配,从而区分遗漏检查、错误分支、顺序错误、多余动作、不变量违反和输出契约违反等失败。实验显示仅看输出或轨迹的 LLM 评判常漏掉注入的结构性失败,而 ContractEval 在金标准图下能检测并定位;作者强调它并非合规保证,而是让程序合规可审计。

AI 问答

ContractEval 要解决什么问题?

它要显式识别一次查询中处于激活状态的程序性义务,并检查 LLM 智能体是否遗漏、错分支、乱序、执行多余动作或违反不变量等。

仅有输出或轨迹的评估为什么不够?

因为它们只能看到最终答案或活动记录,无法判断哪些检查、分支、依赖或不变式本应被激活,因此会漏掉许多结构性失败。

作者认为 ContractEval 能提供合规保证吗?

不能。作者明确说它不是合规保证,而是让程序性合规变得可审计,而不是隐含在最终答案质量中。

打开原文

更多资讯

华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27AI 减速还是不减速:一场周末点燃的行业与政府对垒金色财经 · 09/15 12:06被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」量子位 · 09/16 11:40数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14XCancel 服务再次下线Solidot · 09/15 14:20拼多多链接裂变玩法人人都是产品经理 · 09/15 09:20算力、机器人、仿真与资本,谁在定义物理AI下一个十年?|第十届全球ICT峰会回顾36氪 · 09/15 17:47微信桌面端变“三折叠”,可能是在给小微腾位置人人都是产品经理 · 09/15 09:46全球AI视频榜单第一梯队再添中国力量:智象发布首款物理规律导向视频模型量子位 · 09/15 18:41PS2 Fat 使用的安全芯片在时隔 26 年被破解Solidot · 09/16 23:54iOS 27 正式版体验:Siri AI 终于开窍了,老 iPhone 升级也有新东西爱范儿 / APPSO · 09/15 13:00量子位2026人工智能年度榜单,正式启动!量子位 · 09/16 12:16“极端”空头压境 美联储周三不加息就是最大意外金色财经 · 09/16 08:22无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA量子位 · 09/15 18:43基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用量子位 · 09/16 16:09百度做了一堆AI产品,却没有一个能代表百度?人人都是产品经理 · 09/15 18:31Java新闻汇总:Simple JSON API、GlassFish、Jakarta EE、JNoSQL和Open Liberty、LangChain4jInfoQ 中文 · 09/16 19:06视频号评论区小蓝词使用指南人人都是产品经理 · 09/16 10:27实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招量子位 · 09/16 10:58Meta新研究:字节模型蒸馏后,天花板破了量子位 · 09/15 14:37无效的管理者和疲惫的基层:浅论考核指标的漂移人人都是产品经理 · 09/16 15:06F-Droid 上的应用有多少是在 AI 帮助下编写的?Solidot · 09/15 20:45我和我的 AI 手机吃了 3 顿饭爱范儿 / APPSO · 09/16 12:04AI攻克世纪数学难题,顶尖数学家抱团抵制,而他们担心的并不是丢了工作果壳网 · 09/15 19:15AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:1558秒出杯,能拉花的咖啡机器人,在全球70国卖出600万杯36氪 · 09/15 10:21OpenAI 总裁:AGI 已经发生金色财经 · 09/15 22:25高通技术公司携手中兴努比亚和豆包手机助手,共同推动智能手机迈入个人AI新时代量子位 · 09/16 16:18场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构人人都是产品经理 · 09/15 11:58贝森特回购落空与通胀重压 美联储加息或全面开启金色财经 · 09/15 11:06