ContractEval 要解决什么问题?
它要显式识别一次查询中处于激活状态的程序性义务,并检查 LLM 智能体是否遗漏、错分支、乱序、执行多余动作或违反不变量等。
(翻译)ContractEval:面向程序性指令合规的查询条件化执行匹配
Abstract page for arXiv paper 2609.09458: ContractEval: Query-Conditioned Execution Matching for Procedural Instruction Conformance
arXiv 论文提出 ContractEval,一个诊断 LLM 智能体执行程序性指令合规性的框架。它将程序指令表示为查询激活的义务,并与响应或轨迹证据匹配,从而区分遗漏检查、错误分支、顺序错误、多余动作、不变量违反和输出契约违反等失败。实验显示仅看输出或轨迹的 LLM 评判常漏掉注入的结构性失败,而 ContractEval 在金标准图下能检测并定位;作者强调它并非合规保证,而是让程序合规可审计。
它要显式识别一次查询中处于激活状态的程序性义务,并检查 LLM 智能体是否遗漏、错分支、乱序、执行多余动作或违反不变量等。
因为它们只能看到最终答案或活动记录,无法判断哪些检查、分支、依赖或不变式本应被激活,因此会漏掉许多结构性失败。
不能。作者明确说它不是合规保证,而是让程序性合规变得可审计,而不是隐含在最终答案质量中。
AI 减速还是不减速:一场周末点燃的行业与政府对垒被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」
数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”XCancel 服务再次下线
拼多多链接裂变玩法算力、机器人、仿真与资本,谁在定义物理AI下一个十年?|第十届全球ICT峰会回顾
微信桌面端变“三折叠”,可能是在给小微腾位置全球AI视频榜单第一梯队再添中国力量:智象发布首款物理规律导向视频模型PS2 Fat 使用的安全芯片在时隔 26 年被破解
iOS 27 正式版体验:Siri AI 终于开窍了,老 iPhone 升级也有新东西量子位2026人工智能年度榜单,正式启动!
“极端”空头压境 美联储周三不加息就是最大意外无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用
百度做了一堆AI产品,却没有一个能代表百度?
Java新闻汇总:Simple JSON API、GlassFish、Jakarta EE、JNoSQL和Open Liberty、LangChain4j
视频号评论区小蓝词使用指南实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招Meta新研究:字节模型蒸馏后,天花板破了
无效的管理者和疲惫的基层:浅论考核指标的漂移F-Droid 上的应用有多少是在 AI 帮助下编写的?
我和我的 AI 手机吃了 3 顿饭
AI攻克世纪数学难题,顶尖数学家抱团抵制,而他们担心的并不是丢了工作
AI风口之下,明星们又想“挤上”牌桌了58秒出杯,能拉花的咖啡机器人,在全球70国卖出600万杯
OpenAI 总裁:AGI 已经发生高通技术公司携手中兴努比亚和豆包手机助手,共同推动智能手机迈入个人AI新时代
场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构
贝森特回购落空与通胀重压 美联储加息或全面开启