arXiv cs.AI 发布于 08/31 12:00

If Agents Were Angels, No Governance Would Be Necessary: Out-of-Band Policy Enforcement at a Trusted Tool Boundary

(翻译)如果智能体是天使,就无需治理:可信工具边界上的带外策略执行(OBPE)

查看原文

资讯摘要

arXiv:2608.27646v1 Announce Type: new Abstract: Give an agent a human's credential and it inherits the person's reach without the judgment that limits its use. It can sweep every reachable record into model context, where hidden instructions steer its next call, and every request stays credential-va

AI 摘要

该研究提出带外策略执行(OBPE),在智能体推理之外设立可信边界,对类型化操作与资源进行授权,在调用前收窄查询,并对响应中的记录和字段进行过滤或掩码,防止智能体越权或泄露敏感数据。在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%,同时安全且有用的完成率提升 21.8 个百分点,显示该机制能显著增强 AI Agent 的安全治理能力。

AI 问答

OBPE 如何防止 AI 智能体越权或泄露数据?

OBPE 在智能体推理之外建立可信边界,对类型化操作和资源进行授权,在后台调用前收窄查询,并在响应阶段对记录、字段进行过滤或掩码;语义门控还可以根据参数值或外部状态拒绝或暂缓调用。

OBPE 的实验效果如何?

在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%;任务完成率从 79.1% 降至 60.9%,但配对的安全且有用完成率提升了 21.8 个百分点。

打开原文

更多资讯

AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:15圆桌:CVC的全面崛起 | 36氪 2026产业未来大会36氪 · 09/15 16:59微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降人人都是产品经理 · 09/16 11:48AI for everyone in every languageGoogle AI Blog · 09/16 00:00iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人36氪 · 09/16 10:12奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉雷峰网 · 09/16 10:36二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?人人都是产品经理 · 09/15 08:53HIP-3:昂贵的入场券 买不来的护城河金色财经 · 09/15 09:48大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么爱范儿 / APPSO · 09/15 17:43长期利率为何不愿下跌?金色财经 · 09/15 18:04CLARITY闯关失败 加密市场闻声而动 政策空白谁填补金色财经 · 09/16 15:26Your Agent Aced the Task. Will It Do It Again?Hugging Face Blog · 09/16 00:00CLARITY折戟 多方博弈撕裂行业预期 市场怎么看?金色财经 · 09/16 10:33具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性少数派 · 09/15 15:00实习生1天消耗1亿Token被约谈:如何衡量Token的ROI人人都是产品经理 · 09/16 14:19华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27苹果Siri AI上线;豆包手机助手消费版正式发布;塔克拉玛干沙漠发现两处大型地下水水源果壳网 · 09/15 20:15一边喊停一边敲钟:硅谷AI巨头到底在怕什么金色财经 · 09/16 10:53Fedora 45 Beta 释出Solidot · 09/16 15:26找不到小红书爆文选题?去淘宝差评区抄!人人都是产品经理 · 09/15 11:29Anthropic CEO自爆行业黑幕金色财经 · 09/15 19:37首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编量子位 · 09/15 15:48QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24从入门到精通,一篇文章带你入门产品经理!(2026 年最新版)人人都是产品经理 · 09/16 08:53实测豆包新模型2.1-pro,这次审美和长时间Agent任务都追上第一档了人人都是产品经理 · 09/16 17:218点1氪丨8月一线城市房价上涨;携程上架510万一张的太空旅行船票;字节跳动上半年净利润出现下滑,但海外收入占比再创新高36氪 · 09/16 08:01Opus 5.2深夜上线 RSI真来了?金色财经 · 09/15 11:43从200亿收购失败到650亿IPO:Figma如何用“协作”颠覆设计帝国人人都是产品经理 · 09/16 11:30