OBPE 如何防止 AI 智能体越权或泄露数据?
OBPE 在智能体推理之外建立可信边界,对类型化操作和资源进行授权,在后台调用前收窄查询,并在响应阶段对记录、字段进行过滤或掩码;语义门控还可以根据参数值或外部状态拒绝或暂缓调用。
(翻译)如果智能体是天使,就无需治理:可信工具边界上的带外策略执行(OBPE)
arXiv:2608.27646v1 Announce Type: new Abstract: Give an agent a human's credential and it inherits the person's reach without the judgment that limits its use. It can sweep every reachable record into model context, where hidden instructions steer its next call, and every request stays credential-va
该研究提出带外策略执行(OBPE),在智能体推理之外设立可信边界,对类型化操作与资源进行授权,在调用前收窄查询,并对响应中的记录和字段进行过滤或掩码,防止智能体越权或泄露敏感数据。在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%,同时安全且有用的完成率提升 21.8 个百分点,显示该机制能显著增强 AI Agent 的安全治理能力。
OBPE 在智能体推理之外建立可信边界,对类型化操作和资源进行授权,在后台调用前收窄查询,并在响应阶段对记录、字段进行过滤或掩码;语义门控还可以根据参数值或外部状态拒绝或暂缓调用。
在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%;任务完成率从 79.1% 降至 60.9%,但配对的安全且有用完成率提升了 21.8 个百分点。
AI风口之下,明星们又想“挤上”牌桌了圆桌:CVC的全面崛起 | 36氪 2026产业未来大会
微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降
AI for everyone in every language
iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人
奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉
二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?
HIP-3:昂贵的入场券 买不来的护城河
大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚
号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么
长期利率为何不愿下跌?
CLARITY闯关失败 加密市场闻声而动 政策空白谁填补
Your Agent Aced the Task. Will It Do It Again?
CLARITY折戟 多方博弈撕裂行业预期 市场怎么看?
具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性
实习生1天消耗1亿Token被约谈:如何衡量Token的ROI
华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点
苹果Siri AI上线;豆包手机助手消费版正式发布;塔克拉玛干沙漠发现两处大型地下水水源
一边喊停一边敲钟:硅谷AI巨头到底在怕什么Fedora 45 Beta 释出
找不到小红书爆文选题?去淘宝差评区抄!
Anthropic CEO自爆行业黑幕首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编
QQ 飞车 Agentic 研发转型过程中的Loop Engineering
从入门到精通,一篇文章带你入门产品经理!(2026 年最新版)
实测豆包新模型2.1-pro,这次审美和长时间Agent任务都追上第一档了8点1氪丨8月一线城市房价上涨;携程上架510万一张的太空旅行船票;字节跳动上半年净利润出现下滑,但海外收入占比再创新高
Opus 5.2深夜上线 RSI真来了?
从200亿收购失败到650亿IPO:Figma如何用“协作”颠覆设计帝国