雷峰网 发布于 08/28 15:12

GPT、Claude 遭遇窃听门:换个模型就能让思维链不再隐身?

查看原文

资讯摘要

    作者丨 郑佳美     编辑丨 岑   峰                                                                       &nbs

AI 摘要

研究人员发现Claude、GPT和Gemini等主流AI API的隐藏推理(encrypted reasoning)可被跨模型恢复,通过将强模型生成的加密思维链交给同一厂商的较弱模型,即可绕过安全限制,还原隐藏推理。研究还显示,公开Agent日志中的reasoning block可能泄露API key、密码等敏感信息,并降低模型蒸馏成本。文章指出,AI安全需从管理输出转向管理推理状态,加强上下文绑定和权限边界。

AI 问答

什么是encrypted reasoning?为何会被恢复?

encrypted reasoning是AI模型在API中隐藏的中间推理过程,以加密块形式发给客户端保存。由于这些块未严格绑定原始模型和会话,攻击者可将其交给同一厂商的其他模型,从而绕过安全限制恢复内容。

此漏洞会带来哪些安全风险?

可能泄露用户API key、密码、access token等敏感信息,同时降低模型蒸馏成本,使竞争对手通过低成本模型镜像顶级模型推理,削弱推理护城河,并可能引发Agent场景中的隐形提示注入。

如何防范此类攻击?

需要加强reasoning的权限边界和上下文绑定,确保加密块只能由特定模型和会话使用,并更新Agent安全策略,检查加载的状态来源合法性。

打开原文

更多资讯

GPT-6 Astra 之后,产品经理需要重新设计人在流程中的位置人人都是产品经理 · 09/16 09:10从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43具透 | Liquid Glass 设计改进、性能提升……iPadOS 27 中值得一瞥的新特性少数派 · 09/16 15:00How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera RubinNVIDIA Technical Blog · 09/16 00:55Grayscale:比特币能否优化私募市场投资组合?金色财经 · 09/15 09:10月下载暴增366%,上海真人社交公司切入东南亚AI陪伴,AI角色也能“奔现”人人都是产品经理 · 09/16 14:44OpenAI万亿IPO推迟背后 四本账与三条投资路径金色财经 · 09/16 11:27企业该买模型还是养上下文?人人都是产品经理 · 09/16 10:39美国加密新规又黄了金色财经 · 09/16 20:21AI不会放缓金色财经 · 09/15 10:33只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17黄仁勋正演讲遇特朗普突然来电:通话全程直播金色财经 · 09/15 21:332nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」雷峰网 · 09/16 18:02电商对账的设计逻辑:四层核对,逐层下钻人人都是产品经理 · 09/16 14:36Windows 11 的 9 月例行安全更新再次引发了大量故障Solidot · 09/15 14:29商用割草机器人完成数千万融资,用L4级无人驾驶重构高尔夫草坪运维|硬氪首发36氪 · 09/16 10:00圆桌:落地·量子计算的场景涌现——如果量子算力明天就可用,谁会第一个买单 | 36氪 2026产业未来大会36氪 · 09/15 18:08支付宝 xUI -- “阿宝”背后的 Agentic 终端交互引擎InfoQ 中文 · 09/16 02:27百度做了一堆AI产品,却没有一个能代表百度?人人都是产品经理 · 09/15 18:31超级智能体“迪迪虾”上车,比亚迪携手阿里云推进智能座舱升级雷峰网 · 09/15 11:58耐克和lululemon双双失速,运动品牌进入碎片化时代人人都是产品经理 · 09/15 11:40我的“一人公司”,是怎么搞钱的?人人都是产品经理 · 09/15 08:56DeepSeek-V4.1-Flash 的最佳 Harness 搭档,我觉得可能是 Claude Code人人都是产品经理 · 09/16 17:23从 Trace 到规模化实时评估:面向生产流量的 Agent 可观测实践|QCon上海InfoQ 中文 · 09/15 18:08F-Droid 上的应用有多少是在 AI 帮助下编写的?Solidot · 09/15 20:45Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单雷峰网 · 09/16 16:05Anthropic CEO自爆行业黑幕金色财经 · 09/15 19:37比 MEGA Home 便宜 14 万!理想 i9 Home 上市定价 36.98 万元,六座旗舰变天了爱范儿 / APPSO · 09/16 23:21