arXiv cs.AI 发布于 09/03 12:00

The Memory Trust Gap: Capability-Dependent Failures in Persistent-Memory Agents

(翻译)记忆信任差距:持久记忆智能体中依赖能力的失败

查看原文

资讯摘要

Abstract page for arXiv paper 2609.01852: The Memory Trust Gap: Capability-Dependent Failures in Persistent-Memory Agents

AI 摘要

这项研究聚焦持久记忆智能体的“记忆信任差距”:当已存储的过时事实与实时权威工具冲突时,模型可能毫无预警地过度信任旧记忆。作者在Qwen3系列0.6B至8B模型上实验,发现能力越强的模型在特定情境下越容易被“看起来最新”的过时记忆误导;移除标签会放大过度信任。他们还发现缓解措施同样依赖模型能力,且在Llama-Instruct系列及外部数据集上表现一致。

AI 问答

什么是记忆信任差距?

记忆信任差距指持久记忆智能体在存储的过时事实与实时权威证据冲突时,会无预警地过度信任旧记忆,从而导致错误输出。

模型规模如何影响记忆信任失败?

在安全套件中,更大的模型在过时记忆被伪装成最新时更容易崩溃;小型模型则持续依赖陈旧信息。缓解手段也依赖能力:暴露元数据对大模型有效,但小型模型需先解决冲突。

打开原文

更多资讯

一张GPU跑10万原子!分子之心用AI把化学反应“拍”成了电影量子位 · 09/15 17:58豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成RustInfoQ 中文 · 09/16 00:09做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04CLARITY法案投票失败 加密监管立法再度搁浅金色财经 · 09/16 08:55找不到小红书爆文选题?去淘宝差评区抄!人人都是产品经理 · 09/15 11:29QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人36氪 · 09/16 10:12圆桌:中国之光成为新共识| 36氪 2026产业未来大会36氪 · 09/15 17:15从 Trace 到规模化实时评估:面向生产流量的 Agent 可观测实践|QCon上海InfoQ 中文 · 09/15 18:08实习生1天消耗1亿Token被约谈:如何衡量Token的ROI人人都是产品经理 · 09/16 14:19企业案例分享:坤煜量子|36氪2026产业未来大会36氪 · 09/15 16:54Steam Frame 起售价 1059 美元Solidot · 09/15 14:59Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose EachNVIDIA Technical Blog · 09/16 01:00日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35AI 产品经理怎么入行?岗位方向、核心能力与转型路径一次讲清人人都是产品经理 · 09/15 08:54字节将发布独立智能网盘“ADrive”,腾讯网盘先已布局,网盘AI大战打响人人都是产品经理 · 09/15 18:27CLARITY闯关失败 加密市场闻声而动 政策空白谁填补金色财经 · 09/16 15:26二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?人人都是产品经理 · 09/15 08:53Claude在英伟达内部被限用,黄仁勋告诉特朗普:我们不会让AI发展放缓发生InfoQ 中文 · 09/16 00:01语义翻译的操作日常:把”我觉得不对”变成”机器能查”人人都是产品经理 · 09/16 09:52从 270 分钟到 18 分钟:B 端产品经理如何主导一个 AI 达人撮合系统人人都是产品经理 · 09/16 09:37号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么爱范儿 / APPSO · 09/15 17:43SDL3 移植到 HarmonyOS / OpenHarmonySolidot · 09/16 16:5758秒出杯,能拉花的咖啡机器人,在全球70国卖出600万杯36氪 · 09/15 10:219月21日,深圳前海!聊聊工业AI与生态共创的下一步量子位 · 09/15 13:20How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera RubinNVIDIA Technical Blog · 09/16 00:55字节6年,如何一步步走上带20人团队的leader人人都是产品经理 · 09/16 14:39无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA量子位 · 09/15 18:43