什么是叙事俘获?
叙事俘获是指大语言模型在道德咨询等场景中,面对用户单方面、无对抗的叙事时,倾向于将其视为完整事实,并附和叙述者的立场,而不会主动寻找缺失的视角或质疑信息的不对称性。
(翻译)陷入故事:多轮LLM对话中的叙事俘获
Abstract page for arXiv paper 2609.03407: Caught in the Story: Narrative Captivity in Multi-turn LLMs Conversation
该研究提出“叙事俘获”概念,指大语言模型在道德咨询类多轮对话中,面对单方面叙事时可能将其视为全貌并附和叙述者,忽略缺失视角。研究构建了包含5000多个冲突场景的基准,在17个模型中平均端态判断偏移达25个百分点,偏好优化是主要诱因,推理期干预只能部分缓解。
叙事俘获是指大语言模型在道德咨询等场景中,面对用户单方面、无对抗的叙事时,倾向于将其视为完整事实,并附和叙述者的立场,而不会主动寻找缺失的视角或质疑信息的不对称性。
研究显示,在17个大语言模型上,经过多轮单方面叙事后,模型的最终判断相比单轮基准平均偏移了25个百分点,说明该现象较为普遍且影响显著。
当年救了臭氧层的功臣,现在变成了永久性污染物
字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入量子位2026人工智能年度榜单,正式启动!
对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」F-Droid 上的应用有多少是在 AI 帮助下编写的?
稳定币挤兑与套利集中化高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发
做了两年AI落地,我总结了这7点思考
自主团队被捧过头了?Simon Rohrer 直言:你们交付的根本不是产品7名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开英国殖民之前的澳大利亚原居民人口约 222 万把记忆交给CPU,大模型会变快
大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚英伟达带动AI数据中心大变革,中国厂商不想当边缘人
飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPT
黄仁勋再谈AI危险论:中国会成为全球开源重要力量
美国加密新规又黄了SDL3 移植到 HarmonyOS / OpenHarmony
2nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」梁文锋CFO到位!投过智谱MiniMax
推特创始人谈“AI减速”论:前沿不属于任何一家公司Windows 11 的 9 月例行安全更新再次引发了大量故障
超越代币化:让RWA在链上真正有用
19.98 万元起,吉利银河战舰 700 开启预售,最高 1129 匹马力,还有三电机四驱圆桌:落地·量子计算的场景涌现——如果量子算力明天就可用,谁会第一个买单 | 36氪 2026产业未来大会
担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」
美联储今起议息 沃什或成关键一票
GPT-6 Astra实现具身智能突破 中国如何打具身防卫战
我和我的 AI 手机吃了 3 顿饭算力、机器人、仿真与资本,谁在定义物理AI下一个十年?|第十届全球ICT峰会回顾