InfoQ 中文 发布于 09/15 18:08

从 Trace 到规模化实时评估:面向生产流量的 Agent 可观测实践|QCon上海

查看原文

资讯摘要

点击查看原文>

AI 摘要

本文介绍蚂蚁集团架构师刘杨在QCon上海2026的演讲内容,聚焦Agent可观测与评估。针对传统日志、指标和链路追踪难以判断Agent任务正确性的问题,分享基于OpenTelemetry GenAI语义约定的统一埋点采集,以Trace为核心的实时评估链路,以及面向全量生产流量的两阶段评估机制,可降低90% token成本,实现大规模安全合规评估覆盖。

AI 问答

Agent 可观测面临哪些新问题?

传统日志、指标和链路追踪难以完整回答 Agent 是否正确完成任务、问题发生在哪个环节,以及如何持续衡量和改善 Agent 质量。

两阶段评估机制如何降低 token 成本?

先使用轻量小模型进行全量、低成本、高召回筛查,再对候选 Trace 按需加载完整执行上下文,由大模型完成精准语义裁决,可有效降低 90% token 成本。

如何实现从 Agent Trace 到推理引擎的跨层可观测?

将 Agent 业务请求、LLM 节点和模型推理过程关联起来,在 Token 粒度分析生成时序和推理性能,并结合 Token 概率分布、熵等不确定性信号,探索质量预测与后置分析。

打开原文

更多资讯

算力、机器人、仿真与资本,谁在定义物理AI下一个十年?|第十届全球ICT峰会回顾36氪 · 09/15 17:47破局产品同质化:长期主义的产品突围之路人人都是产品经理 · 09/16 14:12让AI真正赋能企业(初探)人人都是产品经理 · 09/15 17:202nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」雷峰网 · 09/16 18:02被AI放大的光学「戏份」,让「配角」舜宇的生意越做越大雷峰网 · 09/16 18:33AI 减速还是不减速:一场周末点燃的行业与政府对垒金色财经 · 09/15 12:06Java新闻汇总:Simple JSON API、GlassFish、Jakarta EE、JNoSQL和Open Liberty、LangChain4jInfoQ 中文 · 09/16 19:06豆包手机明日开卖,AI能帮你操作App了吗?36氪 · 09/15 22:32差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导雷峰网 · 09/16 08:31旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!雷峰网 · 09/15 21:01产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人36氪 · 09/16 10:12旧消费品,正长出新生意人人都是产品经理 · 09/15 11:20无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA量子位 · 09/15 18:43不止一颗CPU?智能体经济时代,Arm对算力平台有了新理解雷峰网 · 09/15 09:58奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉雷峰网 · 09/16 10:36AI 负责创造,人来干脏活,这事儿能否停一下?InfoQ 中文 · 09/15 08:08亚太唯一!腾讯云首次入选IDC MarketScape 全球托管边缘服务领导者类别雷峰网 · 09/15 17:24科学家演示水下太阳能电池Solidot · 09/15 15:30芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:15潘功胜最新文章:深刻认识中国金融结构变迁(全文)金色财经 · 09/16 13:28HTTP 新增 QUERY 方法:有人叫好,也有人质疑“这不就是 GET?”InfoQ 中文 · 09/15 21:00想把喜欢的故事做成动画?我用 AIXTV 把《聊斋》做出来了人人都是产品经理 · 09/16 17:22字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入雷峰网 · 09/15 11:45Ctenophores Aren’t Just Beautiful. They’re Biological Wonders.Quanta Magazine · 09/16 23:56BTC电力消耗可能已经见顶 2025年12月或为历史峰值金色财经 · 09/15 18:56华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35Meta新研究:字节模型蒸馏后,天花板破了量子位 · 09/15 14:378点1氪丨8月一线城市房价上涨;携程上架510万一张的太空旅行船票;字节跳动上半年净利润出现下滑,但海外收入占比再创新高36氪 · 09/16 08:01