InfoQ 中文 发布于 09/08 21:32

OpenAI 详解 GPT-Live 架构如何实现了连续的有状态语音交互

查看原文

资讯摘要

最近,OpenAI 发布了一篇关于 GPT-Live 的工程报告。该报告详细描述了他们如何设计这个系统,将对延迟敏感的媒体处理与更广泛的应用工作分离,同时保持语音交互的连续性。

AI 摘要

OpenAI发布GPT-Live工程报告,详述其如何实现连续的有状态语音交互:将延迟敏感的媒体处理与推理放在实时路径上,而任务委派和应用逻辑通过异步RPC隔离;每个会话使用有状态专用推理实例,并支持上下文跨实例迁移。文章还介绍了基于WebRTC的WARP优化、静默测试方法及对OpenAI实时AI负责人Justin Uberti的采访。

AI 问答

GPT-Live架构如何保证语音交互的连续性?

它将实时路径限制为仅运行媒体处理管道和推理循环,而任务委派、工具使用等应用逻辑放在异步RPC边界之后;同时使用有状态专用推理实例,并在需要时把会话上下文迁移到新实例以维持服务。

OpenAI为什么在WebRTC基础上新增WARP而不是更换传输层?

因为WebRTC已提供具备错误恢复的低延迟完整媒体协议栈,而RIP over QUIC等新协议仅提供传输层且缺少GCC拥塞控制等功能。WARP可独立部署,现有WebRTC应用无需改代码即可受益,风险更低。

什么是静默测试?

静默测试是以只读模式运行应用服务处理真实入站语音流量,将语音输入模型但直接丢弃输出,不改变用户体验。它用于在正式上线前用真实流量测试媒体循环和推理服务,并能发现合成负载测试无法覆盖的性能问题。

打开原文

更多资讯

7名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开量子位 · 09/15 10:17谁在给我们制造 AI 焦虑金色财经 · 09/15 20:38无效的管理者和疲惫的基层:浅论考核指标的漂移人人都是产品经理 · 09/16 15:06芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:15阶跃发布 StepAudio 3 ,多款语音模型登顶 Artificial Analysis 全球榜单雷峰网 · 09/15 17:50AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:15二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?人人都是产品经理 · 09/15 08:53我和我的 AI 手机吃了 3 顿饭爱范儿 / APPSO · 09/16 12:04微信桌面端变“三折叠”,可能是在给小微腾位置人人都是产品经理 · 09/15 09:46DeepSeek-V4.1-Flash 的最佳 Harness 搭档,我觉得可能是 Claude Code人人都是产品经理 · 09/16 17:23当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35主题演讲:破界·量子计算迈向产业深水区——量子计算的下一公里|36氪2026产业未来大会36氪 · 09/15 15:49510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导雷峰网 · 09/16 08:31CLARITY法案未通过程序性表决 OpenAI拟IPO前融资金色财经 · 09/16 07:53科学家演示水下太阳能电池Solidot · 09/15 15:30Build an AI-powered product tagging system with Amazon SageMaker serverless model customizationAWS Machine Learning Blog · 09/16 00:11圆桌:量智共振·多元路径:共筑中国量子产业下一个十年 | 36氪 2026产业未来大会36氪 · 09/15 15:35Grayscale:比特币能否优化私募市场投资组合?金色财经 · 09/15 09:10耐克、妮维雅、谷歌的警示:品类,正在误导品牌战略!人人都是产品经理 · 09/15 09:42从200亿收购失败到650亿IPO:Figma如何用“协作”颠覆设计帝国人人都是产品经理 · 09/16 11:30具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性少数派 · 09/15 15:00工作流可以自我进化了,英伟达开源 SoL-Pi,每小时省13.5刀!雷峰网 · 09/15 11:02AWS 称无法恢复中东部分可用区资源和数据的访问Solidot · 09/16 23:11上市前交易市场:永续合约化的Pre-IPO资产金色财经 · 09/16 09:21旧消费品,正长出新生意人人都是产品经理 · 09/15 11:20AI不断进步 不得不把才华埋葬在昨天金色财经 · 09/15 10:14早报|iOS27正式推送/比亚迪高管:燃油车在中国没有未来/iPhone 18 Pro渠道降价900元,苹果称不干预爱范儿 / APPSO · 09/15 08:08OpenAI万亿IPO推迟背后 四本账与三条投资路径金色财经 · 09/16 11:27Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28量子位2026人工智能年度榜单,正式启动!量子位 · 09/16 12:16