InfoQ 中文 发布于 09/16 00:09

OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成Rust

查看原文

资讯摘要

未来几周完全淘汰Python版本

AI 摘要

OpenAI 团队明知 Python 难以支撑 Habitat 在线存储平台的未来规模,仍战略性引入技术债,先用 Python 快速迭代。一年后仅 2 名工程师借助 Codex 和 GPT-5.5,在一个季度内把服务重写为 Rust,目前 Rust 已承载 95% 生产请求,CPU 效率约 6 倍、内存效率约 15 倍,平均延迟与尾延迟显著下降。

AI 问答

OpenAI 为什么先用 Python 实现 Habitat?

当时更紧迫的问题是解除产品团队阻塞、让平台稳定下来并尽快确定核心 API 与基础设施形态;团队判断未来 Codex 和 GPT 能大幅降低重写成本,因此主动接受这笔技术债。

Habitat 是怎么撑到每秒 2000 万次请求的?

通过严格限制单进程并发并大量横向扩展 Python worker,引入 asyncio 事件循环延迟监控,把连接池从 LIFO 改为 FIFO 打断亚稳态故障,并用 Envoy 统一管理连接池、限流与熔断。

Rust 重写后的效果如何?

2026 年第二季度仅 2 名工程师用 Codex 和 GPT-5.5 在一个季度内完成重写,Rust 版本已承担 95% 生产请求,CPU 效率约为 Python 版的 6 倍、内存效率约 15 倍,平均延迟与尾延迟明显下降。

打开原文

更多资讯

具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性少数派 · 09/15 15:00超级智能体“迪迪虾”上车,比亚迪携手阿里云推进智能座舱升级雷峰网 · 09/15 11:58王强宇履新百望:从发票SaaS工具,到财税垂直大模型,再到企业的Palantir雷峰网 · 09/16 10:13AI健康走进百姓餐桌,蚂蚁阿福推出AI饮食分功能雷峰网 · 09/16 15:20西门子不造机器人,为什么机器人进厂的故事里总有它?量子位 · 09/16 15:38芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:15Your Agent Aced the Task. Will It Do It Again?Hugging Face Blog · 09/16 00:00美股太贵 该加仓新兴市场吗?金色财经 · 09/16 18:57实习生1天消耗1亿Token被约谈:如何衡量Token的ROI人人都是产品经理 · 09/16 14:19从”边卖边补”到”准备好再卖”:产品商品化的四步闭环人人都是产品经理 · 09/15 14:11HTTP 新增 QUERY 方法:有人叫好,也有人质疑“这不就是 GET?”InfoQ 中文 · 09/15 21:00OpenAI 发布适用于编程和计算机应用的 GPT-6 AstraInfoQ 中文 · 09/16 00:52Announcing instance preference lists for Amazon SageMaker AI training jobsAWS Machine Learning Blog · 09/16 00:01Building AI to accelerate science and improve livesGoogle AI Blog · 09/16 00:00iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28全球AI视频榜单第一梯队再添中国力量:智象发布首款物理规律导向视频模型量子位 · 09/15 18:41实测豆包新模型2.1-pro,这次审美和长时间Agent任务都追上第一档了人人都是产品经理 · 09/16 17:21AI攻克世纪数学难题,顶尖数学家抱团抵制,而他们担心的并不是丢了工作果壳网 · 09/15 19:15高瓴系 CFO 往事:一代顶级机构年轻人的迁徙与突围人人都是产品经理 · 09/16 09:32GPT Image 2.5 对比实测:变化与局限人人都是产品经理 · 09/15 09:46“阿宝”交新朋友:携手比亚迪“迪迪虾”,实现车机端一句话办事雷峰网 · 09/15 16:45云连锁到轻连锁,品牌业务逻辑的改变人人都是产品经理 · 09/16 11:47科学家演示水下太阳能电池Solidot · 09/15 15:30做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15当AI能解千禧难题,再次证明答案不再是门槛人人都是产品经理 · 09/15 09:44AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:15号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么爱范儿 / APPSO · 09/15 17:43想把喜欢的故事做成动画?我用 AIXTV 把《聊斋》做出来了人人都是产品经理 · 09/16 17:22