招商银行是如何将AI加速卡利用率从35%提升至60%以上的?
通过Kubernetes构建统一控制平面,使用Kueue管理训练任务队列与配额,KEDA根据业务负载动态伸缩推理实例,HAMi实现异构加速卡细粒度切分,Fluid加速数据访问,减少加速卡因等待任务、数据或资源碎片产生的空闲时间。

招商银行荣获 CNCF 最终用户案例研究大赛冠军,以 Kubernetes 统一 AI 训练与推理基础设施
招商银行在KubeCon上海大会上介绍了其AI算力基础设施实践,通过Kubernetes及Kueue、KEDA、HAMi、Fluid等组件,实现对近万张异构加速卡训练与推理的统一调度,将加速卡利用率从35%提升至60%以上,每百万Token推理成本降低60%;并自研Twinkle框架实现5个LoRA租户共享基础模型,资源消耗降低80%。
通过Kubernetes构建统一控制平面,使用Kueue管理训练任务队列与配额,KEDA根据业务负载动态伸缩推理实例,HAMi实现异构加速卡细粒度切分,Fluid加速数据访问,减少加速卡因等待任务、数据或资源碎片产生的空闲时间。
自研Twinkle训练框架,默认允许5个LoRA租户共享同一个基础模型实例,将基础模型副本从5份降到1份,对应场景下加速器资源消耗降低80%,训练密度提高5倍。
早报|iOS27正式推送/比亚迪高管:燃油车在中国没有未来/iPhone 18 Pro渠道降价900元,苹果称不干预B站AI无限竞技场今日上线!全球百大AI模型同场竞技,GPT-6高居榜首
微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降
Claude在英伟达内部被限用,黄仁勋告诉特朗普:我们不会让AI发展放缓发生
AI 产品经理怎么入行?岗位方向、核心能力与转型路径一次讲清
实测豆包新模型2.1-pro,这次审美和长时间Agent任务都追上第一档了
Robinhood的财富效应把记忆交给CPU,大模型会变快Windows 11 的 9 月例行安全更新再次引发了大量故障
510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导
Arc主网上线 生态内有哪些项目?
OpenAI 总裁最新采访:现在所有人对 AI 的预测,大概率都是错的
分析师:四大关键因素驱动 Robinhood 链快速增长
GPT Image 2.5 对比实测:变化与局限
从入门到精通,一篇文章带你入门产品经理!(2026 年最新版)
微信桌面端变“三折叠”,可能是在给小微腾位置
iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…
AI健康走进百姓餐桌,蚂蚁阿福推出AI饮食分功能
高瓴系 CFO 往事:一代顶级机构年轻人的迁徙与突围Steam Frame 起售价 1059 美元
一年28倍妖王:谁在爆炒?豆包手机明日开卖,AI能帮你操作App了吗?
场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构
Meta 打造“组织第二大脑”智能体的设计思路
企业该买模型还是养上下文?NVIDIA中国开发者日定档10月苏州,现场设认证考试与黑客松决赛英国殖民之前的澳大利亚原居民人口约 222 万
横扫四榜,DM0.5 凭什么面面俱到?
找不到小红书爆文选题?去淘宝差评区抄!
产品经理的体面,是一块不能失守的 “括约肌”