NVIDIA Technical Blog 发布于 09/17 00:28

Translating CUDA Tile Operations from Python to Rust Using Agentic AI

(翻译)使用 Agentic AI 将 CUDA Tile 操作从 Python 翻译为 Rust

查看原文

资讯摘要

cuTile Rust () is a tile-based system for safe, idiomatic GPU kernel authoring in the Rust programming language. Extending the Rust ownership model to tile…

AI 摘要

NVIDIA 团队开发了一套 AI Agent 技能,用于把 cuTile Python 与 Triton-TileIR 编写的 GPU 内核翻译为 cuTile Rust。借助该流程,团队将 TileGym 全部 24 个公开算子迁移至 Rust,平均性能达到 Python 版本的 99.5%。该多智能体流水线覆盖分析、设备内核、主机与 FFI 代码及基准测试,每阶段均以可机器校验的判定收尾,并通过对比 Tile IR 验证翻译结果。

AI 问答

为什么要把 cuTile Python 内核翻译成 cuTile Rust?

cuTile Python、Triton-TileIR 与 cuTile Rust 都是同一 CUDA Tile IR 的前端,共用 tileiras 编译器。因此迁移不是重新做优化,而是在更安全的主机语言中重新表达相同的 tile 程序,编译器与性能模型保持不变,翻译结果也可校验。

翻译后的 Rust 内核性能表现如何?

团队使用该 AI Agent 技能把 TileGym 全部 24 个公开算子迁移到 cuTile Rust,包含约 40 个 GPU 内核,覆盖逐元素运算到 flash-attention decode、MLA 和 MoE,平均达到 cuTile Python 性能的 99.5%。

如何验证翻译的正确性?

通过转储参考内核与翻译内核的 Tile IR 并进行差异对比,可在运行任何测试之前结构性检查内存操作类型、tile 形状与归约是否一致,从而发现测试覆盖不到的错误。

打开原文

更多资讯

高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发36氪 · 09/16 09:30Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose EachNVIDIA Technical Blog · 09/16 01:00Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28CLARITY的失败 跟加密行业好坏没啥关系金色财经 · 09/16 14:11高瓴系 CFO 往事:一代顶级机构年轻人的迁徙与突围人人都是产品经理 · 09/16 09:32场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构人人都是产品经理 · 09/15 11:58Python 拥抱 RISC-V:CPython 正式纳入 Tier 3 平台InfoQ 中文 · 09/15 22:34产品定义意义上的一级场景:四维模型人人都是产品经理 · 09/16 14:07展翼之后,三折叠再次进化:HUAWEI Mate XT 2 非凡大师深度体验评测果壳网 · 09/16 08:34AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?人人都是产品经理 · 09/15 11:32耐克、妮维雅、谷歌的警示:品类,正在误导品牌战略!人人都是产品经理 · 09/15 09:42“阿宝”交新朋友:携手比亚迪“迪迪虾”,实现车机端一句话办事雷峰网 · 09/15 16:45工作流可以自我进化了,英伟达开源 SoL-Pi,每小时省13.5刀!雷峰网 · 09/15 11:02实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招量子位 · 09/16 10:58日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPTInfoQ 中文 · 09/16 02:37早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导爱范儿 / APPSO · 09/16 08:45无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA量子位 · 09/15 18:43夜晚睡眠光照太亮可能会损伤心脏Solidot · 09/16 00:45美国军方首次证实在太空部署了武器Solidot · 09/15 16:07企业案例分享:伊辛智能|36氪2026产业未来大会36氪 · 09/15 16:38牛市的钱:是熊市里守出来的金色财经 · 09/15 19:04穿透查询怎样升级为穿透管控?人人都是产品经理 · 09/15 14:24Robinhood的财富效应金色财经 · 09/16 12:47英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:38做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月Solidot · 09/16 18:30分析师:四大关键因素驱动 Robinhood 链快速增长金色财经 · 09/15 17:27vivo Buds Clip 体验:42 小时续航的无感佩戴,音质好也舒服爱范儿 / APPSO · 09/16 13:55上市前交易市场:永续合约化的Pre-IPO资产金色财经 · 09/16 09:21