AWS Machine Learning Blog 发布于 09/17 02:59

Fault tolerant distributed training on Amazon EKS using NVRx

(翻译)使用 NVRx 在 Amazon EKS 上进行容错分布式训练

查看原文

资讯摘要

Integrate NVIDIA Resiliency Extension (NVRx) into PyTorch FSDP training on Amazon EKS to overlap checkpoint I/O with training and recover from GPU faults in seconds. This post covers async checkpointing, in-process restart, and ft_launcher in-job restart, with H100 benchmarks at 2 to 8 nodes showing

AI 摘要

本文介绍如何在 Amazon EKS 上将 NVIDIA Resiliency Extension(NVRx)集成到 PyTorch FSDP 分布式训练中,通过异步检查点、进程内重启和 ft_launcher 作业内重启分层处理 GPU 故障,并在 H100 集群 2 至 8 节点规模下给出基准结果与复现代码。

AI 问答

NVRx 在 Amazon EKS 上主要解决分布式训练中的哪些问题?

它通过异步检查点、进程内重启和 ft_launcher 作业内重启,分别减少检查点 I/O 阻塞、应对软故障与硬故障,从而降低 GPU 空转时间。

异步检查点是如何工作的?

用 TorchAsyncCheckpoint 的 async_save 将状态字典交给后台进程写入,主线程继续训练,并在下一次保存前或任务退出时用 finalize_async_save 提交上一次写入。

文章使用了什么集群与存储配置进行测试?

使用 p5.48xlarge 节点,每节点 8 张 NVIDIA H100 80GB GPU 和 32 个 EFA 网络接口,并搭配同一可用区的 Amazon FSx for Lustre SCRATCH_2 共享存储。

打开原文

更多资讯

豆包工作还想反超WorkBuddy?人人都是产品经理 · 09/16 17:51飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPTInfoQ 中文 · 09/16 02:37How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera RubinNVIDIA Technical Blog · 09/16 00:55Firefox 156 释出Solidot · 09/16 14:25让 AI 补货,但不让它算库存——LangGraph 在生鲜补货的落地实践人人都是产品经理 · 09/15 10:55Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARENVIDIA Technical Blog · 09/15 23:00“裁判”不想给阿莫迪吹暂停金色财经 · 09/15 13:07物理 AI 的大结果何时到来?人人都是产品经理 · 09/16 17:25AI for everyone in every languageGoogle AI Blog · 09/16 00:00无效的管理者和疲惫的基层:浅论考核指标的漂移人人都是产品经理 · 09/16 15:06F-Droid 上的应用有多少是在 AI 帮助下编写的?Solidot · 09/15 20:45一边喊停一边敲钟:硅谷AI巨头到底在怕什么金色财经 · 09/16 10:53华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27协同办公进入Agent时代,飞书+豆包工作跑在了最前面量子位 · 09/16 15:46视频号评论区小蓝词使用指南人人都是产品经理 · 09/16 10:27美股太贵 该加仓新兴市场吗?金色财经 · 09/16 18:57牛市的钱:是熊市里守出来的金色财经 · 09/15 19:0419.98 万元起,吉利银河战舰 700 开启预售,最高 1129 匹马力,还有三电机四驱爱范儿 / APPSO · 09/15 21:04场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构人人都是产品经理 · 09/15 11:58前高通算法研发经理跨界AI算力板检测,获近亿元战略投资丨36氪首发36氪 · 09/15 09:30和Jeff Dean押注同一方向,27岁清华助理教授创业,两个月融资数亿36氪 · 09/16 15:589月21日,深圳前海!聊聊工业AI与生态共创的下一步量子位 · 09/15 13:20渣打给ARB十美元目标价靠什么?金色财经 · 09/16 21:36探秘柬埔寨,千年吴哥窟少数派 · 09/16 17:33129亿美元卖身英伟达之后,是时候重新理解Hugging Face了InfoQ 中文 · 09/16 16:00把记忆交给CPU,大模型会变快量子位 · 09/16 11:07个贷不良四年涨 23 倍:这门从“救大行”长出来的生意,底层逻辑是什么?人人都是产品经理 · 09/16 17:12香港第一、全球第八:OSL进化背后的数字资产新格局金色财经 · 09/16 21:42GPT-6 Astra 之后,产品经理需要重新设计人在流程中的位置人人都是产品经理 · 09/16 09:10Denuvo 起诉黑客违反 DMCA 反规避条款Solidot · 09/16 23:27