PyTorch Monarch 把容错训练带到 ROCm RSS

PyTorch 与 AMD、Meta 的作者说明 Monarch 的 ROCm 支持：把 CUDA 桥接换成 HIP，用 RCCL 对接集合通信，保留 libibverbs 的 RDMA 路径，官方称相关贡献通过 1171 项测试，并支持 actor、监督树和张量分片。大规模训练里节点故障是常态，健康节点能继续跑、失败节点再归队，就能减少全局检查点重启带来的 GPU 空转。

发布于 2026-09-10T10:59:46.842852Z · PyTorch · PyTorch 博客

ROCm 容错 训练

PyTorch 与 AMD、Meta 的作者说明 Monarch 的 ROCm 支持：把 CUDA 桥接换成 HIP，用 RCCL 对接集合通信，保留 libibverbs 的 RDMA 路径，官方称相关贡献通过 1171 项测试，并支持 actor、监督树和张量分片。大规模训练里节点故障是常态，健康节点能继续跑、失败节点再归队，就能减少全局检查点重启带来的 GPU 空转。

PyTorch 与 AMD、Meta 的作者说明 Monarch 的 ROCm 支持：把 CUDA 桥接换成 HIP，用 RCCL 对接集合通信，保留 libibverbs 的 RDMA 路径，官方称相关贡献通过 1171 项测试，并支持 actor、监督树和张量分片。大规模训练里节点故障是常态，健康节点能继续跑、失败节点再归队，就能减少全局检查点重启带来的 GPU 空转。

原始来源 ↗

来源记录

• center.info_item · 492b3ff32e4bcdd3 · 2026-10-03T04:08:35.169032Z
• pgweb.info_item · 492b3ff32e4bcdd3 · 2026-10-03T04:08:55.967155Z