Pytorch 官方推荐使用 DistributedDataParallel(DDP) 模块来实现单机多卡和多机多卡分布式计算。DDP 模块涉及了一些新概念，如网络（World Size/Local Rank），代码修改（数据分配加载），多种启动方式（torchrun/launch），使用前请参考官方文档以及更多学习资料。

单机多卡分布式：租用同个计算节点的多张卡即可。

多机多卡分布式：需要先申请开通 分布式集群 功能，点击这里申请开通，在租用时，请选择带有如图所示图标的机器。没有这个图标的机器不支持加入分布式网络。

1）租用机器： 为实现Pytorch的单机多卡分布式，首先，您需要按正常流程租用GPU，如单节点 4 卡 A2000，选择Pytorch镜像，如Pytorch 1.12镜像。

租用的时候 GPU 数设置成 4，即表示 4 卡，对应显存、内存等配置也会翻倍。

2）适配代码： 分布式需对脚本进行相应修改，可参考官方文档。此处使用开源demo.py

3）运行代码： 进入运行脚本所在目录，输入命令行，如：

这里使用的是 launch 启动方式，也可使用torchrun以及其他启动方式。--nproc_per_node 指定每个节点的GPU数量，mnmc_ddp_launch.py 为执行脚本文件（如需下载 cifar10 数据集，修改download=True)。

4）查看GPU使用情况： 租用界面点击详情按钮即可查看 GPU、CPU使用情况。从截图中可以看到 4 个显卡都有使用到。

多机多卡使用需要先申请开通 分布式集群 功能，点击这里申请开通

1）租用机器： 首先，您需要按正常流程租用 GPU，主机市场筛选栏选择 支持分布式集群 筛选，然后选择自己需要的机器租用即可。

如两个计算节点，租用两台 A2000 4 卡，共计 8 卡。选择相同的Pytorch镜像，如Pytorch 1.12。

注意： 多机多卡中每个节点的 GPU 卡数应该一样，才能都使用上，机器类型也最好一样。

2）创建集群： 进入 【个人中心】 — 【我的租用】 — 【分布式集群】。

分布式集群需要先进行申请，申请通过后，点击【添加集群】- 【添加机器】—【确定】。

3）添加机器： 点击集群页面添加机器按钮，勾选要加入集群的机器，点击确定，即可将租用机器添加到集群。

添加机器成功后，系统会给每个节点分配集群 IP，当状态为已连接时，代表机器间可相互通信。

4）添加机器： 登录任一节点。因秘钥由您掌握，故需由您按以下步骤完成节点间的ssh连通:

5）添加以下环境变量： 在每一个节点，使用 ifconfig 命令查询节点网卡名称，如 meth01，meth02。登陆各个节点添加相同环境变量（可用 ssh 登录）

可以将以上内容添加到~/.bashrc文件中（meth917 meth918记得改成自己的网卡名称）。

6）适配代码： 分布式需对脚本进行相应修改，可参考官方文档。此处使用开源demo.py

6）运行程序： 登录主节点，进入运行脚本所在目录，输入命令行，如：

--nproc_per_node 指定每个节点的GPU数量，每个节点GPU数量应该一样，不然无法运行成功，--nnodes 指定节点数（总共2个节点），--node_rank 指定节点顺序（主节点故为0号），--master_addr和master_port 设定主节点ip和端口号。demo.py 为执行脚本（如需下载cifar10数据集，修改download=True)。

登录剩余节点，运行：

其中，--node_rank 指定节点顺序（第二个节点故为1号），如有更多节点，需做相应修改，其他参数不用修改。运行后，系统会自动连接并运行训练任务。

7）查看GPU使用情况： 租用界面点击详情按钮即可查看 GPU、CPU使用情况。