[torch 参数更多]torch.cuda.comm.broadcast¶

torch.cuda.comm.broadcast ¶

          torch.cuda.comm.broadcast(tensor, devices=None, *, out=None)

         

          paddle.distributed.broadcast(tensor, src, group=0)

         

其中 PyTorch 相比 Paddle 支持更多其他参数，具体如下：

PyTorch	PaddlePaddle	备注
tensor	tensor	如果当前进程编号是源，那么这个 Tensor 变量将被发送给其他进程。
devices	src	发送源的进程编号。
out	-	表示输出的 Tensor ，Paddle 无此参数，需要进行转写。
-	group	工作的进程组编号，PyTorch 无此参数，Paddle 保持默认即可。

           # PyTorch 写法:
torch.cuda.comm.broadcast(x, 0, out=y)

# Paddle 写法:
paddle.assign(paddle.distributed.broadcast(x, 0) , y)