barrier

paddle.distributed. barrier ( group=None ) [源代码]

同步进程组内的所有进程。

参数

  • group (Group,可选) - 执行该操作的进程组实例(通过 new_group 创建)。默认为 None,即使用全局默认进程组。

返回

无返回值。

代码示例

>>> import paddle
>>> from paddle.distributed import init_parallel_env

>>> paddle.set_device('gpu:%d'%paddle.distributed.ParallelEnv().dev_id)
>>> init_parallel_env()
>>> paddle.distributed.barrier()