[ 仅 API 调用方式不一致 ]torch.optim.Optimizer.add_param_group

torch.optim.Optimizer.add_param_group

torch.optim.Optimizer.add_param_group(param_group)

paddle.optimizer.Optimizer._add_param_group

paddle.optimizer.Optimizer._add_param_group(param_group)

两者功能一致,但调用方式不一致,具体如下:

转写示例

# PyTorch 写法
optimizer = torch.optim.SGD(pg1, lr=0.1, momentum=0.9, weight_decay=0.0005)
optimizer.add_param_group({
    'params': pg2,
    'lr': 0.1 * 2,
    'weight_decay': 0.0
})

# Paddle 写法
optimizer = paddle.optimizer.SGD(learning_rate=0.1, parameters=pg1, weight_decay=0.0005)
optimizer._add_param_group({
    'params': pg2,
    'learning_rate': 0.1 * 2,
    'weight_decay': 0.0
})