[返回参数类型不一致]transformers.PreTrainedModel.generate¶
transformers.PreTrainedModel.generate¶
transformers.PreTrainedModel.generate(input, **kwargs)
paddlenlp.transformers.PreTrainedModel.generate¶
paddlenlp.transformers.PreTrainedModel.generate(input_ids, **kwargs)
参数映射¶
| transformers | PaddlePaddle | 备注 |
|---|---|---|
| input | input_ids | token 的 id 组成的 Tensor，仅参数名不一致。。 |
| 返回值 | 返回值 | PyTorch 返回类型为 Tensor，由 input 和生成的 ids(Tensor) 拼接而成，Paddle 返回类型为 tuple，由生成的 ids(Tensor) 和对应的 scores (Tensor)组成，需要转写。 |
转写示例¶
# Pytorch 写法
res = transformers.PreTrainedModel.generate(input = input_x)
# Paddle 写法
temp_res = paddlenlp.transformers.PreTrainedModel.generate(input_ids = input_x)
res = paddle.concat((input_x,temp_res[0]),axis=-1)