[ 返回参数类型不一致 ]transformers.PreTrainedModel.generate

transformers.PreTrainedModel.generate

transformers.PreTrainedModel.generate(input, **kwargs)

paddlenlp.transformers.PreTrainedModel.generate

paddlenlp.transformers.PreTrainedModel.generate(input_ids, **kwargs)

参数映射

transformers PaddlePaddle 备注
input input_ids token 的 id 组成的 Tensor，仅参数名不一致。。
返回值 返回值 PyTorch 返回类型为 Tensor，由 input 和生成的 ids(Tensor) 拼接而成，Paddle 返回类型为 tuple，由生成的 ids(Tensor) 和对应的 scores (Tensor)组成，需要转写。

转写示例

返回值

# Pytorch 写法
res = transformers.PreTrainedModel.generate(input = input_x)

# Paddle 写法
temp_res = paddlenlp.transformers.PreTrainedModel.generate(input_ids = input_x)
res = paddle.concat((input_x,temp_res[0]),axis=-1)