[ torch 参数更多 ]torch.nn.Embedding

torch.nn.Embedding

torch.nn.Embedding(num_embeddings,
                   embedding_dim,
                   padding_idx=None,
                   max_norm=None,
                   norm_type=2.0,
                   scale_grad_by_freq=False,
                   sparse=False)

paddle.nn.Embedding

paddle.nn.Embedding(num_embeddings,
                    embedding_dim,
                    padding_idx=None,
                    sparse=False,
                    weight_attr=None,
                    name=None)

PyTorch 相比 Paddle 支持更多其他参数,具体如下:

参数映射

PyTorch PaddlePaddle 备注
num_embeddings num_embeddings 表示嵌入字典的大小。
embedding_dim embedding_dim 表示每个嵌入向量的维度。
padding_idx padding_idx 在此区间内的参数及对应的梯度将会以 0 进行填充
max_norm - 如果给定,Embeddding 向量的范数(范数的计算方式由 norm_type 决定)超过了 max_norm 这个界限,就要再进行归一化,Paddle 无此参数,暂无转写方式。
norm_type - 为 maxnorm 选项计算 p-范数的 p。默认值 2,Paddle 无此参数,暂无转写方式。
scale_grad_by_freq - 是否根据单词在 mini-batch 中出现的频率,对梯度进行放缩,Paddle 无此参数,暂无转写方式。
sparse sparse 表示是否使用稀疏更新。
- weight_attr 指定权重参数属性的对象,PyTorch 无此参数,Paddle 保持默认即可。