paddle.optimizer

paddle.optimizer 目录下包含飞桨框架支持的优化器算法相关的API与学习率衰减相关的API。具体如下:

优化器算法相关API

API名称

API功能

Adadelta优化器

Adagrad

Adagrad优化器

Adam优化器

Adamax优化器

AdamW优化器

Lamb优化器

Momentum优化器

飞桨框架优化器基类

RMSProp优化器

SGD

SGD优化器

学习率衰减相关API

API名称

API功能

Cosine Annealing学习率衰减

Exponential 学习率衰减

Inverse Time 学习率衰减

学习率衰减的基类

Lambda 学习率衰减

Linear Warmup 学习率衰减

MultiStep 学习率衰减

NatualExp 学习率衰减

Norm学习率衰减

分段设置学习率

多项式学习率衰减

loss 自适应学习率衰减

按指定间隔轮数学习率衰减