selu

paddle.fluid.layers. selu ( x, scale=None, alpha=None, name=None ) [源代码]

SeLU激活函数，其公式如下：

\[\begin{split}selu= \lambda* \begin{cases} x &\quad \text{ if } x>0 \\ \alpha * e^x - \alpha &\quad \text{ if } x<=0 \end{cases}\end{split}\]

输入 x 可以选择性携带LoD信息。输出和它共享此LoD信息(如果有)。

参数:

  • x (Variable) - 输入变量，为数据类型为float32，float64的多维Tensor或者LoDTensor。

  • scale (float，可选) – 可选，表示SeLU激活函数中的λ的值，其默认值为 1.0507009873554804934193349852946。 详情请见： Self-Normalizing Neural Networks。

  • alpha (float，可选) – 可选，表示SeLU激活函数中的α的值，其默认值为 1.6732632423543772848170429916717。 详情请见： Self-Normalizing Neural Networks。

  • name (str，可选) - 具体用法请参见 Name ，一般无需设置，默认值为None。

返回：一个Tensor，shape和输入Tensor相同。

返回类型：Variable(Tensor|LoDTensor)，LoD信息与输入Tensor一致。

代码示例

import paddle.fluid as fluid
import numpy as np

inputs = fluid.layers.data(name="x", shape=[2, 2], dtype="float32")
output = fluid.layers.selu(inputs)

exe = fluid.Executor(fluid.CPUPlace())
exe.run(fluid.default_startup_program())

img = np.array([[0, 1],[2, 3]]).astype(np.float32)

res = exe.run(fluid.default_main_program(), feed={'x':img}, fetch_list=[output])
print(res) # [array([[0.      , 1.050701],[2.101402, 3.152103]], dtype=float32)]