local_response_norm

paddle.nn.functional. local_response_norm ( x, size, alpha=1e-4, beta=0.75, k=1., data_format='NCHW', name=None ) [源代码]

局部响应正则化（Local Response Normalization）用于对局部输入区域进行正则化，执行一种侧向抑制（lateral inhibition）。更多详情参考： ImageNet Classification with Deep Convolutional Neural Networks

其中 input 是mini-batch的输入特征。计算过程如下：

\[Output(i,x,y) = Input(i,x,y)/\left ( k+\alpha \sum_{j=max(0,i-size/2)}^{min(C-1,i+size/2)}(Input(j,x,y))^2 \right )^\beta\]

在以上公式中：

  • \(size\) ：累加的通道数

  • \(k\) ：位移

  • \(\alpha\) ： 缩放参数

  • \(\beta\) ： 指数参数

参数

  • x （Tensor）- 输入的三维/四维/五维 Tensor ，数据类型为：float32。

  • size (int） - 累加的通道数。

  • alpha （float，可选）- 缩放参数，正数。默认值为1e-4。

  • beta （float，可选）- 指数，正数。默认值为0.75。

  • k （float，可选）- 位移，正数。默认值为1.0。

  • data_format (str，可选) - 指定输入的数据格式，输出的数据格式将与输入保持一致。如果输入是三维 Tensor ,该参数可以是"NCL"或"NLC"，其中N是批尺寸，C是通道数，L是特征长度。如果输入是四维 Tensor ,该参数可以是"NCHW"或"NHWC"，其中N是批尺寸，C是通道数，H是特征高度，W是特征宽度。如果输入是五维 Tensor ,该参数可以是"NCDHW"或"NDHWC"，其中N是批尺寸，C是通道数，D是特征深度，H是特征高度，W是特征宽度。默认值："NCHW"。

  • name (str，可选): 操作的名称(可选，默认值为None）。更多信息请参见 Name 。

返回

局部响应正则化得到的输出特征，数据类型及维度和input相同的 Tensor 。

代码示例

import paddle

x = paddle.rand(shape=(3, 3, 112, 112), dtype="float32")
y = paddle.nn.functional.local_response_norm(x, size=5)
print(y.shape)  # [3, 3, 112, 112]