cudnn

FLAGS_conv_workspace_size_limit

(始于 0.13.0)

用于选择 cuDNN 卷积算法的工作区限制大小（单位为 MB）。cuDNN 的内部函数在这个内存限制范围内获得速度最快的匹配算法。通常，在较大的工作区内可以选择更快的算法，但同时也会显著增加内存空间。用户需要在内存和速度之间进行权衡。

Uint64 型，缺省值为 512。即 512MB 显存工作区。

FLAGS_conv_workspace_size_limit=1024 - 将用于选择 cuDNN 卷积算法的工作区限制大小设置为 1024MB。

(始于 1.4.0)

表示是否在 batchnorm 中使用新的批量标准化模式 CUDNN_BATCHNORM_SPATIAL_PERSISTENT 函数。

Bool 型，缺省值为 False。

FLAGS_cudnn_batchnorm_spatial_persistent=True - 开启 CUDNN_BATCHNORM_SPATIAL_PERSISTENT 模式。

此模式在某些任务中可以更快，因为将为 CUDNN_DATA_FLOAT 和 CUDNN_DATA_HALF 数据类型选择优化路径。我们默认将其设置为 False 的原因是此模式可能使用原子整数缩减(scaled atomic integer reduction)而导致某些输入数据范围的数字溢出。

(始于 0.13.0)

cuDNN 对于同一操作有几种算法，一些算法结果是非确定性的，如卷积算法。该 flag 用于调试。它表示是否选择 cuDNN 中的确定性函数。

Bool 型，缺省值为 False。

FLAGS_cudnn_deterministic=True - 选择 cuDNN 中的确定性函数。

现在，在 cuDNN 卷积和池化 Operator 中启用此 flag。确定性算法速度可能较慢，因此该 flag 通常用于调试。

(始于 1.2.0)

表示是否使用穷举搜索方法来选择卷积算法。在 cuDNN 中有两种搜索方法，启发式搜索和穷举搜索。穷举搜索尝试所有 cuDNN 算法以选择其中最快的算法。此方法非常耗时，所选择的算法将针对给定的层规格进行缓存。一旦更改了图层规格（如 batch 大小，feature map 大小），它将再次搜索。

Bool 型，缺省值为 False。

FLAGS_cudnn_exhaustive_search=True - 使用穷举搜索方法来选择卷积算法。