You need to enable JavaScript to run this app.
\u200E
develop
v2.12
v2.11
v2.10
v2.9
v2.8
v2.7
v2.6
v2.3
中文(简)
English(En)
# 模型量化-静态离线量化 ## 1 简介 静态离线量化,使用少量校准数据计算量化因子,可以快速得到量化模型。使用该量化模型进行预测,可以减少计算量、降低计算内存、减小模型大小。 静态离线量化中,有两种计算量化因子的方法,非饱和量化方法和饱和量化方法。非饱和量化方法计算整个Tensor的绝对值最大值`abs_max`,将其映射为127。饱和量化方法使用KL散度计算一个合适的阈值`T` (`0