每通道移动平均最小最大观察器 ¶
- class torch.ao.quantization.observer.MovingAveragePerChannelMinMaxObserver(averaging_constant=0.01, ch_axis=0, dtype=torch.quint8, qscheme=torch.per_channel_affine, reduce_range=False, quant_min=None, quant_max=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[source][source]¶
基于运行时每通道最小值和最大值计算量化参数的观察器模块。
此观察者使用张量最小/最大统计信息来计算每通道的量化参数。该模块记录传入张量的运行最小值和最大值,并使用此统计信息来计算量化参数。
- 参数:
averaging_constant – 最小/最大平均常数。
ch_axis – 通道轴。
dtype – 量化数据类型。
qscheme – 要使用的量化方案
reduce_range – 通过 1 位减少量化数据类型的范围
quant_min – 最小量化值。如未指定,将遵循 8 位设置。
quant_max – 最大量化值。如未指定,将遵循 8 位设置。
eps (Tensor) – float32 的 Epsilon 值,默认为 torch.finfo(torch.float32).eps。
量化参数的计算方式与
MovingAverageMinMaxObserver
相同,不同之处在于运行中的最小/最大值是按通道存储的。因此,缩放比和零点也是按通道计算的。注意
如果运行中的最小值等于运行中的最大值,则缩放比和零点设置为 1.0 和 0。