torch.fake_quantize_per_tensor_affine

torch.fake_quantize_per_tensor_affine(input, scale, zero_point, quant_min, quant_max) → Tensor

返回一个新张量，其中 input 的数据使用 scale 、 zero_point 、 quant_min 和 quant_max 进行伪量化。

$$\text{output} = ( min( \text{quant\_max}, max( \text{quant\_min}, \text{std::nearby\_int}(\text{input} / \text{scale}) + \text{zero\_point} ) ) - \text{zero\_point} ) \times \text{scale}$$

参数:

• input (Tensor) – 输入值， torch.float32 张量

• scale（双精度标量或 float32 张量）- 量化尺度

• zero_point（int64 标量或 int32 张量）- 量化零点

• quant_min（int64）- 量化域的下界

• quant_max（int64）- 量化域的上界

返回值:

一个新的 fake_quantized torch.float32 张量

返回类型:

张量

示例：

>>> x = torch.randn(4)
>>> x
tensor([ 0.0552,  0.9730,  0.3973, -1.0780])
>>> torch.fake_quantize_per_tensor_affine(x, 0.1, 0, 0, 255)
tensor([0.1000, 1.0000, 0.4000, 0.0000])
>>> torch.fake_quantize_per_tensor_affine(x, torch.tensor(0.1), torch.tensor(0), 0, 255)
tensor([0.1000, 1.0000, 0.4000, 0.0000])