每行 ¶

class torch.ao.quantization.observer.PerRow

表示量化中的行粒度。

这是沿轴量化的一种特殊情况，并且仅适用于 Float8 矩阵乘法，其中输入量化使用块大小为(1, …, input.shape[-1])，权重量化使用块大小为(1, weight.shape[1])。