torch.nn.utils.get_total_norm

torch.nn.utils.get_total_norm(tensors, norm_type=2.0, error_if_nonfinite=False, foreach=None)

计算张量序列的范数。

范数是通过对单个张量的范数进行计算得到的，就好像单个张量的范数被连接成一个单个向量一样。

参数:

• tensors (Iterable[Tensor] 或 Tensor) – 一个张量序列或单个张量，将被归一化

• norm_type (浮点数) – 使用 p-norm 的类型。可以是 'inf' 表示无穷范数。

• error_if_nonfinite (bool) – 如果为 True，当 tensors 的总范数为 nan 、 inf 或 -inf 时，将抛出错误。默认： False

• foreach (布尔值) – 使用基于 foreach 的更快实现。如果为 None ，则使用 CUDA 和 CPU 原生张量的 foreach 实现并静默回退到慢速实现。默认： None

返回值:

将张量（视为单个向量）的总范数。

返回类型:

张量