torch.optim.Optimizer.zero_grad

Optimizer.zero_grad(set_to_none=True)

重置所有优化 torch.Tensor 的梯度。

参数:

set_to_none (布尔值) – 在设置为零而不是设置为零的情况下，将梯度设置为 None。这通常会有更低的内存占用，并且可以适度提高性能。但是，它会改变某些行为。例如：1. 当用户尝试访问梯度并对其进行手动操作时，None 属性或充满 0s 的张量将会有不同的行为。2. 如果用户请求 zero_grad(set_to_none=True) 然后进行反向传播， .grad 确保对于未接收梯度的参数将是 None。3. torch.optim 优化器在梯度为 0 或 None 时具有不同的行为（在一种情况下它使用梯度为 0 执行步骤，在另一种情况下它完全跳过步骤）。