ConstantLR¶
- class torch.optim.lr_scheduler.ConstantLR(optimizer, factor=0.3333333333333333, total_iters=5, last_epoch=-1)[source][source] ¶
将每个参数组的学习率乘以一个很小的常数因子。
乘法操作会一直进行,直到 epoch 的数量达到预定义的里程碑:total_iters。注意,这种小常数因子的乘法可以与从外部调度器之外对学习率的更改同时发生。当 last_epoch=-1 时,将初始 lr 设置为 lr。
- 参数:
优化器(Optimizer)- 包装的优化器。
factor(浮点数)- 乘以学习率直到达到里程碑的数字。默认:1./3。
total_iters(整数)- 调度器乘以学习率的因子次数。默认:5。
最后一个纪元(int)- 最后一个纪元的索引。默认值:-1。
示例
>>> # Assuming optimizer uses lr = 0.05 for all groups >>> # lr = 0.025 if epoch == 0 >>> # lr = 0.025 if epoch == 1 >>> # lr = 0.025 if epoch == 2 >>> # lr = 0.025 if epoch == 3 >>> # lr = 0.05 if epoch >= 4 >>> scheduler = ConstantLR(optimizer, factor=0.5, total_iters=4) >>> for epoch in range(100): >>> train(...) >>> validate(...) >>> scheduler.step()