多步学习率调整器 ¶

class torch.optim.lr_scheduler.MultiStepLR(optimizer, milestones, gamma=0.1, last_epoch=-1)[source][source] ¶

当训练轮数达到预定的里程碑之一时，按 gamma 值衰减每个参数组的学习率。

注意这种衰减可以与调度器外部的学习率变化同时发生。当 last_epoch=-1 时，将初始 lr 设置为 lr。

参数:

• 优化器（Optimizer）- 包装的优化器。

• milestones（列表）- 增长索引的列表。必须按升序排列。

• gamma（浮点数）- 学习率衰减的乘法因子。默认：0.1。

• last_epoch（整数）- 上一个 epoch 的索引。默认：-1。

示例

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.05     if epoch < 30
>>> # lr = 0.005    if 30 <= epoch < 80
>>> # lr = 0.0005   if epoch >= 80
>>> scheduler = MultiStepLR(optimizer, milestones=[30,80], gamma=0.1)
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr()[source]

返回当前调度器计算的最后学习率。

返回类型:

list[float]

get_lr()

计算每个参数组的学习率。

load_state_dict(state_dict)

加载调度器的状态。

参数:

state_dict (dict) – 调度器状态。应为调用 state_dict() 返回的对象。

state_dict()

返回调度器的状态作为 dict 。

包含了 self.__dict__中每个非优化器的变量条目。

step(epoch=None)

执行一步操作。