小编w.w*_*wei的帖子

如何在pytorch中为不同的层设置不同的学习率

我正在使用resnet50与pytorch进行微调,并希望将最后一个完全连接层的学习速率设置为10 ^ -3,而其他层的学习速率设置为10 ^ -6.我知道我可以按照其文档中的方法:

optim.SGD([{'params': model.base.parameters()},
           {'params': model.classifier.parameters(), 'lr': 1e-3}], 
          lr=1e-2, momentum=0.9)
Run Code Online (Sandbox Code Playgroud)

但无论如何我不需要逐层设置参数

machine-learning python-2.7 pytorch

6
推荐指数
1
解决办法
1589
查看次数

标签 统计

machine-learning ×1

python-2.7 ×1

pytorch ×1