pytorch 自定义学习率更新 Poly

Poly

学习率调整策略需要继承_LRScheduler类,该类包含三个重要属性和两个重要方法

学习率与batch-size的关系

一般来说,batch-size的大小一般与学习率的大小成正比。batch-size越大一般意味着算法收敛方向的置信度越大,也可以选择较大的学习率来加快收敛速度。而小的batch-size规律性较差,需要小的学习率保证不出错。在显存允许的情况下,选择大的batch-size。

预设规则的学习率变化法:StepLR、Multi-StepLR
自适应的学习率变化法:ExponentialLR,CosineAnnealingLR,LambdaLR,OneCycleLR,Poly

Poly学习率调整策略的优点包括:

更好的泛化能力:Poly学习率调整策略可以在训练后期逐渐降低学习率,避免过拟合,提高模型的泛化能力。
对超参数不敏感:Poly学习率调整策略的性能不太受超参数的影响,相对比较稳定。
计算量较小:Poly学习率调整策略的计算量相对较小,不会影响训练速度。

Poly学习率调整策略的缺点包括:
收敛速度较慢:Poly学习率调整策略在训练初期学习率较低,收敛速度较慢。
不适用于所有模型:Poly学习率调整策略可能不适用于所有类型的模型,需要根据具体情况进行选择。

code 如下

from torch.optim.lr_scheduler import _LRSchedule
from torch.optim.optimizer import Optimizer
// 定义
class PolyLR(_LRScheduler):
    def __init__(self,optimizer,max_iters,power=0.9,last_epoch=-1,min_lr=1e-6):
        # super(PolyLR,self).__init__(optimizer,last_epoch)
        self.power = power
        self.max_iters = max_iters
        self.min_lr = min_lr
        super(PolyLR, self).__init__(optimizer, last_epoch)
    def get_lr(self) -> float:
        return [ max( base_lr * ( 1 - self.last_epoch/self.max_iters )**self.power, self.min_lr)
                for base_lr in self.base_lrs]
model = AlexNet(num_classes=2)
optimizer = torch.optim.Adam(model.parameters(),lr=0.1)
scheduler = PolyLR(optimizer, max_iters=150, power=0.9, last_epoch=-1, min_lr=1e-6)

使用方法和位置

在这里插入图片描述

参考链接:[1] https://blog.csdn.net/shengweiit/article/details/130649229
[2] https://blog.csdn.net/qq_31580989/article/details/121491181

相关推荐

  1. 【AI】Pytorch 系列:学习设置

    2024-06-09 07:28:04       33 阅读
  2. pytorch中模型训练的学习动态调整

    2024-06-09 07:28:04       9 阅读

最近更新

  1. 浔川画板v5.0——浔川python科技社

    2024-06-09 07:28:04       0 阅读
  2. C# —— for循环语句

    2024-06-09 07:28:04       0 阅读
  3. 鸿蒙开发:【启动本地PageAbility】

    2024-06-09 07:28:04       0 阅读
  4. 地学类期刊最新CiteScore™ 汇总

    2024-06-09 07:28:04       0 阅读
  5. 怎么通过AI构架一个个人简介并且写出来

    2024-06-09 07:28:04       0 阅读

热门阅读

  1. 第十一章:净世山的考验

    2024-06-09 07:28:04       3 阅读
  2. 力扣每日一题 6/8

    2024-06-09 07:28:04       5 阅读
  3. web前端 麦子学院:探索前端技术的无尽奥秘

    2024-06-09 07:28:04       4 阅读
  4. conda env list,列出来的环境怎么删除掉

    2024-06-09 07:28:04       5 阅读
  5. 阿里云 动态ddns

    2024-06-09 07:28:04       4 阅读
  6. MySQL Show命令集

    2024-06-09 07:28:04       5 阅读