一种实用的降学习率公式

简介: 一种实用的降学习率公式

一种实用的降学习率公式:

             # set lr rate
            current_lr = 0.0002 * (1 / 2) ** (step / 10000)
            for param_group in optimizer_G.param_groups:
                param_group["lr"] = current_lr

具体使用方法:

     step = 0
    for epoch in range(opt.epoch, opt.n_epochs):
        for i, batch in enumerate(dataloader):
            step = step + 1

            # set lr rate
            current_lr = 0.0002 * (1 / 2) ** (step / 10000)
            for param_group in optimizer_G.param_groups:
                param_group["lr"] = current_lr
目录
相关文章
|
机器学习/深度学习 新零售 人工智能
基于阿里云AI购物助手解决方案的深度评测
阿里云推出的AI购物助手解决方案,采用模块化架构,涵盖智能对话引擎、商品知识图谱和个性化推荐引擎。评测显示其在智能咨询问答、个性化推荐和多模态交互方面表现出色,准确率高且响应迅速。改进建议包括提升复杂问题理解、简化推荐过程及优化话术。总体评价认为该方案技术先进,应用效果好,能显著提升电商购物体验并降低运营成本。
1315 0
|
消息中间件 Java Kafka
RabbitMQ 入门
RabbitMQ 入门
282 0
|
编解码 Ubuntu
ubuntu 安装显卡后调整分辨率卡死 解决:禁用掉nouveau
ubuntu 安装显卡后调整分辨率卡死 解决:禁用掉nouveau
507 1
|
存储 人工智能 自然语言处理
阿里云大降价后,再谈“降本增效”
2024年2月29日,阿里云宣布史上最大力度降价,引发行业对用云成本的热议。
2998 4
阿里云大降价后,再谈“降本增效”
|
存储 前端开发 测试技术
Kotlin教程笔记-使用Kotlin + JetPack 对旧项目进行MVVM改造
Kotlin教程笔记-使用Kotlin + JetPack 对旧项目进行MVVM改造
|
算法 Java
线程通过管道通信
线程通过管道通信
|
弹性计算 运维 Kubernetes
边开飞机边换引擎?我们造了个新功能保障业务流量无损迁移
容器化部署应用可以降低企业成本,提升研发效率,解放运维人员。据 Gartner 预计,到 2022 年,将有 75% 的企业将在生产中运行容器化应用程序。Kubernetes 是企业部署容器化应用的首选框架。由于 Kubernetes 部署及运维的复杂性,越来越多的客户选择将业务从 ECS 或者自建的 Kubernetes 迁移到阿里云托管版 Kubernetes —— ACK 中。但是,如何保证业务流量的平滑迁移成为一大挑战。
边开飞机边换引擎?我们造了个新功能保障业务流量无损迁移
|
2天前
|
云安全 人工智能 算法
以“AI对抗AI”,阿里云验证码进入2.0时代
三层立体防护,用大模型打赢人机攻防战
1294 3