深度学习|改进两阶段鲁棒优化算法i-ccg

简介: 深度学习|改进两阶段鲁棒优化算法i-ccg

1 主要内容

自从2013年的求解两阶段鲁棒优化模型的列和约束生成算法(CC&G)被提出之后,基本没有实质性的创新,都是围绕该算法在各个领域的深度应用,有些小的变形应用也都是基于模型应用,比如嵌套CCG等。所以这些年大热的CC&G研究在算法改进方面鲜有成就,电气专业同学在研究源荷不确定性的过程中基本都要学习该算法,明确求解流程、主子问题研究内容以及对偶、kkt条件等,现给大家推荐一个新鲜出炉的改进算法i-CCG。

2 改进算法

2.1  CC&G算法的优势

一般两阶段鲁棒优化调度模型是 min-max-min 形式的非凸优化问题,难以直接求解。目前常用 Benders 分解或 C&CG 算法将该类型问题转化为包含 min 主问题和 max-min 子问题的两阶段优化。若模型第三层仅包含连续变量,则 max-min子问题可通过强对偶理论或 KKT(Karush-Kuhn-Tucker)条件等效为单层max问题,此时通过主问题和子问题的迭代计算即可求解出优化结果。相较于 Benders分解,C&CG 算法能在较少的迭代次数内达到收敛,其求解效率较高,主要原因为:

1)C&CG 算法在求解子问题时对场景进行严格辨识以缩减模型求解的搜索域;

2)C&CG 算法在求解主问题时保持了主问题的原始模型架构,而 Benders分解利用对偶割平面构建主问题,破坏了原始模型架构,增加了模型计算量。

因此 C&CG 算法已经成为求解两阶段鲁棒优化问题的主要方法。

2.2 i-CCG算法简介

该算法是在2023年刚发表的文章《An inexact column-and-constraint generation method to solve two-stage robust optimization problems》提出来的,有兴趣同学可以下载学习一下,因为是刚发布的算法,用该算法建模型、求解、对比分析和增加小的改动都会提高文章的创新性,解决发表文章难的问题。

目的:该算法是为了解决CCG算法应用于大规模求解或者较难的模型求解速度慢的难题,虽然通过牺牲求解精度来提升求解速度,但是通过迭代参数设置以及求解步骤能够保证最终的结果收敛于最优解。

算法步骤:传统CCG的求解步骤如下:

研究过的同学应该比较了解,传统两阶段鲁棒主要是主子问题的循环迭代,子问题需要通过强对偶或者KKT条件得到最恶劣运行工况,通过增加变量的形式带入主问题,通过迭代获得最优解。整个逻辑比较简单,容易理解,虽然程序语言实现过程中会遇到各种坑,但是基本思路还是挺容易理解的。

i-CCG算法步骤:

该算法初始阶段通过牺牲求解精度(设置emp的值)来达到快速求解的目的,在循环迭代过程中增加了不精确求解变量(相当于在传统CCG算法中增加了一个缓冲层),并对求解的状态进行识别,不同求解状态下会进入不同的循环阶段,直至收敛到阈值以下。

3 结果对比

以考虑需求响应的6节点电网两阶段鲁棒优化调度程序为例进行算法验证,常规算法下的迭代收敛曲线如下:

i-CCG算法的收敛曲线如下:

很显然,该改进算法的性能确实要好很多,通过实际程序求解时间都能明显感受到i-CCG算法求解速度快得多,因此,大家可以借用新算法开展深入研究和应用,祝大家SCI/EI/核心随便就能中!

相关文章
|
12天前
|
机器学习/深度学习 人工智能 算法
深度学习入门:理解神经网络与反向传播算法
【9月更文挑战第20天】本文将深入浅出地介绍深度学习中的基石—神经网络,以及背后的魔法—反向传播算法。我们将通过直观的例子和简单的数学公式,带你领略这一技术的魅力。无论你是编程新手,还是有一定基础的开发者,这篇文章都将为你打开深度学习的大门,让你对神经网络的工作原理有一个清晰的认识。
|
4天前
|
机器学习/深度学习 PyTorch 调度
在Pytorch中为不同层设置不同学习率来提升性能,优化深度学习模型
在深度学习中,学习率作为关键超参数对模型收敛速度和性能至关重要。传统方法采用统一学习率,但研究表明为不同层设置差异化学习率能显著提升性能。本文探讨了这一策略的理论基础及PyTorch实现方法,包括模型定义、参数分组、优化器配置及训练流程。通过示例展示了如何为ResNet18设置不同层的学习率,并介绍了渐进式解冻和层适应学习率等高级技巧,帮助研究者更好地优化模型训练。
14 4
在Pytorch中为不同层设置不同学习率来提升性能,优化深度学习模型
|
9天前
|
机器学习/深度学习 人工智能 算法
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
文本分类识别系统。本系统使用Python作为主要开发语言,首先收集了10种中文文本数据集("体育类", "财经类", "房产类", "家居类", "教育类", "科技类", "时尚类", "时政类", "游戏类", "娱乐类"),然后基于TensorFlow搭建CNN卷积神经网络算法模型。通过对数据集进行多轮迭代训练,最后得到一个识别精度较高的模型,并保存为本地的h5格式。然后使用Django开发Web网页端操作界面,实现用户上传一段文本识别其所属的类别。
22 1
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
|
7天前
|
机器学习/深度学习 算法 计算机视觉
深度学习之图像修复算法
基于深度学习的图像修复算法旨在通过学习和生成模型来填补图像中的缺失或损坏部分。
24 7
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
深度学习中的优化算法及其应用
本文旨在探讨深度学习中常用的优化算法,包括梯度下降、动量方法、AdaGrad、RMSProp和Adam等。通过分析每种算法的原理、优缺点及适用场景,揭示它们在训练深度神经网络过程中的关键作用。同时,结合具体实例展示这些优化算法在实际应用中的效果,为读者提供选择合适优化算法的参考依据。
|
6天前
|
大数据 UED 开发者
实战演练:利用Python的Trie树优化搜索算法,性能飙升不是梦!
在数据密集型应用中,高效搜索算法至关重要。Trie树(前缀树/字典树)通过优化字符串处理和搜索效率成为理想选择。本文通过Python实战演示Trie树构建与应用,显著提升搜索性能。Trie树利用公共前缀减少查询时间,支持快速插入、删除和搜索。以下为简单示例代码,展示如何构建及使用Trie树进行搜索与前缀匹配,适用于自动补全、拼写检查等场景,助力提升应用性能与用户体验。
20 2
|
12天前
|
机器学习/深度学习 数据采集 开发者
深度学习中的模型优化策略
【9月更文挑战第20天】在深度学习的海洋里,每一个研究者和实践者都在追求更高效、更准确的模型。本文将深入探讨深度学习中模型优化的策略,从数据预处理到正则化技术,再到超参数调整,我们将一步步揭开模型优化的神秘面纱。无论你是初学者还是有经验的开发者,这篇文章都将为你提供宝贵的见解和实用的技巧。让我们一起探索如何让你的深度学习模型更加出色吧!
26 8
|
8天前
|
机器学习/深度学习 算法 物联网
探究操作系统的心脏:调度算法的演变与优化
本文旨在深入探讨操作系统中核心组件——调度算法的发展脉络与优化策略。通过分析从单任务到多任务、实时系统的演进过程,揭示调度算法如何作为系统性能瓶颈的解决关键,以及在云计算和物联网新兴领域中的应用前景。不同于传统摘要,本文将注重于概念阐释与实例分析相结合,为读者提供直观且全面的理解视角。
|
10天前
|
算法 搜索推荐 开发者
别再让复杂度拖你后腿!Python 算法设计与分析实战,教你如何精准评估与优化!
在 Python 编程中,算法的性能至关重要。本文将带您深入了解算法复杂度的概念,包括时间复杂度和空间复杂度。通过具体的例子,如冒泡排序算法 (`O(n^2)` 时间复杂度,`O(1)` 空间复杂度),我们将展示如何评估算法的性能。同时,我们还会介绍如何优化算法,例如使用 Python 的内置函数 `max` 来提高查找最大值的效率,或利用哈希表将查找时间从 `O(n)` 降至 `O(1)`。此外,还将介绍使用 `timeit` 模块等工具来评估算法性能的方法。通过不断实践,您将能更高效地优化 Python 程序。
27 4
|
9天前
|
机器学习/深度学习 人工智能 自然语言处理
深度学习还不如浅层网络?RL教父Sutton持续反向传播算法登Nature
【9月更文挑战第24天】近年来,深度学习在人工智能领域取得巨大成功,但在连续学习任务中面临“损失可塑性”问题,尤其在深度强化学习中更为突出。加拿大阿尔伯塔大学的研究人员提出了一种名为“持续反向传播”的算法,通过选择性地重新初始化网络中的低效用单元,保持模型的可塑性。该算法通过评估每个连接和权重的贡献效用来决定是否重新初始化隐藏单元,并引入成熟度阈值保护新单元。实验表明,该算法能显著提升连续学习任务的表现,尤其在深度强化学习领域效果明显。然而,算法也存在计算复杂性和成熟度阈值设置等问题。
21 2
下一篇
无影云桌面