《中国人工智能学会通讯》——8.19 多目标优化中的机器学习-阿里云开发者社区

开发者社区> 人工智能> 正文
登录阅读全文

《中国人工智能学会通讯》——8.19 多目标优化中的机器学习

简介: 本节书摘来自CCAI《中国人工智能学会通讯》一书中的第8章,第8.19节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。

8.19 多目标优化中的机器学习

多 目 标 优 化 问 题 (MOP, multiobjecitveoptimization problem) 是指含有 2 个或 2 个以上目标函数的优化问题。当目标数多于 3 个时,MOP也常被称作超多目标优化问题。由于多个目标之间通常不协调甚至存在矛盾,MOP 最优解不是单个解而是一个解集。法国经济学家 V. Pareto 最早在经济福利理论研究中提出了多目标优化问题,并引入了 Pareto 最优的概念,因此这个最优解集也被称作 Pareto 最优解集[15] 。对于现实问题,求出Pareto 最优解集的解析表达式是一件极其困难的事情,因此决策者更偏向于获取 Pareto 最优解集的一个逼近,即要求所得解尽可能分布均匀和尽可能靠近 Pareto 最优解集[16] 。

求解多目标优化问题的传统方法包括分解法和分层序列法等方法。与传统方法需要多次运行才能得到 Pareto 解集的逼近不同,EA 等启发式方法能够执行一次而得到整个 Pareto 解集的逼近,因此EA 已成为求解 MOP 的主要方法。目前多目标演化算法 (MOEA,multiobjective EA) 主要包括:基于Pareto 支配关系的算法,利用 Pareto 支配关系来选择后代个体;基于评价指标的算法,利用评价指标来选择后代个体;基于分解的算法,将 MOP 分解为一系列简单的 MOP 或单目标优化问题,同时求解这些简单问题以得到原问题Pareto解集的逼近 [17] 。

MOP Pareto 最优解集在搜索空间呈现出特殊的拓扑特性:可以证明在某些连续性假设前提下,一个包含 m 个目标的连续 MOP Pareto 最优解集在搜索空间形成一个分段连续的 m-1 维流形。如图 3显示,对于含有 2 个目标和 2 维搜索空间的问题,其 Pareto 最优解集形成一个 1 维流形。对于该特性,可以利用流形学习 (manifold learning) 方法来估计 Pareto 最优解集并指导新解产生。文献 [18]利用局部主成分分析 (Local PCA, local principalcomponent analysis)将当前群体划分成多个区域,在每个区域使用PCA来得到其主分量,即低维流形;产生新解时,在低维流形上通过实验设计采样新点,通过逆映射及添加高斯噪音得到搜索空间中的新解。图 4 显示了该方法的基本原理。事实上,除了Local PCA, 其他一些流形学习方法,如生成拓扑映射 (generative topographic mapping) [19] 、 自 组 织映射 (self-organizing map) [20] 等方法均可以用于学习群体隐空间模型。若放松对隐空间流形的假设,则可认为 Pareto 最优解具有某种空间结构或关联关系。机器学习中其他的一些方法,如混合高斯模型[21] 都可以用于学习群体的结构并指引算法搜索。image
除学习上述连续 MOP 问题的特性,机器学习在单目标领域的应用也能自然地被拓展到多目标问题。上节所述 EDA、参数选择与调优、代理模型构造技术都在 MOEA 的研究中有所体现,这些机器学习模型包括高斯过程[22-23] 、分类 [24] 、聚类 [25-26] 、负相关学习[26] 、密度估计 [27] 、玻尔兹曼机 [28]等,这些方法在 MOEA 停机条件分析[29] 、新解产生[24-28] 、代理模型构造 [22-23] 、群体选择 [24] 、最优决策[30]等方面辅助 MOEA 提高搜索效率。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
人工智能
使用钉钉扫一扫加入圈子
+ 订阅

了解行业+人工智能最先进的技术和实践,参与行业+人工智能实践项目

其他文章