冲突多目标优化问题在现实世界中广泛存在,这类多目标优化问题(multi-objective optimization problems,MOP)不存在单个最优解使所有目标均达到最优,理论上只能寻求多个冲突目标的权衡优化解。相较于传统的数学优化方法而言,基于种群优化的多目标演化算法(multi-objective evolutionary algorithms,MOEA)则能更好地权衡多个冲突目标的优化。近年来,针对具有超多目标、大规模决策变量、约束条件、数据驱动及不确定性鲁棒性等特性的复杂多目标优化问题,MOEA已成为研究热点并受到广泛关注,各类新方法与新技术不断涌现。与此同时,随着智能计算技术的发展,将MOEA与各种先进智能计算方法相结合,推动着更有效地解决一系列复杂的多目标优化问题,这成为非常有前景的研究方向。本书主要内容为作者在上述研究领域内过去近十年中的主要相关研究成果的总结。
全书共14章,大致分为四个部分:第一部分(第1章)对智能计算进行简要概述;第二部分(第2~3章)比较全面地介绍各类复杂的MOPs及复杂多目标演化优化的基础知识;第三部分(第4~10章)介绍求解各类复杂的MOPs所提出的各种先进的MOEAs,并涉及利用智能计算技术辅助的一系列理论成果;第四部分(第11~14章)围绕MOEA与智能计算的进一步联系,介绍将MOEA应用于求解机器学习、深度学习中复杂MOP的前沿理论成果。
样章试读
目录
- 目录
前言
第1章 智能计算概述 1
1.1 智能计算 1
1.1.1 智能的三个要素 1
1.1.2 智能能力 2
1.1.3 计算能力 4
1.1.4 智能计算特征 7
1.1.5 智能与计算的融合 8
1.2 智能计算技术 9
1.2.1 人工神经网络 10
1.2.2 模糊系统 10
1.2.3 演化计算 11
1.3 智能计算与多目标优化 13
1.4 本书组织结构 15
第2章 复杂多目标优化问题概述 17
2.1 多目标优化问题与传统优化方法 17
2.1.1 多目标优化问题 17
2.1.2 传统多目标优化基本方法 19
2.2 演化算法解决多目标优化问题的优势 24
2.2.1 演化算法与依赖梯度信息数学优化的比较 24
2.2.2 多目标优化问题的基本概念 27
2.2.3 多目标演化算法 29
2.2.4 多目标演化优化算法研究现状 30
2.3 复杂多目标优化问题 35
2.3.1 高维多目标优化 35
2.3.2 大规模多目标优化 39
2.3.3 动态多目标优化 40
2.3.4 约束多目标优化 42
2.3.5 昂贵多目标优化 45
2.3.6 多模态多目标优化 48
2.3.7 多任务多目标优化 49
2.3.8 不确定问题的鲁棒多目标优化 51
2.3.9 机器学习问题的复杂多目标优化 53
第3章 复杂多目标演化优化基础知识 60
3.1 多目标演化优化代表性算法 60
3.1.1 NSGA-Ⅱ和NSGA-Ⅲ算法 60
3.1.2 基于分解的算法 62
3.1.3 基于评价指标的算法 63
3.1.4 基于新型演化方法的算法 64
3.2 多目标优化算法优劣的评价 73
3.2.1 多目标优化问题的收敛性和多样性分析 73
3.2.2 多目标优化算法的性能度量 74
3.2.3 多目标优化算法的测试问题 75
3.3 复杂多目标演化优化代表性求解策略 79
3.3.1 参考向量自适应调整策略 79
3.3.2 协同优化策略 82
3.3.3 目标代理模型的建立 84
3.3.4 基于迁移学习的优化策略 85
3.4 本章小结 87
第4章 基于泛化Pareto优的高维多目标演化策略 88
4.1 对称泛化Pareto优思想的提出 88
4.2 Pareto优的对称泛化 91
4.2.1 Pareto优的具体泛化过程 91
4.2.2 泛化Pareto优的相关性质 94
4.2.3 与其他最优性条件的关系 95
4.3 对称泛化Pareto优的实验分析 97
4.3.1 支配率曲面的估算 98
4.3.2 近优解群非支配度分布的对比 100
4.3.3 近优解群非支配度空间的对比 101
4.4 Pareto优的对称泛化对算法性能影响的实验分析 103
4.4.1 演化解群收敛度与分布性的对比 103
4.4.2 算法整体运行时间的对比 105
4.5 本章小结 108
第5章 基于分解的双档案高维多目标演化算法 109
5.1 引言 109
5.2 相关工作 110
5.2.1 双档案算法框架 110
5.2.2 改进的双档案多目标演化算法 110
5.3 基于分解的双档案多目标演化算法 111
5.3.1 研究动机 111
5.3.2 算法框架 111
5.3.3 收敛性档案更新策略 113
5.3.4 多样性档案更新策略 117
5.3.5 计算复杂度 123
5.3.6 算法分析与比较 123
5.4 实验设计 124
5.4.1 测试函数 124
5.4.2 性能指标 124
5.4.3 对比算法 125
5.4.4 参数设置 125
5.5 实验结果 126
5.5.1 DTLZ测试函数上的比较结果 127
5.5.2 WFG测试函数上的比较结果 132
5.5.3 关键参数对算法性能的影响 137
5.5.4 分析与讨论 139
5.6 本章小结 140
第6章 基于(M-1)+1 泛化Pareto支配框架的高维多目标演化优化算法 141
6.1 引言 141
6.2 相关工作 142
6.2.1 GPO的定义 142
6.2.2 近期相关方法综述 143
6.2.3 研究动机 144
6.3 所提算法 145
6.3.1 基本框架 145
6.3.2 极端解的确定 146
6.3.3 基于距离的子集选择 146
6.3.4 基于(M-1)-GPD 的环境选择 147
6.3.5 时间复杂度分析与主要特性分析 152
6.4 测试函数实验分析 153
6.4.1 实验设置 153
6.4.2 (M-1)-GPD策略的有效性分析 155
6.4.3 与其他MaOEA的性能比较 162
6.4.4 扩张角φ的敏感性分析 171
6.4.5 MultiGPO的进一步分析 189
6.5 实际应用问题分析 192
6.5.1 实验设置 193
6.5.2 结果与讨论 193
6.6 本章小结 197
第7章 基于参考矢量合作演化的约束多目标优化算法 198
7.1 约束多目标优化的基本问题 198
7.2 基于问题变换的约束多目标优化算法 200
7.2.1 算法原理 200
7.2.2 DC-NSGA-Ⅲ算法框架 201
7.3 考虑问题类型的约束与目标平衡方法 205
7.4 基于推拉搜索的约束多目标优化算法 213
7.4.1 算法原理 213
7.4.2 PPS-MOEA/D算法框架 218
7.5 一种基于高斯罚函数约束处理的多目标优化算法 222
7.5.1 高斯罚函数约束处理 223
7.5.2 约束多目标优化算法框架 224
7.6 约束多目标优化算法的比较研究 227
7.7 本章小结 230
第8章 数据驱动的多目标进化优化算法及其应用 231
8.1 引言 231
8.2 数据驱动的进化优化框架 232
8.2.1 模型选择 232
8.2.2 模型构建 234
8.2.3 模型管理 236
8.3 数据驱动的船型设计优化方法 237
8.3.1 船型设计优化介绍 237
8.3.2 船型优化的主要技术 237
8.3.3 基于SBD技术的船型设计智能优化 240
8.3.4 多学科设计优化 245
8.4 本章小结 246
第9章 面向不确定性问题的数据驱动多目标优化算法 248
9.1 引言 248
9.2 混合采样算法框架 249
9.3 多样性采样机制 252
9.3.1 基于RVEA的采样策略 252
9.3.2 Pareto前沿面上的表面插值策略 254
9.4 收敛性采样 260
9.4.1 支配数量改善期望策略 260
9.4.2 目标值总和的max-min期望改善策略 264
9.5 数值仿真和比较研究 267
9.5.1 实验设置 268
9.5.2 实验结果及分析 269
9.6 本章小结 272
第10章 决策变量具有噪声扰动的鲁棒多目标优化 274
10.1 噪声输入下的鲁棒多目标优化问题定义 274
10.1.1 问题背景 274
10.1.2 输入存在噪声干扰的鲁棒多目标优化问题定义 274
10.2 鲁棒性的度量方法 275
10.3 基于存活率的鲁棒多目标演化优化算法 276
10.3.1 RMOEA-SuR的基本框架 277
10.3.2 精确采样 278
10.3.3 随机分组 280
10.3.4 存档更新 281
10.3.5 最优鲁棒前沿的构建 282
10.3.6 对比实验结果与分析 285
10.3.7 结论 287
10.4 不确定性问题的帕累托前沿 288
10.5 基于UPF 的鲁棒多目标群体搜索优化算法SaRMOEA-UPF 292
10.5.1 演化优化过程及最终不确定性问题帕累托前沿的构建 292
10.5.2 对比实验与结果分析 293
10.5.3 结论 297
10.6 本章小结 298
第11章 基于高维多目标优化的分类型数据聚类算法 300
11.1 引言 300
11.2 相关工作 301
11.2.1 几种常规的分类数据聚类算法 301
11.2.2 聚类有效性指标综述 304
11.3 面向分类数据的高维多目标聚类算法 304
11.3.1 个体编码和种群初始化 305
11.3.2 重组操作 306
11.3.3 目标函数建立和环境选择 310
11.3.4 最终聚类解的确定 311
11.3.5 时间复杂度分析 312
11.4 实验结果与分析 313
11.4.1 对比算法和参数设置 313
11.4.2 数据集和评估指标 313
11.4.3 实验结果与分析 314
11.4.4 聚类数未知情况下的结果与讨论 323
11.5 本章小结 324
第12章 可拓展性多目标聚类算法的种群编码机制 325
12.1 引言 325
12.2 相关工作 326
12.2.1 聚类集成 326
12.2.2 聚类代表点选择策略 326
12.2.3 研究动机 327
12.3 基于层次拓扑结构的代表点训练及解编码机制 327
12.3.1 基本定义 327
12.3.2 基于层次结构的代表点训练方法 328
12.3.3 基于代表点的图编码策略 331
12.4 所提算法框架 332
12.4.1 目标函数 333
12.4.2 重组算子 334
12.4.3 最终聚类解的确定 337
12.4.4 时间复杂度分析 337
12.5 实验分析 338
12.5.1 数据集 338
12.5.2 对比算法和参数设置 339
12.5.3 当聚类数已知情况时的性能比较 340
12.5.4 当聚类数未知情况时的性能分析 346
12.5.5 运行时间和可拓展性分析 350
12.6 HT-MOC 的进一步分析与讨论 351
12.6.1 对所提出的核心点初始化策略的分析 351
12.6.2 HT-MOC和△-MOCK的进一步比较分析 352
12.6.3 与经典聚类方法的对比分析 353
12.6.4 与快速聚类集成方法的对比分析 354
12.7 本章小结 355
第13章 深度神经网络结构搜索的多目标演化优化 356
13.1 深度神经网络结构搜索概述 356
13.2 搜索空间及编码方式的相关工作 358
13.2.1 决策空间建模研究现状及分析 358
13.2.2 搜索策略研究现状及分析 360
13.3 算法流程与步骤描述 361
13.3.1 决策空间建模与编码 362
13.3.2 算法流程 366
13.4 实验结果与分析 370
13.4.1 基准算法与实验数据集 370
13.4.2 实验设置 370
13.4.3 分类精度的结果比较 371
13.4.4 计算效率的结果比较 377
13.4.5 对多目标演化网络结构的进一步分析 379
13.5 本章小结 380
第14章 代理模型辅助的多目标深度神经网络结构搜索 381
14.1 深度神经网络结构搜索性能评估策略 381
14.2 双层优化问题 382
14.3 所提算法 383
14.3.1 编码方案与搜索空间 384
14.3.2 算法整体过程描述 384
14.3.3 基于代理模型的算法加速 387
14.4 实验分析 388
14.4.1 代理模型的性能 388
14.4.2 搜索效率 389
14.4.3 对标准数据的实验结果 390
14.5 本章小结 393
参考文献 394
附录A 聚类有效性函数的表达式 420
彩图