16
软件学报 ISSN 1000-9825, CODEN RUXUEW E-mail: [email protected] Journal of Software,2013,24(7):15291544 [doi: 10.3724/SP.J.1001.2013.04282] http://www.jos.org.cn ©中国科学院软件研究所版权所有. Tel/Fax: +86-10-62562563 求解多目标问题的 Memetic 免疫优化算法 戚玉涛 1,2 , 1,2 , 常伟远 1,2 , 马晓亮 1,2 , 焦李成 2 1 (西安电子科技大学 计算机学院,陕西 西安 710071) 2 (智能感知与图像理解教育部重点实验室(西安电子科技大学),陕西 西安 710071) 通讯作者: 戚玉涛, E-mail: [email protected] : 将基于 Pareto 支配关系的局部下山算子和差分算子引入免疫多目标优化算法之中,提出了一种求解多目 标问题的 Memetic 免疫优化算法(Memetic immune algorithm for multiobjective optimization,简称 MIAMO).该算法利 用种群中抗体在决策空间上的位置关系设计了两种有效的启发式局部搜索策略,提高了免疫多目标优化算法的求 解效率.仿真实验结果表明,MIAMO 与其他 4 种有效的多目标优化算法相比,不仅在求得 Pareto 最优解集的逼近性、 均匀性和宽广性上有明显优势,而且算法的收敛速度与免疫多目标优化算法相比明显加快. 关键词: 多目标优化;人工免疫算法;Memetic 算法 中图法分类号: TP183 文献标识码: A 中文引用格式: 戚玉涛, 刘芳, 常伟远, 马晓亮, 焦李成. 求解多目标问题的 Memetic 免疫优化算法. 软件学报,2013,24(7): 15291544. http://www.jos.org.cn/1000-9825/4282.htm 英文引用格式: Qi YT, Liu F, Chang WY, Ma XL, Jiao LC. Memetic immune algorithm for multiobjective optimization. Ruan Jian Xue Bao/Journal of Software, 2013,24(7):15291544 (in Chinese). http://www.jos.org.cn/1000-9825/4282.htm Memetic Immune Algorithm for Multiobjective Optimization QI Yu-Tao 1,2 , LIU Fang 1,2 , CHANG Wei-Yuan 1,2 , MA Xiao-Liang 1,2 , JIAO Li-Cheng 2 1 (School of Computer Science and Technology, Xidian University, Xi’an 710071, Chin a) 2 (Key Laboratory of Intelligent Perception and Image Understanding of Ministry of Education (Xidian University), Xi’an 710071, China) Corresponding author: QI Yu-Tao, E-mail: [email protected] Abstract: A Memetic immune algorithm for multiobjective optimization (MIAMO) is proposed by introducing two types of local search operators. These operators are the Pareto dominance based descent operator and the differential evolution based operator. In MIAMO, the position and spatial relations between antibodies in the decision space are used to design the two heuristic local searching strategies with the assistance of which the efficiency of the immune multiobjective optimization algorithm can be improved. Experimental resu lts indicate that, comparing with the other four efficient multiobjective optimization algorithms, the MIAMO performs better in approximation, uniformity, and coverage. It converges significantly faster than the immune multiobjective optimization algorithm. Key words: multiobjective optimization; artificial immune algorithm; Memetic algorithm 许多现实世界中的优化问题需要同时优化两个或多个相互冲突的目标 , 这类问题称为多目标优化问题 (multiobjective optimization problem, 简称 MOP).由于 MOP 往往不存在一个能使所有目标同时达到最优的解, 因此,多目标优化算法的目的是获得一组具有代表性的 Pareto 最优解的集合(Pareto set,简称 PS), 使这些 Pareto 最优解在目标空间 Pareto 前端(Pareto front, 简称 PF)上的分布具有尽可能好的逼近性、宽广性和均匀性 [1] . 基金项目: 国家重点基础研究发展计划(973)(2013CB329402); 国家自然科学基金(61072139, 61001202, 61272279); 高等学校 学科创新引智计划(B07048); 教育部长江学者和创新团队发展计划(IRT1170); 国家教育部博士点新教师基金(20090203120016, 20100203120008); 中国博士后科学基金(20090461283); 陕西省自然科学基础研究计划(2011JQ8010, 2009JQ8015) 收稿时间: 2012-01-20; 修改时间: 2012-04-18; 定稿时间: 2012-06-25

求解多目标问题的 Memetic 免疫优化算法

  • Upload
    others

  • View
    2

  • Download
    0

Embed Size (px)

Citation preview

软件学报 ISSN 1000-9825, CODEN RUXUEW E-mail: [email protected]

Journal of Software,2013,24(7):15291544 [doi: 10.3724/SP.J.1001.2013.04282] http://www.jos.org.cn

©中国科学院软件研究所版权所有. Tel/Fax: +86-10-62562563

求解多目标问题的 Memetic 免疫优化算法

戚玉涛 1,2, 刘 芳 1,2

, 常伟远 1,2, 马晓亮 1,2

, 焦李成 2

1(西安电子科技大学 计算机学院,陕西 西安 710071)

2(智能感知与图像理解教育部重点实验室(西安电子科技大学),陕西 西安 710071)

通讯作者: 戚玉涛, E-mail: [email protected]

摘 要: 将基于 Pareto 支配关系的局部下山算子和差分算子引入免疫多目标优化算法之中,提出了一种求解多目

标问题的 Memetic 免疫优化算法(Memetic immune algorithm for multiobjective optimization,简称 MIAMO).该算法利

用种群中抗体在决策空间上的位置关系设计了两种有效的启发式局部搜索策略,提高了免疫多目标优化算法的求

解效率.仿真实验结果表明,MIAMO 与其他 4 种有效的多目标优化算法相比,不仅在求得 Pareto 最优解集的逼近性、

均匀性和宽广性上有明显优势,而且算法的收敛速度与免疫多目标优化算法相比明显加快.

关键词: 多目标优化;人工免疫算法;Memetic 算法

中图法分类号: TP183 文献标识码: A

中文引用格式 : 戚玉涛 ,刘芳 ,常伟远 ,马晓亮 ,焦李成 .求解多目标问题的 Memetic 免疫优化算法 .软件学报 ,2013,24(7):

15291544. http://www.jos.org.cn/1000-9825/4282.htm

英文引用格式: Qi YT, Liu F, Chang WY, Ma XL, Jiao LC. Memetic immune algorithm for multiobjective optimization. Ruan

Jian Xue Bao/Journal of Software, 2013,24(7):15291544 (in Chinese). http://www.jos.org.cn/1000-9825/4282.htm

Memetic Immune Algorithm for Multiobjective Optimization

QI Yu-Tao1,2, LIU Fang1,2, CHANG Wei-Yuan1,2, MA Xiao-Liang1,2, JIAO Li-Cheng2

1(School of Computer Science and Technology, Xidian University, Xi’an 710071, China)

2(Key Laboratory of Intelligent Perception and Image Understanding of Ministry of Education (Xidian University), Xi’an 710071, China)

Corresponding author: QI Yu-Tao, E-mail: [email protected]

Abstract: A Memetic immune algorithm for multiobjective optimization (MIAMO) is proposed by introducing two types of local search

operators. These operators are the Pareto dominance based descent operator and the differential evolution based operator. In MIAMO, the

position and spatial relations between antibodies in the decision space are used to design the two heuristic local searching strategies with

the assistance of which the efficiency of the immune multiobjective optimization algorithm can be improved. Experimental resu lts

indicate that, comparing with the other four efficient multiobjective optimization algorithms, the MIAMO performs better in

approximation, uniformity, and coverage. It converges significantly faster than the immune multiobjective optimization algorithm.

Key words: multiobjective optimization; artificial immune algorithm; Memetic algorithm

许多现实世界中的优化问题需要同时优化两个或多个相互冲突的目标 ,这类问题称为多目标优化问题

(multiobjective optimization problem,简称 MOP).由于 MOP 往往不存在一个能使所有目标同时达到最优的解,

因此,多目标优化算法的目的是获得一组具有代表性的 Pareto 最优解的集合(Pareto set,简称 PS),使这些 Pareto

最优解在目标空间 Pareto 前端(Pareto front,简称 PF)上的分布具有尽可能好的逼近性、宽广性和均匀性[1].

基金项目: 国家重点基础研究发展计划(973)(2013CB329402); 国家自然科学基金(61072139, 61001202, 61272279); 高等学校

学科创新引智计划(B07048); 教育部长江学者和创新团队发展计划 (IRT1170); 国家教育部博士点新教师基金(20090203120016,

20100203120008); 中国博士后科学基金(20090461283); 陕西省自然科学基础研究计划(2011JQ8010, 2009JQ8015)

收稿时间: 2012-01-20; 修改时间: 2012-04-18; 定稿时间: 2012-06-25

1530 Journal of Software 软件学报 Vol.24, No.7, July 2013

进化算法一次运行就可以产生一组 Pareto 最优解集,因此特别适合求解 MOP.目前,进化多目标优化算法

(evolutionary multiobjective optimization,简称 EMO)已逐渐成为求解MOP的主流方法之一[2].自从 Fonseca等人

首次采用基于 Pareto 排序的进化算法求解多目标问题[3]之后,在过去的 20 多年中,多种 EMO 架构被提了出来.

早期的算法,如 NSGAII[4],SPEAII[5],PESAII[6]等以基于非支配排序的个体选择机制和基于外部种群的多样性保

持机制为主要特征,近年来,进化多目标优化前沿领域涌现出了不少新的求解思路和算法框架[7].

Zhang等人将求解多目标优化问题的传统数学方法与进化计算相结合,提出了基于分解的进化多目标优化

算法MOEA/D[8],引起了广泛的关注.Bader和 Zitzler等人提出将算法性能指标作为选择机制引入进化多目标优

化算法[9].Zhang和 Zhou等人利用连续多目标问题 PS的分布规则,提出了一种求解多目标优化问题的分布估计

算法 RM-MEDA[10].其他计算智能方法,如模拟退火算法[11]、蚁群算法[12]、粒子群算法[13]、人工免疫算法[14]、

差分进化算法[15]等也被成功地用于求解多目标优化问题.

人工免疫系统(artificial immune system,简称 AIS)是受生物免疫系统启发而产生的一种全新的计算智能方

法[16].越来越多的研究结果表明,用于求解优化问题的免疫优化算法与进化算法相比具有更好的种群多样性保

持能力,因而算法不容易陷入局部最优.近年来,免疫优化算法逐渐地被用于求解多目标优化问题.Yoo 和 Hajala

首先将免疫机理引入进化多目标优化算法之中[17].Coello 等人基于免疫克隆选择模型提出了第一个真正意义

上的免疫多目标优化算法 MISA[18].基于免疫网络模型,Freschi 和 Repetto 提出了一种矢量人工免疫系统(vector

artificial immune system,简称 VAIS)求解多目标优化问题.公茂果等人在克隆选择模型的基础上提出了一种基

于非支配邻域选择的多目标优化算法 NNIA[19]及其改进算法 NNIA2[20].实验结果表明,NNIA 和 NNIA2 具有良

好的求解性能,在 Pareto 最优解集合的逼近性、宽广性和均匀性上与 NSGAII 等经典算法相比具有明显的优势.

为了提高进化算法的求解能力,许多学者将局部搜索能力较强的启发式方法引入进化计算之中,提出了一

类兼顾全局搜索和局部搜索的 Memetic 算法(MAs)[21].现有的 Memetic 进化多目标优化算法(Memetic EMO)的

研究主要关注于局部搜索过程的选择机制上,按照选择方法的不同,Memetic EMO 分为两种类型[22]:一类采用

基于 Pareto 支配关系的选择方式[23,24];另一类采用基于聚集函数的选择方式[25,26]等算法.

与现有的进化多目标优化算法一样,人工免疫多目标优化算法更多地关注了目标空间上的选择机制,而在

决策空间的搜索上则只是简单继承了单目标进化算法的策略.为了进一步提高免疫多目标优化算法的求解性

能,本文针对 MOP 的特点设计了两种局部搜索算子,并将其引入免疫多目标优化算法 NNIA2 之中,提出了一种

求解多目标问题的 Memetic 免疫优化算法(Memetic immune algorithm for multiobjective optimization,简称

MIAMO).仿真实验结果表明,MIAMO 算法能够自适应地选择采用何种局部搜索算子,且求解性能与 NNIA[19],

NNIA2[20],NSGAII[4],MOEA/D[8]等算法相比在收敛速度和求解质量上均有明显优势.

1 基于免疫克隆选择的多目标优化算法

免疫优化算法是模拟生物免疫系统的免疫识别、免疫响应、免疫记忆等机理,用于求解优化问题的计算智

能方法[27].如果把优化问题及其约束视作抗原,把目标问题的候选解视作抗体,那么生物免疫系统的免疫识别和

免疫响应过程就可以与免疫优化算法对优化问题解空间的搜索过程联系起来.

图 1 描述了免疫克隆选择优化算法对优化问题解空间的搜索过程.从图中可以看出,免疫克隆选择优化算

法的迭代过程包括 3 个主要步骤:克隆操作(clone operation)、免疫基因操作(immune genetic operation)和选择操

作(selection operation).

NNIA算法[19]利用免疫优化算法良好的种群多样性保持能力,不容易陷入局部最优,求解性能与NSGAII等

经典算法相比,在逼近性和均匀性上具有明显的优势.但是,由于 NNIA 算法只对种群中的 Pareto 最优抗体进行

克隆增殖,选择压力过大,使得对于某些难度较大的问题求得结果的宽广性不足.针对这一问题,NNIA2 采用一

种邻近距离(vicinity distance)替代了非支配排序中的拥挤距离(crowding distance),设计了一种基于 k 近邻列表

的多样性保持机制.与此同时,NNIA2 还引入了一种自适应等级克隆策略,根据抗体在邻近距离下的稀疏程度自

适应地控制抗体的克隆规模,从而使得算法求得结果的均匀性更好.

戚玉涛 等:求解多目标问题的 Memetic 免疫优化算法 1531

Fig.1 Searching paradigm of clonal selection based immune optimization algorithm

图 1 免疫克隆选择优化算法对优化问题解空间的搜索过程

NNIA2 不仅继承了 NNIA 良好的逼近性,而且在均匀性和宽广性上更胜一筹,是一种有效的免疫多目标优

化算法.

虽然 NNIA2 在逼近性、均匀性和宽广性上均表现卓越 ,但是算法的收敛速度较慢 .本文提出的

MIAMO(Memetic immune algorithm for multiobjective optimization)算法在 NNIA2 的基础上引入了两种局部搜

索算子,用于提高算法的求解效率.MIAMO 继承了 NNIA 和 NNIA2 的抗体编码方式,采用实数编码方案.抗体

Ab={g1,g2,…,gn}表示多目标优化问题决策变量 x={x1,x2,…,xn}的编码.抗体 Ab 的每一个基因位 gi[0,1],xi=

mini+gi(maximini),其中,maxi和 mini分别表示决策变量 xi取值的上界和下界.

2 MIAMO 算法描述

免疫多目标优化算法具有良好的种群多样性保持能力,能够获得高质量的解,但是求解效率不高.为了提高

免疫多目标优化算法的求解性能,本文针对多目标优化问题的特点设计了一种基于 Pareto 支配关系的局部下

山算子,并与差分(differential evolution,简称 DE)算子一起引入到免疫多目标优化算法之中,提出了一种求解多

目标问题的 Memetic 免疫优化算法(MIAMO).

2.1 MIAMO算法的流程

MIAMO 算法主要流程的伪码描述如下:

算法 1. MIAMO 算法流程.

Step 0. 算法设置:设置非支配种群规模 nD,激活种群规模 nA,克隆种群规模 nC,近邻列表规模 s,最大函数评

价次数 MaxFuncEval;

Step 1. 初始化:随机产生大小为 nD的初始种群 P0,令初始激活种群 A0和初始克隆种群C0为空集,迭代次数

t=0;

Step 2. 克隆操作:采用快速非支配排序和基于 k近邻的多样性保持技术,从 Pt中选择出大小为 nA的激活种

群 At.执行自适应等级克隆操作,得到克隆种群 Ct(这一步与 NNIA2 算法相同[20]);

Step 3. 免疫基因操作:令tC为空集,对克隆种群 Ct中的每个抗体 Abi(i=1,2,…,|Ct|),用 Ct中欧氏距离最小的

s 个抗体构成近邻列表 NB(Abi),再对 Abi以概率 pd执行 Step 3.1,以概率 1pd执行 Step 3.2;

Step 3.1. Memetic 算子:执行基于局部下山和 DE 的 Memetic 算子,产生新的抗体:

( , ), .it t t t iMemetic C C C Ab Ab Ab

Step 3.2. 交叉变异算子:执行模拟二进制交叉算子(simulated binary crossover,简称 SBX)[4]和多项式变

异算子(polynomial mutation,简称 PM)[4],产生新的抗体 ,i t t iC C Ab Ab ;

Step 4. 选择操作:采用快速非支配排序和基于 k 近邻的多样性保持技术,从t tP C 中选择出 nD个抗体,构

A 克隆

免疫基因

操作选择

父代抗体 子代抗体

抗原

优化问题的解编码

抗体解码

抗体空间

抗体空间 抗体空间 抗体空间 抗体空间

优化问题及约束

优化问题的解空间

人工免疫系统模型和优化问题的映射关系

10A A

1532 Journal of Software 软件学报 Vol.24, No.7, July 2013

成种群 Pt+1;

Step 5. 判断停机准则:如果函数评价次数大于等于 MaxFuncEval,输出种群 Pt+1;否则,令 t=t+1,转 Step 2.

MIAMO 算法的主要步骤沿用了 NNIA2 的框架,只是在 Step 3 免疫基因操作部分以一定的概率 pd执行一

种基于局部下山和 DE 的 Memetic 算子,以提高算法的搜索效率.Memetic 算法的具体流程如下:

算法 2. 基于局部下山和 DE 的 Memetic 算子: ( , ).i i tAb Memetic Ab C

Step 1. 计算支配关系:计算Abi与NB(Abi)中其他抗体的支配关系,用NB(Abi)中被Abi支配的抗体构成集合

D(Abi),若 D(Abi)不为空,执行 Step 2;否则,执行 Step 3;

Step 2. 局部下山算子:记 D(Abi)中抗体的个数为 r,D(Abi)={Ab1,Ab

2,…,Abr},计算下山方向的集合 d={d1,

d2,…,d r},其中,d j=AbiAb

j,j=1,2,…,r.那么,局部下山算子在抗体 Abi的邻域内沿着方向 dir 以步长

step 搜索产生新抗体iAb :

0(0,1)

( )

r j

j

i i

dir rand d

step norm dir

Ab Ab

(1)

在公式(1)中,rand(0,1)表示 0~1 之间的实随机数,norm(dir)表示对向量 dir 进行归一化操作;

Step 3. 差分算子:在 NB(Abi)中随机选择两个抗体,记为 Abp 和 Ab

q,差分算子产生新抗体iAb 的方式如公

式(2)所示:

(0,1) ( ) (0,1) ( )p qi iii rand rand Ab Ab Ab Ab Ab Ab (2)

Step 4. 返回iAb .

2.2 MIAMO算法的收敛性分析

对于有无限多个 Pareto 最优解的多目标优化问题,基于有限种群的进化多目标优化算法无法获得所有的

Pareto 最优解.因此,进化多目标优化算法的优化任务是要获得 Pareto 最优解集合的一个子集,并使得子集中的

Pareto 最优解的目标函数值在理想 PF 上的分布尽可能地宽广和均匀.本文利用有限马尔可夫链的性质证明了

MIAMO 算法以概率 1 渐近收敛到多目标优化问题理想 Pareto 最优解集合的一个子集上.

定义 1(有限齐次马尔可夫链). 如果 S是一个有限集并且{xt:t=0,1,2,…}是一个从 S中取值的随机序列.如果

对于所有的 t≥0 和所有的(i,j)SS 有以下性质:

P{xt+1=j|xt=i,xt1=it1,…,x0=i0}=P{xt+1=j|xt=i}=pij (3)

则称序列{xt:t=0,1,2,…}是一个在状态空间 S上的齐次有限马尔可夫链.齐次有限马尔可夫链的在某一时刻的状

态仅与其前一时刻的状态相关,且状态转移矩阵 P=[pij]SS与时间 t 无关.

一个矩阵 A=[aij]mn,如果对于所有的 i=1,…,m 和所有的 j=1,…,n 有 aij≥0,则称 A 是非负的.若有 aij>0,则称

A 是正矩阵.如果一个非负矩阵的每一行之和等于 1,则称 A 是随机矩阵.所以,有限齐次马尔可夫链的转移矩阵

P=[pij]SS是随机矩阵.一个随机矩阵 A,如果 A 的每一列至少存在一个元素是正数,则称 A 为列可容的.

定义 2(不可约矩阵). 称有限齐次马尔可夫链的转移矩阵 P=[pij]SS是不可约的,如果有

i,jS,k{1,2,…},pij(k)>0 (4)

其中,pij(k)=p{xk=j|x0=i}=eiPkej表示通过 k 步从状态 i 转换到状态 j 的概率.ei和 ej分别表示第 i 维和第 j 维为 1

的单位向量.

从不可约矩阵的定义可以看出,如果有限齐次马尔可夫链的转移矩阵 P 为正矩阵,则它一定是不可约的.

引理 1. 随机矩阵 P,C 和 A,其中,P 是正矩阵,C 是列可容的,A 是任意矩阵,则 PC 和 AP 都是正矩阵.证明见

文献[28].

引理 2. 一个具有有限状态空间与不可约转移矩阵的齐次马尔可夫链,以概率 1 无限次地访问每一状态而

与它的初始分布无关.证明见文献[29].

定理 1. MIAMO 算法的种群序列 Pt,t≥0 是具有正转移矩阵的齐次有限马尔可夫链.

证明:对于求解连续多目标优化问题,如果在确定精度的意义下,其状态空间 S 可以视作有限集.由于算法中

戚玉涛 等:求解多目标问题的 Memetic 免疫优化算法 1533

的参数不随时间 t 而发生变化,即种群序列 Pt的转移矩阵 P 与时间 t 无关.因此,由定义 1 可知,种群序列 Pt是在

状态空间 S 上的齐次有限马尔可夫链.

记 Pt=(Ab1(t),Ab2(t),…,Abn(t))T,则 Pt+1=PtP=PtCLIGSL.种群序列 Pt的转移矩阵 P=CLIGSL,其中,

CL 是克隆操作的转移矩阵,该矩阵的每一行中只有一个元素为 1,其余为 0.因此,CL 是随机矩阵;

IG是免疫基因操作的转移矩阵,MIAMO算法的免疫基因操作由两部分组成:其一是构成Memetic算子

的局部下山算子和差分算子,其二是 SBX 交叉算子和 PM 变异算子.其中,局部下山算子、差分算子和

模拟二进制交叉算子是对两个或多个个体进行凸组合,而多项式变异算子可以产生任意一个新个体.

通过免疫基因操作,种群中的一个个体通过一代的演化,存在变换成为任意一个个体的可能性.因而,免

疫基因操作的转移矩阵 IG 是正矩阵;

SL 是选择操作的转移矩阵,在 MIAMO 算法中,由于选择算子必须在免疫基因操作后的临时种群中选

择,因此,矩阵 SL 的每一列中必定有一个元素为 1,因此,选择操作的转移矩阵 SL 是列可容矩阵.

由引理 1 可知,CL 是随机矩阵,IG 是正矩阵,则 CLIG 是正矩阵.又因为 SL 是列可容的,故而 P=CLIGSL

是正矩阵.

因此,MIAMO 算法的种群序列 Pt,t≥0 是具有正转移矩阵的齐次有限马尔可夫链. □

定理 2. MIAMO算法的种群序列 Pt,t≥0以概率 1渐近收敛到多目标优化问题理想 Pareto最优解集合的一

个子集上.

证明:记多目标优化问题理想 Pareto最优解集合为 PS,MIAMO算法的种群序列 Pt以概率 1渐近收敛到 PS

的一个子集,等价于当 t+时,对于 Pt中的任意一个元素 a,都有 aPS.

假设 aPS,则在 PS 中必然存在一个 Pareto 最优解 b,满足 b个体 Pareto 支配 a.定理 1 已经证明了 MIAMO

算法的种群序列是齐次有限马尔可夫链,且转移矩阵 P 是正矩阵.由 P 是正矩阵可知,P 一定是不可约的.由引理

2 可知,MIAMO 算法的种群序列以概率 1 无限次地访问每一状态而与它的初始分布无关.于是,当 t+时,

Pareto最优解 b以概率 1出现在 Pt中.由 MIAMO算法的选择算子只保留 Pareto最优解的特性可知,a会以概率

1 被 b 淘汰,与假设矛盾.

因此,MIAMO算法的种群序列 Pt,t≥0以概率 1渐近收敛到多目标优化问题理想 Pareto最优解集合的一个

子集上. □

2.3 局部下山算子的作用原理和搜索特性分析

MIAMO 算法中,在进化的初期,由于抗体种群进化没有充分收敛,个体对其邻域内的其他个体构成 Pareto

支配关系的可能性较大.此时,算法 2 中的集合 D(Abi)多数情况下不为空,Memetic 算子中的局部下山算子发挥

了作用.与传统的基于梯度下降的局部下山算子不同,MIAMO 算法针对多目标优化的局部下山算子利用了多

目标优化问题在目标空间上的 Pareto支配关系,在被操作个体的一个邻域内找到被该个体 Pareto支配的其他个

体,再根据这种支配关系确定一个有希望的下山方向进行搜索.

图 2 描述了局部下山算子的作用原理.该算子根据父代抗体 Abi与其邻域 NB(Abi)内抗体的支配关系确定

一个下山区域,搜索方向 dir在下山区域内随机产生.在如图 2所示的示例中,当前被操作的个体为 Abi,在其邻域

NB(Abi)中有另外 3个个体被它 Pareto支配,假设记为 A1,A2,A3.此时,Abi,A1,A2和 A3是决策向量的编码,它们之间

的 Pareto 支配关系需要映射到目标空间上才能获得.若记 Abi,A1,A2和 A3这 4 个个体解码后的决策向量分别为

xi,x1,x2和 x3,由于个体 Abi在目标空间上 Pareto 支配 A1,A2和 A3,按照多目标优化问题的性质,xi在决策空间上应

该比 x1,x2和 x3更接近于问题理想的 Pareto 最优解的集合 PS.因此,利用 Pareto 支配关系得到的从 x1,x2和 x3到

xi的 3个向量围成的锥形体就构成了下山区域.沿着在此区域内随机产生的下山方向进行搜索,会以较大的可能

性得到更接近理想 PS 的解.

图 3从数值实验的角度分析了MIAMO算法中局部下山算子的搜索特性.图 3以测试函数 ZDT1(函数的定

义见后面的表 1)为例,从一组固定的父代个体出发,分别采用随机搜索算子和局部下山算子产生了 3 000个子代

个体.其中,随机搜索算子是 SBX 交叉算子和 PM 变异算子的组合.

1534 Journal of Software 软件学报 Vol.24, No.7, July 2013

Fig.2 Illustration of the principle of the Pareto dominance based descent operator

图 2 基于 Pareto 支配关系的局部下山算子作用原理

Fig.3 Searching behavior of the Pareto dominance based descent operator

图 3 基于 Pareto 支配关系的局部下山算子的搜索特性

从图 3 中不同搜索算子产生的子代个体的分布情况可以看出,随机搜索算子在父代个体的周围进行随机

搜索,产生进化和退化后的可能性大致相当.而局部下山算子在种群进化的初期可以充分利用父代个体在目标

空间上的 Pareto支配关系,以较大概率获得更接近理想 PF的子代个体.因此,MIAMO算法中的局部下山算子在

进化的初期能够有效提高算法的搜索效率,加速算法收敛.

2.4 差分算子的作用原理和搜索特性分析

MIAMO 算法中,在抗体种群进化的中后期,种群中的个体互不支配的可能性较大.此时,算法 2 中的集合

D(Abi)多数情况下为空,Memetic算子中的差分算子发挥作用.差分算子利用互不支配的抗体之间的相对位置关

系产生最可能朝着理想 PS 进化的方向和开拓新的搜索区域的方向.由 Karush-Kuhn-Tucker(KKT)条件可知,对

于有 m 个优化目标的连续多目标优化问题,其理想的 PS 在决策空间上呈现 m1 维分段连续的流形分布[10].特

别地,对于连续的两目标优化问题,其理想的 PS 是决策空间上分段连续的曲线;对于连续的三目标优化问题,其

理想的 PS是决策空间上分段连续的曲面.差分算子利用了多目标优化问题在决策空间上的上述特性,设计了沿

着种群当前 PS 流形的搜索策略.

图 4描述了差分算子的作用原理,图中实心的方块代表产生的子代iAb .从图 4的左图可以看出,MIAMO算

法中的差分算子利用邻域内非支配抗体的相对位置关系产生了更接近理想 PS 的子代抗体;右图的搜索方向朝

着新的搜索区域,产生了能够使算法获得更好的宽广性的子代抗体.

ZDT1

随机搜索得到

的子代解

局部下山算子

得到的子代解

父代解

理想的 Pareto

最优前端

7

6

5

4

3

2

1

0

f1

f 2

0 0.2 0.4 0.6 0.8 1

g1

g2

g3

邻域

被支配抗体

下山区域

父代抗体

戚玉涛 等:求解多目标问题的 Memetic 免疫优化算法 1535

Fig.4 Illustration of the principle of the differential evolution based operator

图 4 差分算子的作用原理

图 5 从数值实验的角度分析了 MIAMO 算法中差分算子的搜索特性.考虑直观性,图 5 以二维决策空间为

例,从一组固定的父代个体出发,采用 MIAMO 算法中差分算子产生了 1 000 个子代个体.

Fig.5 Searching behavior of the differential evolution based operator

图 5 差分算子的搜索特性

从图 5 中差分算子产生的子代个体的分布情况可以看出,差分算子会沿着父代种群构成的当前 PS 流形方

向进行搜索,搜索范围不仅仅局限于当前种群个体围成区域的内部,而且沿着当前 PS流形方向朝着两端进行扩

展.在 MIAMO 算法进化的中后期,抗体种群收敛到了多目标优化问题的理想 PS 的周围.此时,差分算子的搜索

特性有助于 MIAMO 算法在当前 PS 流形上获得更多的解,以提高种群分布的均匀性.同时,差分算子沿着当前

PS 流形方向朝着两端扩展的搜索能力,有助于 MIAMO 算法获得整个理想 PS 上的解,以提高算法的宽广性.

3 仿真实验结果与分析

本文的实验部分选用了 10 个不同类型的经典测试问题来验证 MIAMO 算法的有效性,其中包括 ZDT 系

列[17]的 5 个两目标问题和 DTLZ 系列[18]的 5 个三目标问题.这些测试问题已在很多不同的重要研究中被提及,

它们能够在不同的方面对进化多目标问题进行测试.实验结果与 NSGAII[4],MOEA/D[8],NNIA[19]和 NNIA2[20]进

行了比较.其中,NSGAII 是一种公认而有效的进化多目标优化算法,MOEA/D 是结合传统数学方法与进化算法

的多目标优化方法,NNIA 和 NNIA2 是改进前的算法.表 1 列出了 10 个测试函数的表达式.

在实验中,采用一种综合评价指标 Inverted Generational Distance(IGD)[22]来评估算法的性能.假定 P*为

MOP的理想 PF上的一组均匀采样,P为由多目标优化算法求得的一组对理想 PF的逼近解,则解集 P的 IGD指

标定义如下:

**

*

( , )( , )

| |

v Pd v P

IGD P PP

(5)

当前PS

理想PS

当前PS

理想PS

(0,1) ( ) (0,1) ( )p q

i i i irand rand Ab Ab Ab Ab Ab Ab

iAb

iAb

Abi

Abi

Abp

Abq

Abp

Abq

0 0.5 1 1.5 2

2.0

x1

父代个体

子代个体

1.8

1.6

1.4

1.2

1.0

0.8

0.6

0.4

0.2

0.0

x2

1536 Journal of Software 软件学报 Vol.24, No.7, July 2013

其中,d(v,P)为 v 与种群 P 中与之距离最近的点之间的欧氏距离;|P*|表示种群 P*中 Pareto 最优解的个数,本文的

实验中设置为 500 个.IGD 指标可以综合衡量多目标优化算法求得 Pareto 最优解集 P 的收敛性和多样性,IGD

值越小,算法的求解性能越好.

MIAMO 与其他 4 种对比算法均采用了 SBX 交叉和多项式变异,各种算法的 SBX 交叉概率设定为 0.8,多

项式变异的变异概率设定为 1/n,其中,n 代表多目标优化问题决策变量维数,多项式变异的分布指数设定为 20.

MIAMO 算法中,非支配种群规模 nD设置为 100,激活种群规模 nA设置为 20,克隆种群规模 nC设置为 50,近邻列

表规模 s 设置为 20,搜索步长 step 设置为当前父代抗体与近邻列表中与其有支配关系抗体之间的平均距离.在

NNIA和 NNIA2算法中,非支配种群大小为 100,激活种群大小为 20,克隆种群大小为 100.MOEA/D算法中,子问

题的个数为 100,邻域大小为 20.NSGAII 的种群大小为 100.

Table 1 Multi-Objective optimization test problems

表 1 多目标优化测试问题

问题 变量 维数 n 目标函数(最小化)

ZDT1 xi[0,1]

i=1,…,n 30

1 1

12

2

( )

( ) ( ) 1( )

( ) 1 9 ( 1)n

ii

f x x

xf x g x

g x

g x x n

ZDT2 xi[0,1]

i=1,…,n 30

1 1

2

12

2

( )

( ) ( ) 1( )

( ) 1 9 ( 1)n

ii

f x x

xf x g x

g x

g x x n

ZDT3 xi[0,1]

i=1,…,n 30

1 1

112 1

2

( )

( ) ( ) 1 sin(10 )( ) ( )

( ) 1 9 ( 1)n

ii

f x x

xxf x g x x

g x g x

g x x n

ZDT4

x1[0,1]

xi[5,5]

i=2,…,n

30

1 1

12

2

2

( )

( ) ( ) 1( )

( ) 1 10( 1) [ 10cos(4 )]n

i ii

f x x

xf x g x

g x

g x n x x

ZDT6 xi[0,1]

i=1,…,n 10

61 1( 4 ) [sin(6 )]

1

2

12

0.25

2

( ) 1 e

( )( ) ( ) 1

( )

( ) 1 9 ( 1)

x x

n

ii

f x

f xf x g x

g x

g x x n

DTLZ1 xi[0,1]

i=1,…,n k+|xk|1

1 1 2 1

2 1 2 1

1 1 2

1

2

1( ) ... (1 ( ))

2

1( ) ...(1 )(1 ( ))

2

1( ) (1 )(1 ( ))

2

1( ) (1 )(1 ( ))

2

where ( ) 100 | | (( 0.5) cos(20 ( 0.5)))i k

k k

k k

k k

k k

k k i i

x x

f x x x x g x

f x x x x g x

f x x x g x

f x x g x

g x x x x

戚玉涛 等:求解多目标问题的 Memetic 免疫优化算法 1537

Table 1 Multi-Objective optimization test problems (Continued)

表 1 多目标优化测试问题(续)

问题 变量 维数 n 目标函数(最小化)

DTLZ2 xi[0,1]

i=1,…,n k+|xk|1

1 1 2 2 1

2 1 2 2 1

1 1 2

1

( ) (1 ( ))cos( / 2)cos( / 2)...cos( / 2)cos( / 2)

( ) (1 ( ))cos( / 2)cos( / 2)...cos( / 2)sin( / 2)

( ) (1 ( ))cos( / 2)sin( / 2)

( ) (1 ( ))sin( / 2)

where ( ) 10

k k k

k k k

k k

k k

k

f x g x x x x x

f x g x x x x x

f x g x x x

f x g x x

g x

20 | | (( 0.5) cos(20 ( 0.5)))i k

k i i

x x

x x x

DTLZ3 xi[0,1]

i=1,…,n k+|xk|1

1 1 2 2 1

2 1 2 2 1

1 1 2

1

( ) (1 ( ))cos( / 2)cos( / 2)...cos( / 2)cos( / 2)

( ) (1 ( ))cos( / 2)cos( / 2)...cos( / 2)sin( / 2)

( ) (1 ( ))cos( / 2)sin( / 2)

( ) (1 ( ))sin( / 2)

where ( ) 10

k k k

k k k

k k

k k

k

f x g x x x x x

f x g x x x x x

f x g x x x

f x g x x

g x

20 | | (( 0.5) cos(20 ( 0.5)))i kx x

k i ix x x

DTLZ4 xi[0,1]

i=1,…,n k+|xk|1

1 1 2 2 1

2 1 2 2 1

1 1 2

1

( ) (1 ( ))cos( / 2)cos( / 2)...cos( / 2)cos( / 2)

( ) (1 ( ))cos( / 2)cos( / 2)...cos( / 2)sin( / 2)

( ) (1 ( ))cos( / 2)sin( / 2)

( ) (1 ( ))sin( / 2)

wh

k k k

k k k

k k

k k

f x g x x x x x

f x g x x x x x

f x g x x x

f x g x x

2ere ( ) ( 0.5) , 100i k

k i

x x

g x x

DTLZ6 xi[0,1]

i=1,…,n k+|xk|1

1 1

2 2

1 1

1 2 1

1 2 1

1

( )

( )

( )

( ) (1 ( )) ( , ,..., , )

9where ( ) 1 ,

| |

( , ,..., , ) (1 sin(3 ))1

i k

k k

k k k

k i

x xk

ki

k i

i

f x x

f x x

f x x

f x g x h f f f g

g x xx

fh f f f g k f

g

3.1 对两目标优化问题的求解性能比较

这部分实验比较了 MIAMO 与 NNIA,NNIA2,MOEA/D 和 NSGAII 这 5 种算法对两目标 ZDT 函数的求解

性能.图 6给出了 5种算法对不同的测试函数,分别在 2 000次函数评价和 5 000次函数评价后获得的最优 PF(图

6 中第 1 列和第 2 列)以及在 15 000 次函数评价后 IGD 指标的盒图(图 6 中第 3 列).

盒图可以很好地反映数据的统计分布情况,盒子的上下两条线分别是样本的上下四分位数,中间的水平线

为样本的中位数.盒子上下的虚线表示样本的其余本分(野值除外),样本的最值分别为虚线两端,“+”表示野值,

盒子的切口为样本的置信区间.图 6 前两列为 30 次独立实验的最优结果,第 3 列的盒图为 30 次独立实验的统

计结果.

从图 6可以看出,对于两目标 ZDT系列测试函数,MIAMO在 2 000次函数评价时已经很好地收敛到了理想

的 PF,而此时,其他 4种比较算法尚未完全收敛.可以看出,MIAMO的收敛速度均较快.从盒图上看,MIAMO最终

的收敛精度要高于 NSGAII.而在 ZDT6 上,虽然 MIAMO 的收敛速度较快,但其收敛精度不佳.总体来说,改进算

法 MIAMO 在两目标 ZDT 系列测试问题上的性能要优于 NNIA,NNIA2.

1538 Journal of Software 软件学报 Vol.24, No.7, July 2013

Fig.6 Optimal PFs obtained by the comparing algorithms after 2 000 or 5 000 function evaluations

and the IGD box plots after 15 000 function evaluations

图 6 各种算法在 2 000,5 000 次函数评价后的最优 PF 和 15 000 次函数评价后的 IGD 盒图

MIAMO

O NNIA

A

NNIA2

2

MOEAD/

D NSGAII

3.5

4

4.5

5

103

IGD

Algorithms

ZDT1

3.5

4

4.5

5

5.5

Algorithms

103

IGD

ZDT2

MIAMO

O NNIA

A

NNIA2

2 MOEAD/

D NSGAII

x 103

4.6 4.8 5 5.2 5.4 5.6 5.8

MIAMO NNIA NNIA2

5

6

7

8

9

10

11 10

3

IGD

Algorithms

ZDT3

MIAMO

O NNIA

A

NNIA2

2 MOEAD/

D NSGAII

4

4.5

5

5.5

103

IGD

Algorithms

ZDT4

MIAMO

O NNIA

A

NNIA2

2

MOEAD/

D NSGAII

3

3.5

4

4.5

5 10

3

IGD

Algorithms

ZDT6

MIAMO

O NNIA

A

NNIA2

2

MOEAD/

D NSGAII 0 0.2 0.4 0.6 0.8 1

0

1

2

3

4

f1

f 2

ZDT6 (5 000 function evalues)

True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.2 0.4 0.6 0.8 1 0

2

4

6

8

10

12

f1

f 2

ZDT6 (2 000 function evalues)

True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.2 0.4 0.6 0.8 1 0

0.5

1

1.5

2

f1

f 2

ZDT4 (10 000 function evalues)

True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

f1

f 2

ZDT4 (8 000 function evalues)

0 0.2 0.4 0.6 0.8 1 0

0.5

1

1.5

2

2.5 True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.2 0.4 0.6 0.8 1 1

0.5

0

0.5

1

1.5

2

f1

f 2

ZDT3 (5 000 function evalues)

True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.2 0.4 0.6 0.8 1 1

0

1

2

3

f1

f 2

ZDT3 (2 000 function evalues)

True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.2 0.4 0.6 0.8 1 0

0.5

1

1.5

2

2.5

f1

f 2

ZDT2 (5 000 function evalues)

True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

f1

f 2

ZDT2 (2 000 function evalues)

0 0.2 0.4 0.6 0.8 1 0

1

2

3

4

5

6 True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

0

True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

0.2 0.4 0.6 0.8 1 0

0.5

1

1.5

2

2.5

3

f1

f 2

ZDT1 (2 000 function evalues)

f1

f 2

ZDT1 (5 000 function evalues)

0 0.2 0.4 0.6 0.8 1 0

0.5

1

1.5 True PF MIAMO NNIA NNIA2 MOEA/D NSGAII

戚玉涛 等:求解多目标问题的 Memetic 免疫优化算法 1539

3.2 对三目标优化问题的求解性能比较

这部分实验比较了 5 种算法对两目标、三目标 DTLZ 函数的求解性能.图 7 给出了 5 种算法对不同的测试

函数在 20 000 次函数评价后的最优 PF 和 IGD 指标盒图.图 7 中的子图分为 5 组,每组是一个测试函数的实验

结果.每组中的前 5 个子图是各种对比算法在 20 000 次函数评价后获得的最优 PF,图中数据为 30 次独立实验

的最优结果;第 6 个子图是 IGD 指标盒图,为 30 次独立实验的统计结果.

Fig.7 Comparisons of the optimal PFs and IGD box plots obtained

by the comparing algorithms after 20 000 function evaluations (1)

图 7 各种算法在 20 000 次函数评价后的最优 PF 和 IGD 指标盒图(1)

0 0.1

0.2 0.3

0.4 0.5

0 0.1 0.2 0.3 0.4 0.5

0

0.5

1

f1

DTLZ1

f2

f 3

MIAMO

0 0.1

0.2 0.3

0.4 0.5

0 0.1 0.2 0.3 0.4 0.5

0

0.5

1

f1

DTLZ1

f2

f 3

NNIA

0 0.1

0.2 0.3

0.4 0.5

0 0.1 0.2 0.3 0.4 0.5

0

0.5

1

f1

DTLZ1

f2

f 3

NNIA2

0 0.1

0.2 0.3

0.4 0.5

0 0.1 0.2 0.3 0.4 0.5

0

0.5

1

f1

DTLZ1

f2

f 3

MOEA/D

0 0.1

0.2 0.3

0.4 0.5

0 0.1 0.2 0.3 0.4 0.5

0

0.5

1

f1

DTLZ1

f2

f 3

NSGAII

IGD

MIAMO NNIA NNIA2 MOEA/D NSGAII

0.02

0.022

0.024

0.026

0.028

0.03

Algorithms

DTLZ1

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ2

f2

f 3

MIAMO

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ2

f2

f 3

NNIA

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ2

f2

f 3

NNIA2

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ2

f2

f 3

MOEA/D

0 0.5

1 1.5

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ2

f2

f 3

NSGAII

MIAMO NNIA NNIA2 MOEA/D NSGAII

0.055

0.06

0.065

0.07

IGD

Algorithms

DTLZ2

1540 Journal of Software 软件学报 Vol.24, No.7, July 2013

Fig.7 Comparisons of the optimal PFs and IGD box plots obtained

by the comparing algorithms after 20 000 function evaluations (2)

图 7 各种算法在 20 000 次函数评价后的最优 PF 和 IGD 指标盒图(2)

2

0

1 0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ3

f2

f 3

MIAMO

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ3

f2 f 3

NNIA

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ3

f2

f 3

NS

G AI

I

NNIA2

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ3

f2

f 3

MOEA/D

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ3

f2

f 3

NSGAII

MIAM

O

NNIA NNIA2 MOEA/D NSGAII 0.05

0.06

0.07

0.08

0.09

0.1

0.11

IGD

Algorithms

DTLZ3

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ4

f2

f 3

MIAMO

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ4

f2

f 3

NNIA

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ4

f2

f 3

NNIA2

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ4

f2

f 3

MOEA/D

0

1

2

0 0.5

1 1.5

0

0.5

1

1.5

f1

DTLZ4

f2

f 3

NSGAII

MIAMO NNIA NNIA2 MOEA/D NSGAII

0.055

0.06

0.065

0.07

IGD

Algorithms

DTLZ4 MIAMO DTLZ4 f3

戚玉涛 等:求解多目标问题的 Memetic 免疫优化算法 1541

Fig.7 Comparisons of the optimal PFs and IGD box plots obtained

by the comparing algorithms after 20 000 function evaluations (3)

图 7 各种算法在 20 000 次函数评价后的最优 PF 和 IGD 指标盒图(3)

如图 7 所示,MIAMO 在 20 000 次函数评价后获得的 PF 在逼近性、均匀性和宽广性上与其他对比算法相

比都明显具有优势.从盒图上看,在 DTLZ1,DTLZ2,DTLZ6 上的收敛精度与 NNIA2 相当,在 DTLZ3,DTLZ4 上,

比其他算法要好.可以看出,MIAMO 在两目标 DTLZ 系列问题上的性能优于 NNIA 和 NNIA2.

3.3 算法的收敛性能比较

这部分实验通过 MIAMO,NNIA,NNIA2,MOEA/D 和 NSGAII 这 5 种算法在求解 10 个测试函数时,IGD 指

标随着函数评价次数的递增而下降的曲线,比较了算法的收敛速度.图 8(见文末)中,曲线的数据为 30 次独立实

验的平均值.

从图 8可以看出,对于两目标的ZDT系列测试问题,MIAMO的 IGD曲线大多都处在其他算法之下. NSGAII

是一种收敛速度较快的算法,MIAMO 在有些问题上的收敛曲线甚至低于 NSGAII,例如在 ZDT6 上尤为明显.这

说明 MIAMO 算法在两目标 ZDT 测试问题上的收敛速度要优于其他对比算法.在三目标 DTLZ 系列测试问题

上,虽然从宏观上看 MIAMO 的算法性能优势不是很明显,但从局部放大图仍然可以看出,MIAMO 算法在绝大

多数问题上均表现出较快的收敛速度.

4 总结与展望

本文针对多目标优化算法的特点设计了两种局部搜索算子,并将其引入免疫多目标优化算法 NNIA2 之中,

提出了一种求解多目标问题的Memetic免疫优化算法——MIAMO算法.在MIAMO的Memetic算子中,一种是

基于 Pareto 支配关系的局部下山算子,利用父代抗体与其邻域内抗体的支配关系确定一个下山区域,产生快速

下降的搜索方向;另一种是差分算子,利用邻域内非支配抗体的相对位置关系产生更有可能接近理想 PS和开拓

新领域的搜索方向.仿真实验结果表明,MIAMO算法不仅在求得 Pareto最优解集的逼近性、均匀性和宽广性上

表现卓越,而且对于两目标的优化问题,收敛速度与 NNIA2 相比明显加快.

MIAMO 利用种群中抗体的在决策空间上的位置关系设计了有效的启发式局部搜索策略.如何充分利用抗

体种群在目标空间的启发式信息提高算法性能,是进一步研究的重点.

0

0.5

1

0 0.5

1

2

4

6

f1

DTLZ6

f2

f 3

MIAMO

0

0.5

1

0 0.5

1

2

4

6

f1

DTLZ6

f2

f 3

NNIA NNIA

0

0.5

1

0 0.5

1

2

4

6

f1

DTLZ6

f2

f 3

NNIA2

0

0.5

1

0 0.5

1

2

4

6

f1

DTLZ6

f2

f 3

MOEA/D

0

0.5

1

0 0.5

1

0

2

4

6

f1

DTLZ6

f2

f 3

NSGAII

MIAM

O

NNIA NNIA2 MOEA/D NSGAII 0.05

0.1

0.15

0.2

0.25

0.3

0.35

IGD

Algorithms

DTLZ6

NSGAII

1542 Journal of Software 软件学报 Vol.24, No.7, July 2013

Fig.8 Comparisons of the IGD declining curves obtained by the comparing algorihtms

图 8 各种算法的 IGD 指标下降曲线

References:

[1] Deb K. Multi-Objective Optimization Using Evolutionary Algorithms. New York: Wiley, 2001.

[2] Gong MG, Jiao LC, Yang DD, Ma WP. Research on evolutionary multi-objective optimization algorithms. Ruan Jian Xue

Bao/Journal of Software, 2009,20(2):271289. http://www.jos.org.cn/1000-9825/3483.htm [doi: 10.3724/SP.J.1001.2009.03483]

2000 4000 6000 8000 10000

0.5

1

1.5

2

Number of function evalues

IGD

ZDT1

500 10000 0

0.5

MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0 2000 4000 6000 8000 10000

0.5

1

1.5

2

2.5

3

3.5

Number of function evalues IG

D

ZDT2

500 10000 0

0.5

MIAMO NNIA NNIA2 MOEA/D NSGAII

0 2000 4000 6000 8000 10000

0.5

1

1.5

Number of function evalues

IGD

ZDT3

500 10000

0.1

0

MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.5 1 1.5 2

104

20

40

60

80

Number of function evalues

IGD

ZDT4

0.5 2

104

0

1

MIAMO NNIA NNIA2 MOEA/D NSGAII

0 2000 4000 6000 8000 10000

1

2

3

4

5

6

Number of function evalues

IGD

ZDT6

500 10000 0

0.5

MIAMO NNIA NNIA2 MOEA/D NSGAII

3 0 0.5 1 1.5 2 2.5

104

0.1

0.2

0.3

0.4

Number of function evalues

IGD

DTLZ2

1000 30000 0.05

0.08

MIAMO NNIA NNIA2 MOEA/D NSGAII

5 0 1 2 3 4

104

100

200

300

400

500

600

Number of function evalues

IGD

DTLZ3

40000 50000 0.05

0.1

MIAMO NNIA NNIA2 MOEA/D NSGAII

0 1 2 3 4 5

104

0.2

0.4

0.6

0.8

Number of function evalues

IGD

DTLZ4

1000 30000 0.05

0.08

MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.5 1 1.5 2 2.5 3

104

2

4

6

8

Number of function evalues

IGD

DTLZ6

1000 30000 0.05

0.5

MIAMO NNIA NNIA2 MOEA/D NSGAII

0 0.5 1 1.5 2 2.5 3

104

10

20

30

40

Number of function evalues

IGD

DTLZ1

1000 30000 0

0.8

MIAMO NNIA NNIA2 MOEA/D NSGAII

戚玉涛 等:求解多目标问题的 Memetic 免疫优化算法 1543

[3] Fonseca CM, Fleming PJ. Genetic algorithms for multiobjective optimization: Formulation, discussion and generalization. In:

Forrest S, ed. Proc. of the 5th Int’l Conf. on Genetic Algorithms. Los Altos: Morgan Kaufmann Publishers, 1993. 416423.

[4] Deb K. A fast and elitist multiobjective genetic algorithm: NSGA-II. IEEE Trans. on Evolutionary Computation, 2002,6(2):

182197. [doi: 10.1109/4235.996017]

[5] Zitzler E, Laumanns M, Thiele L. SPEA2: Improving the strength Pareto evolutionary algorithm for multiobjective optimization.

TIK-Report, 103, Swiss Federal Institute of Technology, 2001. 121.

[6] Knowles J, Corne D. The Pareto archived evolution strategy: A new baseline algorithm for Pareto multiobjective optimization. In:

Proc. of the Congress on Evolutionary Computation. Washington: IEEE, 1999. 98105. [doi: 10.1109/CEC.1999.781913]

[7] Zhou AM, Qu BY, Li H, Zhao SZ, Suganthan PN, Zhang QF. Multiobjective evolutionary algorithms: A survey of the state of the

art. Swarm and Evolutionary Computation, 2011,1:3249. [doi: 10.1016/j.swevo.2011.03.001]

[8] Zhang QF, Li H. MOEA/D: A multi-objective evolutionary algorithm based on decomposition. IEEE Trans. on Evolutionary

Computation, 2007,11(6):712731. [doi: 10.1109/TEVC.2007.892759]

[9] Bader JM. Hypervolume-Based search for multiobjective optimization: Theory and methods [Ph.D. Thesis]. Zurich: ETH Zurich,

2010.

[10] Zhang QF, Zhou AM, Jin YC. RM-MEDA: A regularity model-based multiobjective estimation of distribution algorithm. IEEE

Trans. on Evolutionary Computation, 2008,12(1):4163. [doi: 10.1109/TEVC.2007.894202]

[11] Bandyopadhyay S, Saha S, Maulik U, Deb K. A simulated annealing based multiobjective optimization algorithm: AMOSA. IEEE

Trans. on Evolutionary Computation. 2008,12(3):269283. [doi: 10.1109/TEVC.2007.900837]

[12] Chica M, Cordon O, Damas S, Bautista J. Multiobjective constructive heuristics for the 1/3 variant of the time and space assembly

line balancing problem: ACO and random greedy search. Information Sciences , 2010,180(18):34653487. [doi: 10.1016/j.ins.2010.

05.033]

[13] Reyes-Sierra M, Coello Coello CA. Multi-Objective particle swarm optimizers: A survey of the state-of-the-art. Int’l Journal of

Computational Intelligence Research, 2006,2(3):287308. [doi: 10.5019/j.ijcir.2006.68]

[14] Coello Coello CA, Cortés NC. Solving multiobjective optimization problems using an artificial immune system. Genetic

Programming and Evolvable Machines, 2005,6(2):163190. [doi: 10.1007/s10710-005-6164-x]

[15] Mezura-Montes E, Reyes-Sierra M, Coello Coello AC. Multi-Objective optimization using differential evolution: A survey of the

state-of-the-art. In: Chakraborty UK, ed. Advances in Differential Evolution. Berlin: Springer-Verlag, 2008. 173196. [doi: 10.

1007/978-3-540-68830-3_7]

[16] Dasgupta D, Yu SH, Nino F. Recent advances in artificial immune systems: Models and applications. Applied Soft Computing,

2011,11:15741587. [doi: 10.1016/j.asoc.2010.08.024]

[17] Yoo J, Hajela P. Immune network simulations in multicriterion design. Structural Optimization, 1999,18:8594. [doi: 10.1007/

BF01195983]

[18] Coello Coello CA, Cortes NC. Solving multiobjective optimization problems using an artificial immune system. Genetic

Programming and Evolvable Machines, 2005,6:163190. [doi: 10.1007/s10710-005-6164-x]

[19] Gong MG, Jiao LC, Du HF, Bo LF. Multi-Objective immune algorithm with nondominated neighbor-based selection. Evolutionary

Computation, 2008,16(2):225255. [doi: 10.1162/evco.2008.16.2.225]

[20] Yang DD, Jiao LC, Gong MG, Feng J. Adaptive ranks and K-nearest neighbour list based multiobjective immune algorithm.

Computational Intelligence, 2010,26(4):359385. [doi: 10.1111/j.1467-8640.2010.00363.x]

[21] Hart WE, Krasnogor N, Smith JE. Recent Advances in Memetic Algorithms. Berlin: Springer-Verlag, 2005.

[22] Neri F, Cotta C. Memetic algorithms and Memetic computing optimization: A literature review. Swarm and Evolutionary

Computation, 2012,2:114. [doi: 10.1016/j.swevo.2011.11.003]

[23] Knowles J, Corne D. M-PAES: A Memetic algorithm for multiobjective optimization. In: Proc. of the 2000 Congress on

Evolutionary Computation. San Diego: IEEE Press, 2000. 325332. [doi: 10.1109/CEC.2000.870313]

[24] Lust T, Jaszkiewicz A. Speed-Up techniques for solving large-scale biobjective TSP. Computers & Operations Research, 2010,

37(3):521533. [doi: 10.1016/j.cor.2009.01.005]

1544 Journal of Software 软件学报 Vol.24, No.7, July 2013

[25] Ishibuchi H, Murata T. A multi-objective genetic local search algorithm and its application to flowshop schedul ing. IEEE Trans. on

Systems, Man, and Cybernetics—Part C: Applications and Reviews, 1998,28(3):392403. [doi: 10.1109/5326.704576]

[26] Jaszkiewicz A. Do multiple-objective metaheuristics deliver on their promises? A computational experiment on the set-covering

problem. IEEE Trans. on Evolutionary Computation, 2003,7(2):133143. [doi: 10.1109/TEVC.2003.810759]

[27] Jiao LC, Du HF, Liu F, Gong MG. Immune Optimization Calculation, Learning and Identify. Beijing: Science Press, 2006 (in

Chinese).

[28] Rudolph G. Convergence analysis of canonical genetic algorithms. IEEE Trans. on Neural Networks, 1994,5(1):96101. [doi: 10.

1109/72.265964]

[29] Iosifescu M. Finite Markov Processes and Their Applications. Chichester: Wiley, 1980.

附中文参考文献:

[2] 公茂果 ,焦李成 ,杨咚咚 ,马文萍 .进化多目标优化算法研究 .软件学报 ,2009,20(2):271289. http://www.jos.org.cn/1000-9825/

3483.htm [doi: 10.3724/SP.J.1001.2009.03483]

[27] 焦李成,杜海峰,刘芳,公茂果.免疫优化计算、学习与识别.北京:科学出版社,2006.

戚玉涛(1981-),男 ,河南潢川人 ,博士 ,副

教授,主要研究领域为进化计算,人工免疫

系统,高性能计算,机器学习.

E-mail: [email protected]

马晓亮(1984-),男,博士生,主要研究领域

为进化计算,多目标优化.

E-mail: [email protected]

刘芳 (1963- ),女 ,教授 ,博士生导师 ,CCF

高级会员,主要研究领域为网络智能信息

处理,智能图像处理,模式识别.

E-mail: [email protected]

焦李成(1959-),男 ,博士 ,教授 ,博士生导

师,CCF 高级会员,主要研究领域为智能图

像处理,神经网络,进化计算,机器学习.

E-mail: [email protected]

常伟远(1987-),男,硕士生,主要研究领域

为进化计算及其应用.

E-mail: [email protected]