1 引 言 多 目 标 优 化 问 题 (Multi-objective optimization

problems, MOPs)是由多个需同时优化并附带有若干等

式与不等式约束的函数组成，不失一般性，我们考虑下

列多目标 小优化问题：

)(xFMin Xx∈ ， dRx∈ ， (1) St. 0)(,0)( =≤ xhxg ji .,1;,,1 mnjni +==

其中， Ω⊆∈= sxxxx d },,,{ 21 是一个 d 维决策变

量，Ω 为目标函数 )(xF 的 d 维搜索空间， s为可行区

域。 iii uxl ≤≤ ， },,{ 21 mfffF = 是m个待优化的目标

函数集合。

多目标优化问题的Pareto 优解时常采用一种“折

衷”的办法取得[1] ，即非劣解的每个目标函数值仅仅只

有在降低不少于一个目标函数值的情况下才能得到改

进。Pareto偏序关系用于评价两个候选解之间的优劣，自

一种求解多目标优化问题的改进微分进化算法 汤可宗1，孙廷凯1，杨静宇1，高尚2

1. 南京理工大学计算机科学与技术学院,江苏 南京 210094 E-mail: tangkezong@126.com

2. 江苏科技大学计算机科学与工程学院 江苏 镇江 212003 E-mail: gao_shang@hotmail.com

摘 要: 针对多目标优化问题，微分进化是一种简单、快速且具有鲁棒性的进化算法。本文提出了一种求解多目标优化问题

的改进微分进化算法(MDE)，与传统的的微分算法相比，该算法的新颖之处在于个体的变异操作和个体的选择方式：(1)允许种群中的不可行解个体参与变异过程， 种群中的个体变异方式采用了改进的PSO算法粒子变异方案； （2）个体的选择方

式融入了由Deb提出的 非劣排序遗传算法-II(NSGA-II)中的 “非劣排序和等级选择过程”。通过对不可行解群体和可行解群

体的不断优化， 终得到全局的 优解。仿真实验表明：求得的全局Pareto 优解呈现出良好的多样性均匀分布， 逼近真实

的Pareto前沿，收敛性能也较理想。 关键词: 微分进化，多目标优化问题，Pareto 优解

A modified differential evolution algorithm for multi-objective optimization problems

Tang Ke-zong1, Sun Ting-kai1，Yang Jing-yu1, Gao Shang2 1. School of Computer Science and Technology, Nanjing University of Science and Technology, Nanjing 210094, China

E-mail: tangkezong@126.comn

2. School of Computer Science and Engineering, Jiangsu University of Science and Technology, Zhenjiang 212003, China E-mail: gao_shang@hotmail.com

Abstract: Differential Evolutionary (DE) is a simple, fast and robust evolutionary algorithm for multi-objective optimization problems( MOPs). This paper is to introduce a modified differential evolutionary algorithm (MDE) to solve MOPs. There are some different points between MDE and traditional DE: individual mutation and its selection strategy; MDE allows infeasible solutions of population to participate in mutation process, and mutation strategy of individuals adapt to a modified updating scheme of particle velocity in PSO. The fast nondominated sorting and ranking selection scheme of NSGA-II proposed by Deb is incorporated into individual’s selection process. We finally obtain a set of global optimal solutions (gbest). Simulated experiments show that the obtained solutions present good uniformity of diversity, and they are close to the true frontier of Pareto. Also, the convergence of solutions obtained is satisfactory.

Key Words: Differential evolution, Multi-objective optimization problems, Pareto-optimal solution

978-1-4244-4199-0/09/$25.00 ©2009 IEEE 1

Pareto提出这种偏序关系以来，已经被广泛的应用于求解

各类不同的优化问题。其定义如下[2] ：

定义1. 解的优劣性(Solutions Dominance) )(xf 是向量目标函数，决策变量 ax Pareto优于

bx ( ba xx ≺ )或 bx Pareto劣于 ax 满足以下关系：

ba xx ≺ , if jbja ff ,, ≤ },,2,1{ di =∀ AND

},,,2,1{ dj =∃ jaf , < jbf , 。 (2)

定义2. Pareto 优解(Pareto-optimal solution) 决策变量 ax 称为MOPs的非劣解或Pareto 优解，当

且仅当不存在向量 bx 优于 ax 。

近年来，进化算法（Evolutionary Algorithm，EA）

在优化领域的计算正受到人们越来越多的关注，并在求

解MOPs获得了成功[3]，与传统的非线性规划方法相

比，进化算法不需要梯度等求导信息；另外，这种全局

性的搜索方法在进化过程中陷入局部 优的机会也较

小。目前，研究人员已经提出了很多用于求解约束优化

问题的改进进化算法；其中，微分进化 (differential evolutionary，DE)是一种基于种群的直接全局优化算法

[4]，采用实数编码，将DE用于求解MOPs已成为人们关

注的一个热点。如Abbass的PDE[5]、Madavan的Pareto微分进化算法 [6]、Xue等人的MODE[7]、Robio的DEMO[8] 、 Bergey 等 人 的 MDE[9] 及 Alatas 提 出 的

MODENAR[10]。 本文提出了一种求解多目标优化问题的改进微分

进化算(MDE)，引入了一种新的个体变异方案，个体的

选择过程并使用了由K.Deb提出的非劣排序遗传算法-II（NSGA-II）的“非劣排序和等级选择过程” [12]，并

允许不可行解参与选择过程。仿真实验表明：本文算法

求得的全局Pareto 优解呈现出良好的多样性均匀分

布， 逼近真实的Pareto前沿，收敛性能也较理想。

2 微分进化

微分进化是一种针对MOPs在连续搜索空间求解而

提出的一种基于进化策略的方法。从概念上来说，它是

一种简单、快速且鲁棒性较强的计算方法。DE算法首先

在搜索空间内随机产生初始群体，然后，DE进化过程依

次执行三个主要操作：变异操作、交叉及选择操作。在

此，我们用 QP 表示第Q代中长度规模为 N 的个体集

合，即 },,{ 21QN

QQQ pppP = ，每一个体是一个长度为M

的向量，即 ],,[ ,2,1,QMi

Qi

Qi

Qi pppp = ，种群初始化采用随机

方式。在种群 QP 中，对于任一个体 Qip ， ],1[ Ni∈ ，其

变异方式采用以下公式：

)(21

1~ Qr

Qr

Qi

Qi ppFpp −×+=+ (3)

在此，个体 Qr

Qr pp

21, 是种群 QP 随机选择的二个个

体， Qip 是被扰动个体，且个体索引 21 rri ≠≠ ；变异参

数 ]2,0[∈F 是由用户决策的常量因子，其作用是控制差

向量 )(21

Qr

Qr pp − 对个体 Q

ip 的扰动影响，称为扰动因子。

由于变异算子采用随机性的方式从种群中取出三个个

体，被扰动个体动态的受扰动因子的制约；因此，变异

算子的这种自适应特征有助于预防算法的快速收敛，在

算法的早期阶段有助于让自身跳出MOPs的局部 优。

DE算法交叉操作的目的是通过变异向量 1~ +Qip 和

被扰动个体 Qip 的结合以提高新个体的多样性。算法采

用以下方式修改变异向量 1~ +Qip ：

⎪⎩

⎪⎨

⎧=

≤=

++

otherwiseprandrk

orCRrandifp

pQki

kQkiQ

ki,

,,,

,

1~,1~

, (4)

其中， ]1,0[∈krand 是一个随机数； ]1,0[∈CR 是一个

常量交叉因子； },,2,1{ Mrandr∈ 是一个随机整型常

数，确保向量 1~ +Qip 至少从 1~ +Q

ip 获得一个元素，以免

1~ +Qip 中的向量元素全部来自于 Q

ip 。

DE算法中的选择过程采用的是贪婪性选择策略，基

于的是局部竞争机制：子代个体 1~ +Qip 同对应的父代个

体 Qip 进行比较，适应度值高的个体进入到下一代群代1+Qp ；否则，父代个体仍保留到下一代。

3 基于Pareto的改进微分进化算法

首次用DE研究MOPs的是Storn和Price[4]，这种基于

种群的直接全局优化算法，由于其实数编码的简单性，

无需在不同数制之间进行转换，且在单目标优化问题的

成功应用，使得利用DE求解MOPs逐渐成为优化计算研

究的一个热点。本文提出了一种求解MOP的改进微分进

化算法(MDE)，与经典DE相比，该算法的新颖之处在

于：（1）个体的变异方案；（2）个体的选择方式。前

者采用改进后的变异方案，使用类似于PSO粒子速度的

更新操作。在个体的选择方式上，MDE采用了由K.Deb提出的“非劣排序和等级选择过程”[12]，而后者根据

个体的适应度值来选择较优的个体。

3.1 相关的基本定义

定义3. 个体 p是式（1）的不可行解，当且仅当至

少存在一个 ],1[ ni∈ 或 ],1[ mnj +∈ ，使得 0)( ≥pgi 或

0)( ≠ph j 。 定义4. 个体 p违反约束的程度函数定义为 ：

2

⎩⎨⎧

+∈≤≤

=],1[|,)(|

1)},(,0max{)(

mnjphnipg

pFj

i， (5)

定义5. 个体 p违反约束的数目 ∑ ==

m

i i psignpN1

)()( ,

其中 )(psigni 定义如下:

⎩⎨⎧

≠>=≤

=0)(,,0)(,1

0)(,,0)(,0)(

phorpgphorpg

psignji

jii (6)

定 义 6. 如 果 不 可 行 解 xp 的 约 束 向 量

))(),(( xx pNpF Pareto优于不可行解 yp 的约束向量

))(),(( yy pNpF ，此时称 xp Pareto优于 yp 。

定 义 7. 个 体 邻 域 密 度 ： 在 给 定 的 群 体

},,{ 21 npppP = 中，个体 ip 的邻域密度为离 ip 近距

离的两个个体间的均值，距离计算采用欧氏距离，个体

邻域密度公式如下：

2

||)||min||||(min)( ikiji

ppppPD

−+−= (7)

在此， jp 和 kp 是离 ip 近的两个个体。

3.2 算法的选择过程

种群个体经过变异和交叉操作后，会产生一些不可

行解，大多数进化算法的做法是将其删除或通过修正规

则将其变换到个体约束范围内[4-6]；但现实工程应用中

存在一大类约束问题，其 优解位于约束边界上或附

近，不可行解的适应度值很可能优于可行解的适应度

值；文献[13]指出：从 优解的相对位置考虑，这些不

可行解对找到 优解是很有帮助的。故如何有效利用新

个体生成过程中所出现的不可行解是一种能够有效寻

找 优解的方法之一。 在此，设置个体集合 cP ={ },, 221 n

ccc ppp 保存所出

现的不可行解，同时采用文献[14]给出的修正规则，对

子代中的每一个体进行修正，再将子代种群与父代种群

组合在一起；此时，组合种群的个体两倍于原来的父代

种群，对组合种群执行“非劣排序和等级选择过程”，

排序结束后，按照预先的设置给组合群体中的每个个体

指定非劣等级。在组合群体中，新个体（子个体） a与目标个体（父个体） ],1[, 1njp jf ∈ 进行比较，如果 a具

有一个更高的非劣等级，则 a支配 jfp ；或者在 a与 j

fp 同

等级的条件下，若 a具有更高的多样性等级，则 a支配jfp 。此时，a替换掉 j

fp )( ap jf ← ， a进入到下一代种

群 },,,,,,{ 11121 nf

jf

jffff ppapppP +−= 。这一选择过程

类似于NSGA-II算法中的二元选择算子。借鉴PSO算法

的特点， fP 用来保存在搜索过程中遇到的可行解。另一

方面， fP 又具有一定的记忆功能， fP 中每一个体在当

前搜索找到的 优解和整个种群 fP 在当前搜索找到的

优 解 ， 分 别 记 为 },,{121 nllllbest = ，

},,{321 nggggbest = ；其中， lbest表示个体对自身的

思考和认识， gbest表示个体间的信息交流。在下述的

变异方案中， cP 中的部分个体也将参与新个体的生成过

程。

3.3 变异和交叉操作

与所有基于进化策略的方法一样，变异是微分进化

算法中的关键算子。为了维护种群中个体的多样性及算

法的收敛性，我们采用下面给出的一种改进变异方案。 )()()( 321 ti

kct

icj

ifnew glFpgFplFpp −+−+−+= (8)

其中， 1F , 2F 3F ]1,0[∈ ， ckc

ic Ppp ∈, ， f

if Pp ∈ ，

lbestl j ∈ ， gbestgt ∈ 。

在上述的变异方案，为了加强可行解和不可行解个

体间的信息交流，上述变异方案利用了不可行解个体的

一些优良特性，以达到增强群体的多样性目的。交叉操

作与基本DE算法中的采取的方案相同。

3.4 多样性维护

对种群 fP 进行变异和交叉操作后，会产生一些不可

行解，如果 cP 的规模小于规定的阈值 2n ，则不可行解 xp直接进入 cP ；如果 cP 的规模等于 2n ，计算插入 xp 后的

群体 cP 中的每个个体 icp 的约束向量 ))(),(( i

cic pNpF ，约

束向量间的关系是偏序关系；在此，我们利用向量之间

的Pareto优于关系，来比较个体间“强弱”关系，删除

“弱势”个体；若 cP 中的个体不存在支配关系，则删除

cic Pp

ic

ic pFpf

∈= )(max)( 的值 大的个体 i

cp 。

非劣排序后，如果新个体支配 fP 中的目标个体，则

新个体取代目标个体进入 fP 中。如果新个体与目标个体

无支配关系，则新个体直接进入 fP ，计算 fP 中的每一

个体的邻域密度，删除邻域密度较大的个体，保留邻域

密度较小的个体。

3.5 算法的基本流程

综上所述， MDE求解MOPs的流程如下所示： Step1. 设置算法参数：进化代数 Np， fP 与 lbest长

度 1n ， cP 长度 2n ， gbest长度 3n ，进化代数指数器 t；

Step2. 初始化种群 fP 、 lbest、 gbest，令 t =1；

Step3. 对种群 fP 中的个体进行变异和交叉操作，将

不可行解个体保存到 cP ；同时，对不可行解个体采用

修正规则；

3

Step4. 将子代种群与父代种群组合成一个群体，进

行“非劣排序和等级选择过程”，比较目标个体与子个

体，确定出新一代群体 fP ，并重新设置 lbest和 gbest；

Step5. 测试终止条件是否满足，若不满足，则转向

Step3；否则算法执行结束，输出 优解 gbest。

4 仿真结果与分析

数值实验环境：Intel Pentium 4， 2.26GHZ，512M内存，Windows Xp Professional，Matlab 7.0 。

测试的一组典型多目标优化问题为常见的两个测

试函数ZDT1和ZDT3。初始参数的设置：可行解集合 fP的长度 1n =100，参数CR =0.25. 21,FF 在程序运行中进行

动态设置， cP 长度 2n =50；gbest长度 3n =60；进化代数

Np =30。每个问题在同一实验环境中独立运行30次。

为了验证算法处理MOPs的性能，我们选用文献[12]给出的两种评价不同算法间的性能标准，分别是：①收

敛性：算法的收敛性可以通过实际得到的非劣 优目标

域与理论上的非劣 优目标域之间的 小距离平均值

来度量。②多样性：多样性用于描述群体中非劣解之间

的散布覆盖范围。 表1 收敛性性能测度 γ

Algorithm ZDT1 ZDT3 NSGA-II(文献

[12]) 0.000894 0.043411

0 0.000042

SPEA(文献[12]) 0.001799 0.047517 0.000001 0.000047

MDE 0.000896 0.037676 0.000002 0.000036

表 2 多样性性能测度Δ

Algorithm ZDT1 ZDT3 NSGA-II(文献

[12]) 0.463292 0.575606 0.041622 0.005078

SPEA(文献[12]) 0.784525 0.672938 0.004440 0.003587

MDE 0.31286 0.5625340 0.001965 0.001716

在以上的表格1-2中，算法在 γ 和Δ 的测试上都由均

值和方差来度量；从表格1分析发现：在ZDT1上，本文

算法的收敛性与NSGA-II算法较为接近，优于SPEA算

法；在ZDT3上的数据显示，本文算法明显然优于其它

两种算法。在表格2中，本文算法在ZDT3解的多样性要

明显优于其它的两种算法，三种算法在上述2个典型测

试函数上所获得Pareto前沿如图1-2：在ZDT1的测试结果

显示出本文算法MDE与NSGA-Ⅱ算法所得到的Pareto前沿较为接近，从前沿分布性来看：MDE与NSGA-Ⅱ所得

解的分布性及散度性能都较好，明显优于SPEA算法；

在ZDT3上，三种算法所获得Pareto前沿较为接近。 从以上实验结果可以看出：本文算法MDE得到的全

局 优解集合 gbest，对应的Pareto前沿分布比较均匀，

在一定程度反映出本文算法在引入不可行解参与新个

体的生成之后，较好的保持了解的多样性，其收敛性能

也较为理想。

(a)

(b)

(c)

图1 ZDT1中Pareto前沿的对比

4

(a)

(b)

(c)

图2 ZDT3中Pareto前沿的对比

5 结 语

本文提出了一种求解MOPs的改进微分进化算法，

新算法中引入了类似PSO算法的变异方案和NSGA-II中的非劣排序和等级选择过程，对经变异，交叉后的不

可行和可行解进行了划分，设置了两种不同的群体用

于保存其个体解，在本文的仿真测试结果显示出：本

文算法MDE在维持个体的多样性及解的均匀性上都具

有较好的效果，其收敛性也较为理想。 致谢

本文受国家自然科学基金项目 (60632050 ，

60803049)资助。感谢南京理工大学计算机科学与技术学

院603教研室老师的支持和帮助。

参考文献

[1] K.Deb, S.Agrawal, A.Pratap, T.Meyarivan. A fast and elitist multiobjective genetic algorithm: NSGA-II. IEEE Transactions on Evolutionary Computation, 6(2): 182-197, 2002.

[2] H. -g Beyer, K. Deb. On self - adaptive features in real- parameter evolutionary algorithms. IEEE Transactions on Evolutionary Computation, 5(3): 250-270, 2001.

[3] C.A.C.Coello. A Comprehensive Survey of evolutionary -based multiobjective optimization techniques. knlwledge and information systems, 1(3): 269-308, 1999.

[4] R.Storn, K.Price. Differential Evolution–A simple evolu- tion strategy for fast optimization. Dr.Dobb’s Journal, 22(4): 18-24. 1997.

[5] H.A.Abbass. The self-adaptive Pareto differential evolution algorithm. In: Proc of the Congress on Evolutionary Computation(CEC’2003), Piscataway: IEEE Service Center, 2002, pp.831-836.

[6] N.K.Madavan. Multiobjective optimization using a pareto differential evolution approach. In:Proc of the Congress on Evolutionary Computation (CEC’20002), Piscataway: IEEE Service Center, 2002, pp.1145-1150.

[7] F. Xue, A. C. Sanderson, R. J. Graves. Pareto - based multiobjective differential evolution. In: Proc of the 2003 Congress on Evolutionary Computation (CEC’2003), Piscataway, NJ: IEEE Press, 2003, pp.862-869.

[8] T. Robic, B. Filipic. DEMO: Differential evolution for multiobjective optimization. The 3rd Int’l conf on Evolutionary Multi-criterion Optimization (EMO 2005), Guanajuato, Mexico, 2005.

[9] P.K.Bergey, C.Ragsdale. Modified differential evolution: a greedy random strategy for genetic recombination. The International Journal of Management Science, 33(3): 255-265, 2005.

[10] B.Alatas, E.AkIN, A.Karci. MODENAR: Multiobjective differential evolution algorithm for mining numeric association rules. Applied Soft Computing, 8(1): 646-656, 2008.

[11] M.M. Ali, P.Kaelo. improved particle swarm algorithms for global optimization. Applied Mathematics and Computation, 196(2): 578-593, 2008.

[12] K. Deb, S. Agrawal, A .Pratap, T .Meyarivan. A fast and elitist multiobjective genetic algorithm: NSGA-II. IEEE Transactions on Evolutionary Computation, 6(2): 182-197, 2002.

[13] 孟红云, 张小华, 刘三阳. 用于约束多目标优化问题的双

群体差分进化算法. 计算机学报, 31(2): 228-2342, 2008. [14] H.A.Abbass, R.Sarker, C.Newton. PDE: a Pareto-frontier

differential evolution approach for multi-objective optimization problems.proceeding of the 2001 Congress on Evolutionary Computation, Piscataway: IEEE Press, 2001: pp.971-978.

[15] J. Schott. Fault tolerant design using single and multicarit- eria genetic algorithm optimization. Department of aeronauics, Massachusetts Institute of Technology, 1995.

5