Maeb2015 presentation

Algoritmo memético basado enregiones con archivo externo

para optimización multimodal

Benjamin Lacroix1 Daniel Molina2 Francisco Herrera1

(1) Universidad de Granada (2) Universidad de Cádiz

http://sci2s.ugr.es

http://sci2s.ugr.es

Introducción Regiones Propuesta:RMAwA Experimentos Conclusiones

Resumen

1 Introducción

2 Concepto de Regiones

3 AM basado en regiones con archivo externo, RMAwA

4 Estudio Experimental

5 Conclusiones


Índice

1 Introducción




5 Conclusiones


Problema de Optimización Multimodal

Problema de Optimización

General f (x∗) ≤ f (x) ∀x ∈ Domain

Real Domain ⊆ <D x∗ = [x1, x2, · · · , xD ]

Distintos objetivos

Un óptimo Encontrar una única solución óptima.

Multimodal Tantos óptimos como sea posible.


Diferencias de la optimización multimodal

Elementos comunes

Explotar soluciones.

Evitar óptimos locales.

Diferencias1 No centrarse en región.

2 Identi�car óptimos.

3 Guardarlos aparte.



Elementos comunes








Elementos comunes







Algoritmo Evolutivo para Optimización Multimodal

1. No centrarse en región

Mantener distancia mínima entre soluciones.

Técnicas de nichos

2. Identi�car los óptimos

De�niendo valores umbrales de error.

3. Almacenar aparte los óptimos

Pueden ser mayor que la población.

Condicionar mucho la búsqueda.





Técnicas de nichos










Técnicas de nichos










Técnicas de nichos










Técnicas de nichos










Técnicas de nichos







Índice

1 Introducción




5 Conclusiones


Algoritmos Meméticos

Componentes

Algoritmo Poblacional responsable de la Búsqueda Global.

Método de Mejora Local que consigue precisión.

+


AMs y Diversidad


Concepto de Regiones para Nichos

Regiones

Dividen el espacio de búsqueda en hipercubos, regiones.

Se acepta sólo una solución (mejor) por región.

Nichos usando distancia Nichos usando regiones


Ventajas de las regiones

Simples.

Fáciles de dividir


Ventajas de las regiones

Simples.

Fáciles de dividir


Índice

1 Introducción




5 Conclusiones


AM Basado en Regiones con archivo externo

Características generales

Aplica un Algoritmo Genético para explorar.

Aplica el CMA-ES para explotar.

Características novedosas

Aplica técnica de nichos basada en regiones dinámicas.

Usa un archivo para almacenar óptimos y regiones.

Identi�ca regiones no explorables.

¾Cúales regiones no explora más?

Aquel cuya solución no mejora por la BL.


AM Basado en Regiones con archivo externo

Características generales

Aplica un Algoritmo Genético para explorar.

Aplica el CMA-ES para explotar.

Características novedosas

Aplica técnica de nichos basada en regiones dinámicas.

Usa un archivo para almacenar óptimos y regiones.

Identi�ca regiones no explorables.

¾Cúales regiones no explora más?

Aquel cuya solución no mejora por la BL.


Algoritmo RMAwA

Algoritmo: Pseudo-código de RMAwA

Inicializa población aleatoriamente de forma uniforme.mientras MaxFEs no se alcance hacer

Aplica el AE durante iEA evaluacionessbest ← mejor individuo de la poblaciónAplica la BL sobre sbestsi se debe incrementar el número de regiones entonces

NDi = mu · NDi−1Actualiza los índices de la memoria


Funcionamiento del RMAwA


Archivo

2.1 0.3

4.5 3.8

0.5 0.1

0.3 1.1

1.4 1.6

1 1

0 1 2 0

0 0 1 3 4 3

List Index

1.2 3.9 1 3

sn

rn

Solution to be inserted inthe archive

1.2 3.9

Archive

Almacena

Soluciones.

Regiones.


Archivo

Permite

Recuperar rápidamente las regiones ocupadas.

Almacena óptimos encontrados.

Almacena regiones a no visitar (no mejoradas por la BL).

Uso de la memoria

Detectar soluciones en misma región, mantiene la mejor.

Si encuentra óptimo marca región como no explorable, ylo borra de la población.

Impide crear soluciones en regiones no explorables.


Algoritmo Poblacional

Algoritmo Genético Estacionario

Cruce BLX − α.Mutación BGA.

Selección NAM, con NNAM = 3.

Reemplaza la Peor.

Modi�caciones

Evita soluciones en regiones con óptimo.

Si cae en región ocupada, mantiene sólo la mejor.



Algoritmo: Pseudo-código del AE en RMAwA

i ← 0mientras i < iEA hacer

Selecciona dos padresrepetir

Crea una solución sn mediante cruce y mutaciónCalcula la región rn en donde pertenece sn

hasta que ri se deba explorar

Evalúa sn, i = i + 1Recupera de la población conjunto de soluciones Srn de la región rnsi Srn 6= ∅ entonces

Srn ← Srn ∪ snBorra peor individuo de Srn

en otro caso

Reeplaza el peor individuo sworst de la población si f (sworst) > f (sn)



Algoritmo: Pseudo-código del AE en RMAwA

i ← 0mientras i < iEA hacer

Selecciona dos padresrepetir

Crea una solución sn mediante cruce y mutaciónCalcula la región rn en donde pertenece sn

hasta que ri se deba explorar

Evalúa sn, i = i + 1Recupera de la población conjunto de soluciones Srn de la región rnsi Srn 6= ∅ entonces

Srn ← Srn ∪ snBorra peor individuo de Srn

en otro caso

Reeplaza el peor individuo sworst de la población si f (sworst) > f (sn)


Aplicación de la BL

Aplicando la BL

Aplica sobre La mejor solución actual en la población.

Mientras mejore la solución (CMA-ES es rápido).

Al terminar marca regiones inicial y �nal como exploradasy elimina solución de la población.

¾Por qué marca regiones como exploradas?

Para no explorar con el AG región explorada por la BL.

¾Por qué marca soluciones inicial y �nal?

Supone que la región inicial está en la base de atracción.



Aplicando la BL










Aplicando la BL









Índice

1 Introducción




5 Conclusiones


Marco experimental

Benchmark de optimización multimodal del CEC'2013

20 Combinaciones, 12 Funciones con distintadimensionalidad (1-20).

Distintos valores ε: 10−1, 10−2, . . . , 10−5.

Distintos número de óptimos:

Quince con menos de 10.

Tres entre 10 y 40: F6,F7,F10 con 18, 36 y 12.

Uno con 81 óptimos: F8.

Uno con más de 200: F9.

Medida de bondad: Ratio de óptimos

Para cada ε el ratio de óptimosencontrado.

PR =∑

NR

i=1 NPFiNKP·NR


Parámetros de aplicación

Aplicación de IRace

Automatic tuning.

Fácil de con�gurar.

Parámetros

Parámetro Rango Obtenido

iEA [100, 1000] 550iLS [100, 1000] 150ND0 [2, 10] 2u [2, 5] 4mu [1, 5] 1.7NP [40, 120] 70α [0,1, 0,9] 0.9


Comparativa Region-MA vs Euclidean-MA

¾Uso de regiones?

¾Mejora el uso de regiones vs cleaning con distancia euclídea?

Problema F1 F2 F3 F4 F5Regiones 0.81 0.42 1.00 0.97 0.99D. Euclídea 0.77 0.56 1.00 0.36 0.87




Comparativa con Wilcoxon

R+ R-Region-MA Euclídea-MA p-value

189 21 0.0008

Además, es de media 17% más rápido.

Conclusión

El uso de regiones mejora los resultados.









189 21 0.0008


Conclusión










189 21 0.0008


Conclusión










189 21 0.0008


Conclusión



Uso de archivo: RMAwA vs RMAwSA

¾Uso de archivos?

¾Mejora el uso de archivo los resultados?

Problema F1 F2 F3 F4 F5

RMAwA 1.00 1.00 1.00 1.00 1.00RMAwSA 1.00 0.31 1.00 1.00 1.00

Problema F6 F7 F8 F9 F10RMAwA 0.00 0.92 0.82 0.51 1.00RMAwSA 0.00 0.66 0.91 0.34 0.98




RMAwA RMAwSA p-value186.5 23.5 0.00132

Conclusión

El uso de archivo mejora los resultados.




RMAwA 1.00 1.00 1.00 1.00 1.00RMAwSA 1.00 0.31 1.00 1.00 1.00






Conclusión





RMAwA 1.00 1.00 1.00 1.00 1.00RMAwSA 1.00 0.31 1.00 1.00 1.00






Conclusión





RMAwA 1.00 1.00 1.00 1.00 1.00RMAwSA 1.00 0.31 1.00 1.00 1.00






Conclusión



Comparando con otros algoritmos

PNA-NSGA-II: Aplica optimización multimodal como unproblema bi-objetivo, usando diversidad.

dADE/nrand DE con mutación basada en vecindario yuna memoria dinámica.

DE/nrand DE con mutación basada en vecindario.

CrowdingDE DE con método de multitud (crowding) paraevitar convergencia prematura.

NCDE DE con mutación basada en vecindario ymecanismo crowding.

r3pso PSO con topología de vecindario en anillo.


Resultados de la comparativa: tests de Wilcoxon

Ranking medio

Nivel Precisión 10−1 10−2 10−3 10−4 10−5

CrowdingDE 4.3 4.3 4.5 4.7 4.7DE/nrand 5.1 4.2 4.1 3.6 3.4r3pso 5.0 5.8 6.0 6.0 6.2NCDE 4.0 4.4 4.3 4.4 4.5PNA-NSGAII 3.4 3.7 3.8 4.1 3.9dADE/nrand 3.0 3.0 3.0 3.0 3.1RMAwA 3.3 2.7 2.3 2.2 2.2

Test de Wilcoxon

Nivel precisión 10−1 10−2 10−3 10−4 10−5

CrowdingDE 0.0935 0.0016 0.0001 0.0000 0.0001DE/nrand 0.0039 0.0089 0.0077 0.0082 0.0108r3pso 0.0004 0.0000 0.0000 0.0000 0.0000NCDE 0.2273 0.0001 0.0001 0.0001 0.0001PNA-NSGAII 0.9839 0.2549 0.0837 0.0484 0.0274dADE/nrand 0.2862 0.4441 0.1279 0.0227 0.0323


Comparando globalmente

Comparando globalmente

RMAwA vs R+ R− p-valueCrowdingDE 4531 431.5 0DE/nrand 4197.5 768 2e-9r3pso 4844.5 115 0NCDE 4502 462.5 0

PNA-NSGAII 3427 1535.5 0.0010dADE/nrand 3288 1762 0.0087

Conclusiones

RMAwA es mejor que el resto.

Para ε = 10−4, 10−5 es estadísticamente mejor que todos.

La diferencia aumenta con nivel de precisión ε.


Índice

1 Introducción




5 Conclusiones


Conclusiones

Hemos presentado un AM para optimización multimodalbasado en regiones con memoria externa, RMAwA.

Niching con regiones es más e�ciente y ofrece mejoresresultados (especialmente dimensiones bajas).

El uso de archivo para marcar regiones exploradas permitemejorar resultados.

RMAwA es estadísticamente mejor que los algoritmoscomparados.

Especialmente con mayor precisión.


¾Preguntas?

Science

Maeb2015 presentation