introduccion a la computaci on...

Introduccion a la

Computacion Evolutiva

Diego Milone

Inteligencia ComputacionalDepartamento de Informatica

FICH-UNL

Hace 200 anos...

La idea de que las especies cambian ya se confrontaba alcreacionismo.

El cuello de las jirafas segun Jean-Baptiste Lamarck

Buena idea pero... ¿se heredan los caracteres adquiridos?

Hace 200 anos...

La idea de que las especies cambian ya se confrontaba alcreacionismo.El cuello de las jirafas segun Jean-Baptiste Lamarck

Hace 200 anos...

La idea de que las especies cambian ya se confrontaba alcreacionismo.El cuello de las jirafas segun Jean-Baptiste Lamarck

Hace 150 anos...

La idea de la evolucion genera un cambio de paradigmas tangrande que hasta hoy, incluso en computacion, estamos hablandode Charles R. Darwin

Variacion y seleccion natural: si hay variabilidad en la longituddel cuello de las jirafas, las de cuello corto tendran menosprobabilidades de sobrevivir y procrear. Ası...

...en la proxima generacion habra menos jirafas de cuello corto.

Hace 150 anos...

¿Que tiene que ver todo esto con la computacion?

¿Y con la “inteligencia” computacional?

¿Podremos ver las ideas de Darwin como un algoritmo?

¿Podremos usar estas ideas para resolver problemas con lacomputadora?

Introduccion Diseno de un AE Caracterısticas y variantes

Organizacion de la clase

IntroduccionLa inspiracion biologicaLa evolucion como un algoritmoElementos de un algoritmo evolutivo

Diseno de una solucion mediante algoritmos evolutivosRepresentacion de los individuosFuncion de aptitudEstrategias de seleccionOperadores de variacion y reproduccion

Caracterısticas principales y variantesCaracterısticas principalesVariantes de la computacion evolutivaTratamiento de las restricciones del problema

La inspiracion biologica

X El creacionismo y las ideas de Lamarck

X Darwin versus Lamarck

• Poblaciones versus individuos

• Mejores versus “adaptados”

• Aleatoriedad en la seleccion natural

• Diversidad y operadores de variacion en la poblacion

La evolucion como un algoritmo

Inicializar(Poblacion)

MejorAptitud ← Evaluar(Poblacion)

mientras MejorAptitud < AptitudRequerida

Progenitores ← SeleccionNatural(Poblacion)

Poblacion ← ReproduccionVariacion(Progenitores)

Elementos de un algoritmo evolutivo

• Representacion de los individuos

• Funcion de aptitud

• Mecanismo de seleccion

• Operadores de variacion

• Reproduccion y reemplazo generacional

Representacion de los individuos

(Agoritmos Geneticos)

Espacio delfenotipo

1.253456Espacio delgenotipo

01010011

Codificación

Decodificación

Representacion de los individuos: ejemplos

• Ubicacion de figuras para el llenado de un area

• Entrenamiento de una red neuronal

• Programacion de un robot

• Circuito para un filtro multibanda

• Problema del agente viajero

• ...

Funcion de aptitud

• Caracterısticas generales:• Monotonicidad• Precision• Suavidad regulable• Penalizacion de complejidad

• Algunos ejemplos tıpicos:• Promedios de error: cuadrados medios, desviacion media

absoluta, error relativo medio,...• Estadısticas: estimacion de la varianza, validacion cruzada,

verosimilitud, prediccion de error,...• Medidas de informacion: criterio de Akaike, criterio de

informacion Bayesiano, descriptor de mınima longitud,informacion mutua, minimizacion del riesgo empırico

• Otras: correlaciones, distancias,...

Funcion de aptitud

• Caracterısticas generales:• Monotonicidad• Precision• Suavidad regulable• Penalizacion de complejidad

• Algunos ejemplos tıpicos:• Promedios de error: cuadrados medios, desviacion media

absoluta, error relativo medio,...• Estadısticas: estimacion de la varianza, validacion cruzada,

verosimilitud, prediccion de error,...• Medidas de informacion: criterio de Akaike, criterio de

informacion Bayesiano, descriptor de mınima longitud,informacion mutua, minimizacion del riesgo empırico

• Otras: correlaciones, distancias,...

Funcion de aptitud: ejemplos

• ...

Estrategias de seleccion

• Rueda de ruleta

• Ventanas

• Competencias

• Rueda de ruleta

• Ventanas

• Competencias

• Rueda de ruleta

• Ventanas

• Competencias

Operadores de variacion

• Mutaciones

Punto de mutación

Cromosoma original Cromosoma mutado

1 0 1 1 1011 1 0 1 1 1010

• Cruzas simples

Punto de cruza

Cromosomas padres Cromosomas hijos

1 1 1 0 1100

1 0 1 1 1011

1 1 1 0 1010

1 0 1 1 1101

• ¿Que rol cumple cada operador en la busqueda?

• Cruzas simples

Punto de cruza

Cromosomas padres Cromosomas hijos

1 1 1 0 1100

1 0 1 1 1011

1 1 1 0 1010

1 0 1 1 1101

• ¿Que rol cumple cada operador en la busqueda?

Reemplazo durante la reproduccion

• Reemplazo total

• Reemplazo con brecha generacional

• Elitismo

• Reemplazo total

• Elitismo

• Reemplazo total

• Elitismo

Analisis de las caracterısticas principales

• Busqueda en un espacio codificado de parametros

• Busqueda en multiples puntos del espacio de soluciones• Ejemplo 1:

• Busqueda en un espacio codificado de parametros• Busqueda en multiples puntos del espacio de soluciones

• Ejemplo 1:

• Busqueda en multiples puntos del espacio de soluciones• Ejemplo 2:

• Busqueda en multiples puntos del espacio de soluciones

• Pocos requisitos sobre la funcion objetivo

• Algoritmo de naturaleza estocastica

• La estructura de los operadores los hace muy efectivos alrealizar busquedas globales

• Multiples objetivos

• Algunas desventajas...?

Comparacion con otros metodos

Metodos tradicionales Algoritmos evolutivos

Trabajan con los propios parametrosa optimizar

Emplea una codificacion de losparametros∗

Utilizan informacion de las derivadasde la funcion objetivo u otroconocimiento adicional

Utilizan la informacion de la funcionobjetivo en forma directa

Reglas de transicion deterministas Reglas de transicion probabilısticas

Exploran el espacio de soluciones apartir de un punto

Exploran el espacio de soluciones enmultiples puntos a la vez

... ...

Paralelismo

Parametros que controlan la evolucion

• Probabilidad de mutaciones

• Probabilidad de cruzas

• Tamano de la poblacion

• Brecha generacional

• Elitismo

...y si los parametros fueran adaptables?

Parametros que controlan la evolucion

• Probabilidad de mutaciones

• Probabilidad de cruzas

• Tamano de la poblacion

• Brecha generacional

• Elitismo

...y si los parametros fueran adaptables?

Estrategias de evolucion

• Representacion “fenotıpica”:• variables objetivo• variables de control

• Fitness ... idem AG

• Seleccion:• Mecanismo (µ+ λ): µ padres producen λ hijos. Proxima

generacion: {µ ∪ λ}• Mecanismo (µ, λ): µ padres producen λ > µ hijos. Proxima

generacion: subconjunto de λ

Estrategias de evolucion

• Representacion “fenotıpica”:• variables objetivo• variables de control

• Fitness ... idem AG

• Seleccion:• Mecanismo (µ+ λ): µ padres producen λ hijos. Proxima

generacion: {µ ∪ λ}• Mecanismo (µ, λ): µ padres producen λ > µ hijos. Proxima

generacion: subconjunto de λ

Terminologıa: algoritmo/programacion/estrategia...

• Genetico : representacion BINARIA• Muchos genes con pocos alelos: convergencia asegurada por el

teorema de esquemas• Epitasis: un gen incorrecto invalida a todo el cromosoma• Representacion lejana al dominio del problema (ej: viajero con

enteros)• Gran cantidad de soluciones invalidas en la poblacion

• Evolutivo: representacion REAL o “fenotıpica”• Pocos genes con muchos alelos: representacion fenotıpica• Convergencia muy dependiente de los operadores• Necesidad de redefinicion de operadores no “biologicos”

• Genetico: representacion BINARIA• Muchos genes con pocos alelos: convergencia asegurada por el

• Evolutivo : representacion REAL o “fenotıpica”• Pocos genes con muchos alelos: representacion fenotıpica• Convergencia muy dependiente de los operadores• Necesidad de redefinicion de operadores no “biologicos”

• Genetico: representacion BINARIA• Muchos genes con pocos alelos: convergencia asegurada por el

• Evolutivo : representacion REAL o “fenotıpica”• Pocos genes con muchos alelos: representacion fenotıpica• Convergencia muy dependiente de los operadores• Necesidad de redefinicion de operadores no “biologicos”

Otras representaciones? Cromosomas de longitud variable?Arboles? Grafos?

Programacion genetica

“... generacion automatica de programas...”

Elementos basicos de un programa:• Variables y constantes

• Operadores aritmeticos y logicos

• Funciones matematicas

• Condicionales

• Bucles

• Recursiones

• ...

Programacion genetica

“... generacion automatica de programas...”

Elementos basicos de un programa:• Variables y constantes

• Operadores aritmeticos y logicos

• Funciones matematicas

• Condicionales

• Bucles

• Recursiones

• ...

Representacion en arbol para PG

Ejemplo sencillo con operadores logicos:

((A)XOR(NOT(B)))AND((NOT(A))OR(B))

Representacion en arbol para PG

Ejemplo sencillo con operadores logicos:

((A)XOR(NOT(B)))AND((NOT(A))OR(B))

Cruzas en PG

• Numeracion de nodos

• Seleccion de los puntos a cruzar: ej. 2 y 6

• Cruza en base al intercambio de ramas

Cruzas en PG

Mutaciones en PG

• Seleccion de la rama a mutar

• Generacion de un arbol al azar

• Mutacion en base al reemplazo

Restricciones del problema

¿Como se pueden considerar las restricciones del problema durantela evolucion?

• Redefinicion de la representacion de forma de que siempre segeneren fenotipos validos

• Rechazo o eliminacion de individuos invalidos

• Reparacion del material genetico

• Modificacion de los operadores de variacion

• Esquemas de penalizacion en la funcion de aptitud

Bibliografıa recomendada

1. Back T., Hammel U. and Schewfel H-F., “Evolutionary Computation:Comments on History and Current State,” IEEE Trans. on EvolutionaryComputation, vol. 1, no. 1, 1997.

2. Goldberg D. E., Genetic Algorithms in Search, Optimization & MachineLearning, Addison Wesley, Caps. 1, 3, 4, 1997.

3. Michalewicz Z., Genetic Algorithms + Data Structures = Evolution Programs,Springer-Verlag, 1992.

4. Sumathi S., Hamsapriya T., Surekha P., Evolutionary Intelligence: AnIntroduction to Theory and Applications with Matlab, Springer, 2008.

5. Coello Coello C. A., Lamont G. B., Van Veldhuizen A. A., EvolutionaryAlgorithms for Solving Multi-Objective Problems Series: Genetic andEvolutionary Computation, (2da Edicion), Springer, 2007.

6. Haupt R. L., Haupt S. E., Practical Genetic Algorithms, John Wiley & Sons,2004.

7. Apuntes de Catedra (material con introduccion teorica y ejercicios)

introduccion a la computaci on...

Documents