SISTEMAS INTELIGENTES

Transcripción

1 SISTEMAS INTELIGENTES T4: Algoritmos Genéticos {jdiez, aic.uniovi.es

2 La idea es Qué pretende la IA? Producir agentes inteligentes Cuál es el mejor ejemplo de agente inteligente? El Hombre Cómo ha logrado ser inteligente? Gracias a la EVOLUCIÓN!!! La evolución se ha mostrado como una solución exitosa dentro de los sistemas biológicos La inteligencia humana es el mejor ejemplo del poder de la evolución Idea: seguir la teorías neo-darwinistas para hacer evolucionar los agentes inteligentes de un problema

3 Cómo funcionan? Simulan vagamente la evolución biológica Parten de una población de agentes (hipótesis) diseñados para realizar una determinada tarea La población evoluciona cómo? Sobreviven los mejores agentes: SELECCIÓN! Combinamos dos agentes: REPRODUCCIÓN! Alteramos agentes: MUTACIÓN! Tras cada generación, la población resuelve mejor la tarea para la que se diseñó Al final nos quedaremos con el mejor agente

4 El Ciclo Evolutivo Selección Padres Población Mutación Cruce Descendencia

5 Desmitificando un poco No producen hombres, ni nada parecido (de momento) Son sistemas de búsqueda Es una búsqueda informada, similar a la búsqueda por haz local (con cruce) Cuándo dejamos de evolucionar? A pesar de todo, tienen ventajas: Trabajan en espacios de búsqueda complejos Fácilmente paralelizables Éxito indudable en ciertas tareas

6 Técnicas evolutivas Programación evolutiva [Fogel, 60] Evolución al nivel de las especies Usa la mutación y la selección es probabilística No usan el cruce Estrategias Evolutivas [Alemania, 64] Evolución al nivel de los individuos Usan operadores de recombinación La selección es determinista Algoritmos Genéticos [Holland, 60] Programación Genética

7 Algoritmos Genéticos John Holland, 60s, y 70s, Univ. Michigan Idea original estudio teórico de la adaptación y los planes reproductivos (nombre original) Se evoluciona el genotipo y no el fenotipo Representación genética independiente del dominio: cadenas binarias Selección probabilística Operación principal: cruce La mutación desempeña un papel secundario

8 Qué necesitamos para definir un GA? Representación de las soluciones (genotipos) Función de evaluación Estrategia de selección Operadores genéticos (cruce, mutación, ) Parámetros: Tamaño de la población Porcentaje de elitismo/cruce Probabilidad de mutación Criterio de parada (calidad de la solución, nº máximo de generaciones, )

9 Algoritmo genérico (genético) GA ( F, F_T, p, r, m) F: función de evaluación, valora cada genotipo F_T: nivel de aceptación p: número de individuos (hipótesis) en la población r: porcentaje de la población reemplazada por cruce m: probabilidad de mutación P = generar p hipótesis (aleatoriamente) (Población inicial) Para cada h P, evaluar F(h) Mientras ( max h P F(h) < F_T ) hacer Crear una nueva población Ps 1) Ps = Selección probabilística de (1-r)*p miembros de P Cada hipótesis tiene Pr(h)=F(h)/ΣF(h) de ser elegida 2) Cruce: seleccionar r*p/2 parejas de individuos de P Cada pareja genera 2 descendientes Ps 3) Mutación: selección uniforme de m*p miembros de Ps Se actualiza P: P = Ps Para cada h p, evaluar F(h) Fin Mientras Retornar el mejor individuo: h, tal que F(h)=max h P F(h) Fin GA

10 Representación de los genotipos Hay que definir cómo se representan las características genéticas de los individuos (soluciones, hipótesis) de la población Aspecto muy importante en la definición de GA La representación afecta a la definición de los operadores genéticos (selección, cruce, mutación) Muchos tipos de representación: Cadenas de bits (la más típica) Código Gray (mantiene la adyacencia) Punto Flotante (Binaria, Real) Entera LISP, Expresiones, (Programación Genética)

11 Representación: Cadenas de bits (I) Se utilizan cadenas de bits para representar los distintos genotipos existentes Es un tipo de representación que se adapta a casi cualquier problema Ej. Problema n-reinas: Podemos usar una matriz de bits Demasiadas reinas

12 Representación: Cadenas de bits (II) Ej. Optimizar la función x*sen(10*pi*x)+2 en [-1,2] Para 6 decimales de precisión habrá valores (long. intervalo 3) = 2 21 < < 2 22 = ( ) representa al número (fenotipo) En esta caso: cada genotipo representa un fenotipo (OK!)

13 Representación: Cadenas de bits (III) Ej. Problema Nadar, atributos: Pronóstico: Soleado, Nublado, Lluvia Temperatura: Baja, Moderada, Alta Humedad: Normal, Alta Viento: Flojo, Fuerte Nadar: Si, No (Clase) Cada individuo representa una regla: Pronóstico Temperatura Humedad Viento Nadar SI Pronóstico = Lluvia Y Viento = Fuerte ENTONCES Nadar = No

14 Interpretación biológica Cromosoma: cadena de ADN que contiene la información genética de un individuo Gen: sección de ADN que codifica una cierta función bioquímica (p.e. producir una proteína) Alelo: cada valor posible para una cierta posición genética Pronóstico Temperatura Humedad Viento Nadar Gen#1 Gen#2 Gen#3 Gen#4 Gen#5 Cromosoma

15 Representación: otros aspectos Cromosomas de longitud variable Nadar: cada individuo es un conjunto de reglas SI (Pronóstico = Soleado ) Y (Humedad = Normal) ENTONCES Nadar = Si SI (Pronóstico = Soleado ) Y (Humedad = Alta) ENTONCES Nadar = No Individuos correctos La representación de los individuos y los operadores genéticos deben diseñarse para producir siempre individuos correctos Faltan genes!!!

16 Cadenas de bits: Ventajas Representación universal Es la que usan los ordenadores Justificación teórica (y biológica): Representación con muchos genes y con pocos alelos posibles Es lo habitual en los cromosomas naturales Se favorece la diversidad y la formación de buenos bloques constructores Bloque constructor: grupo pequeño de genes que ha coevolucionado y que si se introdujera en un cromosoma incrementaría probablemente su aptitud

17 Cadenas de bits: Problemas Escalabilidad, cromosomas demasiado grandes Precisión limitada Diferencias entre el espacio genotípico y el fenotípico Pero: 5 (entero) = (entero) = 110 Distancia 1 en el espacio fenotípico, y 2 en el genotípico Posible solución: usar código Gray Todas las representaciones tienen inconvenientes Es la representación más usada

18 Otras representaciones: enteros n-reinas: un entero por cada columna indicando en qué fila está la reina Individuo: TSP: se representa cada ciudad con un número {1,,n} y cada individuo será una permutación de esos números indicando el orden de recorrido Individuo:

19 Cómo diseñar buenas representaciones? La representación no debe tener sesgos, todos los individuos se deben encontrar representados de manera equitativa en el conjunto de genotipos posibles. Es decir, los genotipos deben representar bien los fenotipos La representación no debería permitir soluciones no factibles La función de evaluación debe aplicarse fácilmente (de forma rápida) sobre los genotipos de los individuos La representación debe poseer localidad (cambios pequeños en el genotipo resultan en cambios pequeños en el fenotipo) La representación debe ajustarse a un conjunto de operadores genéticos de tal forma que se transmitan los bloques constructores de padres a hijos Una buena representación debe minimizar la epístasis (la medida en que la contribución de aptitud de un gen depende de los valores de los otros genes)

20 Función de evaluación (o de fitness) Mide la aptitud de cada individuo. Nos permiten evaluar la calidad de los genotipos Hay muchas posibles: Precisión de la hipótesis Coste de la solución (TSP) Nivel de complejidad: se prefiere la más simple (Occam) Híbridas Es dependiente del problema Debe ser rápida, se ejecuta muchísimas veces Es clave en el algoritmo, en base a ella se decide la selección de individuos, y de ella depende en gran medida la velocidad de ejecución (y por tanto las soluciones que se pueden alcanzar)

21 Selección de individuos Permite que las poblaciones mejoren sucesivamente Normalmente siempre se suele incluir el mejor individuo en la siguiente generación (elitismo) La selección no se debe basar en elegir sólo a los mejores individuos (problema de crowding) Aunque los mejores deben tener siempre más probabilidad de ser elegidos (convergencia) Hay muchísimas técnicas de selección Proporcional Por torneo Ranking

22 Selección Proporcional Este nombre describe un grupo de esquemas de selección originalmente propuestos por Holland Eligen individuos de acuerdo a su contribución de aptitud con respecto al total de la población Pueden provocar poca diversidad, propiciando que predominen los mejores individuos (crowding) Variantes: Ruleta Sobrante Estocástico Universal Estocástica P ( h ) i f = p j = 1 [ hi ] f [ h ] j

23 Selección por torneo y ranking Torneo: Ranking Se seleccionan uniformemente un grupo de individuos k Con probabilidad p se selecciona el mejor individuo El parámetro p permite controlar el crowding Similar al proporcional Se ordenan los individuos de acuerdo a su aptitud La probabilidad de selección es proporcional a la posición en el ranking

24 Operador de cruce Combina individuos (típicamente 2) para generar descendientes (usualmente 2) Máscara de cruce: máscara de bits que indica los miembros del primer y del segundo padres que se transmiten a la descendencia Single-Point Padres: Máscara: Descendientes: Two-Point Padres: Máscara: Descendientes: Uniform (bit aleatoriamente elegidos) Padres: Máscara: Descendientes:

25 Operador de mutación Idea: introducir cambios aleatorios en las estructuras (genes) Provoca: una búsqueda estocástica por el espacio de hipótesis Single-Point Individuo: Individuo mutado: (bit aleatorio) Multi-Point Se invierten múltiples bits (elegidos aleatoriamente)

26 Ejemplo: las n reinas (I) Representación: entera, cada dígito indica la fila dentro de la columna i-ésima donde está situada la reina i Fitness: pares de reinas no atacadas Selección: proporcional Cruce y mutación: single-point Ejemplo:

27 Ejemplo: las n reinas (II)

28 Esquemas Objetivo: identificar bloques constructores Describen familias de individuos Definición: cadena contiene tres símbolos, 0, 1, *. El * representa que en esa posición da igual un 1 ó un 0 Ejemplo: ***010*** Caracterizan las poblaciones de acuerdo al número de individuos que representan cada esquema m(s,t)= nº de individuos con el esquema s en la población del instante t

29 Programación Genética Uso de estructuras de árboles para representar programas de computadora Se predetermina la máxima profundidad de los árboles, pero no su topología precisa El tamaño, forma y contenido de los árboles puede cambiar dinámicamente durante el proceso evolutivo

30 Funciones más utilizadas Operaciones aritméticas: +,-,*, Funciones matemáticas: seno, exp, Operaciones Booleanas: AND, OR,.. Operadores condicionales: IF Iteraciones: DO-UNTIL Recursión Cualquier función específica

31 Cruce

32 Aplicaciones Problemas de optimización combinatoria Problemas de ajuste de parámetros Problemas de satisfacción de restricciones, planificación y asignación de recursos espaciales y temporales Optimización (estructural, de topologías, numérica, combinatoria, etc.) Reconocimiento de patrones Generación de gramáticas (regulares, libres de contexto)