Inteligencia Computacional (IA95 021) Algoritmos Simples de Optimización Ciega

Transcripción

1 Algoritmos Simples de Optimización Ciega c M. Valenzuela (17 de enero de 2006) 1. Optimización ciega 1.1. Introducción Algoritmos genéticos y recocido simulado son métodos de optimización ciega. Por optimización ciega se entiende la búsqueda de los parámetros que hacen que se optimice (maximice o minimice) la evaluación de una función dada. En optimización ciega no se asume que se tenga acceso a la función que se está optimizando, únicamente es necesario tener acceso a su evaluación. Las técnicas de optimización ciega son de gran importancia práctica debido a que con ellas muchos problemas que incialmente no serían concebidos como problemas de optimización, pueden ser atacados como problemas de optimización. A continuación se presentan dos ejemplos. Ejemplo: Diseño de motor de combustión interna Suponga que se desea diseñar un motor de combustióninternaquesealomás eficiente posible, esto es, que convierta con la máxima eficiencia posible la energía química en el combustible en energía mecánica. Suponga además que se cuenta con un simulador de diseños de motores al cual se le puede dar un diseño especificado por una serie de parámetros (número de cilindros, tamaño de los cilindros, tipo de carburador, forma de los cilindros, etc.) y que con estos datos el simulador puede calcular la eficiencia del motor especificado. Es posible realizar la búsqueda del mejor diseño mediante un método de optimización ciega que utilice el simulador como función objetivo, y que encuentre el conjunto de parámetros de diseño que tengan la máxima eficiencia. Ejemplo: Diseño de amplificadores electrónicos El diseño de amplificadores electrónicos de varias etapas con elementos discretos es muy penoso. Usualmente, se especifica el comportamiento deseado de un amplificador en términos de la impedancia de entrada, la impedancia de salida, la ganacia de voltaje, corriente o potencia, etc. Dadas estas características deseadas, el ingeniero en electrónica se decide por un número de etapas (transistores) e intenta resolver el problema. El problema que resulta es uno en el que el número de incógnitas es mayor al número de ecuaciones que resultan de representar las restricciones impuestas por las características deseadas, es decir, que hay más de un diseño posible. El procedimiento usual es definir arbitrariamente los valores de algunas componentes (resistencias) y a partir de estos valores tratar de obtener el valor de las demás. Si se encuentra que no se pueden resolver las ecuaciones resultantes, se modifican, arbitrariamente de nuevo, los valores que se fijaron inicialmente. Este proceso se repite hasta alcanzar un diseño válido. Mediante el uso de técnicas de optimización ciega, y teniendo un simulador de circuitos electrónicos que pueda verificar la calidad de un diseño en cuanto aqué tanto se acerca a las características deseadas, es posible encontrar diseño óptimos en cuanto a su comportamiento y costo. Estos ejemplos muestran cómo los problemas de optimización ciega aparecen en áreas de aplicación muy diversas. Los anteriores ejemplos intentan dar una explicación intuitiva de lo que es optimización ciega y de su importancia práctica. A continuación se definen estos conceptos formalmente y se introduce la notación que se utilizará Definiciones Suponga que existe una función f(x) (denominada función objetivo), donde x pertenece a un dominio acotado y definido, y el rango de f(x) es el conjunto de los números reales.

2 función objetivo x diseño? f(x) evaluación Figura 1: Optimización ciega. Definición 1 Se le llama espacio de búsqueda al conjunto de todos los valores que puede tomar x, es decir, al dominio de f(x). Definición 2 Por intento se entiende una evaluación de f(x) para un valor dado, digamos x 0,es decir f(x = x 0 ). Definición 3 Se denomina optimización ciega a la clase de algoritmo que mediante intentos repetidos sobre f(x) trata de encontrar un valor (o valores) x que optimice la función f(x). En la tabla 1 se relacionan las definiciones con los ejemplos de la sección anterior. amplificador electrónico función objetivo Programa computacional que simula amplificadores electrónicos yqueevalúa la diferencia entre las características deseadas y las producidas por un amplificador determinado espacio de búsqueda Conjunto de los diseños posibles de amplificadores electrónicos con algunas restricciones determinadas intento Evaluación de un amplificador electrónico determinado motor Programa computacional que simula motores de combustión interna y que evalúa la diferencia entre las características deseadas y las producidas por un amplificador determinado Conjunto de los diseños de motores de combustión interna posibles con algunas restricciones determinadas Evaluación de un motor de combustión interna determinado Cuadro 1: Ejemplos de optimización ciega. Es importante hacer notar que los algoritmos de optimización ciega se guían únicamente por la evaluación de la función objetivo, y que no emplean ninguna información adicional como por ejemplo las derivadas de la función objetivo. La optimización que hace un algoritmo de optimización ciega puede ser maximización o minimización. Recocido simulado, búsqueda tabú, y algoritmos genéticos son algunos de los algoritmos más utilizados de optimización ciega que existen. Otros algoritmos son programación evolutiva, estrategias evolutivas, búsqueda estocástica de alpinista, y programación genética. En el resto de este apunte repasaremos algunos algoritmos sencillos de optimización ciega que son base para los algoritmos genéticos. 2. Búsqueda secuencial y búsqueda aleatoria El algoritmo posiblemente más sencillo que se podría idear para resolver un problema de optimización ciega consiste en ir evaluando todos los puntos en el espacio de búsqueda de alguna manera ordenada que evite repeticiones, es decir, hacer intentos de acuerdo a una regla que asegure que, si el algoritmo se corre por suficiente número de intentos, cada punto del espacio de búsqueda c M. Valenzuela, (17 de enero de 2006) Página 2

3 será evaluado una vez, y solamente una vez. A este algoritmo se le denomina búsqueda secuencial. El siguiente pseudocódigo se implementa búsqueda secuencial. Búsqueda Secuencial x generar primer elemento en la secuencia x s generar siguiente elemento en la secuencia si x s es mejor que x entonces x x s regresar x El criterio de terminación que aparece en este pseudocódigo depende de la aplicación y del usuario. Algunas maneras usuales de terminar un algoritmo de optimización ciega son número de intentos, tiempo de ejecución, calidad de la solución alcanzada, y número de intentos sin mejora. Cuando se deja correr búsqueda secuencial hasta que se hacen intentos con todos los puntos del espacio de búsqueda, se dice que se realizó una búsqueda exhaustiva. La búsqueda exhaustiva asegura que el óptimo es encontrado, sin embargo, esta búsqueda tiene un alto costo computacional. Los algoritmos de optimización ciega intentan obtener soluciones cercanas en evaluación al óptimo examinando un porción del espacio de búsqueda. Otro algoritmo sumamente sencillo de optimización ciega es el de búsqueda aleatoria. En búsqueda aleatoria el espacio de búsqueda se visita en forma aleatoria, es decir, en cada ciclo del algoritmo el punto del espacio de búsqueda a evaluar se escoge aleatoriamente. El siguiente pseudocódigo implementa búsqueda aleatoria. Búsqueda Aleatoria x generar intento aleatorio x a generar intento aleatorio si x a es mejor que x entonces x x a fin-si regresar x Búsqueda exhaustiva y búsqueda aleatoria son comúnmente utilizados como niveles de referencia. La búsqueda exhaustiva nos sirve para determinar el número mínimo de intentos que un algoritmo necesita realizar para asegurar que obtiene el óptimo. Otros algoritmos de optimización ciega se comparan con búsqueda aleatoria en cuanto al número esperado de intentos para obtener una solución de cierta calidad. El algoritmo de búsqueda aleatoria posee una característica especial: no asume que la función objetivo tenga ninguna característica en particular, es decir, no intenta explotar ninguna característica de la función objetivo para guiar la búsqueda. Todos los demás algoritmos de optimización ciega, implícita o explícitamente, asumen que la función objetivo posee alguna cualidad, característica, o propiedad, explotable. 3. Algoritmos basados en una búsqueda local Diremos que una función objetivo es suave si la correlación entre la evaluación de dos puntos en el espacio de búsqueda está relacionada inversamente con la distancia entre ellos, es decir, si puntos cercanos en el espacio de búsqueda tienen evaluaciones parecidas. Si una función es suave (y posiblemente, si tiene pocos extremos) una estrategia que lleva al óptimo es la de búsqueda local. c M. Valenzuela, (17 de enero de 2006) Página 3

4 Búsqueda Local x generar intento aleatorio x v generar vecino de x si x v es mejor que x entonces x x v fin-si regresar x La idea de la búsqueda local puede generalizarse a una familia de algoritmos que intenta explotar la característica de la suavidad de la función objetivo. En este tipo de algoritmo, se escoge aleatoriamente uno o varios puntos iniciales 1.Después, en un ciclo principal, se hacen modificaciones pequeñas a estos puntos y se escogen con mayor probabilidad los puntos que tienen mejor evaluación. El ciclo principal se repite hasta que se cumple un criterio de terminación dado. Los algoritmos genéticos se basan parcialmente en estos algoritmos de búsqueda local. En la notación de algoritmos genéticos, la modificaciónqueselehaceaunpuntoselellamamutación: Definición 4 La mutación de un punto x en el espacio de búsqueda consiste en obtener otro punto x m haciendo una modificación al punto original. La modificación es usualmente aleatoria y pequeña. La manera en que se hace la mutación define una vecindad alrededor del punto original. Esta vecindad es el conjunto de puntos que se pueden producir por mutación a partir del punto original. 4. Algoritmos de mutación y selección Sin llegar a presentar un algortimo genético completo, en las siguiente secciones se presentan varios algoritmos de creciente complejidad basados en búsqueda local. A estos algoritmos les llamaremos algoritmos de mutación y selección Un padre, varios hijos El caso más sencillo de mutación y selección es el de tener un solo padre, hacer un número fijo m de nuevos intentos, y escoger el mejor de estos intentos. Asumiremos, sin incluirlo explícitamente en el pseudocódigo, que un individuo se evalúa en el momento en que es creado. MS(1m): Mutación y selección(1 padre, m hijos) padre individuo aleatorio para i 1 hasta n hijos i mutar(padre) padre mejor(hijos) regresar padre La función mutar(padre) regresa un individuo que resulta de la mutación de padre de acuerdo a alguna regla establecida. La función mejor(hijos) regresa el hijo con mejor evaluación. 1 En caso de saber en qué región del espacio de búsqueda se encuentra el óptimo, los puntos iniciales se definen en esta región. c M. Valenzuela, (17 de enero de 2006) Página 4

5 4.2. Varios padres, varios hijos El algoritmo de la sección anterior puede complicarse permitiendo que exista una población de individuos. En cada generación se producen m hijos a partir de los n padres; después se selecciona a los n mejores hijos. MS(nm): Mutación y selección(n padres, m hijos) padres n individuos aleatorios para i 1 hasta m hijos i mutar(padre escogido aleatoriamente) padres mejores(n, hijos) regresar mejor(padres) La función mejores(n, hijos) regresa los n hijos mejor evaluados. Una variación posible a los algoritmos de mutación y selección presentados es el permitir que los buenos intentos obtenidos no sean olvidados, esto es, que si se encuentran padres que no son superados por los hijos, se permita a los padres seguir viviendo. Se denomina traslape generacional al hecho de que los padres puedan vivir y competir con sus hijos. El siguiente algoritmo implementa una forma sencilla de traslape generacional donde los hijos y los padres se mezclan en un grupo de donde son elegidos los m mejores individuos en cada generación. MSt(nm): Mutación y selección con traslape generacional(n,m) padres n individuos aleatorios para i 1 hasta m hijos mutar(padre escogido aleatoriamente) padres mejores(n, padres+hijos) regresar mejor(padres) 5. Algoritmos más complejos Recocido simulado es una forma de mutación y selección con un padre y un hijo con traslape generacional. En recocido simulado el método de selección es estocástico; dependiendo de una temperatura existe una probabilidad de escoger al peor individuo. La temperatura se varía durante la corrida de manera que al principio el algoritmo hace casi búsqueda aleatoria, y al final hace estrictamente mutación y selección con un padre y un hijo y con traslape generacional. Búsqueda tabú es una forma de mutación y selección con un padre y un hijo sin traslape generacional. En búsqueda tabú lamutación se hace de acuerdo a una regla especial que impide que el algoritmo regrese a un punto visitado recientemente. En los algoritmos presentados de selección y mutación la selección se hace escogiendo a los n mejores individuos de cada generación y desechando los demás. A estos n individuos escogidos se les da la misma capacidad reproductiva, es decir, ninguno de ellos tiene un número esperado mayor de hijos. Esta forma de selección ignora las diferencias de evaluación entre los individuos escogidos. En algoritmos genéticos comúnmente se utilizan métodos de selección donde el número esperado de hijos depende de la evaluación del individuo; de esta forma se aprovechan las diferencias de evaluación para guiar la búsqueda. A continuación se presenta un algoritmo de mutación y selección que implementa esta idea. Este algoritmo está diseñado exclusivamente para problemas de maximización. c M. Valenzuela, (17 de enero de 2006) Página 5

6 MSp(n,n): Mutación y selección proporcional(n,n) padres n individuos aleatorios f prom promedio-evaluación(padres) para i 1 hasta n p i evaluación/f prom para i 1 hasta n hijos i mutar(padre j escogido con probabilidad p j ) copiar(padres, hijos) regresar mejor(padres) La variable f prom mantiene un promedio de la evaluación de la poblaciónqueseobtienecon la función promedio-evaluación(padres). La variable p i es la probabilidad de que el padre i sea escogido para producir un hijo. La función copiar(padres, hijos) escribe los hijos sobre los padres borrando a los padres. c M. Valenzuela, (17 de enero de 2006) Página 6