Métodos heurísticos y estocásticos para búsqueda de óptimos

Transcripción

1 Reconocimiento estadístico de patrones Métodos heurísticos y estocásticos para búsqueda de óptimos Grupo de Tecnología del Habla Departamento de Ingeniería Electrónica E.T.S.I. Telecomunicación Universidad Politécnica de Madrid José Manuel Pardo

2 Introducción I Estimación aprendizaje paramétrico: Métodos analíticos- problemas simples- (visto hasta ahora) Métodos exhaustivos- intratables Métodos heurísticos: De gradiente. Hill climbing Tabu search Métodos estocásticos Simulated annealing Algoritmos genéticos 2

3 Introducción II Comparación formal: Coste computacional Supera máximos locales Solución garantizada Heurísticos Hill climbing Tabu Search Bajo Medio No A veces Máximo local Máximo local Simulated Annealing Medio A veces Máximo local Estocásticos Genetic Algorithms Alto Sí Ninguna 3

4 Introducción III Comparación informal, Hill climbing: Hill climbing es como soltar un canguro en algún lugar del globo diciéndole que vaya solo hacia arriba y esperando que su punto final sea el Monte Everest Tomada de material de R. G. Clegg 4

5 Introducción IV Comparación informal, Simulated annealing: hic Simulated Annealing es hacer lo mismo que antes pero primero emborrachándole mucho Tomada de material de R. G. Clegg 5

6 Introducción IV Comparación informal, Algoritmos genéticos: Algoritmos genéticos es como llenar un avión de canguros, y dejar que se reproduzcan libremente Tomada de material de R. G. Clegg 6

7 Introducción VI Comparación informal: Algoritmos géneticos Aaaargh! Ouch y matando regularmente a los que estén en altitudes más bajas Tomada de material de R. G. Clegg 7

8 Otros problemas que se resuelven El problema TSP (the travelling salesman problem) es un problema clásico de optimización. Un vendedor debe visitar n ciudades en el tiempo más corto posible ciudad tiene 1 orden posible 2 ciudades tienen 2 3 ciudades tienen 6 4 ciudades tienen 24 n ciudades tienen n! La dificultad es del orden O(n!) El problema también tiene una solución por programación dinámica 8

9 Tabu search I Métodos iterativos y de vecindad hill climbing o descending (revisited): 1.Elegir solución inicial entre las posibles S. 2.Definir conjunto de posibles soluciones siguientes N(i) 3.Encontrar una mejor solución en N(i) (i.e. tal que f(j) f(k) para cualquier k en N(i)). 4.Si f(j) f(i) paramos, else i=j y vuelta a paso 2 i S N(i) 9

10 Tabu search II 1. Elegir solución inicial i entre las posibles S. 2. Generar un subconjunto V* de soluciones en N(i) 3. Encontrar una mejor solución j in V* (i.e. tal que f(j) f(k) para cualquier k en V*) y hacer i=j. 4. Si f(j) f(i) paramos, else vuelta a paso 2 En métodos tradicionales V* = N(i) Una buena elección de V* puede ser una gran mejora y es crucial en TS i S N(i) V* 10

11 Tabu search III Algoritmo definitivo 1. Elegir solución inicial i entre las posibles S. i* = i y k=0 2. k=k+1 y generar un subconjunto V* de soluciones en N(i,k): No viola las condiciones t r (i,m) T r Cumple una de las condiciones a r (i,m) A r (i,m) 3. Encontrar una mejor solución j=i m en V* (con respecto a alguna función f o modificada) y hacer i=j. 4. Si f(i) f(i*) i*=i 5. Actualizar condiciones tabú t r y de aspiración a r 6. Si hay condición de terminación, paramos, else vuelta a paso 2 11

12 Simulated annealing Configuracion normal y configuración imposible Configuración normal Configuración imposible Gráficas procedentes de [Duda01] 2001 John Wiley & Sons 12

13 Simulated annealing Situaciones típicas Gráficas procedentes de [Duda01] 2001 John Wiley & Sons 13

14 Algoritmo 14

15 Algoritmo Cuatro aspectos para considerar: Representación de las soluciones Definición de la función de coste Definición de la función de generación del vecindario Diseño del esquema de enfriamiento: Temperatura inicial Regla de actualización de la temperatura Número de iteraciones que se realizan en cada iteración Criterio de parada E = s i 1 2 = ±1 N i, j= 1 ω s s selección aleatoria de estado i T ( 0) ij i j ( 0), T ( 1 ), T ( 2), K T ( ) T, k máx varias visitas de cada nodo i 15

16 Algoritmo Finalmente: Puedo guardar cada configuración en el caso de que el mínimo final sea peor que alguno de los guardados. 16

17 Algoritmo Diseño del esquema de enfriamiento: T(0) debe ser suficientemente alta como para que todas las soluciones tengan energía similar Enfriamiento debe ser suficientemente lento para evitar que quede atrapado en máximos locales T(k máx ) debe ser suficientemente baja como para que la solución no salga de un máximo global T k + 1 = ct k con 0 < c < 1, y 0,8 < c < Esquema típico: Finalmente: ( ) ( ) 0, 99 Puedo guardar cada configuración en el caso de que el mínimo final sea peor que alguno de los guardados. 17

18 N=6, 2 6 configuraciones, transiciones en negro, bajan la energia transisciones en rojo suben la energía Gráficas procedentes de [Duda01] 2001 John Wiley & Sons 18

19 Probabilidad de estar en cada estado 19

20 Bibliografía (I) Pattern Classification (2 nd Edition) Richard O. Duda, Peter E. Hart, David G. Stork John Wiley & Sons. ISBN C Programming (the Final Lecture) R. G. Clegg A tutorial on Tabu Search Alain Hertz1, Eric Taillard2, Dominique de Werra1 Disponible online en 20

21 Bibliografía (II) 21