Particionamiento Numérico CIMPA-UCR. usando Metaheurísticas de Optimización

Transcripción

1 Particionamiento Numérico usando Metaheurísticas de Optimización 1 Métodos de vecindarios 1.1 Sobrecalentamiento simulado 1.2 Búsqueda tabú

2 Optimizacion Combinatoria F: S R S: espacio de estados (soluciones posibles) Minimización: hallar i opt tal que F(i opt ) F(i), para todo i S Maximización: hallar i opt tal que F(i opt ) F(i), para todo i S

3 Búsqueda local Defina una estructura de vecindarios: cómo generar un nuevo estado i a partir del estado actual i Escoger i 0 i :=i 0 ; k:=0 i := i k := k+1 Generar S(i) i S(i): F(i ) < F(i) falso i minimiza F en S(i) k verda dero

4 Sobrecalentamiento simulado También conocido como Recocido simulado, Recocción simulada, o Temple simulado. Son traducciones de Simulated annealing Método iterativo que usa un parámetro externo de temperatura T, que controla la aceptación de nuevos estados con un costo peor

5 Ilustración del SS Habilidad para evitar mínimos locales F i * S

6 Regla de Metropolis Un nuevo estado i (en el vecindario del estado actual i) es aceptado si: El costo F decrece, Si no, puede ser aceptado con probabilidad donde F = F(i ) F(i) exp(- F / T)

7 Ilustración de la R. Metrop. exp(- F / T) t = 1 t max t T

8 Convergencia SS converge asintóticamente (con probabilidad 1) al mínimo global Una cadena de Markov (homogénea) es asociada a cada valor de T Condiciones: reversibilidad y conexidad

9 Reversibilidad La probabilidad de regresar es la misma: i G(i,i ) = G ii i i i G(i,i) = G ii

10 Conexidad Hay una cadena finita entre dos estados, con probabilidades de paso > 0 i i

11 Implementación T 0 : temperatura inicial (estimación mediante unas corridas en blanco con tasa inicial χ 0 ) T f : temperatura (cuando T 0) T t+1 := γt t ;γ [0.8,0.99] (enfriamiento) L t : longitud de las cadenas de Markov F: sencillo de calcular Reversibilidad y conexidad

12 Implementación T 0 : temperatura inicial (estimación mediante unas corridas en blanco con tasa inicial χ 0 ) T f : temperatura (cuando T 0) T t+1 := γt t ;γ [0.8,0.99] (enfriamiento) L t : longitud de las cadenas de Markov F: sencillo de calcular Reversibilidad y conexidad

13 Diagrama del SS Escoger i 0 i :=i 0 ; k:=0 Mejora?(i,T): Aplicar la regla de Metropolis Encontrar un vecino y se acepta si es mejor, si no se acepta aleatoriamente de acuerdo con la temperatura actual T i := i k := k+1 Generar S(i) Mejora?(i,T) falso i minimiza F en S(i) k verdadero

14 SS en Particionamiento A partir de una partición P generar P como sigue: 1. Escoger al azar (unif. en [1,n]) un objeto x Ω 2. Escoger al azar(unif. en [1,k]) un índice de clase l 3. Poner a en la clase C l Nota: corresponde a lo que S. Régnier llamaba transferencia

15 Características Reversibilidad: la probabilidad de P P es la misma que la probabilidad de P P Conexidad: siempre es posible generar cualquier partición P a partir de cualquier P (hay un # finito de transferencias) Vecindarios tienen el mismo tamaño: n(k-1) G ss = 1/n(k-1)

16 Simplificaciones ) ( 1 1 }) { ( ) ( 1 1 }) { ( 1) ( 1) ( ') ( ) ( 2 2 x g x g x g x g x g x g + + = = + = = l l l l j j j j l l l j j j C C C C C C C n C C n C W P W P W

17 Búsqueda tabú Examen de vecindarios Maneja una lista tabú, que prohíbe regresar a estados previamente visitados La lista tabú contiene movimientos Se debe escoger el mejor vecino, que no sea tabú Criterio de aspiración: cómo eliminar el estado tabú a un buen vecino

18 Busqueda Tabú Heurística basada en el examen de un vecindario de un estado y la escogencia del mejor vecino Se manejo una lista tabú que prohíbe el acceso a estados similares a los estados recientemente visitados, procurando evitar los ciclos Hay mucha variantes que pueden mejorar los resultados (criterios de aspiración, estados elite, diversificación, intensificación, uso de muestras en los vecindarios, listas tabú de talla dinámica,...)

19 Particionamiento con BT Estado: partición P en k clases de Ω Criterio: minimizar W Movimiento: crear P por transferencia de un único objeto a una nueva clase Lista tabú: indicador de la clase que contenía al objeto transferido

20 Particionamiento con BT Estado: partición P en k clases de Ω Criterio: minimizar W Movimiento: construir P por la transferencia de un individuo hacia una nueva clase Lista tabú: indicadoras de la clase donde estaba el individuo transferido

21 Ilustración de la BT Sean los datos: Se quieren clasificar en 3 clases Partición inicial: ( ) con W = 3.52

22 Iteración 1 Partición (21111) (31111) (12111) (13111) (11211) (11311) (11121) (11131) (11112) (11113) W Lista tabú:

23 Iteración 2 Partición (11111) (21111) (32111) (31112) (33111) (31211) (31311) (31121) (31131) (31113) W Tabú Tabú Lista tabú:

24 Iteración 3 Partición W (12111) 3.00 (22111) (33111) 1.17 (31111) 2.15 Tabú (32211) (32112) 1.50 (32311) (32131) (32121) (32113) Tabú Lista tabú:

25 Iteración 4 Partición (13111) (23111) (32111) (31111) (33211) (33311) (33121) (33131) (33112) (33113) W Tabú Tabú Lista tabú:

26 Evolución de Valores W = 3.52 W = 2.15 W = 1.07 W = 1.17 W = 0.30

27 Más sobre BT Estados elite: registro de los mejores estados visitados Intensificación: en un sector bueno, continuar la búsqueda Diversificación: cambiar el sector del espacio de búsqueda Generación aleatoria de una muestra de vecinos

28 Diagrama de BT Escoger i 0 i :=i 0 ; k:=0 Mejora?(i,T): Depende de la lista tabú y del estado actual i Analyza todo el vecindario o una muestra de él i := i k := k+1 Generar S(i) mejora?(i,t) false i minimiza F sobre S(i) k true

29 Particionamiento Numérico 2 Métodos multiagentes 2.1 Algoritmos genéticos 2.2 Colonias de hormigas 2.3 Enjambres de partículas

30 Algoritmos genéticos Algoritmos iterativos que simulan la evolución de las especies en la Naturaleza Principios: Representación cromosómica de los estados Función de adaptación (al medio ambiente), Selección de los elementos mejor adaptados Combinación de las características de los elementos usando operadores genéticos Mutaciones Cruzamientos

31 Evolución del AG 1 F(j) j m P(0) P(1) P(2)

32 Elementos del AG 1 j F(j) Función de adaptación Selección Mutación Cruzamiento m Cromosomas P(t)

33 Operadores genéticos Mutación: Cruzamiento: con probabilidad p m } { con probabilidad p c

34 Evolución del AG 1 Población F(j) j m Selección Operadores (p m,p c )

35 AG para particionamiento Estados: índices de clases ( ) x 1 x 2 x 3.. x n Función de adaptación: B Selección: ruleta aleatoria proporcional a B Cruzamiento: con probabilidad p c (cromos.) Mutación: con probabilidad p m (alelo)

36 Cruzamiento Dados dos padres, escoger al azar una clase en el primero y copiarla en el segundo, para generar un hijo Ejem. : P 1 = ( ) P 2 = ( ) P 1 : {x 1,x 2,x 5,x 6 }, {x 3,x 7,x 9,x 10 }, {x 4,x 8,x 11,x 12 } P 2 : {x 1,x 2,x 4,x 7 }, {x 3,x 5,x 8,x 9 }, {x 6,x 10,x 11,x 12 }

37 Cruzamiento (2) Escoger al azar (unif.) la clase 2 de P 1 : P 1 = ( ) Copiar la clase 2 de P 1 en P 2 : Crear la partición: P 2 = ( ) H = ( ) H : {x 1,x 2,x 4 }, {x 3,x 5,x 7,x 8,x 9,x 10 }, {x 6,x 11,x 12 }

38 Mutación Modicar un índice de clase escogido al azar: Ejem. P = ( ) Si se escoge x 3 al azar (unif. in [1,n]) entonces la clase de pertenencia de x 3 es transformada en la clase 2 (índice escogido al azar unif. en [1,k]): H = ( )

39 Ejemplo: Notas escolares Mate. Ciencias Historia Latín Ed. Fis. Jean Alain Anne Monique Didier André Pierre Brigitte Evelyne

40 Componentes Principales

41 Ilustración del AG 3 clases 4 clases Iteración Max Min Media Max Min Media

42 Colonias de hormigas Metáfora: cómo hacen las hormigas para buscar alimento y evitar obstáculos Reforzamiento: trazo de feromonas Representación de las soluciones Se maneja una población de hormigas Cada hormiga construye o modifica una solución Heurística local o visibilidad Regla para actualizar las feromonas Regla probabilística de transición

43 Colonias de hormigas ACO: Ant Colony Optimization Metafora: manera como buscan alimento las hormigas Reforzamiento: trazo de feromona

44 ACO en Particionamiento M hormigas asociadas a M particiones Cada hormiga modifica su particion Heurística local: η ij = 1/d(i,j) Trazo de feromonas: τ ij (t)

45 ACO en Particionamiento Sea m una hormiga Sea i un objeto escogido al azar Se escoge un objeto j con probabilidad

46 Trazo de feromonas Para i,j Ω: con ρ ]0,1]: parámetro de evaporación

47 Algoritmo ACOCLUS Inicializar τ = τ 0 ; calcular η; inicializar p Dar P 1,,P m (al azar) Para t = 1 hasta t max hacer Para m = 1 hasta M, hacer S veces Escoger al azar i Ω Escoger j segun las reglas dadas Calcular B(P 1 ),,B(P m ) y actualizar τ

48 Enjambres de partículas Particle Swarm Optimization (PSO): Kennedy & Eberhardt (1995) Modela el comportamiento social: cada individuo trata de mejorar de acuerdo con su propia experiencia y observando a sus vecinos Se maneja una población de M partículas o agentes en un espacio multidimensional

49 Principios de la PSO Para cada partícula: Recordar mi mejorposición en el pasado Pregunto a mis vecinos por su mejor posición Tendencias: 1. Seguir mi camino (inercia) 2. Regresar a mimejor posición (conservador) 3. Imitatar al líder (imitación)

50 PSO: modelo v m ( t [ ( ) ( )] [ ( ) ( )] * * z t z t + z t z + 1) = αv( t) + λ λ 1 m m 2 m t z m ( t + 1) = z ( t) + v ( t + 1) m m donde: λ ϕ = rand(0, ϕ ), λ = rand(0, ϕ ) = ϕ 1 + ϕ 2

51 PSO Modelo (t v m + 1) =α v m ( t) + + rand(0, ϕ ) 1 + rand(0, ϕ ) 2 [ ] * zm( t) zm( t) [ ( ) ( )] * z t z t m + Inercia Regresar Imitación z m ( t + 1) = z ( t ) + v ( t + m m 1)

52 Ilustración de PSO

53 Ilustración de PSO líder regresar a mi mejor posición z * z m (t+1) z m (t) v m (t) z * m inercia imitación

54 Ilustración de PSO z * z m (t+1) z m (t) z * m v m (t) v z m m ( t [ ( ) ( )] [ ( ) ( )] * * z t z t + z t z + 1) = α v ( t) + λ λ m ( t + 1) = z ( t ) + v ( t + m 1 m m 2 m t m 1)

55 Condiciones Definir: κ χ = ][ ] [ ϕ 4ϕ e 2)( ϕ 1) 11+ = ( ϕ 2 ϕ 2 + 2κ ϕ 2 4ϕ 2 Heuristica, resultados parciales: α = e Condiciones para no divergencia: κ ]0,1[ 1+ χ( ϕ α = ϕ 1 2) Resultados empírico: κ 0.577,4 < ϕ 4.276

56 PSO en particionamiento Cada partícula es un conjunto de K centroides g 1,...g K R p Cada centroide tiene asociada una clase C k por asignación de los objetos a la clase del centroide más cercano Los centroides se mueven en R p de acuerdo con los principios de la PSO y la partición se redefine por asignación Las partículas se mueven en R Kp

57 Algoritmo Repeat for t=1,2,... max_iter or convergencia For m=1:m (particulas) For k=1:k (clases) use ecuación de PSO para cada variable numérica Asigne los objetos al centroide más cercano Actualizar mejor posición de partícula m Actualizar mejor partícula global

58 Parámetros α = 0.5: coeficiente para v i (t) ϕ = ϕ 1 + ϕ 2 4: suma de coefficients aleat. ε (tolerancia): para convergencia Máximo # de iteraciones (= 200)

59 Métodos comparados Nuestros métodos: SA: Sobrecalentamiento simulado TS: Búsqueda tabú GA: Algoritmo genético ACO: Colonias de hormigas PSO: Enjambres de partículas Métodos clásicos: KM: k-means Ward: Clasif. Jerárquica Ascendente

60 Resultados comparativos Tablas de datos reales Tablas de datos simuladas

61 Resultados preliminares Cuatro tablas de datos de la literatura: Notas escolares francesas (9 x 5) Peces de Amiard (23 x 16) Sociomatriz de Thomas (24 x 24) Iris de Fisher (150 x 4)

62 Parámetros de comparación Mínimo valor de inercia W(P) Porcentaje de veces alcanzado (tasa de atracción)

63 Resultados: Notas Escolares Tabla 9 x 5 K W PSO #=100 SA #=150 TS #=1000 GA #=100 ACO #=25 KM #=10000 Ward No No Sí Sí

64 Resultados: Peces de Amiard Tabla 23 x 16 K W PSO #=100 SA #=150 TS #=200 GA #=100 ACO #=25 KM #=10000 Ward No No Sí

65 Resultados: Sociomatriz de Thomas Tabla 24 x 24 K W PSO #=100 SA #=150 TS #=200 GA #=100 ACO #=25 KM #=10000 Ward No No No

66 Resultados: Iris de Fisher Tabla 150 x 4 K W PSO SA TS GA ACO KM Ward #=100 #=150 #=1000 #=100 #=25 #= No No No No

67 Experimentación Simulación de Monte-Carlo: Generar variables gaussianas N (µ,σ 2 ) Número de objetos (100,500) Number of clusters (3,7) Varianza σ 2 (similares, diferentes) Cardinalidades de las clases (similares, diferentes)

68 Tablas de Datos: Experimento Factores # objetos # clases Card clases Desv.est. Nivel C i = C j s i = s j Nivel C 1 > C j, j 1 s 2 > s j, j 2 Repeticiones : 100

69 Tablas de Datos

70 *.def Generación de las Tablas de Datos *.esp *.dat

71 Parámetros SA TS GA

72 Desarrollo de Software Programación en Delphi Implementación de nuestros métodos aplicando las Metaheurísticas de Optimización Generación aleatoria de tablas de datos Comparaciones: tablas resumen

73 Generación de Datos

74 Métodos

75 Ejemplo: SS

76 Ejemplo: AG & ACO

77 Parámetros de comparación: Mínimo valor de inercia W(P) Porcentaje de veces alcanzado Valor promedio de W en las ejecuciones % de mala clasificación

78 Comparación de métodos

79 Resultados 1 n K C k σ = = W 0 = W* τ W prom % mal cl. Sob.simul % % Bus.Tabu % % Alg.Gen % % Hormigas % % K-medias % % Ward %

82 Resultados 4 n K C k σ = = W 0 = W* τ W prom % mal cl. Sob.simul % % Bus.Tabu % Alg.Gen % Hormigas % K-medias % Ward %

83 Resultados 5 n K C k σ = W 0 = W* τ W prom % mal cl. Sob.simul % % Bus.Tabu % % Alg.Gen % % Hormigas % % K-medias % % Ward %

85 Resultados 7 n K C k σ = W 0 = W* τ W prom % mal cl. Sob.simul % % Bus.Tabu % % Alg.Gen % % Hormigas % K-medias % % Ward %

86 Resultados 8 n K C k σ = W 0 = 9.37 W* τ W prom % mal cl. Sob.simul % % Bus.Tabu % % Alg.Gen % % Hormigas % % K-medias % % Ward %

91 Resultados 13 n K C k σ W 0 = W* τ W prom % mal cl. Sob.simul % % Bus.Tabu % % Alg.Gen % % Hormigas % % K-medias % % Ward %

95 Frecuencia de W*

96 Valor medio de W

97 Parametros SA TS GA

98 Resultados Tiempo Tiempo aproximado en minutos para cada corrida

99 Observaciones finales El método jerárquico de Ward es el peor Cuando las cardinalidades son iguales, los métodos obtienen los mismos óptimos; sin embargo, SS tiene mejor tasa de atracción (100%) Cuando las cardinalidades son diferentes y se desean muchas clases, SS y BT tienen problemas, incluso k- medias es mejor. En este caso, AGA y ACO son claramente los mejores ACO se comporta bien con diferentes varianzas y cardinalidades El método más rápido es k-medias y el más lento es BT La calibración de los parámetros es una tarea difícil.