Portafolio de Algoritmos Evolutivos para Problemas de Regresión

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Portafolio de Algoritmos Evolutivos para Problemas de Regresión"

José Manuel Ruiz Suárez
hace 8 años
Vistas:

1 Portafolio de Algoritmos Evolutivos para Problemas de Regresión Mario Graff División de Estudios de Posgrado Facultad de Ingeniería Eléctrica Universidad Michoacana de San Nicolás de Hidalgo Marzo 2013 Mario Graff (UMSNH) PIE 1 / 18

Facultad de Ingeniería Eléctrica Universidad Michoacana

2 Índice 1 Lineas de Investigación 2 Modelado de Programación Genética 3 Selección de un Algoritmo: Predicción de Series de Tiempo 4 Predicción de Series de Tiempo 5 Trabajo futuro Mario Graff (UMSNH) PIE 2 / 18

Predicción de Series de Tiempo 4 Predicción de

3 Lineas de Investigación Modelado de Programación Genética Mario Graff and Riccardo Poli. Practical performance models of algorithms in evolutionary program induction and other domains. Artif. Intell., 174(15): , Mario Graff, Riccardo Poli, and Juan J. Flores. Models of performance of evolutionary program induction algorithms based on indicators of problem difficulty. Evolutionary Computation, November Selección de un Algoritmo: Predicción de Series de Tiempo Mario Graff, Hugo Jair Escalante, Jaime Cerda-Jacobo, and Alberto Avalos Gonzalez. Models of Performance of Time Series Forecasters. Neurocomputing, forthcoming Predicción de Series de Tiempo Juan J. Flores, Mario Graff, and Hector Rodriguez. Evolutive design of arma and ann models for time series forecasting. Renewable Energy, 44: , Mario Graff, Rafael Peña and Aurelio Medina. Wind Speed Forecasting using Genetic Programming. Forthcoming. Congress on Evolutionary Computation. Cancún, México, June Mario Graff (UMSNH) PIE 3 / 18

Evolutionary Computation, November 2012. Selección de un Algoritmo: Predicción de Series de Tiempo Mario Graff, Hugo Jair Escalante, Jaime Cerda-Jacobo, and Alberto Avalos Gonzalez.

4 Lineas de Investigación Modelado de Programación Genética Mario Graff and Riccardo Poli. Practical performance models of algorithms in evolutionary program induction and other domains. Artif. Intell., 174(15): , Mario Graff, Riccardo Poli, and Juan J. Flores. Models of performance of evolutionary program induction algorithms based on indicators of problem difficulty. Evolutionary Computation, November Selección de un Algoritmo: Predicción de Series de Tiempo Mario Graff, Hugo Jair Escalante, Jaime Cerda-Jacobo, and Alberto Avalos Gonzalez. Models of Performance of Time Series Forecasters. Neurocomputing, forthcoming Predicción de Series de Tiempo Juan J. Flores, Mario Graff, and Hector Rodriguez. Evolutive design of arma and ann models for time series forecasting. Renewable Energy, 44: , Mario Graff, Rafael Peña and Aurelio Medina. Wind Speed Forecasting using Genetic Programming. Forthcoming. Congress on Evolutionary Computation. Cancún, México, June Mario Graff (UMSNH) PIE 3 / 18

5 Lineas de Investigación Modelado de Programación Genética Mario Graff and Riccardo Poli. Practical performance models of algorithms in evolutionary program induction and other domains. Artif. Intell., 174(15): , Mario Graff, Riccardo Poli, and Juan J. Flores. Models of performance of evolutionary program induction algorithms based on indicators of problem difficulty. Evolutionary Computation, November Selección de un Algoritmo: Predicción de Series de Tiempo Mario Graff, Hugo Jair Escalante, Jaime Cerda-Jacobo, and Alberto Avalos Gonzalez. Models of Performance of Time Series Forecasters. Neurocomputing, forthcoming Predicción de Series de Tiempo Juan J. Flores, Mario Graff, and Hector Rodriguez. Evolutive design of arma and ann models for time series forecasting. Renewable Energy, 44: , Mario Graff, Rafael Peña and Aurelio Medina. Wind Speed Forecasting using Genetic Programming. Forthcoming. Congress on Evolutionary Computation. Cancún, México, June Mario Graff (UMSNH) PIE 3 / 18

6 Lineas de Investigación Modelado de Programación Genética Mario Graff and Riccardo Poli. Practical performance models of algorithms in evolutionary program induction and other domains. Artif. Intell., 174(15): , Mario Graff, Riccardo Poli, and Juan J. Flores. Models of performance of evolutionary program induction algorithms based on indicators of problem difficulty. Evolutionary Computation, November Selección de un Algoritmo: Predicción de Series de Tiempo Mario Graff, Hugo Jair Escalante, Jaime Cerda-Jacobo, and Alberto Avalos Gonzalez. Models of Performance of Time Series Forecasters. Neurocomputing, forthcoming Predicción de Series de Tiempo Juan J. Flores, Mario Graff, and Hector Rodriguez. Evolutive design of arma and ann models for time series forecasting. Renewable Energy, 44: , Mario Graff, Rafael Peña and Aurelio Medina. Wind Speed Forecasting using Genetic Programming. Forthcoming. Congress on Evolutionary Computation. Cancún, México, June Mario Graff (UMSNH) PIE 3 / 18

7 Modelado de Programación Genética Objetivo Estimar el eficiencia de programación genética en un problema. Proponer modelos entendibles que sean capaces de estimar la eficiencia. Comparar diferentes algoritmos. Seleccionar el algoritmo más eficiente para resolver un problema en particular. Mario Graff (UMSNH) PIE 4 / 18

Proponer modelos entendibles que sean capaces de estimar la eficiencia.

8 Modelado de Programación Genética Performance Models La idea es predecir la eficiencia, P(t), en base a la similitud del problema a resolver, t, y un conjunto de problemas previamente seleccionados: P(t) a 0 + p S a p d(p, t), done d es una medida de similitud y a i son coeficientes a ser identificados. Los problemas de referencia y los coeficientes fueron identificados usando un conjunto de entrenamiento de pares (f, P(f )). Mario Graff (UMSNH) PIE 5 / 18

d(p, t), done d es una medida de similitud y a i son coeficientes a ser identificados.

9 Modelado de Programación Genética Modelos basados en Indicadores de Dificultad Sea {ϑ 1, ϑ 2,..., ϑ n } un conjunto de indicadores de dificultad ϑ i (f ) R Se propone modelar la eficiencia de un algoritmo en el problema f como: n P(f ) a 0 + a i ϑ i (f ) i Mario Graff (UMSNH) PIE 6 / 18

10 Modelado de Programación Genética Indicadores Propuestos Basados en la derivada discreta Variando h Órdenes superiores Modelo h f (x) = ϱ i (f ) = 1 I ς i (f ) = 1 I P(f ) a 0 + f (x + h) f (x) h i f (x) x I h f (i) (x) x I n h n h ai h ςi h (f ). i Mario Graff (UMSNH) PIE 7 / 18

i (f ) = 1 I ς i (f ) = 1 I P(f ) a 0 + f (x + h) f (x) h i f (x) x I

11 Modelado de Programación Genética Ingredientes Un conjunto de problemas La eficiencia del algoritmo modelado para cada problema del conjunto Un conjunto de características Un algoritmo de aprendizaje de máquina Mario Graff (UMSNH) PIE 8 / 18

problema del conjunto Un conjunto de características Un

12 Selección de un Algoritmo: Predicción de Series de Tiempo Definición del Problema Figura: Serie de Tiempo Qué pasa en el caso de varias series de tiempo? Mario Graff (UMSNH) PIE 9 / 18

13 Selección de un Algoritmo: Predicción de Series de Tiempo Selección de un Algoritmo Mario Graff (UMSNH) PIE 10 / 18

14 Selección de un Algoritmo: Predicción de Series de Tiempo Predictores Programación Genética Redes Neuronales Auto-Regressive Integrate Moving Average model (ARIMA) Exponential smoothing state space model (ETS) Exponential smoothing state space model with Box-Cox transformation, ARMA errors, Trend and Seasonal components (BATS) Mario Graff (UMSNH) PIE 11 / 18

Exponential smoothing state space model (ETS) Exponential smoothing state space model

15 Selección de un Algoritmo: Predicción de Series de Tiempo Portafolio de Algoritmos Definición Un conjunto de algoritmos que son ejecutados para resolver un problema en particular. Justificación El portafolio tiene un mejor rendimiento que todos los algoritmos que lo componen. Mario Graff (UMSNH) PIE 12 / 18

16 Selección de un Algoritmo: Predicción de Series de Tiempo Portafolio de Predictores Usar ς, performance models, AIC, Wang y Lemke descriptores. Combinación lineal de los descriptores anteriores Usarlos como características en una clasificador Sel. Un paso Multi pasos M1 M3 M1 M3 Model Perfecto Portfolio Predictor Mejora 49 % 16 % 7 % 7 % Mario Graff (UMSNH) PIE 13 / 18

Combinación lineal de los descriptores anteriores Usarlos como características en una clasificador Sel.

17 Predicción de Series de Tiempo Velocidad del Viento Programación Genética. T = {+,,, /,, exp,,, sin, cos, sigmoid, if } if (x, y, z) = s(x)(y z) + z, donde s(x) = 1 1+exp( x) Las constantes son optimizadas con RPROP Modificación al fitness Mario Graff (UMSNH) PIE 14 / 18

18 Predicción de Series de Tiempo Fitness Tradicional Propuesto x 1 x 2... x w φ( x 2 x 3... x w+1 ) =.... x w+1. x n x 1 x x w x 2 x ˆx w+1 x 3 x 3... ˆx w+1 ˆx w ˆx w+k x w+k 1 x w+k..... Mario Graff (UMSNH) PIE 15 / 18

..... x w x 2 x 3...... ˆx w+1 x 3 x 3... ˆx w+1 ˆx w+2................. ˆx w+k 1.

19 Predicción de Series de Tiempo Comparación Mario Graff (UMSNH) PIE 16 / 18

20 Trabajo futuro Crear un portafolio por serie. Usar las descriptores para crear ensambles. Investigar las efectos que tiene optimizar constantes. Optimizar los parámetros de RPROP. Aplicar esto a problemas de clasificación. Mario Graff (UMSNH) PIE 17 / 18

Investigar las efectos que tiene optimizar constantes.

Trabajo futuro Gracias Preguntas? Dr. Mario Graff Guerrero mgraffg@dep.fie.umich.mx, mgraffg@ieee.org 443-322-35-00 ext.

21 Trabajo futuro Gracias Preguntas? Dr. Mario Graff Guerrero ext División de Estudios de Posgrado Facultad de Ingeniería Eléctrica Universidad Michoacana de San Nicolás de Hidalgo. Mario Graff (UMSNH) PIE 18 / 18

Documentos relacionados

T R A B A J O D E I N V E S T I G A C I O N D E O P E R A C I O N E S I

UNIVERSIDAD SAN MARTIN DE PORRES FACULTAD DE INGENIERIA Y ARQUITECTURA T R A B A J O D E I N V E S T I G A C I O N D E O P E R A C I O N E S I A N A L I S I S D E P R O N Ó S T I C O S F O R E C A S T