Evaluación de modelos para la predicción de la Bolsa

Transcripción

1 Evaluación de modelos para la predicción de la Bolsa Humberto Hernandez Ansorena Departamento de Ingeniería Telemática Universidad Carlos III de Madrid Madrid, España Rico Hario Abilowo Hardjono Departamento de Ingeniería Telemática Universidad Carlos III de Madrid Madrid, España 1. INTRODUCCION La minería de datos consiste en aplicar una serie de técnicas a un conjunto de datos con el objetivo de llegar a tener un conocimiento sobre estos, gracias a los conocimientos sobre estos datos podemos llegar prever lo que puede ocurrir, y así tomar las medidas oportunas. Además de la predicción la minería de datos se utiliza para construir sistemas computacionales que sean capaces de aprender, esto se hace dotando al sistema de una serie de algoritmos y técnicas que imiten la cualidad humana del aprendizaje, obteniendo una serie de conocimientos de experiencia anteriores. Muchas empresas crean bases de datos especialmente diseñadas para procesos de minería de datos, un ejemplo son los supermercados. Los supermercados utilizan la minería de datos con el objetivo de conocer los hábitos de compra de sus clientes, lo ilustraremos con el siguiente ejemplo, un estudio de los supermercados detecto que los viernes había un gran numero de clientes que adquirían a la vez pañales y cerveza, esto se debía a que los viernes venían muchos padres jóvenes al supermercado, cuya perspectiva del fin de semana era quedarse cuidando a sus hijos, viendo la televisión y tomándose unas cervezas. El supermercado tras conocer lo que ocurría el viernes, decidió emplear una estrategia para conseguir incrementar el número de venta de cervezas. La estrategia consistía en colocar las cervezas justo al lado de los pañales. De esta manera ponemos al alcance de cada cliente lo que necesita en cada momento consiguiendo así que su actividad sea efectiva. Todo proyecto de minería de datos debe seguir una serie de pasos, los pasos a seguir son el filtrado de los datos, selección de variables, extracción de conocimientos, interpretación y evaluación de los resultados obtenidos. El filtrado de los datos se utiliza debido a que muchas veces el formato de los mismos no es el ideal, por lo que la mayoría de las ocasiones no es posible aplicar ninguno de los algoritmos de minería sobre los datos en bruto, el proceso de filtrado se realiza de tal forma que se eliminan aquellos datos que son incorrectos, no validos, desconocidos, según las necesidades de los algoritmos que vayamos a emplear, como consecuencia de este filtrado se obtienen muestras o se reducen el numero de valores posibles, la reducción de estos valores se hace por medio de redondeo o clustering. La selección de variables se realiza justo después de que los datos hayan sido procesado, una vez que los datos han sido procesados la cantidad de información obtenida sigue siendo muy elevada, para reducir dicha cantidad de datos se seleccionan aquellos que tengan una determinada característica eligiendo así los atributos o variables mas determinantes de dicho conjunto de datos, esta elección de variables se debe hacer de tal manera que no afecta a los conocimientos obtenidos del proceso de minería. Tenemos dos métodos de selección de características. El primero de los dos métodos se basa en la elección de los mejores atributos del problema, y el otro consiste en buscar variables independientes mediante test de sensibilidad, algoritmos de distancia o heuristicos. La extracción de los conocimientos se realiza mediante el empleo de una técnica de minería, observando así algunos patrones de comportamiento en las variables del problema, o posibles relaciones entre dichas variables. Finalmente pasamos a la interpretación y la evaluación de los resultados, una vez obtenido el modelo, pasamos a conocer si dicho modelo es o no valido, comprobando si las conclusiones obtenidas son validas y satisfactorias. Si obtenemos más de un modelo, debemos compararlos y tomar aquel modelo que se ajuste más a nuestro problema. En el caso de que ninguno de los modelos obtenidos cumpla nuestras expectativas, deberemos realizar cambios en los pasos anteriores para así generar nuevos modelos.

2 2. TECNICAS DE MINERIA DE DATOS. La minería de datos emplea diferentes técnicas, según el resultado que queramos obtener de nuestro conjunto de datos. Las técnicas empleadas son tres, las cuales describiremos a continuación. Técnicas descriptivas: Las técnicas descriptivas nos proporcionan información sobre las posibles relaciones entre los diferentes datos y sus correspondientes características. Aplicando esta técnica obtenemos información del tipo. Los clientes que compran pañales en supermercado son propensos a comprar cervezas. La combinación de tabaco y alcohol son un factor importante en tiempo de vida de una persona. Los clientes que poseen una bicicleta tienen unas características muy diferentes del resto de clientes. Técnicas predictivas: Las técnicas predictivas se aplican a un conjunto de datos con el objetivo de obtener conocimientos de futuro, las posibles preguntas que se podrían responder utilizando este tipo de conocimientos serian las siguientes. En el caso de un supermercado conocer cuales serian las ventas del año próximo. En el caso de una empresa de seguro conocer el tipo de seguro que podría contratar el cliente X. Técnicas de modelado: Las técnicas de modelado se emplean en la comprensión de sistemas, es decir se obtiene una representación del sistema que le permita imitar su comportamiento. Para ello el modelado emplea agrupamiento, árboles de decisión, y análisis de secuencias/asociaciones. Conocimientos obtenidos gracias a la aplicación de las técnicas: Asociaciones: Una asociación entre dos atributos ocurre cuando la frecuencia de que ambos estén relacionados conjuntamente es relativamente alta. Un ejemplo es el supermercado, donde se comprueba si los pañales y los potitos de bebe se compran conjuntamente. Dependencias: Una dependencia se da cuando un atributo de un conjunto de datos determina valor de otro atributo. A veces este tipo de dependencias no nos aportan ninguna información por lo que no son nada interesantes. Un ejemplo es el siguiente caso, una persona ingresa en maternidad por consiguiente ya sabemos que esa persona es una mujer. Clasificación: La clasificación se puede ver como un esclarecimiento de una dependencia, el atributo dependiente nos puede ayudar a determinar ciertas reglas. Por ejemplo en el caso de una clínica los atributos edad, numero de miopías y astigmatismo han determinado aquellos pacientes que han superado la cirugía ocular sin problemas, gracias a esto se ha obtenido una regla que clasifican los casos en positivos o negativos a partir de dichos atributos. Agrupamiento/Segmentación: El agrupamiento (clustering) consiste en detectar grupos de individuos, estos grupos de individuos se diferencian de la clasificación en que no se conoce su número, ni la clase a la que pertenecen. El agrupamiento crea así grupos o racimos (cluster) de datos que se diferencian del resto. Tendencia/Regresión: Tiene como objetivo predecir que ocurrirá en el futro con una determinada variable, para ello se apoyará en otra variable, generalmente el tiempo. 3. WEKA Para el proceso de datos utilizaremos la herramienta de código libre Weka (Waikato Enviroment for Knowledge Análisis). Weka es un conjunto de librerías Java que permiten la extracción y aprendizaje de conocimientos a partir de bases de datos. Weka proporciona una amplia variedad de algoritmos/técnicas para realizar un modelado y que dependen de la naturaleza de los datos de entrada. En nuestro caso, el conjunto de datos presenta una serie de atributos de tipo numérico. Algoritmos de datos numéricos empleados: Regresión lineal M5' KStar RPTree A continuación detallaremos el funcionamiento de los algoritmos anteriormente indicados, permitiéndonos así una mejor compresión de los resultados que proporcionan cada uno de ellos: Regresión lineal: Es el esquema de aprendizaje para datos numéricos más sencillo, donde los parámetros solo controlan cómo se seleccionan los atributos que deben ser incluidos en la función lineal. Modela los datos usando una línea recta. Se caracteriza, por tanto, por la utilización de dos variables, una aleatoria, y (llamada variable respuesta), que es función lineal de otra variable aleatoria, x (llamada variable predictora), formándose la ecuación y = a + bx. En esta ecuación la variación de y se asume que es constante, y a y b son los coeficientes de regresión que especifican la intersección con el eje de ordenadas, y la pendiente de la recta, respectivamente. M5'

3 Este algoritmo hace uso de un modelo de regresión lineal conocido como model tree. Se trata de un árbol de decisión usado en predicción numérica que estima el valor de la clase de la instancia cuando se alcanza una de sus hojas. En un principio se construye usando un algoritmo inductivo de árbol de decisión. Posteriormente cuando el model tree es usado para predecir el valor de una instancia el árbol es recorrido hacia abajo hasta llegar a una hoja, para ello se usan los valores de los atributos de la instancia que permiten tomar las decisiones de enrutado en cada nodo. La hoja contendrá un modelo lineal basado en alguno/s de los valores de los atributos de la instancia a partir de los cuales se puede obtener el valor predicho de la misma. Cabe destacar que M5 puede reemplazar un valor de atributo no determinado, dicho hueco por la media global o la moda del conjunto de datos de entrenamiento antes de que se construyera el árbol. A su vez, permite diferentes tipos de salida: árbol modelo, árbol de decisión sin modelos lineales en las hojas y regresión lineal. KStar Es un clasificador basado en instancias, esto significa que la clasificación de una instancia está basada en la clasificación de instancias de entrenamiento similares, determinadas por alguna función de similitud. Se diferencia de otros aprendizajes basados en lo mismo en que usa una función de distancia basada en entropía. RPTree Es un método de aprendizaje rápido mediante árboles de decisión. Construye un árbol de decisión usando la información de varianza y lo poda usando como criterio la reducción del. Solamente clasifica valores para atributos numéricos una vez. Los valores que faltan se obtienen partiendo las correspondientes instancias. 4. ESTUDIO DE LA BOLSA DE NEW YORK Esta práctica tiene como objetivo el análisis de la bolsa de New York con la finalidad de poder predecir posibles acontecimientos. Para el análisis contamos con un conjunto de datos los cuales se encuentran almacenados en un fichero, la aplicación que vamos a emplear para el análisis de los datos es Weka, la cual posee una serie de algoritmos que nos ayudaran en nuestras predicciones. El fichero de datos sobre el cual vamos a realizar el análisis consta de una gran cantidad de datos, estos datos recogen una serie de atributos de la bolsa durante los años 1996 y 2000, estos atributos se muestran a continuación.. Año. Max. Mes. Min. Dia. Cierra. Salto-dia. Media-2-dias. Salto-mes. Media-3-dias. Abre. Baja Año: Es la variable que determina el año en el cual se ha tomado el correspondiente dato. Esta variable oscila entre 1996 y Mes: Determina el mes en el cual se toma le dato de la bolsa, su valor esta comprendido entre 1 y 12. Dia: El atributo dia nos muestra el dia dentro del correspondiente mes, en el cual se han hecho las mediciones. Salto-dia: En nuestro fichero de datos las muestras no se han tomado diariamente, por lo que a veces hay unos intervalos de varios dias entre cada muestra, para ello se emplea el atributo salto-dia para indicar si la muestra tomada es consecutiva con la anterior. Salto-Mes: Este atributo funciona de la misma manera que el anterior con la diferencia que este nos indica si el mes en el que se ha tomado la muestra es consecutivo con el anterior. Abre: El atributo abre nos da el valor con el cual ha abierto la bolsa ese dia. Max: Este atributo nos indica el máximo alcanzado en la bolsa de New York durante ese dia. Min: Este atributo nos indica el mínimo alcanzado en la bolsa de New York durante ese dia. Cierra: Determina al final del dia el valor con el cual se ha cerrado la bolsa. Media-2-dias: Nos indica cual ha sido la media durante los dos últimos dias anteriores al actual. Media-3-dias: Nos indica cual ha sido la media durante los tres dias anteriores al actual. Baja: El atributo baja es una variable booleana, la cual nos indica si la bolsa ha cerrado con una bajada con respecto a la apertura. A continuación mostraremos una parte de nuestro fichero bolsa.arff, el cual esta dividido en dos partes, atributos y datos. Los atributos del fichero anio mes dia salto-dia {si, salto-mes {si, abre max min cierra media-2-dias media-3-dias baja {si, no} Los datos que contiene el fichero 2000,12,28,no,no,1328,1335,1325,1334,1334,1334,no 2000,12,27,no,no,1315,1332,1310,1328,1334,1334,no 2000,12,26,no,no,1305,1315,1301,1315,1331,1331,no 2000,12,22,si,no,1274,1305,1274,1305,1322,1326,no

4 2000,12,21,no,no,1264,1285,1254,1274,1310,1316,no 2000,12,20,no,no,1305,1305,1261,1264,1290,1298,si 2000,12,19,no,no,1322,1346,1305,1305,1269,1281,si 2000,12,18,no,no,1312,1332,1312,1322,1284,1281,no Después de haber aplicado el algoritmo, hemos obtenido un de predicción del 1,5255 por ciento. Los resultados obtenidos son buenos resultados, ya que hemos utilizado regresión lineal la cual se basa en resultados anteriores. El cometido a la hora de estimar la media del valor de cierre en la bolsa es de 3, PREDICCIONES DE LA BOLSA Con los datos mostrados anteriormente y utilizando algunos de los algoritmos de la aplicación Weka podemos llegar a predecir los valores de apertura y cierre de la bolsa del dia siguiente, de igual manera se puede predecir la subida que experimentara la bolsa el siguiente mes. Para la predicción de apertura y cierre de la bolsa del dia siguiente hemos seleccionada los siguiente atributos, que posteriormente serán analizados. Año Abre Min Mes Dia Cierra Max Para hallar las predicciones hemos escogido primeramente el método LeastMedSq (-S 4 -G 0) el cual se basa en una regresión lineal y en redes de neuronas, este método nos da información de lo que puede ocurrir en el futuro de una determinada variable, para ello se apoyara en otra variable generalmente el tiempo. IBK k 1 w 0 Correlation coefficient Mean absolute Root mean squared Relative absolute % Root relative squared % Este algoritmo se basa en los K vecinos más próximos. RESULTADOS OBTENIDOS: Cierre de la bolsa: cierra = * anio * mes * dia * abre * max * min Time taken to build model: seconds Mean absolute Root mean squared Relative absolute % Root relative squared % KStar Correlation coefficient Mean absolute Root mean squared Relative absolute % Root relative squared % M5P M5 pruned model tree: (using smoothed linear models) LM1 (1262/1.892%)

5 LM num: 1 cierra = * abre * max * min Time taken to build model: 2.16 seconds Mean absolute Root mean squared Relative absolute % Root relative squared % * dia * abre * max * min Time taken to build model: 0.02 seconds Mean absolute Root mean squared Relative absolute % Root relative squared % REPTree Apertura de la bolsa: Time taken to build model: 0.02 seconds Correlation coefficient Mean absolute Root mean squared Relative absolute % Root relative squared % LinearRegresion abre = * anio * mes * dia * max * min * cierra Time taken to build model: 13.2 seconds cierra = * anio * mes +

6 Mean absolute Root mean squared Relative absolute % Root relative squared % Al aplicar el algoritmo para predecir el atributo de apertura de la bolsa hemos obtenido un de predicción de 1,5139%. El cometido ala hora de estimar el valor medio con el que abre la bolsa es de 3,926 IBK k 1 -w 0 LM1 (1262/1.946%) LM num: 1 abre = * max * min * cierra Time taken to build model: 2.22 seconds Correlation coefficient Mean absolute Root mean squared Relative absolute % Root relative squared % KStar Mean absolute Root mean squared Relative absolute % Root relative squared % REPTree Time taken to build model: 0.03 seconds Correlation coefficient Mean absolute Root mean squared Relative absolute % Root relative squared % Correlation coefficient Mean absolute Root mean squared Relative absolute % Root relative squared % LinearRegresion: M5P abre = M5 pruned model tree: (using smoothed linear models) * anio * mes +

7 * dia * max * min * cierra Time taken to build model: 0.02 seconds Mean absolute Root mean squared Relative absolute % Root relative squared % A continuación mostramos los resultados obtenidos al aplicar cada uno de los algoritmos en formato de tabla. Esta tabla representa al atributo cierra de la bolsa. Método de predicción Tiempo en generar el modelo(seg) Root mean squared Relative absolute LeastMedsq 11,09 5,8125 1,5255% LinearRegresion 0,02 5,389 1,4379% IBK 0 15,0293 4,0348% Kstar 0 11,4229 3,1623% MP5 2,16 5,4218 1,4508% REPTree 0,02 11,0928 3,1828% Método de predicción Tiempo en generar el modelo(seg) Root mean squared Relative absolute LeastMedsq 13,2 5,5019 1,5139 % LinearRegresion 0,02 5,3993 1,4729 % IBK 0 14,6868 4,0233 % Kstar 0 10,3123 2,9493 % MP5 2,22 5,4124 1,4813 % REPTree 0,03 11,8121 3,4233 % 6. CONCLUSION: Hemos realizado un estudio de los diferentes algoritmos de Weka para predecir cual será el cierre con respecto la apertura de la bolsa en un determinado día, con los algoritmos aplicados hemos conseguido es inferiores al 15%, el algoritmo que menos es nos ha dado es el Linear Regresion con una tasa de de predicción inferior al 5.4% con un tiempo de ejecución bastante bajo. 7. REFERENCIAS: Apuntes y trabajos de la asignatura Inteligencia en redes de comunicaciones. Base de datos (dataset) A continuación mostramos los resultados obtenidos al aplicar cada uno de los algoritmos en formato de tabla. Esta tabla representa al atributo abre de la bolsa.