Minería de Datos. Predicción Meteorológica

Transcripción

1 Minería de Datos Jesús Sáez Gómez Escalonilla Inteligencia en Redes de Comunicación Ing. Telecomunicación Página 1 de 25

2 1. Introducción El objetivo de la práctica es el desarrollo de un sistema real de predicción meteorológica para la ciudad de Madrid, utilizando técnicas de aprendizaje automático para obtener modelos de caracterización y predicción, empleando como herramienta la plataforma Weka. El punto de partida que disponemos, es la información METAR que sirve para representar condiciones en aeropuertos o estaciones meteorológicas. En esta práctica, este conjunto de datos meteorológicos corresponden al aeropuerto de Madrid desde el año 1994 hasta el 1004, estando los dos primeros años totalmente vacíos. Analizando a primera vista la base de datos que disponemos, observamos como se encuentra demasiado dispersa, a la vez que incompleta. Cada día de todo el periodo de análisis se encuentra contenido en un archivo, y además estos se encontrarán en ciertas ocasiones parcial o totalmente incompletos. La finalidad de la práctica, como ya hemos dicho antes, se basa en la creación de un modelo de predicción meteorológica. En concreto, tenemos que desarrollar tres modelos de predicción: 1. Predicción de temperatura a 1 hora 2. Predicción de temperatura a 24 horas 3. Predicción de condiciones meteorológicas a 24 horas. Podemos ver como ciertamente nos encontramos ante un problema de minería de datos, por lo que dividiremos nuestras fases de trabajo según se ve reflejado en la siguiente figura: Página 2 de 25

3 De este modo, partiremos de una base de datos bastante amplia, que tendremos que configurar y adaptar a unas determinadas características que queramos. Una vez hecho esto, procederemos a una evaluación de los datos que tenemos, de modo que podamos ver los datos que cuenten con mayor relevancia, para construir con ellos nuestro modelo. Llegados al final entrenaremos varios algoritmos que nos ofrece Weka con las matrices que tenemos llegados a este punto (una para cada modelo de predicción deseado), y guardaremos el modelo de modo que lo utilizaremos para dar solución al conjunto de test que mas tarde se nos proporcionará. 2. Preprocesado de los datos Arduo trabajo con la finalidad de depurar y gestionar la infinidad de archivos que existe, y pasarlos a un único archivo minero.arff que contiene todas las horas y días desde el hasta el Para este preprocesado de datos hemos pasado por los siguientes pasos: 1. Tratar todos y cada uno de los archivos que tenemos para sustituir el salto de línea que se nos da en un principio, por el salto de línea \n que aceptará cualquier editor de texto de los que vamos a utilizar. Página 3 de 25

4 2. Rellenar todos los ficheros, de modo que, en todos ellos aparezcan todas las horas del día en intervalos de 30 minutos. De esta forma, introduciremos todas aquellas horas que no estén presentes en las mediciones, colocando todos sus campos como desconocidos (? ). 3. Eliminaremos todas aquellas mediciones que se hagan en horas no correspondientes con las predefinidas (0:00,0:30, 23:00,23:30), de este modo si tenemos mediciones para dos horas consecutivas de las anteriormente dichas y entre ellas tenemos otra medición, procederemos a eliminar esta última. Este punto complementa al punto anterior, de modo que llegado a esta fase, dispondremos de medidas para todas las horas en intervalos de 30 minutos, ya sean medidas reales o valores no conocidos (? ). 4. Dado que los datos de la variable Velocidad del Viento son a primera vista numéricos, vemos que para indicar el valor 0.0, los archivos de los que disponemos asignan el valor de calm. Por lo tanto cambiamos dicho valor de calm por el de Comprobamos todos los campos de las mediciones hechas de modo que unificaremos todos los datos bajo un mismo criterio. Aquellos valores no tomados marcados como (-9999, ,N/A,-, ) se sustituirán por incógnitas que pueda reconocer el programa que vamos a utilizar (Weka). 6. Introducimos la fecha a todas las mediciones de cada uno de los archivos, para ello tomaremos el nombre del archivo de modo que introduciremos dichos datos a todas la filas de cada uno de los archivos de los que disponemos. 7. Sintetizamos todos los datos contenidos en la infinidad de archivos que tenemos, en uno solo minero.arff 8. Renombramos los valores de ciertas variables de modo que puedan ser reconocidas por Weka. P.e. Altamente Nublado Altamente_Nublado 9. Mutamos la variable fecha de cada una de las mediciones, de modo que el nuevo valor represente una característica más genérica que la fecha de dicha medición. Para ello hemos hecho varias consideraciones y hemos creído suficiente la especificación de la estación del año correspondiente a dicha medida. Se ha procedido a eliminar todos los datos existentes desde el hasta la fecha inicial comentada anteriormente debido a que todos ellos se encontraban vacíos, y lo único que introducían era carga computacional y nada de información. Tras esta tarea de preprocesado de datos hemos obtenido un fichero minero.arff de la siguiente forma : verano,2:00,75.2,50.0,41,30.01,?,calm,0.0,?,?,?,despejado verano,2:30,75.2,50.0,41,30.01,?,calm,0.0,?,?,?,despejado verano,3:00,73.4,48.2,41,30.01,?,este,1.2,?,?,?,despejado verano,3:30,73.4,48.2,41,30.01,?,este,1.2,?,?,?,despejado verano,4:00,69.8,48.2,46,29.98,?,norte,3.5,?,?,?,despejado verano,4:30,69.8,48.2,46,29.98,?,norte,3.5,?,?,?,despejado verano,5:00,66.2,41.0,?,29.98,?,calm,0.0,?,?,?,despejado verano,5:30,66.2,41.0,?,29.98,?,calm,0.0,?,?,?,despejado Página 4 de 25

5 3. Análisis de datos relevantes para la construcción de los modelos Para el análisis se ha procedido de forma que hemos construido una gran matriz genérica en la que hemos introducido un gran numero de datos que a primera vista son relevantes, intentando pecar de exagerados a la hora de considerar datos, antes que quedarnos cortos, de forma que posteriormente, mediante un análisis con el programa Weka podamos caracterizar la relevancia de cada uno de ellos. Finalmente, después de este análisis nos quedaremos con las variables más relevantes para cada estudio en concreto. Para la realización de está caracterización de los datos de los que disponemos vamos a proceder a dividir el estudio en tres ramas. 1. La primera de ellas estará ligada al estudio de las variables relevantes en la predicción de la temperatura que acontecerán en la siguiente hora, de forma que incorporaremos un campo que indicará dicha temperatura, además de todos los demás campos que indican las mediciones en ciertos instantes pasados. Para este estudio hemos hecho varias consideraciones, como: - La medición de los Eventos, en nuestra matriz de datos, se encuentra casi vacía al completo, además de estar altamente correlacionada con la variable condiciones (por lo que no aporta ningún tipo de información y sí bastantes problemas), por ello se ha decidido eliminarla de nuestro modelo, y de todas las matrices de entrenamiento que implementemos. - Las variables altamente correladas entre sí no aportan casi ningún tipo de información, y si bastantes problemas a la hora de solucionar el modelo. Por lo tanto estudiaremos la correlación entre estas de forma que, si dos variables que empleamos para la resolución del problema se encuentran altamente correladas, procederemos a la eliminación de alguna de ellas. - Los ciclos en meteorología cambian cada 8 horas. Por ello como la finalidad de nuestro modelo es la predicción de la temperatura de la hora siguiente, se ha considerado no importantes todo aquello que ocurra 7 horas antes. - Como este primer estudio tiene como finalidad obtener que variables son relevantes, hemos tomado un conjunto de entrenamiento bastante reducido, puesto que no se pretende obtener ningún modelo, únicamente se quiere realizar un análisis de las posibles variable que utilizaremos a la hora de implementar el modelo. Página 5 de 25

6 2. La segunda y tercera se encuentran relacionadas con el estudio de las variables relevantes en la predicción de la temperatura y condiciones que se registrarán 24 horas después del instante actual. Ambas ramas se encuentran totalmente ligadas, debido a que las variables que consideraremos relevantes para el estudio de la temperatura, lo serán también para el caso de las condiciones meteorológicas (Esta es una simplificación del estudio que estimamos y que mas tarde, en el estudio de los datos, veremos como es correcta). Para el estudio, como antes, hemos hecho varias consideraciones de partida que nos ayudarán a simplificar el conjunto de datos que tenemos, y nos ayudarán a abordar el problema. Estas consideraciones han sido: - De nuevo, la variable Eventos no nos proporciona ninguna información que no nos aporte ya la variable Condiciones meteorológicas (están altamente correlacionadas), por ello, y por la escasez de información que contiene (está casi vacía), se ha decidido eliminarla del modelo. - Como ya dijimos antes, estudiaremos las variables que se encuentren altamente correladas, puesto que estas ofrecerán el mismo tipo de información y procederemos a eliminarlas del modelo, de forma que quede únicamente la mas correlada con la variable que queremos estimar. - De nuevo hemos tomado un conjunto bastante reducido que nos ayude a poder estudiar el mayor numero de variables posibles sin desbordar la capacidad de computo del ordenador, de forma que una vez estimadas las variables relevantes, se procederá a construir la matriz completa con todas las variables elegidas - El hecho de que los ciclos en meteorología cambien cada 8 horas, en este caso juega en nuestra contra, debido a que esto implica que en el momento de nuestra medición (24 Horas antes de la medida que pretendemos estimar) tendremos unas condiciones bastante dispares a las de nuestra incógnita. Esto hace que, a la hora de la toma inicial de variables, cojamos variables próximas a al instante actual, pero también serán relevantes las variables tomadas 6, 12, 24 y 32 horas antes. Una vez visto esto, tenemos que concluir matizando un pequeño detalle. En el inicio de este apartado hemos dicho que tanto el estudio de la hora y de las condiciones que acontecerán una hora después de la última medida, están caracterizados por las mismas variables. Por ello las matrices que construiremos tanto para el estudio previo de las variables relevantes del problema, como para la matriz completa que nos permitirá caracterizar nuestro modelo, son idénticas, exceptuando una ultima variable que las diferenciará. Mientras que, las matrices referentes a la temperatura contendrán una última columna que indica la temperatura 24 horas después del instante actual, las matrices referentes a las condiciones meteorológicas contendrán una última columna referida a las condiciones 24 horas después. Página 6 de 25

7 3.1Estudio de las variable del modelo para la obtención de la temperatura para la hora posterior. En un principio hemos realizado el estudio de todas las variables tomadas, excepto la variable eventos (como ya dijimos antes) en los instantes: Instante acutal 30 minutos antes 1 hora antes 1 hora y 30 minutos antes 2 horas antes 3 horas antes 4 horas antes 5 horas antes 7 horas antes Como podemos ver, las variables que se han considerado relevantes en primera instancia, son aquellas que se encuentran relacionadas con los momentos más próximos al instante que queremos predecir. Esto sucede debido a la proximidad del instante a predecir, por lo que para la predicción de la temperatura y condiciones acontecidos 24 horas después no nos estaremos viendo en el mismo caso, si no que además de tomar valores cercanos a dicho instantes, suponemos que también deberemos tomar valores correspondientes a 24 horas antes del instante actual, 36 horas, pero esto ya se explicará en el apartado referente a dicho estudio. Un ejemplo de lo obtenido en este apartado han sido relaciones del siguiente tipo: En la grafica se pueden ver como la temperatura, el nivel de rocío y la humedad en el instante actual, se encuentran bastantes correlados con la temperatura prevista para una hora después (ya que introducir variables no relacionadas con el parámetro a hallar no aporta ninguna información), por lo tanto, a menos que estén muy correladas entre ellas (lo cual haría que nuestra matriz de entrenamiento para el modelado del proceso tendiese a ser singular, meta que no queremos conseguir) sería importante incluirlas en nuestro modelo. Un ejemplo de lo que comentábamos anteriormente a cerca de variables correladas entre si, se puede ver en la siguiente grafica en la que se representa la relación entre la estación del año de una medida y la de la medida para la media hora anterior. Página 7 de 25

8 De este modo se ha concluido en que las variables que son bastante importante de considerar han sido tales que según nos íbamos alejando del instante actual, la influencia que iban a tener era bastante pequeña, por ello hemos trabajado casi todo el tiempo con variables medidas hasta tres horas antes. Una vez dicho esto vemos que variables han sido las que hemos considerado importante para nuestro modelo. Hora Actual Estación del Año Temperatura Actual Nivel de Rocío Actual Humedad Actual Presión Atmosférica Actual Velocidad del Viento Actual Dirección del Viento Actual Temperatura ½ hora antes Temperatura 1 hora y ½ antes Dirección del viento ½ hora antes Dirección del viento 1 hora antes Condiciones Meteorológicas Actuales Condiciones meteorológicas 1 hora antes Una vez hecho esto construiremos nuestra matriz de entrenamiento que incluya todos y cada uno de estos datos para cada fila, concatenando la temperatura en la hora siguiente. 3.2 Estudio de las variable del modelo para la obtención de la temperatura y condiciones meteorológicas en la hora posterior. En un principio hemos realizado el estudio de todas las variables tomadas, excepto la variable eventos (como ya dijimos antes) en los instantes: Instante actual 2 horas antes 6 hora antes 12 horas antes 24 horas antes 32 horas antes Página 8 de 25

9 48 horas antes Procedemos como en el apartado anterior de modo que estudiamos todas y cada una de las variables de los instantes seleccionados como importantes. Como podemos ver, dichos instantes están bastante mas alejados del instante actual que para el caso de la predicción a una hora. Esto es debido a que la predicción que pretendemos realizar ahora, está bastante mas alejada del instante actual, debido a ello, es importante tomar un rango mas global de medidas. En un primer instante nos planteamos incluso llegar a introducir mediciones tomadas en instantes temporales que datase 1 año antes del instante actual, debido a que teóricamente los ciclos meteorológicos se repiten anualmente. Pero debido a que las variables estudiadas (Condiciones y temperatura) son bastantes cambiantes a lo largo de periodos pequeños de tiempo, y son muy inestables frente a dicha teoría, decidimos no tenerlas en cuenta, no sin realizar un estudio previo (visionando la relación entre dichos datos y los que queremos predecir) en el que pudimos ver que no obteníamos buenos resultados. Una vez realizado el estudio para los instantes anteriormente citados, y teniendo en cuenta todas las cláusulas citadas en el apartado anterior en el que estudiábamos las variables relevantes para la predicción de temperatura una hora después, se ha llegado a la conclusión de que las variables que compondrán nuestro modelo para la predicción del temperatura y condiciones meteorológicas 24 horas después, van a ser : Hora actual Estación Actual Temperatura Actual Humedad Actual Presión Actual Dirección del Viento Actual Velocidad del Viento Actual Condiciones Actuales Temperatura hace 2 horas Nivel de rocío hace 2 horas Condiciones hace 2 horas Temperatura hace 6 horas Nivel de rocío hace 6 horas Condiciones hace 6 horas Temperatura hace 12 horas Humedad hace 12 horas Condiciones hace 12 horas Temperatura hace 24 horas Condiciones hace 24 horas Incluyendo al final de dicho modelo el valor de la variable temperatura o condiciones meteorológicas, según corresponda, medidas 24 horas después. Una vez llegados a este punto, se procede al cálculo de las matrices para cada uno de los dos modelos de este apartado 4. Extracción de conocimiento Llegados a este punto, ya es hora de trabajar con el programa Weka, de modo que podamos predecir las condiciones y temperaturas esperadas aplicando los algoritmos que se nos ofrecen. Página 9 de 25

10 Dadas las diferentes características de los modelos que se nos proponen, vamos a analizar varios algoritmos para cada uno de forma que escojamos el que mejores prestaciones ofrezcan. Antes de empezar con el estudio, tenemos que puntualizar un pequeño cambio que hemos hecho sobre los datos que modelan nuestros problemas. a. El primer cambio que hemos tenido que hacer se debe a la inmensidad de datos que poseemos, por lo que hemos tenido que simplificar la matriz del modelo para el entrenamiento de algunos algoritmos. Esto es debido a que algunos algoritmos, con tal cantidad de datos, se veía sobrepasado y nos daba un error de falta de memoria. La simplificación es tal que se nos han quedado matrices de 20000, 4000 y 2000 datos, de tal modo que siempre que nos lo permita el algoritmo y la memoria utilizaremos el mayor numero de datos posible. b. Otro cambio con un poco más importancia que el anterior, es el que hemos realizado sobre todas nuestras matrices de modelado, sobre todo sobre la que modela las condiciones meteorológicas de las 24 horas siguientes. Observando los valores de esta variable, hemos podido observar como tiene una inmensidad de valores, bastante similares entre sí. Debido a ello, hemos decidido simplificar estos valores de modo que nos quedemos con un rango menor de valores, ya que la ocurrencia de algunos de ellos era casi nula, por lo que hemos aproximado estos a otro valor similar. De este modo el valor de la variable se encuentra comprendido en el siguiente rango: Condiciones_24H {Desconocido,Niebla,Nubes_Bajas_de_Polvo,Caídas_de_Granizo,Despejado,Remolino_de_Polvo,Torme nta,parcialmente_nublado,nubes_dispersas,altamente_nublado,tormentas_y_lluvia,nublado,llovizna, Humo,Bruma,Lluvia,Lluvia_Leve,Abundantes_Lluvias,Nieve} Finalmente tenemos que indicar que dado que la finalidad del estudio es la obtención de un modelo suficientemente bueno entre los que el programa Weka ofrece, se ha optado realizar el test por medio del conjunto de datos formados por el 33% de los datos de entrenamiento. Esto nos ofrecerá una representación ajustada de las prestaciones de cada uno de los modelos. Una vez dicho esto, continuaremos mostrando los resultados que hemos obtenido para los algoritmos empleados. 4.1 Predicción de Temperatura a 1 Hora. Los algoritmos utilizados y los resultados a los que hemos llegado han sido: -LinearRegression Scheme: weka.classifiers.functions.linearregression -S 0 -R 1.0E-8 Página 10 de 25

11 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -LeastMedSq Scheme: weka.classifiers.functions.leastmedsq -S 4 -G 0 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -Multilayer Perceptron Scheme: weka.classifiers.functions.multilayerperceptron -L 0.3 -M 0.2 -N 500 -V 0 -S 0 -E 20 -H a Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -RBFNetwork Scheme: weka.classifiers.functions.rbfnetwork -B 30 -S 10 -R 1.0E-8 -M -1 -W 0.1 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -IBK Página 11 de 25

12 Scheme: weka.classifiers.lazy.ibk -K 20 -W 0 Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6513 Ignored Class Unknown Instances 585 -KStar Scheme: weka.classifiers.lazy.kstar -B 20 -M a Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -LWL Scheme: weka.classifiers.lazy.lwl -U 0 -K -1 -W weka.classifiers.trees.decisionstump Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -Additive Regresion Scheme: weka.classifiers.meta.additiveregression -S 1.0 -I 90 -W weka.classifiers.trees.decisionstump Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Página 12 de 25

13 Total Number of Instances 6513 Ignored Class Unknown Instances 585 -Decision Stump Scheme: weka.classifiers.trees.decisionstump Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6513 Ignored Class Unknown Instances 585 -M5P Scheme: weka.classifiers.trees.m5p -M 4.0 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -REPTree Scheme: weka.classifiers.trees.reptree -M 2 -V N 80 -S 1 -L -1 Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6513 Ignored Class Unknown Instances 585 -Conjunctive Rule Scheme: weka.classifiers.rules.conjunctiverule -N 70 -M 2.0 -P -1 -S 1 Instances: Página 13 de 25

14 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6513 Ignored Class Unknown Instances 585 -Decision Table Scheme: weka.classifiers.rules.decisiontable -X 1 -S 5 Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6513 Ignored Class Unknown Instances 585 -M5Rules Scheme: weka.classifiers.rules.m5rules -M 4.0 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1312 Ignored Class Unknown Instances 103 -ZeroR Scheme: weka.classifiers.rules.zeror Instances: Correlation coefficient 0 Mean absolute error Root mean squared error Relative absolute error 100 % Root relative squared error 100 % Total Number of Instances 6513 Ignored Class Unknown Instances 585 Página 14 de 25

15 4.2 Predicción de Temperatura a 24 Hora. Los algoritmos utilizados y los resultados a los que hemos llegado han sido: -LinearRegression Scheme: weka.classifiers.functions.linearregression -S 0 -R 1.0E-8 Instances: 4160 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 -LeastMedSq Scheme: weka.classifiers.functions.leastmedsq -S 4 -G 0 Instances: 4160 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 -Multilayer Perceptron Scheme: weka.classifiers.functions.multilayerperceptron -L 0.3 -M 0.2 -N 500 -V 0 -S 0 -E 20 -H a Instances: 4160 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 -RBFNetwork Scheme: weka.classifiers.functions.rbfnetwork -B 30 -S 10 -R 1.0E-8 -M -1 -W 0.1 Instances: 4160 Página 15 de 25

16 Test mode: split 66% train, remainder test Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 -IBK Scheme: weka.classifiers.lazy.ibk -K 20 -W 0 Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6546 Ignored Class Unknown Instances 543 -KStar Scheme: weka.classifiers.lazy.kstar -B 20 -M a Instances: 4160 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 -LWL Scheme: weka.classifiers.lazy.lwl -U 0 -K -1 -W weka.classifiers.trees.decisionstump Instances: 4160 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 Página 16 de 25

17 -Additive Regresion Scheme: weka.classifiers.meta.additiveregression -S 1.0 -I 90 -W weka.classifiers.trees.decisionstump Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6546 Ignored Class Unknown Instances 543 -Decision Stump Scheme: weka.classifiers.trees.decisionstump Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6546 Ignored Class Unknown Instances 543 -M5P Scheme: weka.classifiers.trees.m5p -M 4.0 Instances: 4160 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 -REPTree Scheme: weka.classifiers.trees.reptree -M 2 -V N 80 -S 1 -L -1 Instances: Página 17 de 25

18 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6546 Ignored Class Unknown Instances 543 -Conjunctive Rule Scheme: weka.classifiers.rules.conjunctiverule -N 70 -M 2.0 -P -1 -S 1 Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6546 Ignored Class Unknown Instances 543 -Decision Table Scheme: weka.classifiers.rules.decisiontable -X 1 -S 5 Instances: Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6546 Ignored Class Unknown Instances 543 -M5Rules Scheme: weka.classifiers.rules.m5rules -M 4.0 Instances: 4160 Correlation coefficient Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1303 Ignored Class Unknown Instances 112 -ZeroR Página 18 de 25

19 Scheme: weka.classifiers.rules.zeror Instances: Correlation coefficient 0 Mean absolute error Root mean squared error Relative absolute error 100 % Root relative squared error 100 % Total Number of Instances 6546 Ignored Class Unknown Instances Predicción de las Condiciones Meteorológicas a 24 Horas. Los algoritmos utilizados y los resultados a los que hemos llegado han sido: -BayesNet Scheme: weka.classifiers.bayes.bayesnet -D -Q weka.classifiers.bayes.net.search.local.k2 -- -P 1 -E weka.classifiers.bayes.net.estimate.simpleestimator -- -A 0.5 Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -NaiveBayes Scheme: weka.classifiers.bayes.naivebayes Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -NaiveBayesUpdateable Página 19 de 25

20 Scheme: weka.classifiers.bayes.naivebayesupdateable Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -Multilayer Perceptron Scheme: weka.classifiers.functions.multilayerperceptron -L 0.3 -M 0.2 -N 500 -V 0 -S 0 -E 20 -H a Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1306 Ignored Class Unknown Instances 109 -IB1 Scheme: weka.classifiers.lazy.ib1 Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -IBK Scheme: weka.classifiers.lazy.ibk -K 20 -W 0 Instances: Página 20 de 25

21 Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -KStar Scheme: weka.classifiers.lazy.kstar -B 20 -M a Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % UnClassified Instances % Total Number of Instances 1306 Ignored Class Unknown Instances 109 -DecisionStump Scheme: weka.classifiers.trees.decisionstump Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -J48 Scheme: weka.classifiers.trees.j48 -C M 2 Instances: Correctly Classified Instances % Incorrectly Classified Instances % Página 21 de 25

22 Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -NBTree Scheme: weka.classifiers.trees.nbtree Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1306 Ignored Class Unknown Instances 109 -RandomTree Scheme: weka.classifiers.trees.randomtree -K 4 -M 1.0 -S 1 Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1306 Ignored Class Unknown Instances 109 -ConjunctiveRule Scheme: weka.classifiers.rules.conjunctiverule -N 50 -M 2.0 -P -1 -S 1 Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic 0.19 Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 Página 22 de 25

23 -DecisionTable Scheme: weka.classifiers.rules.decisiontable -X 1 -S 5 Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 6553 Ignored Class Unknown Instances 535 -JRip Scheme: weka.classifiers.rules.jrip -F 30 -N 2.0 -O 2 -S 1 Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 1306 Ignored Class Unknown Instances 109 -ZeroR Scheme: weka.classifiers.rules.zeror Instances: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic 0 Mean absolute error Root mean squared error Relative absolute error 100 % Root relative squared error 100 % Total Number of Instances 6553 Ignored Class Unknown Instances 535 Página 23 de 25

24 5. Interpretación y Evaluación Analizando los resultados obtenidos vemos como para cada modelo tendremos un mejor funcionamiento de un algoritmo diferente. Esto se debe a las diferentes características que tienen cada uno y que ya vaticinamos al principio antes de decidir dividir nuestro problema en tres sub-problemas diferentes. Podemos ver como para el caso de la predicción de la temperatura en 1 Hora, el modelo que mejores prestaciones presenta es el M5P con un Root mean squared error de Mientras que para el caso de la predicción de temperatura en 24 horas el mejor algoritmo es el LeastMedSq con un Root mean squared error de y el LinearRegression con un Root mean squared error de , siendo el mejor modelo para la predicción de las condiciones meteorológicas en ese mismo instante el IBK con un error del % y el DecisionTable con un error del %. Viendo los resultados, observamos como no son tan buenos como esperábamos obtener. Ello se debe a múltiples causas, entre ellas podemos destacar: Elección errónea de las variables relevantes para la resolución del modelo. Esta es una de las causas con mas peso para la mala obtención de buenos resultados, debido a que si entrenamos nuestro algoritmo con variables que no tienen ninguna relación con el problema, no daríamos ningún dato a nuestro modelo, por lo que a la hora de testearlo, obtendríamos malos resultados. En nuestro caso, tras el previo análisis de las variables a utilizar, vimos que las variables utilizadas eran correctas. De todos modos, se podrían haber utilizado un mayor número de variables que permitiesen un mejor modelado del problema, pero ello introduciría una mayor carga computacional, y dado que con este modelo nos estamos viendo bastante justos de memoria, no podemos considerar esta opción viable. Matriz de entrenamiento reducida. De nuevo la memoria y la carga computacional es causa de que algunos algoritmos no puedan ejecutarse en nuestros PC s, por lo que nos vimos obligados a recortar la matriz de entrenamiento, quedando una matriz de unas 2000 filas en algunos de los casos, las cuales no son suficiente para cursar el entrenamiento optimo en ciertos algoritmos. En el caso de poder haber introducido más datos de entrenamiento nuestros modelos se hubiesen ajustado más a la resolución real. Estos son los principales problemas que impiden optimizar el modelo que obtenemos. De todos modos, observando los resultados obtenidos, vemos que, excepto en el caso de la predicción de las condiciones meteorológicas en 24 H, los resultados son aceptables. El caso de la predicción de las condiciones en 24 horas es especial y como tal habrá que tratarlo. Podemos ver como los resultados no son excesivamente buenos, lo cual podemos acusar a varias causas. Entre ellas, la que tiene más importancia es la inmensidad de valores que contiene la variable Condiciones. Vimos como en un principio, dicha variable tenía valores que apenas aparecían, por lo que hicimos una criba de éstas, de modo que nos quedamos con un grupo reducido. Con dicho cambio experimentamos una notable mejora de las prestaciones. Sin embargo aún seguimos Página 24 de 25

25 obteniendo prestaciones bastante malas, esto se sigue debiendo a la gran cantidad de valores para esta variable, y el reducido conjunto de datos de entrenamiento que podemos manejar con nuestro ordenador sin que dé un error de memoria. En el caso de contar con una matriz de entrenamiento suficientemente grande podremos llegar a un entrenamiento muchísimo mejor de nuestro algoritmo y obtener un modelo que ofrezca mejores prestaciones que el obtenido ahora. Página 25 de 25