RECONOCIMIENTO DE VINOS POR CULTIVOS CLASIFICACION

Transcripción

1 RECONOCIMIENTO DE VINOS POR CULTIVOS CLASIFICACION Miguel Caballero Sierra Guillermo Rubio Escuela Colombiana de Ingeniería Julio Garavito Ingeniería Industrial, Minería de Datos RESUMEN Los modelos de clasificación utilizadas en minería de datos derivan principalmente de dos disciplinas, la inteligencia artificia y la estadística, estos modelos consisten en lineamientos para categorizar los problemas en problemas generales ya determinados; los modelos de clasificación tiene como objetivo asignar una etiqueta de clase correcta a objetos antes no vistos y sin etiqueta. Los modelos clasificación en minería datos es utilizada mayoritariamente en predicciones, apoyado en diversas técnicas, algunas de las más empleadas son: análisis de discriminante, árboles de decisión y redes neuronales. PALABRAS CLAVES Clasificación de vinos, Modelo de clasificación, Técnicas de minería de datos INTRODUCCION De una misma región de Italia se da un mismo tipo de vino procedente de tres cultivos diferentes, un análisis químico para muestra distintas de cada uno de los cultivos proporciona información de trece características diferentes: alcohol, acido málico, Ceniza, Alcalinidad de las cenizas, magnesio, fenoles, flavonoides, fenoles sin flavonoides, proantocianinas, intensidad del color, Hue, OD280/OD315 diluido en el vino. Se desarrollara un modelo clasificador que utilice las 13 características como atributos, para predecir o clasificar a que cultivo de la región pertenece nuevos vinos sin clasificar.

2 PLANTIAMIENTO Dado un conjunto nuevo de datos de esta región de Italia, determinar por medio de técnicas de minería de datos y modelos de clasificación, a cuál de los tres cultivos de la región pertenece cada uno de los nuevos datos. INFORMACIÓN DE LA BASE DE DATOS Base de datos: Vino Área: Física y química Aplicación a: Minería de datos Tabla 1 Número de Casos 178 Número de atributos 3 Valores Faltante 0 Datos Totales 534 Tipos de Datos Int, Dou, String Tarea Asociada Clasificacion Número de casos cultivo 1: 59 Número de casos cultivo 2: 71 Número de casos cultivo 3: 48 SOLUCIÓN La metodología seguida para resolución del problema son basadas en las fases de la Metodología CRISPDM 1.0 (Cross Industry Standard Process for data mining) y en lineamientos propios. La solución del problema se lleva a cabo de la mana del software libre KNIME (Para ver el Flujo de trabajo en Knime ver Anexo A). I. DATOS DE ENTRENAMIENTO Y PRUEBA Se construyen los datos de entrenamiento y de prueba tomando aleatoriamente 126 casos para entrenamiento y 52 casos para prueba de los 178 casos totales que contiene la base de datos. 70% de los datos totales aproximadamente para entrenamiento y 30% aproximadamente para prueba. La partición se llevó acabo en VBA (Visual Basic for Applications) de Excel 14.0 (2010) de manera aleatoria y de tal forma que la base de datos quedara balanceada Tabla 2 (Se distribuyen los datos de manera aleatoria y estratégica para que la base de entrenamiento quede balanceada) Datos de entrenamiento Casos con cultivo 1 42 Casos con cultivo 2 42 Casos con cultivo 3 42 Total Casos 126 Tabla 3 Datos de prueba Casos con cultivo 7 Casos con cultivo 9 Casos con cultivo 3 6 Total Casos 52 II. LIMPIEZA DE DATOS Se mejora la calidad de los datos verificando su exactitud, integridad, entereza, validez, consistencia, uniformidad y unicidad, todas estas características son bastantes altas y buenas para la base de datos, su principal falencia se encuentra en la densidad, porque no hay una cantidad considerable de ellos. III. ENTENDIMEINTO DE LOS DATOS Se utiliza estadística descriptiva, gráficas de frecuencia y correlaciones

3 para familiarizarse con cada uno de los atributos. De la correlación lineal de Pearson aplicada a los datos, se encuentra que la relación positiva más alta es de 0.87 entre fenoles totales y flavonoides, de igual forma la relación negativa más alta es de 0.87 entre cultivos y flavonoides, la segunda relación positiva más alta de 0.77 entre hue y flavonoides. Esto arroja luz acerca de que técnica de minería de datos utilizar: árboles de decisión. III. VERIFICACIÓN DE LOS DATOS: ANÁLISIS DE RUIDO Se genera de una matriz de dispersión para observar donde puede detectarse ruido, se aplica Jitter a toda la matriz para detectarlos con mayor facilidad. Los atributos con probabilidad de ruido se les genera un gráfica de dispersión aparte, para una observación más detallada e igualmente se aplica Jitter para mayor visualización. Para la base de datos Vino, se detectó ruido entre los atributos cultivo y alcohol (ver gráfica 1). Gráfica 1 (Gráfico de dispersión entre los atributos cultivo y alcohol. Elaborado en Knime 2.4.5) Se seleccionan los puntos que distorsionan, confunden o están por fuera de rango de la señal, posteriormente se aplica hitter a la selección, para luego filtrar los datos que no contienen hitter (datos que generan la señal más clara), quedando la base de datos aislada de algunas imperfecciones de ruido proporcionando una señal más limpia. La base de datos queda con los siguientes casos (Ver Tabla 4). Tabla 4 Base de Entrenamiento Casos con cultivo 1 40 Casos con cultivo 9 Casos con cultivo 3 41 Total Casos 110 La base de entrenamiento queda con problema de Overfitting. IV. BALANCEO DE LA BASE DE ENTRENAMIENTO. Se aplica un balance a la base de datos, con clase minoritaria y los 5 vecinos más cercanos. La técnica utilizada es SMOTE (Synthetic Minority Over-sampling Technique). La base de datos de entrenamiento nueva queda con 41 casos para cada cultivo (Ver Tabla 5). Tabla 5 Base de Entrenamiento Casos con cultivo 1 41 Casos con cultivo 2 41 Casos con cultivo 3 41 Total Casos 123

4 V. APLICACIÓN TÉCNICA DE CLASIFICACIÓN: ÁRBOLES DE DECISIÓN Se aplican los datos de entrenamientos ya procesados y trabajados para que el computador o en este caso específico para que el nodo de knime Decision tree learner aprenda a clasificar, posteriormente se aplica el clasificador y la base de prueba para predecir a que cultivo pertenece cada dato (Ver Tabla 6). Árbol de decisión (Vista simple) (Vista horizontal proporcionado por Knime del árbol de decisión) Figura 1 Tabla 6 (La columna izquierda muestra lo predicho por el clasificador, mientras que columna derecha muestra al cultivo real al cual pertenece). Predictive Cultivars El árbol de decisión ordenada y de visualización amigable se puede consultar en el Anexo II. VI. EVALUACIÓN DEL MODELO Dos tipos de análisis se llevan a cabo para evaluar el modelo, el primero de ellos es el análisis a partir de la matriz de confusión y el segundo análisis de la curva ROC (Receiver Operating Characteristic).

5 VI.I ANÁLISIS A PATIR DE LA MATRIZ DE CONFUSIÓN Tabla 7 (Matriz de Confusión) Cultivo 1 Cultivo 2 Cultivo 3 Cultivo Cultivo Cultivo Tabla 8 (Tabla de precisión, las casillas en blanco indican que no se puede calcular dicha medida) VP FP VN FN Recall Precisión Sen. Spec F A Total VP= Verdaderos positivos FP= Falsos Positivos VN= Verdaderos Negativos FN= Falsos Negativos Sen = Sensitivity Spec = Specifity F = F-Measure A = Accuracy De la tabla 8 se puede ver la fracción de valores acertados globalmente que tiene el clasificador o dicho de otro modo hay un error para el clasificador del 7.7%; otra medida de la porción de casos totales que fueron correctos es la medida F-measure, para cada clase tenemos según la medida F que para el cultivo uno hay un error del 9%, para el cultivo 2 un error de 8% y para el cultivo 3 un error del 8%. La medida Specifity también proporciona errores bajos de: 8%, 0% y 2.2% para el cultivo 1,2 y 3 respectivamente y la medida sensitivity muestra errores del 0%, 14% y 0%. Todas estas medidas brindan confiabilidad al clasificador porque odas oscilan en valores similares. Para efectos de clasificación de los vinos hay una precisión suficiente proporcionada por las distintas medidas de precisión. VI.II ANÁLISIS DE LA CURVA ROC (RECEIVER OPERATING CHARACTERISTIC) Tabla 9 Área bajo la curva ROC Hue Flavonoide Proline Intesidad del color Cultivo Cultivo Cultivo Recuerde que mientras mayor sea el área bajo la curva ROC mejor es el clasificador. De la Tabla 9 se observa distintas medidas con diferentes atributos o umbrales. Se ve la gran variación que hay según los distintos atributos como por ejemplo el clasificador es bastante bueno para Flavonoide con los cultivos 1 y 2 pero para el cultivo 3 el área bajo la curva es cero, este mismo comportamiento se ve para el resto de los atributos, dando a conocer cómo se producen los errores de clasificación por el sesgo que hay a recorrer el árbol. Las gráficas del área bajo la curva de los distintos atributos se muestran en la gráfica 2. NOTA: análisis de las medidas de entropía para el modelo de clasificación se pueden llevar acabo. En el flujo de trabajo se muestran lo nodos en Knime Ver Anexo I.

6 Gráfica 2 (Gráfico ROC de los atributos seleccionados por el árbol de decisión. Flavonoide, Hue, Intensidad del color Elaborado en Knime 2.4.5). REFERENCIAS [1] Ian H. Witten Data Mining: Practical machine learning tool and techniques [2] Pang Pingn Tan Irtoduction to data mining [3] [4] [5] Azul: Intensidad del color Rosado: Proline Gris: Linea de discriminación Verde: Hue Rojo: Flavonoide CONCLUSIONES Modelo de clasificación elaborado por árboles de decisión clasifica perfectamente para casos que pertenezcan al cultivo 1 y para el cultivo 3, pero para el cultivos 2 no es muy bueno clasificando, esto se debe a cantidad de datos que proporciona la base de datos Densidad que ya suponía un problema desde le fase de mejorar la calidad de los datos. Los atributos que realmente aportan a la clasificación son esencialmente: Hue Flavonoide Hue Total Fenoles Esto se veía reflejado desde un principio en la correlación del distinto tipo de atributos y en la medida de dispersión de los mismos.

7 ANEXO I. (Flujo KNIME 2.4.5) Nodos Utilizados CSV Reader Decision Tree Predictor Histogram Nomber To String Scorer CSV Writer Decison Tree To Image Histogram (Interactive) ROC Curve SMOTE Coulme Filter Entropy Scorer Joiner Scatter Matriz Statistics Decision Tree Learner Hitlite Filter Linear Correlation Scatter Plot Value Counter

8 ANEXO II. (ÁRBOL DE DECISIÓN) Proporcionado por el nodo Decison Tree To Image de KNIME 2.4.5