Fundamentos y Aplicaciones Prácticas del Descubrimiento de Conocimiento en Bases de Datos. - Sesión 9 -

Transcripción

1 Fundamentos y Aplicaciones Prácticas del Descubrimiento de Conocimiento en Bases de Datos - Sesión 9 - Juan Alfonso Lara Torralbo 1

2 Índice de contenidos Actividad. Qué es un modelo de Data Mining Qué es un modelo de Data Mining Actividad. Modelos de clasificación Modelos de clasificación Actividad. Modelos de clustering Modelos de clustering Actividad. Modelos de asociación Modelos de asociación Modelos de Data Mining 2

3 Actividad. Qué es un modelo de Data Mining? Pensar, en grupo y sin Internet, qué es un modelo de data mining y dar una definición concisa y correcta Poner en común 3

4 Qué es un modelo de Data Mining? (I) Modelo: Representación simbólica de una realidad En este caso, cuál es esa realidad? Los datos de los que partimos Modelo de Data Mining: Representación simbólica obtenida a partir de un conjunto de datos y que representa a éstos 4

5 Qué es un modelo de Data Mining? (II) Con DM resolvemos diferentes tipos de problemas, llamados tareas Para ello, se aplican técnicas/algoritmos/métodos De cada uno de ellos, se obtienen diferentes tipos de modelos Esos modelos ayudan a resolver los diferentes tipos de problemas (tareas) 5

6 Qué es un modelo de Data Mining? (III) Los modelos deben ayudar a resolver problemas no triviales Obtener la calificación media de los estudiantes de una universidad?? DM no es pura estadística, aunque se apoye en ella Antes de utilizarlos, es necesario VALIDARLOS 6

7 Actividad. Modelos de clasificación Con lo visto hasta ahora, pensar en grupo (sin Internet) en un ejemplo de modelo de clasificación Poner en común 7

8 Modelos de clasificación (I) Tarea predictiva de data mining cuyo objetivo es predecir el valor, desconocido, de un atributo para un determinado ejemplo Dicho atributo, que ha de ser de tipo cualitativo, se conoce con el nombre de atributo de clase. Para dicha predicción, se utilizan datos históricos de otros ejemplos en los que sí se conoce el valor de la clase. Para ello, por supuesto, es necesario aplicar alguna de las múltiples técnicas existentes. 8

9 Modelos de clasificación (II) ÁRBOLES DE DECISIÓN Se construyen estructuras arborescentes que se pueden aplicar para decidir la clase de un ejemplo sin clasificar. Dichas estructuras se conocen con el nombre de árboles de decisión Se construyen analizando la capacidad clasificatoria de cada atributo 9

10 Modelos de clasificación (III) ÁRBOLES DE DECISIÓN 10

11 Modelos de clasificación (IV) REGLAS DE DECISIÓN Son equivalentes a los árboles SI cielo = lluvioso Y viento = débil jugar = Sí SI cielo = cubierto jugar = Sí SI cielo = soleado Y humedad = normal jugar = Sí EN OTRO CASO jugar = No 11

12 Modelos de clasificación (V) TÉCNICAS BAYESIANAS Basadas en el Teorema de Bayes Se aplica para calcular probabilidades condicionadas de pertenencia del objeto a clasificar dentro de las diferentes clases. Naive Bayes es uno de los algoritmos bayesianos más conocidos para clasificación. 12

13 Modelos de clasificación (VI) REDES DE NEURONAS ARTIFICIALES Estructuras de aprendizaje que se inspiran en el modo de funcionamiento del sistema nervioso de los animales Constan de una serie de nodos (neuronas) interconectados formando una red que colabora para producir una determinada salida. Dicha salida es la clase del objeto a clasificar. 13

14 Modelos de clasificación (VII) REDES DE NEURONAS ARTIFICIALES Para llegar a producir dicha salida, la red neuronal ha de ser entrenada con un conjunto suficiente de casos de entrenamiento. Una de las redes neuronales más ampliamente utilizada en data mining para realizar clasificación es el Perceptrón Multicapa 14

15 Modelos de clasificación (VIII) TÉCNICAS BASADAS EN CASOS Se compara el nuevo ejemplo a clasificar con los ejemplos existentes de los que se conoce su clase, buscando aquellos ejemplos más similares al ejemplo a clasificar. El algoritmo de los k vecinos más próximos (knearest-neighbors) es un ejemplo de este tipo de técnicas. El ejemplo a clasificar se compara con sus k vecinos más próximos, eligiendo como clase del nuevo ejemplo la clase mayoritaria de entre esos k vecinos 15

16 Actividad. Modelos de clustering Con lo visto hasta ahora, pensar en grupo (sin Internet) en un ejemplo de modelo de clustering Poner en común 16

17 Modelos de clustering (I) Clustering (también llamada segmentación o agrupamiento): dividir una población heterogénea en grupos homogéneos de objetos similares entre sí (cluster). Para poder establecer los diferentes grupos de objetos similares entre sí, es necesario contar con un mecanismo que permita comparar cada par de objetos. En otras palabras, se requiere una medida de distancia o similaridad entre dichos objetos 17

18 Modelos de clustering (II) CLUTERING PARTICIONAL buscar una división del conjunto de datos en subconjuntos con intersección vacía. realizan una asignación de los objetos a los diferentes clusters en función de la proximidad de dichos objetos a un representante elegido para cada cluster. El número de clusters se indica inicialmente y, tras una serie de iteraciones, se alcanza una partición óptima de los datos. El algoritmo K-means (K-medias) es el representante más conocido de esta categoría 18

19 Modelos de clustering (III) CLUTERING JERÁRQUICO también llamado clustering basado en jerarquías se basan en la generación de sucesiones ordenadas (jerarquías) de clusters La estructura jerárquica se representa en forma de árbol y se llama dendograma AGNES (AGlomerative NESting) y DIANA (DIvisive ANAlysis) son dos de los algoritmos de clustering jerárquico más conocidos 19

20 Modelos de clustering (IV) CLUTERING BASADO EN DENSIDAD basados en el concepto de densidad de un punto Mide el número de puntos que son alcanzables desde él considerando un determinado radio. El algoritmo más conocido de clustering basado en densidad es DBSCAN 20

21 Modelos de clustering (V) CLUTERING BASADO EN GRID se basan en una división del espacio en un número finito de celdas que constituyen una estructura en forma de rejilla en la que se llevan a cabo las operaciones de clustering. Los objetos que se encuentran en cada celda son representados por un conjunto de atributos estadísticos de dicha celda. El agrupamiento se lleva a cabo utilizando la información estadística de cada celda, en vez de usar todo el conjunto de datos. STING es un ejemplo de algoritmo de clustering basado en grid 21

22 Modelos de clustering (VI) EJEMPLO CON 3 CLUSTERS Identificador de cluster Edad Salario Hijos Sexo Consumo H 38, H 99, M 54,8 22

23 Actividad. Modelos de asociación Con lo visto hasta ahora, pensar en grupo (sin Internet) en un ejemplo de modelo de asociación Poner en común 23

24 Modelos de asociación (I) Consiste en la identificación de reglas que relacionan las diferentes variables en un conjunto de datos Dichas reglas se conocen con el nombre de reglas de asociación Se basan en la obtención previa de conjuntos de ítems frecuentes (denominados itemsets) y un análisis posterior de los mismos. Esos ítems frecuentes, pueden ser, por ejemplo, los productos que habitualmente compran juntos por los clientes de un supermercado 24

25 Modelos de asociación (II) EJEMPLO DE REGLAS DE ASOCIACIÓN Regla 1: Regla 2: Regla 3: Regla 4: Pan Azúcar Pan, Azúcar Leche Leche, Azúcar Sal Pan, Sal, Mantequilla Leche 25

26 Modelos de Data Mining (I) Los diferentes tipos de problemas de DM se conocen con el nombre de tareas Para resolver cada tarea, se aplican técnicas/métodos/algoritmos, que generan modelos de data mining Hay métodos asociados a tareas específicas Otros, son aplicables a varias tareas Lo iremos viendo 26

27 Modelos de Data Mining (II) Todos los modelos de data mining, se construyen a partir de información histórica que se encuentra almacenada con anterioridad. Analizando dicha información se intenta encontrar conocimiento. En cualquier caso, el conocimiento se construye a partir de la información de que se dispone. A este tipo de planteamiento se le conoce con el nombre de? Aprendizaje inductivo 27

28 Modelos de Data Mining (III) Los modelos de minería de datos se han de construir, en la medida de lo posible, con técnicas y algoritmos eficientes. En la mayoría de los casos, los modelos se construyen a partir de enormes volúmenes de datos que, en ocasiones, son difíciles de computar. Contar con algoritmos eficientes capaces de construir dichos modelos 28

29 Modelos de Data Mining (IV) Expresividad de los modelos: grado de ajuste de los modelos a los datos a partir de los cuales se construyen El sobreajuste (overfitting): los modelos se ajustan a los datos de forma excesiva, con una expresividad exagerada. El subajuste (underfitting) es, precisamente, el problema contrario. En este caso, el modelo es tan genérico que apenas posee aplicabilidad. 29

30 Modelos de Data Mining (V) Ejemplo de sobreajuste: Un caso extremo de sobreajuste puede ser, por ejemplo, un árbol de decisión que tenga tantas ramas como objetos se hayan usado para construirlo. En ese caso, el árbol representa muy bien los datos de entrenamiento pero pierde generalidad y eficacia a la hora de ser aplicado a nuevos ejemplos. 30

31 Modelos de Data Mining (VI) Ejemplo de subajuste: Por ejemplo, si se quiere aplicar regresión sobre un conjunto de datos que manifiesta una naturaleza de tipo exponencial (se ajusta bien a una función exponencial), el uso de una técnica de regresión lineal no será adecuado para representar la tendencia de los datos, ya que causaría un mal ajuste del modelo a dichos datos. 31

32 Modelos de Data Mining (VII) Todos los métodos generan modelos como tal? Se podría decir que NO Hay métodos que no crean modelos, sino que, en el momento que se solicita, hacen cómputos y generan un resultado Por ejemplo, clasificación bayesiana Ante un nuevo ejemplo a clasificar, se hacen cálculos probabilísticos y se obtiene la clase Método retardados, perezosos (lazy) 32

33 Modelos de Data Mining (VIII) Otros métodos sí que generan modelo antes de ser aplicados De hecho, dicho modelo puede ser almacenado, enviado, compartido, etc., antes de ser utilizado Ejemplo: Árbol de decisión que se construye con un conjunto de datos de entrenamiento y se guarda para utilizarlo cuando llegue un nuevo elemento sin clasificar Métodos impacientes, anticipativos (eager) 33