Tareas de la minería de datos: agrupamiento. CI-2352 Intr. a la minería de datos Prof. Braulio José Solano Rojas ECCI, UCR

Transcripción

1 Tareas de la minería de datos: agrupamiento CI-2352 Intr. a la minería de datos Prof. Braulio José Solano Rojas ECCI, UCR

2 Agrupamiento Agrupamiento (clasificación no supervisada, aprendizaje no supervisado). Es similar a la clasificación, excepto que los grupos no son predefinidos. El objetivo es particionar o segmentar un conjunto de datos o individuos en grupos que pueden ser disjuntos o no. Los grupos se forman basados en la similaridad de los datos o individuos en ciertas variables. Como los grupos no son dados a priori el experto debe dar una interpretación de los grupos que se forman. 2 de 52

3 Agrupamiento La clasificación automática tiene por objetivo reconocer grupos de individuos homogéneos, de tal forma que los grupos queden bien separados y bien diferenciados. Estos individuos pueden estar descritos por una tabla de datos de individuos por variables, con variables cuantitativas o cualitativas, o por una tabla de proximidades. 3 de 52

4 Agrupamiento Métodos Clasificación jerárquica (grupos disjuntos). Nubes dinámicas (grupos disjuntos). Clasificación piramidal (grupos NO disjuntos). 4 de 52

5 Agrupamiento: ejemplo, aplicación comercial en estudios de mercado 5 de 52

6 Clasificación jerárquica 6 de 52

7 Clasificación jerárquica 7 de 52

8 Clasificación jerárquica 8 de 52

9 Clasificación jerárquica 9 de 52

10 Clasificación jerárquica 10 de 52

11 Clasificación jerárquica 11 de 52

12 Clasificación jerárquica 12 de 52

13 Clasificación jerárquica 13 de 52

14 Clasificación jerárquica 14 de 52

15 Clasificación jerárquica 15 de 52

16 Clasificación jerárquica 16 de 52

17 Clasificación jerárquica 17 de 52

18 Clasificación jerárquica 18 de 52

19 Clasificación jerárquica 19 de 52

20 Clasificación jerárquica 20 de 52

21 Clasificación jerárquica 21 de 52

22 Clasificación jerárquica 22 de 52

23 Clasificación jerárquica 23 de 52

24 Clasificación jerárquica 24 de 52

25 Clasificación jerárquica 25 de 52

26 Clasificación jerárquica 26 de 52

27 Clasificación jerárquica 27 de 52

28 Clasificación jerárquica 28 de 52

29 Clasificación jerárquica 29 de 52

30 Clasificación jerárquica 30 de 52

31 Nubes dinámicas

32 Nubes dinámicas 32 de 52

33 Nubes dinámicas Los centros de gravedad son los promedios de las clases. El criterio de homogeneidad mencionado se puede evaluar midiendo el parecido de los individuos de una clase. A esto se le llama la inercia intra-clase. 33 de 52

34 Nubes dinámicas Como se puede notar del gráfico anterior, cuanto más pequeña sea la inercia intra-clase mejor es la partición. También podemos evaluar lo diferente o parecidas que son las clases entre sí. A esto le llamamos inercia inter-clases y cuánto más grande mejor es la partición. 34 de 52

35 Nubes dinámicas 35 de 52

36 Nubes dinámicas 36 de 52

37 Nubes dinámicas Igualdad de Fisher: 37 de 52

38 Nubes dinámicas Objetivo: Se quiere que B(P) sea máxima y W(P) sea mínima. Como la inercia I(P) es fija, dada la nube de puntos, entonces al maximizar B(P) se minimiza automáticamente W(P). Por lo tanto, los dos objetivos (homogeneidad al interior de las clases y separación entre las clases) se alcanzan al mismo tiempo al querer minimizar W(P). 38 de 52

39 Nubes dinámicas Problema combinatorio: Es necesario hacer notar que, cuando se quiere obtener una partición en K clases de un conjunto con n individuos, no tiene sentido examinar todas las posibles particiones del conjunto de individuos en K clases. En efecto, se está en presencia de un problema combinatorio muy complejo; sólo para efectos de ilustración, mencionemos que el número de particiones en 2 clases de un conjunto con 60 elementos es aproximadamente 1018, y para 100 elementos en 5 clases anda por de 52

40 Nubes dinámicas Objetivo del método K-means: Así, el objetivo en el método de K-means es encontrar una partición P de Ω y representantes de las clases, tales que W(P) sea mínima. Existe un poco de confusión en la literatura acerca del método de las k-medias, ya que hay dos métodos distintos que son llamados con el mismo nombre. 40 de 52

41 Nubes dinámicas Originalmente, Forgy propuso en 1965 un primer método de reasignación-recentraje que consiste básicamente en la iteración sucesiva, hasta obtener convergencia, de las dos operaciones siguientes: 1.Representar una clase por su centro de gravedad, esto es, por su vector de promedios. 2.Asignar los objetos a la clase del centro de gravedad más cercano. 41 de 52

42 Nubes dinámicas McQueenpropone un método muy similar, donde también se representan las clases por su centro de gravedad, y se examina cada individuo para asignarlo a la clase más cercana. La diferencia con el método de Forgyes que inmediatamente después de asignar un individuo a una clase, el centro de ésta es recalculado, mientras que Forgyprimero hacía todas las asignaciones y luego recalculaba los centros. 42 de 52

43 Nubes dinámicas Variantes del método de Forgy son propuestas en Francia como Método de Nubes Dinámicas por E. Diday a partir de Es McQueen quien propone el nombre kmeans, que se usa hasta la fecha, aún si estos métodos también reciben nombres como nubes dinámicas, centros móviles, o reasignaciónrecentraje. 43 de 52

44 Nubes dinámicas: método de forgy 44 de 52

45 Nubes dinámicas: algoritmo 45 de 52

46 Nubes dinámicas 46 de 52

47 Nubes dinámicas 47 de 52

48 Nubes dinámicas Se quiere obtener una partición de Ω en K clases bien agregadas, bien separadas y de intersección vacía. El número K de clases es dado a priori y los datos pueden ser de cualquier naturaleza. Este método fue introducido por E. Diday, generalizando el método de k-medias de Forgy. 48 de 52

49 Nubes dinámicas Se basa en que cada clase debe tener una representación (llamada núcleo), y luego se hace una búsqueda iterada de núcleos y de particiones, hasta optimizar un cierto criterio. En el método general de nubes dinámicas, cada clase estará representada por un núcleo, que será un elemento representativo de los integrantes de la clase. 49 de 52

50 Nubes dinámicas El algoritmo general de Nubes Dinámicas es el siguiente: 50 de 52

51 Nubes dinámicas 51 de 52

52 Gracias por su atención! Preguntas?