Análisis multivariante II

Transcripción

1 Análisis multivariante II Tema 2: Análisis de conglomerados Pedro Galeano Departamento de Estadística Universidad Carlos III de Madrid Curso 2016/2017 Grado en Estadística y Empresa Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 1 / 90

2 1 Introducción 2 Distancias estadísticas 3 Métodos de partición 4 Métodos de jerárquicos Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 2 / 90

4 Introducción Análisis de conglomerados (análisis cluster): Conjunto de métodos para dividir las observaciones de un conjunto de datos multivariantes en grupos. Partición de los datos: Un método cluster proporciona una partición del conjunto de datos en grupos disjuntos tales que: 1 las observaciones dentro de cada uno de los grupos son similares; y 2 las observaciones de grupos diferentes son diferentes. Qué significa que dos observaciones sean similares o diferentes?: Lo habitual es utilizar distancias entre observaciones. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 4 / 90

5 Introducción Análisis cluster y clasificación: Pueden parecer problemas parecidos pero realmente son bastante diferentes. 1 Clasificación: Conocemos el número de grupos y que observaciones del conjunto de datos pertenecen a cada uno. El objetivo es clasificar nuevas observaciones en uno de los grupos ya existentes. 2 Análisis cluster: El número de grupos y la pertenencia de las observaciones del conjunto de datos a cada uno de ellos es desconocido. El objetivo es asignar cada una de las observaciones del conjunto de datos a diferentes grupos sin información previa relativa a la estructura de los datos. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 5 / 90

6 Introducción Análisis cluster: Una de las técnicas estadísticas más utilizadas en la práctica: 1 Arqueología: Agrupar diferentes artefactos encontrados en tumbas para entender los movimientos migratorios de los hombres prehistóricos. 2 Biología: Dividir organismos en órdenes jerárquicos para describir la noción de diversidad biológica. 3 Finanzas: Categorizar corporaciones en tipos diferentes basándose en características financieras relevantes. 4 Marketing: Dividir de clientes en grupos en función de perfiles demográficos y de consumo para realizar campañas de promoción de forma eficiente. 5 Medicina: Agrupar pacientes en diferentes tratamientos. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 6 / 90

7 Introducción Gran oferta de procedimientos: Al ser una técnica tan popular, existe una gran oferta de procedimientos. Dos familias de procedimientos populares: 1 Métodos de partición: Buscamos una partición del conjunto de datos en un número pre-especificado de grupos según algún criterio de división de las observaciones. 2 Métodos jerárquicos: Sin especificar un número de grupos y partiendo del conjunto de datos inicial, se van uniendo observaciones similares de forma jerárquica. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 7 / 90

8 Introducción Distancias estadísticas: El análisis cluster y el escalado multidimensional son dos técnicas que utilizan distancias. Medir similaridad: Las distancias son útiles para medir como de cerca están, por ejemplo, dos observaciones de una matriz de datos X, o una observación de X y el vector de medias muestral, x. Múltiples distancias: 1 Distancia Eucĺıdea. 2 Distancia de Mahalanobis. 3 Distancia Manhattan. 4 Distancia del máximo Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 8 / 90

10 Distancias estadísticas Definición: Una distancia entre dos observaciones de una matriz de datos X, x i y x i, es una función d (x i, x i ), que satisface: 1 d (x i, x i ) 0, para todo i, i = 1,..., n; 2 d (x i, x i ) = 0, si y sólo si i = i ; y 3 d (x i, x i ) d (x i, x i ) + d (x i, x i ), para todo i, i, i = 1,..., n. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 10 / 90

11 Distancias estadísticas Distancia Eucĺıdea: d E (x i, x i ) = [ (x i x i ) (x i x ] 1/2 p i ) = (x ij x i j) 2 Problema: La distancia Eucĺıdea ignora por completo tanto las unidades de medida de las variables, como las relaciones entre las variables. Utilidad: La distancia Eucĺıdea es muy apropiada para variables cuantitativas con las mismas unidades de medida y que no presentan relaciones entre ellas. j=1 1/2 Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 11 / 90

12 Tasas de crímenes violentos en los estados de USA: Número de detenciones por residentes por atraco, asesinato y violación en cada estado de USA y porcentaje de población en áreas urbanas. Tamaño muestral y dimensión: n = 50 y p = 4. Qué nos dicen las distancias sobre estos datos? Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 12 / 90

13 Datos Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 13 / 90

14 Histograma de distancias Euclideas Diagrama de caja de distancias Euclideas Density Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 14 / 90

17 Distancias estadísticas Distancia de Mahalanobis: d M (x i, x i ) = [ (x i x i ) S 1 x (x i x i ) ] 1/2 donde S x la matriz de covarianzas muestral de X. Unidades de medida y dependencia lineal: La distancia de Mahalanobis tiene en cuenta tanto las unidades de medida de las variables como la posible relación lineal entre las variables de X. Utilidad: La distancia de Mahalanobis es muy apropiada para variables cuantitativas que presentan relaciones aproximadamente lineales. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 17 / 90

18 Histograma de distancias de Mahalanobis Diagrama de caja de distancias Mahalanobis Density Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 18 / 90

21 Distancias de Mahalanobis Distancias Euclídeas Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 21 / 90

22 Distancias estadísticas Distancia Manhattan: d 1 (x i, x i ) = p x ij x i j Idea: Aparentemente similar a la distancia Eucĺıdea, si bien no está tan influida por los valores más extremos. Utilidad: La distancia Manhattan es apropiada para variables cuantitativas con las mismas unidades de medida, que no presentan relaciones entre ellas y que presenten datos extremos. j=1 Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 22 / 90

23 Histograma de distancias Manhattan Diagrama de caja de distancias Manhattan Density Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 23 / 90

26 Euclídeas Mahalanobis Manhattan Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 26 / 90

27 Distancias estadísticas Distancia del máximo: d máx (x i, x i ) = máx x ij x i j j=1,...,p Idea: Únicamente influye la variable que tenga los valores más extremos. Utilidad: No es especialmente útil. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 27 / 90

28 Distancias estadísticas Distancias para variables multivariantes mixtas: Es posible calcular también distancias entre observaciones cuando se disponen de variables cuantitativas y cualitativas. Distancia de Gower: Es la distancia más importante para este tipo de conjuntos de datos. El cálculo de esta distancia es algo complejo y no se va a entrar en detalles. Ejemplo: Se verá un ejemplo en la práctica de R. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 28 / 90

30 Métodos de partición Métodos de partición: Procedimientos iterativos que proporcionan una partición del conjunto de datos en un número pre-especificado de grupos. Número de grupos: Estos procedimientos requieren conocer inicialmente el número de grupos, que denotamos por K, que queremos crear. Comparación de soluciones: Las soluciones proporcionadas por los procedimientos para varios valores de K pueden ayudar a determinar la mejor solución. Objetivo: Un método de partición busca de entre todas las posibles divisiones del conjunto de datos, aquella que proporciona el valor máximo (o el mínimo) de algún criterio de optimalidad. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 30 / 90

31 Métodos de partición Matriz de datos: Inicialmente se dispone de una matriz de datos X de dimensión n p. Qué es una partición de la matriz de datos?: Es una secuencia C 1,..., C K de conjuntos formados por índices de observaciones de tal manera que: 1 Si la observación i-ésima está en el grupo k-ésimo, entonces i C k. 2 C 1... C K = {1,..., n}, es decir, cada observación de X pertenece al menos a uno de los K grupos. 3 C k C k = para cualquier par k k, es decir, ninguna observación pertenece a más de un grupo. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 31 / 90

32 Métodos de partición Idea intuitiva: Una partición C 1,..., C K de X es buena si las distancias entre las observaciones de cada uno de los grupos con respecto al vector de medias muestral de las observaciones del grupo respectivo son pequeñas. Distancia Eucĺıdea: Una opción muy popular es utilizar la distancia Euclidea para medir dichas distancias. Variabilidad dentro del grupo k-ésimo: i C k d E (x i, x k ) 2 donde d E (x i, x k ) es la distancia Eucĺıdea entre la observación x i, que pertenece al grupo k-ésimo (i C k ), y el vector de medias muestral de las observaciones del grupo k-ésimo, x k. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 32 / 90

33 Métodos de partición Suma de cuadrados dentro de los grupos (SCDG) de la partición C 1,..., C K : K SCDG (C 1,..., C K ) = k=1 i C k d E (x i, x k ) 2 Partición óptima: Queremos encontrar la partición C 1,..., C K que proporcione el menor valor de SCDG (C 1,..., C K ). Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 33 / 90

34 Métodos de partición Cómo encontrar dicha partición óptima? Primera idea: Calcular el valor de SCDG (C 1,..., C K ) para todas las posibles particiones. Problema: El número de diferentes particiones es un número enorme, a no ser que n y K sean muy pequeños. Ejemplo: Con n = 100 y K = 3, tenemos particiones diferentes para las que habría que calcular el valor de SCDG (C 1,..., C K ). Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 34 / 90

35 Métodos de partición Algoritmo K-medias: Procedimiento más popular para tratar de obtener la partición óptima. Pasos del algoritmo: 1 Crear una partición inicial del conjunto de datos (es decir, formar K grupos inicialmente). Esta asignación inicial puede ser aleatoria. 2 Calcular los K vectores de medias muestral de las observaciones en cada uno de los K grupos. 3 Asignar cada una de las observaciones al grupo con vector de medias muestral más cercano. Al final, se obtiene una nueva partición. 4 Si la partición obtenida es la misma que se tenía, parar el algoritmo. Si no lo es, volver al paso 2. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 35 / 90

36 Métodos de partición Obtenemos la partición óptima?: No necesariamente ya que la partición obtenida depende de la asignación (aleatoria) inicial en el primer paso. Cómo se procede?: Se ejecuta el algoritmo un número elevado de veces (con diferentes particiones iniciales) y, de entre todas las particiones finales obtenidas, se elige aquella que tenga un menor valor de SCDG (C 1,..., C K ). Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 36 / 90

37 Métodos de partición Problemas del algoritmo: 1 La partición final depende de las unidades de medida de las variables. 2 La partición final suele tener una estructura esférica. 3 La presencia de datos atípicos puede afectar mucho a la formación de los grupos. 4 El algoritmo funciona con un número de grupos fijado inicialmente. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 37 / 90

38 Métodos de partición Posibles soluciones: 1 Comparar soluciones con los datos originales y con los datos estandarizados. 2 Transformar los datos para evitar fuertes asimetrías. 3 Eliminar datos atípicos. 4 Comparar soluciones para varios valores de K. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 38 / 90

39 Tasas de crímenes violentos en los estados de USA: Número de detenciones por residentes por atraco, asesinato y violación en cada estado de USA y porcentaje de población en áreas urbanas. Tamaño muestral y dimensión: n = 50 y p = 4. Podemos obtener grupos de estados similares? Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 39 / 90

41 Datos atípicos: El gráfico parece indicar la presencia de algún dato atípico. Distancia de Mahalanobis robusta: Calculamos las distancias de Mahalanobis (al cuadrado) entre las observaciones y el vector de medias robusto (no afectado por la presencia de datos atípicos). Un dato atípico: Eliminamos Alaska del procedimiento de clustering. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 41 / 90

43 Cuadrado de las distancias de Mahalanobis robustas Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 43 / 90

45 Algoritmo k-medias: Se aplica el algoritmo k-medias para K = 2, 3 y 4. Número de particiones iniciales: Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 45 / 90

46 K medias para K= Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 46 / 90

49 Métodos de partición Número de conglomerados: La selección de K es compleja y no hay un procedimiento totalmente satisfactorio. Gráfico de los valores de SCDG óptimos: Aplicar el algoritmo para K = 1,..., K max, donde K max es el número más grande de grupos permitidos, puede ayudar a determinar el número apropiado. Idea: Buscar el codo del gráfico como en el gráfico de codo de las componentes principales. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 49 / 90

50 SDCG para diferentes K's SDCG K Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 50 / 90

51 Datos estandarizados: Los datos estandarizados proporcionan la partición óptima no influida por diferentes variabilidades. Idea: Repetir el proceso para los datos estandarizados. Selección de K: Tomar K = 4. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 51 / 90

52 SDCG para diferentes K's SDCG K Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 52 / 90

54 Gráfico de los primeros dos componentes principales: El gráfico de los dos primeros componentes muestra las relaciones más importantes entre las variables. Relación con clustering: El gráfico puede ayudar a determinar si la solución óptima obtenida es razonable o no. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 54 / 90

55 Minnesota New York Segundo componente principal Delaware Nebraska Rhode Island Florida Alabama Wyoming Kentucky South Dakota Maine New Jersey Massachusetts Tennessee Mississippi Idaho Alaska New Mexico California Arizona Kansas Wisconsin Vermont Illinois Connecticut Ohio Iowa Oregon Oklahoma North Dakota Virginia Missouri Montana Colorado Hawaii Michigan Washington South Carolina Louisiana Nevada Indiana West Virginia Utah North Ca Arkansas New Hampshire Maryland Texas Pennsylvania Georgia Primer componente principal Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 55 / 90

57 Métodos jerárquicos Métodos jerárquicos: Procedimientos alternativos a los métodos de partición que no requieren fijar a priori el número de grupos, K, a formar. Solución para K = 1,..., n: De hecho, proporcionan soluciones para cualquier valor de K entre 1 y n (soluciones triviales). Idea: Empezar con tantos grupos como observaciones y agrupar jerárquicamente los grupos más cercanos. Dendograma: La solución final se muestra en un gráfico representativo particular para estos procedimientos llamado dendograma. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 57 / 90

58 Métodos jerárquicos Pasos del algoritmo: 1 Cada observación en X, x i, para i = 1,..., n forma un grupo. Tenemos, por lo tanto, n grupos. 2 Calculamos la matriz D = (d ij ), de dimensión n n de distancias entre los n grupos, siendo d ij = d (x i, x j ), para i, j = 1,..., n. 3 Encontrar la menor distancia entre dos grupos, digamos d IJ, en D = D (1). Unir los grupos I y J para formar un nuevo grupo IJ y eliminar los anteriores. 4 Calcular las distancias, d IJ,K, entre el nuevo grupo IJ y el resto K IJ. 5 Formar la nueva matriz, D, de dimensión (n 1) (n 1), que contiene las distancias entre los grupos. 6 Repetir los pasos 3, 4 y 5 hasta que todas las observaciones en X formen un único grupo. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 58 / 90

59 Métodos jerárquicos Cálculo de la distancia entre grupos de observaciones: 1 Encadenamiento simple (vecino más cercano): d IJ,K = mín {d I,K, d J,K }. 2 Encadenamiento completo (vecino más lejano): d IJ,K = máx {d I,K, d J,K }. 3 Encadenamiento promedio: d IJ,K = 1 N IJ N K i IJ k K siendo N IJ y N K el número de observaciones en los conglomerados IJ y K, respectivamente. d ik Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 59 / 90

60 Métodos jerárquicos Dendograma: Representación del resultado final proporcionado por el algoritmo. Forma de dendograma: El dendograma tiene forma de árbol donde cada rama representa grupos de observaciones. Construcción: 1 Las n observaciones se muestran en la parte baja del gráfico. 2 Las fusiones entre observaciones se representan con tres ĺıneas rectas. Estas se juntan en nodos cuya posición en el eje de distancias indican el nivel en que se produce la unión. 3 El proceso se repite hasta que todas las observaciones están conectadas mediante ĺıneas rectas. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 60 / 90

61 Métodos jerárquicos Formación de grupos: Cortar el dendograma a una cierta altura para obtener grupos a ese nivel. Cuidado: El dendograma puede ser peligroso si se mira sin cuidado pues dos puntos pueden parecer muy cercanos cuando no lo están. Observaciones aisladas: Una observación aislada en un dendograma puede ser debida a que se trate de una observación atípica. Encadenamientos simple y promedio: Suelen presentar observaciones aisladas. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 61 / 90

62 Tasas de crímenes violentos en los estados de USA: Número de detenciones por residentes por atraco, asesinato y violación en cada estado de USA y porcentaje de población en áreas urbanas. Tamaño muestral y dimensión: n = 50 y p = 4. Obtención de grupos de estados similares con algoritmos jerárquicos. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 62 / 90

64 Eliminación de dato atípico: Alaska se elimina al considerar que es un dato atípico. Tamaño muestral y dimensión: n = 49 y p = 4. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 64 / 90

66 Resultados para método jerárquico simple con distancia Eucĺıdea: 1 Tres clusters parecen ser apropiados. 2 Dos clusters están formados por estados aislados. 3 No parece una solución apropiada. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 66 / 90

67 Encadenamiento simple North Carolina Florida California Maryland Arizona New Mexico Delaware Illinois New York Michigan Nevada Alabama Louisiana Mississippi South Carolina Missouri Arkansas Tennessee Rhode Island Oregon Washington Wyoming Oklahoma Virginia Massachusetts New Jersey Georgia Colorado Texas Idaho Kentucky Montana Indiana Kansas Ohio Utah Nebraska Connecticut Pennsylvania Hawaii West Virginia Maine South Dakota Minnesota Wisconsin Iowa New Hampshire North Dakota Vermont Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 67 / 90

68 Encadenamiento simple North Carolina Florida California Maryland Arizona New Mexico Delaware Illinois New York Michigan Nevada Alabama Louisiana Mississippi South Carolina Missouri Arkansas Tennessee Rhode Island Oregon Washington Wyoming Oklahoma Virginia Massachusetts New Jersey Georgia Colorado Texas Idaho Kentucky Montana Indiana Kansas Ohio Utah Nebraska Connecticut Pennsylvania Hawaii West Virginia Maine South Dakota Minnesota Wisconsin Iowa New Hampshire North Dakota Vermont Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 68 / 90

69 Solución jerárquica para método simple Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 69 / 90

70 Resultados para método jerárquico completo con distancia Eucĺıdea: 1 Dos o tres clusters parecen ser apropiados. 2 Los tres clusters tienen un número de observaciones parecido. 3 La solución parece razonable. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 70 / 90

71 Encadenamiento completo Florida North Carolina Delaware Alabama Louisiana Mississippi South Carolina Maryland Arizona New Mexico California Illinois New York Michigan Nevada Missouri Arkansas Tennessee Georgia Colorado Texas Rhode Island Wyoming Oregon Oklahoma Virginia Washington Massachusetts New Jersey Ohio Utah Connecticut Pennsylvania Nebraska Kentucky Montana Idaho Indiana Kansas Hawaii Minnesota Wisconsin Iowa New Hampshire West Virginia Maine South Dakota North Dakota Vermont Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 71 / 90

72 Encadenamiento completo Florida North Carolina Delaware Alabama Louisiana Mississippi South Carolina Maryland Arizona New Mexico California Illinois New York Michigan Nevada Missouri Arkansas Tennessee Georgia Colorado Texas Rhode Island Wyoming Oregon Oklahoma Virginia Washington Massachusetts New Jersey Ohio Utah Connecticut Pennsylvania Nebraska Kentucky Montana Idaho Indiana Kansas Hawaii Minnesota Wisconsin Iowa New Hampshire West Virginia Maine South Dakota North Dakota Vermont Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 72 / 90

73 Solución jerárquica para método completo Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 73 / 90

74 Resultados para método jerárquico promedio con distancia Eucĺıdea: 1 Dos o tres clusters parecen ser apropiados. 2 Si tomamos tres clusters, la solución es similar a la obtenida con el método jerárquico completo con distancia Eucĺıdea. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 74 / 90

75 Encadenamiento promedio Florida North Carolina California Maryland Arizona New Mexico Mississippi South Carolina Delaware Alabama Louisiana Illinois New York Michigan Nevada Washington Oregon Wyoming Oklahoma Virginia Rhode Island Massachusetts New Jersey Missouri Arkansas Tennessee Georgia Colorado Texas Idaho Nebraska Kentucky Montana Ohio Utah Indiana Kansas Connecticut Pennsylvania Hawaii West Virginia Maine South Dakota North Dakota Vermont Minnesota Wisconsin Iowa New Hampshire Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 75 / 90

76 Encadenamiento promedio Florida North Carolina California Maryland Arizona New Mexico Mississippi South Carolina Delaware Alabama Louisiana Illinois New York Michigan Nevada Washington Oregon Wyoming Oklahoma Virginia Rhode Island Massachusetts New Jersey Missouri Arkansas Tennessee Georgia Colorado Texas Idaho Nebraska Kentucky Montana Ohio Utah Indiana Kansas Connecticut Pennsylvania Hawaii West Virginia Maine South Dakota North Dakota Vermont Minnesota Wisconsin Iowa New Hampshire Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 76 / 90

77 Solución jerárquica para método promedio Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 77 / 90

78 Resultados para método jerárquico simple con distancia Eucĺıdea para los datos estandarizados: 1 Es muy difícil determinar que número de clusters es el más apropiado. 2 Si tomamos tres clusters, la solución es muy similar a la obtenida con los datos sin estandarizar. 3 En general, este método no parece proporcionar resultados apropiados. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 78 / 90

79 Encadenamiento simple Florida California Nevada North Carolina Mississippi South Carolina Georgia Tennessee Alabama Louisiana Colorado Delaware Hawaii Arkansas Vermont Missouri Rhode Island Connecticut Kentucky South Dakota West Virginia Idaho Montana North Dakota Wyoming Ohio Maine Iowa New Hampshire Minnesota Wisconsin Virginia Pennsylvania Nebraska Oklahoma Indiana Kansas Utah Oregon Washington Massachusetts New Jersey Texas Illinois New York Arizona Michigan Maryland New Mexico Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 79 / 90

80 Encadenamiento simple Florida California Nevada North Carolina Mississippi South Carolina Georgia Tennessee Alabama Louisiana Colorado Delaware Hawaii Arkansas Vermont Missouri Rhode Island Connecticut Kentucky South Dakota West Virginia Idaho Montana North Dakota Wyoming Ohio Maine Iowa New Hampshire Minnesota Wisconsin Virginia Pennsylvania Nebraska Oklahoma Indiana Kansas Utah Oregon Washington Massachusetts New Jersey Texas Illinois New York Arizona Michigan Maryland New Mexico Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 80 / 90

81 Solución jerárquica para método simple Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 81 / 90

82 Resultados para método jerárquico completo con distancia Eucĺıdea para los datos estandarizados: 1 El algoritmo sugiere de dos a cuatro clusters como soluciones posibles. 2 Si tomamos tres clusters, se forma un grupo con más de la mitad de los estados y dos grupos con un número menor de estados. 3 En general, este método aplicado en datos estandarizados parece proporcionar resultados apropiados. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 82 / 90

83 Encadenamiento completo Delaware Rhode Island Missouri Oregon Washington Pennsylvania Ohio Oklahoma Indiana Kansas Massachusetts New Jersey Hawaii Utah South Dakota West Virginia North Dakota Vermont Kentucky Arkansas Virginia Wyoming Connecticut Minnesota Wisconsin Maine Iowa New Hampshire Idaho Montana Nebraska Alabama Louisiana Georgia Tennessee North Carolina Mississippi South Carolina Colorado California Nevada Florida Texas Illinois New York Arizona Michigan Maryland New Mexico Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 83 / 90

84 Encadenamiento completo Delaware Rhode Island Missouri Oregon Washington Pennsylvania Ohio Oklahoma Indiana Kansas Massachusetts New Jersey Hawaii Utah South Dakota West Virginia North Dakota Vermont Kentucky Arkansas Virginia Wyoming Connecticut Minnesota Wisconsin Maine Iowa New Hampshire Idaho Montana Nebraska Alabama Louisiana Georgia Tennessee North Carolina Mississippi South Carolina Colorado California Nevada Florida Texas Illinois New York Arizona Michigan Maryland New Mexico Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 84 / 90

85 Solución jerárquica para método completo Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 85 / 90

86 Resultados para método jerárquico promedio con distancia Eucĺıdea para los datos estandarizados: 1 El algoritmo sugiere de dos a cuatro clusters como soluciones posibles. 2 Si tomamos tres clusters, la solución es similar a la del método completo. 3 En general, este método no siempre proporciona resultados tan similares a los del método completo. Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 86 / 90

87 Encadenamiento promedio North Dakota Maine Iowa New Hampshire Vermont South Dakota West Virginia Delaware Rhode Island Massachusetts New Jersey Hawaii Connecticut Minnesota Wisconsin Missouri Utah Oregon Washington Arkansas Kentucky Idaho Montana Nebraska Wyoming Pennsylvania Ohio Virginia Oklahoma Indiana Kansas Tennessee Georgia Alabama Louisiana North Carolina Mississippi South Carolina Colorado California Nevada Florida Texas Illinois New York Arizona Michigan Maryland New Mexico Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 87 / 90

88 Encadenamiento promedio North Dakota Maine Iowa New Hampshire Vermont South Dakota West Virginia Delaware Rhode Island Massachusetts New Jersey Hawaii Connecticut Minnesota Wisconsin Missouri Utah Oregon Washington Arkansas Kentucky Idaho Montana Nebraska Wyoming Pennsylvania Ohio Virginia Oklahoma Indiana Kansas Tennessee Georgia Alabama Louisiana North Carolina Mississippi South Carolina Colorado California Nevada Florida Texas Illinois New York Arizona Michigan Maryland New Mexico Distancia Euclídea Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 88 / 90

89 Solución jerárquica para método promedio Murder Assault UrbanPop Rape Pedro Galeano (Curso 2016/2017) Análisis multivariante II - Análisis de conglomerados Grado en Estadística y Empresa 89 / 90