CLASIFICACIÓN NO SUPERVISADA

Transcripción

1 CLASIFICACIÓN NO SUPERVISADA CLASIFICACION IMPORTANCIA PROPÓSITO METODOLOGÍAS EXTRACTORES DE CARACTERÍSTICAS TIPOS DE CLASIFICACIÓN

2 IMPORTANCIA CLASIFICAR HA SIDO, Y ES HOY DÍA, UN PROBLEMA FUNDAMENTAL EN UN AMPLIO ESPECTRO DE DISCIPLINAS CIENTÍFICAS QUE SE EXTIENDE DE LAS CIENCIAS BÁSICAS A LA INGENIERÍA OTRAS DENOMINACIONES: TAXONOMÍA ANÁLISIS DE CONGLOMERADOS RECONOCIMIENTO DE PATRONES PROPÓSITO HACER UNA PARTICIÓN DE UN CONJUNTO DE OBJETOS EN CLASES O CATEGORÍAS ÉSTAS SE CONSTRUYEN DE MODO QUE UN OBJETO EN UNA CLASE DADA ES SIMILAR A CUALQUIER OTRO DE SU MISMA CLASE, Y OBJETOS EN DISTINTAS CLASES TIENDEN A SER DIFERENTES.

3 PROPÓSITO CADA OBJETO ES OBSERVADO MEDIANTE UN CONJUNTO DE VARIABLES CUANTITATIVAS QUE REFLEJAN SUS CUALIDADES FUNDAMENTALES. OBSERVACIÓN: CONJUNTO DE VALORES DE ASOCIADO A CADA OBJETO. p VARIABLES CLASIFICAR: AGRUPAR UN CONJUNTO DE n OBSERVACIONES, CUYAS CARACTERÍSTICAS ESTÁN DADAS POR p VARIABLES, BASÁNDOSE EN LAS SEMEJANZAS QUE EXISTAN ENTRE SÍ. METODOLOGÍAS ANÁLISIS ESTADÍSTICO MULTIVARIADO ANÁLISIS CLUSTER ANÁLISIS DISCRIMINANTE CARACTERÍSTICAS NÚCLEO DE LOS PROCESOS CLASIFICATORIOS DESARROLLADO EN LA PRIMERA MITAD DE ESTE SIGLO SE IMPLEMENTAN EFICIENTES ALGORITMOS EN LAS ÚLTIMAS DÉCADAS DEBIDO AL DESARROLLO DEL COMPUTADOR

4 METODOLOGÍAS COMPUTACIÓN EMERGENTE -REDES NEURONALES PERCEPTRÓN MULTICAPA MAPAS AUTO-ORGANIZATIVOS - LÓGICA DIFUSA CARACTERÍSTICAS MUY EFICIENTES ANTE DATA COMPLEJA NO EXIGEN CONOCIMIENTO PREVIO DEL TIPO DE DISTRIBUCIÓN EXTRACTORES DE CARACTERÍSTICAS NECESIDAD COMPLEJIDAD CRECIENTE DE LOS PROBLEMAS DE CLASIFICACIÓN DEBIDO AL AUMENTO DE : NÚMERO n DE OBSERVACIONES DIMENSIÓN p DEL ESPACIO DE VARIABLES

5 OBJETIVO: HALLAR UNA TRANSFORMACIÓN DEL ESPACIO DE DIMENSIÓN p DE LAS VARIABLES ASOCIADAS A CADA OBSERVACIÓN EN UN ESPACIO DE DIMENSIÓN INFERIOR, (ESPACIO DE LAS CARACTERÍSTICAS), QUE RETENGA LO ESENCIAL DE LA INFORMACIÓN NECESARIA PARA EL PROCESO DE CLASIFICACIÓN MÁS PRECISAMENTE: QUE EL PROCESO CLASIFICADOR DE LAS OBSERVACIONES EN EL ESPACIO DE LA TOTALIDAD DE LAS VARIABLES Y EN EL ESPACIO DE LAS CARACTERÍSTICAS CONDUZCA A UNA DIVISIÓN DE LAS OBSERVACIONES EN LAS MISMAS CLASES O CON DIFERENCIAS INSIGNIFICANTES.

6 POR QUÉ EXTRAER CARACTERÍSTICAS REDUCIR LA COMPLEJIDAD COMPUTACIONAL LOS MÉTODOS ESTADÍSTICOS DE ESTIMACIÓN SE VUELVEN MÁS CONFIABLES EN EL ESPACIO DE DIMENSIÓN REDUCIDA PARA PERMITIR UNA VISUALIZACIÓN GRÁFICA DE LAS CLASES (DIMENSIÓN A LO SUMO 3) EXTRACTORES BÁSICOS ANÁLISIS DE COMPONENTES PRINCIPALES ESCALAMIENTO MULTIDIMENSIONAL MAPAS AUTOORGANIZATIVOS REDES NEURONALES

7 DIVISIÓN FUNDAMENTAL DE LOS MÉTODOS DE CLASIFICACIÓN CLASIFICACIÓN SUPERVISADA SE CONOCE LA CLASE A LA CUAL PERTENECE CADA PATRÓN DE LA MUESTRA BASE LA MUESTRA ES NO CONTROLADA, NO EXISTE UNA CLASIFICACIÓN PREVIA DE LAS OBSERVACIONES DEFINICIÓN: AGRUPAR UN CONJUNTO DE n OBJETOS, DEFINIDOS POR p VARIABLES, EN c CLASES, DONDE EN CADA CLASE LOS ELEMENTOS POSEAN CARACTERÍSTICAS AFINES Y SEAN MÁS SIMILARES ENTRE SÍ QUE RESPECTO A ELEMENTOS PERTENE- CIENTES A OTRAS CLASES

8 PROPÓSITOS GRAFICAR GRUPOS AFINES, COMO ES EL CASO DE LOS DENDROGRAMAS DE LAS TAXONOMÍAS. CLASIFICAR, SIMPLEMENTE, INFORMACIÓN ABUNDANTE Y COMPLEJA HALLAR EL NÚMERO C DE CLASES ADECUADO ENCONTRAR SUBCLASES DENTRO DE CLASES NATURALES INTERPRETAR LOS PATRONES ANALIZANDO LAS CAUSAS INTRÍNSECAS DE LA FORMACIÓN DE LOS MISMOS OBJETIVOS DUALES EN LA OBTENCIÓN DE UNA CLASIFICACIÓN ÓPTIMA MINIMIZAR LAS DESVIACIONES ENTRE LAS OBSERVACIONES QUE PERTENECEN AL MISMO GRUPO MAXIMIZAR LAS DISTANCIAS ENTRE LOS CENTROS DE LOS GRUPOS

9 DISPERSIÓN DE UNA CLASE DEFINICIÓN: SE LLAMARÁ S WJ, DISPERSIÓN EN LA CLASE J, A LA SUMA DE LAS DISTANCIAS AL CUADRADO DE CADA OBSERVACIÓN X i AL CENTRO m j DE LA CLASE (J) QUE LA CONTIENE S Wj = Nj i= 1 X i m j 2 m j CRITERIO DE OPTIMIZACIÓN MINIMIZAR LA SUMA DE LAS DISPERSIONES DE LAS CLASES: min C P W = S Wj j= 1

10 DISPERSIÓN TOTAL: ST = N i= 1 X i m 2 INDICADOR, R 2 R 2 = 1 Pw ST MIDE LA BONDAD DE LA CLASIFICACIÓN m 0 R 2 1 CUÁNTAS PARTICIONES SON POSIBLES? EL NÚMERO DE PARTICIONES DE UN CONJUNTO DE n ELEMENTOS EN c CLASES ESTÁ DADO POR LOS NÚMEROS DE STIRLING DE SEGUNDA CLASE : POR EJEMPLO: N C PARTICIONES ES IMPRACTICO HALLAR EL ÓPTIMO CALCULANDO EXHAUSTIVAMENTE EL VALOR DE Pw PARA CADA PARTICIÓN

11 MÉTODOS DE CLASIFICACIÓN NO SUPERVISADA ANÁLISIS DE CONGLOMERADOS DIRECTOS JERÁRQUICOS MAPAS AUTO-ORGANIZATIVOS MÉTODOS DIRECTOS CARACTERÍSTICAS: CALCULAN LAS DISTANCIAS DE LAS OBSERVACIONES A POSIBLES CENTROS DE LAS CLASES, PARA LUEGO MODIFICAR ESTOS ÚLTIMOS SIGUIENDO EL CRITERIO DE OPTIMIZACIÓN NO HACEN USO DE LAS DISTANCIAS ENTRE LOS ELEMENTOS EL NÚMERO DE CLASES SE FIJA DE ANTEMANO PRINCIPALMENTE USADO CUANDO N ES GRANDE (N >5000, POR EJEMPLO)

12 ALGORITMO ITERATIVO DE EVOLUCIÓN DE LOS CENTROS (K-MEANS) ETAPAS: UBICACIÓN DE LOS CENTROS INICIALES DE LAS CLASES ASIGNACIÓN DE LAS OBSERVACIONES A LA CLASE MÁS CERCANA DETERMINACIÓN DE LOS NUEVOS CENTROS DE LAS CLASES VERIFICAR SI SE CUMPLE ALGUNO DE LOS CRITERIOS DE FINALIZACIÓN DEL ALGORITMO DETERMINACIÓN DEL NÚMERO DE CLASES CENTROS FINALES

13 DETERMINACIÓN DEL NÚMERO ÓPTIMO DE CLASES R 2 NO SE OBTIENE UN BENEFICIO SIGNIFICATIVO POR DESGLOSAR EN MAS DE 4 CLASES ÓPTIMO MÉTODOS JERÁRQUICOS PROPÓSITO: DADO UN CONJUNTO INICIAL DONDE CADA ELEMENTO ES UNA CLASE, CREAR UN ARBOL JERÁRQUICO AGRUPANDO EN CADA ETAPA LAS DOS CLASES UBICADAS A MÍNIMA DISTANCIA, ÉSTA INDICA LA ALTURA SOBRE EL ÁRBOL A B C D E ALTURA

14 CARACTERÍSTICAS CLASIFICAN A PARTIR DE LA MATRIZ DE DISTANCIA ENTRE LAS OBSERVACIONES NO SE FIJA EL NÚMERO DE CLASES SE DETERMINA EL NÚMERO ÓPTIMO DE CLASES A PARTIR DEL ÁRBOL JERÁRQUICO APROPIADOS SÓLO SI EL TAMAÑO DEL CONJUNTO ES PEQUEÑO, EN CUYO CASO SON MÁS EFICICIENTES QUE LOS MÉTODOS DIRECTOS DISTANCIAS A DISTINGUIR ENTRE ELEMENTOS 4 EUCLÍDEA 4 ESTANDAR 4 MAHALANOBIS ENTRE CLASES 4 DISTANCIA MÍNIMA 4 DISTANCIA PROMEDIO PONDERADO 4 DISTANCIA PROTOTIPO (CENTROIDE) 4 MÍNIMA VARIANZA

15 DISTANCIA DE VUELOS ENTRE CIUDADES MAPAS AUTOORGANIZATIVOS PROPÓSITO: CREAR UN MAPA DE KOHONEN DE LA DATA ORIGINAL DE MODO QUE ÉSTA SE ESTRUCTURE EN LAS NEURONAS DEL MAPA EN CADA NEURONA SE AGRUPAN ELEMENTOS PRÓXIMOS QUE PUEDEN CONFORMAR UNA CLASE EL REPRESENTANTE DE LA NEURONA EN EL ESPACIO ORIGINAL ES EL CENTRO DE LA CLASE

16 CARACTERÍSTICAS DEL MAPA TAMAÑO REDUCIDO SE VISUALIZAN LAS CLASES Y SU PROXIMIDAD EL NÚMERO DE CLASES SUELE SER INFERIOR AL TAMAÑO DEL MAPA YA QUE EXISTEN NEURONAS QUE NO SON GANADORAS PARA NINGÚN ELEMENTO DE LA DATA PUEDEN DETECTARSE OBSERVACIONES AISLADAS (OUTLIERS) PUEDE MODIFICARSE EL TAMANO DEL MAPA PARA REDUCIR EL NÚMERO DE CLASES COMO CLASIFICAR CON UN MAPA DE KOHONEN OBSERVACIÓN AISLADA

17 CLASIFICACIÓN MEDIANTE EL MAPA DE Ultsch DETECTE LAS CLASES, OBSERVANDO QUE LAS ZONAS OSCURAS REPRESENTAN GRANDES DISTANCIAS ENTRE NEURONAS