RECONOCIMIENTO DE PAUTAS

Transcripción

1 RECONOCIMIENTO DE PAUTAS ANÁLISIS DISCRIMINANTE (Discriminant analysis)

2 Reconocimiento de pautas supervisado si se cuenta con objetos cuya pertenencia a un grupo es conocida métodos: análisis de discriminantes máquina de aprendizaje lineal (linear learning machine) vecino más próximo (k-nearest neighbor) SIMCA (soft independent modeling of class analogies) redes neuronales artificiales

3 Máquina de aprendizaje lineal (LLM) la primera aplicación en química analítica del reconocimiento de pautas supervisado en 1969 se empleó para clasificar un espectro de masas con respecto a las clases de ciertas masas moleculares la base de la clasificación con la LLM es una función discriminante que divide el espacio n-dimensional en regiones que pueden emplearse para predecir la pertenencia de una muestra de prueba

4 Máquina de aprendizaje lineal (LLM) si se mide una variable, los datos se pueden representar en un espacio 1-dimensional decisión: cuál es el valor de corte entre los dos grupos? el límite se encuentra por iteración

5 Reconocimiento de pautas supervisado modelado de clase disjunta (hard modeling): se intenta encontrar un límite entre dos o más clases un objeto pertenece a una clase discreta se construye un modelo separado para cada clase modelado suave (soft modeling): dos clases pueden supersonerse un objeto puede pertenecer a dos clases

6 Análisis discriminante es un técnica de reconocimiento de pautas supervisado se debe contar con objetos de entrenamiento o aprendizaje objetivo: encontrar una regla de decisión que asigne un objeto nuevo, cuya pertenencia a un grupo se desconoce, a uno de los grupos prefijados (con un cierto grado de riesgo)

7 Análisis discriminante Quimiometría restricciones: son necesarios al menos dos grupos y para cada grupo dos o más casos el número de variables discriminantes debe ser menor que el número de objetos menos 2: x 1,...,x p p < (n 2) n es el número de objetos

8 Análisis discriminante Quimiometría restricciones: el número máximo de funciones discriminantes es igual al mínimo entre el número de variables y el número de grupos menos 1 g grupos (g 1) funciones discriminantes ninguna variable discriminante puede ser combinación lineal de otras variables discriminantes

9 Función discriminante lineal suposiciones: las variables continuas deben seguir una distribución normal multivariante existen diferentes clases de centroides las varianzas y covarianzas son similares dentro de un grupo

10 Análisis discriminante el límite entre grupos se toma a partir de una función discriminante lineal el límite (hiperplano) se calcula de tal manera que: la varianza entre clases es máxima la varianza dentro de las clases individuales es mínima

11 Análisis discriminante a partir de: g grupos una serie de objetos y de p variables medidas sobre ellos (x 1,, x p ) se trata de obtener para cada objeto una serie de puntuaciones que indican el grupo al que pertenecen (y 1,..., y p ) de modo que sean funciones lineales de x 1,, x p

12 Análisis discriminante Quimiometría Situación no hay solapamiento más sencilla: en 2 las clases distribuciones y 2 variables: para los dos grupos Y es mejor para discriminar entre los grupos FDL Y = 0,91X 1 + 0,42X 2 solapamiento en las distribuciones para los dos grupos

13 para generalizar: se tiene una matriz X con: Análisis discriminante n objetos p variables g grupos x 11 x 21 x 31 x 41 x 12 x 1p x 22 x 2p x 32 x 3p x 42 x 4p g 1 g 2 x j1 x n1 x j2 x jp x n2 x np g nj

14 Análisis discriminante se obtienen los autovectores (a) de la matriz (G -1 H) asociados a los autovalores elegidos en orden decreciente: G -1 H a = λ a λ = autovalor G = (n - g) C C: matriz de covarianza H: matriz de la dispersión de las medias del grupo (x j ) con respecto al promedio (x)

15 Función discriminante lineal Quimiometría a partir del autovector a 1 se obtiene la primera FDL (s 1 ) s 1 = a 11 x 1 + a 12 x a 1p x p con el residual del dato x se calcula la segunda FDL s 2 = a 21 x 1 + a 22 x a 2p x p se continúa hasta encontrar todas las FDL necesarias

16 Análisis discriminante matriz de confusión: contiene el número de objetos correctamente clasificados en cada clase en la diagonal principal no detecta si un objeto pertenece a más de una clase asigna pertenencia a un grupo a los objetos atípicos que no pertenecen a ninguno de los grupos (outliers)

17 Análisis discriminante matriz de correlaciones por grupo (pooled within-groups correlation matrix): se calcula como una matriz media de correlaciones calculadas por separado en cada grupo a menudo no se parece a la matriz de correlaciones total

18 Análisis discriminante toma de decisiones cuando hay más de dos grupos de objetos: se supone una distribución normal multivariante se encuentra una nueva FDL para cada grupo que incluye un término constante a partir de estas FDL se calula una puntuación (score) para cada objeto nuevo (x) x se asigna al grupo cuya puntuación sea más alta

19 Otros métodos de clasificación Quimiometría análisis discriminante cuadrático: supone que los dos grupos tienen distribuciones normales pero varianzas diferentes clasificación bayesiana: la pertenencia a un grupo tiene una probabilidad predefinida y se debe calcular la función de densidad de probabilidad validación cruzada: método de dejar uno fuera (leave-oneout method) empleada en el Minitab para validar el análisis discriminante

20 Análisis discriminante Un ejemplo al investigar un crimen se recogió cabello humano para intentar resolver el crimen se tomaron muestras de cabello de tres sospechosos además de análisis morfológicos, se realizó un análisis elemental

21 Análisis discriminante Cabello Cu (ppm) Mn (ppm) Cl (ppm) Br (ppm) I (ppm) 1 9,2 0, ,0 3,6 2 12,4 0, ,0 2,3 3 7,2 0, ,3 3,4 4 10,2 0, ,4 5,3 5 10,1 0, ,2 1,9 6 6,5 0, ,0 4,6 7 5,6 0, ,0 5,6 8 11,8 0, ,1 1,5 9 8,5 0, ,2 6,2

22 Análisis discrimixante Quimiometría Se encontraron tres grupos por PCA Grupo B: 1, 4 y 9 Grupo C: 3, 6 y 7 Grupo A: 2, 8 y 5

23 Análisis discriminante Cabello Grupo Cu (ppm) Mn (ppm) Cl (ppm) Br (ppm) I (ppm) 1 B 9,2 0, ,0 3,6 2 A 12,4 0, ,0 2,3 3 C 7,2 0, ,3 3,4 4 B 10,2 0, ,4 5,3 5 A 10,1 0, ,2 1,9 6 C 6,5 0, ,0 4,6 7 C 5,6 0, ,0 5,6 8 A 11,8 0, ,1 1,5 9 B 8,5 0, ,2 6,2

24 Análisis discriminante Quimiometría se realiza un análisis discriminante de los datos con Minitab Summary of classification (matriz de confusión) True Group Put into Group A B C A B C Total N N correct Proportion 1,000 1,000 1,000 N = 9 N Correct = 9 Proportion Correct = 1,000

25 Análisis discriminante Quimiometría se realiza un análisis discriminante de los datos con Minitab Squared Distance Between Groups A B C A 0, , ,893 B 141,541 0, ,928 C 212, ,928 0,000

26 Análisis discriminante Quimiometría se realiza un análisis discriminante de los datos con Minitab Linear Discriminant Function for Groups A B C Constant -307,68-293,68-475,75 Cu (ppm) 26,52 28,00 29,93 Mn (ppm) 298,67 60,81 115,35 Cl (ppm) 0,08 0,15 0,20 Br (ppm) 1,95 0,43 1,80 I (ppm) 9,09 13,26 10,06

27 Análisis discriminante Quimiometría se realiza un análisis discriminante de los datos con Minitab Puntuaciones discriminantes lineales para cada grupo PDL A = -307,68+26,56x Cu +298,67x Mn +0,08x Cl +1,95x Br +9,09x I PDL B = -293,68+28,00x Cu +60,81x Mn +0,15x Cl +0,43x Br +13,26x I PDL C = -475,75+29,93x Cu +115,35x Mn +0,20x Cl +1,80x Br +10,06x I

28 Análisis discriminante Quimiometría la muestra de cabello encontrada en la escena del crimen tiene los siguientes valores (en ppm) Cu=9,2 Mn=0,27 Cl=2200 Br=9,8 I=4,7 A=-307,68+26,56x9,2+298,67x0,27+0,08x2200+1,95x9,8+9,09x4,7 B=-293,68+28,00x9,2+60,81x0,27+0,15x2200+0,43x9,8+13,26x4,7 C=-475,75+29,93x9,2+115,35x0,27+0,20x2200+1,80x9,8+10,06x4,7 PDL A = 255,15 PDL B = 376,87 PDL C = 335,67

29 Análisis discriminante se realiza un análisis discriminante incluyendo el nuevo dato con Minitab Prediction for Test Observations Squared Observation Pred Group From Group Distance Probability 1 B A 249,045 0,000 B 28,162 1,000 C 114,734 0,000 El cabello pertenece al sospechoso B