Componentes Principales

Transcripción

1 Componentes Principales Resumen El procedimiento de Componentes Principal está diseñado para extraer k componentes principales de un conjunto de p variables cuantitativas X. Los componentes principales se definen como el conjunto de combinaciones lineales ortogonales de X que tienen la máxima varianza. El determinar los componentes principales se usa frecuentemente para reducir la dimensionalidad de un conjunto de variables predictoras antes de utilizarlas en procedimientos tales como regresión múltiple o análisis de conglomerados. Cuando las variables están altamente correlacionadas, pocos de los primeros componentes pueden ser suficientes para describir la mayor parte de la variabilidad presente. StatFolio de Ejemplo: pca.sgp Datos de Ejemplo: El archivo 93cars.sf6 contiene información de 6 variables para n = 93 marcas (Make) y modelos (Model) de automóviles, tomada de Lock (993). La tabla a continuación muestra una lista parcial de los datos de ese archivo: Make Model Engine Size Horsepower Fuel Tank Passengers Length Acura Integra Acura Legend Audi Audi BMW 535i Buick Century Buick LeSabre Buick Roadmaster Buick Riviera Cadillac DeVille Cadillac Seville Chevrolet Cavalier Se desea extraer los componentes principales a partir de las siguientes variables: Engine Size (tamaño del motor) Horsepower (caballos de fuerza) Fueltank (tanque de gasolina) Passengers (pasajeros) Length (longitud) Wheelbase (distancia entre ejes) Width (ancho) U Turn Space (espacio para vuelta en U) Rear seat (asiento trasero) Luggage (equipaje) Weight (peso) A continuación se muestra un gráfico de matriz de los datos: 006 por StatPoint, Inc. Componentes Principales -

2 Engine Size Horsepower Fueltank Passengers Length Wheelbase Width U Turn Space Rear seat Luggage Weight Como podría esperarse, las variables están altamente correlacionadas, ya que la mayoría están relacionadas con el tamaño del vehículo. Ingreso de Datos La caja de diálogo del ingreso de los datos solicita los nombres de las columnas que contienen los datos: 006 por StatPoint, Inc. Componentes Principales -

3 Datos: las observaciones originales o la matriz de covarianzas muestrales Σˆ. Si se ingresan las observaciones originales, ingrese p columnas numéricas que contengan los n valores para cada columna de X. Si se ingresa la matriz de covarianzas muestrales, ingrese p columnas numéricas que contengan los n valores para cada columna de Σˆ. Si se ingresa la matriz de covarianzas, algunas de las tablas y de las gráficas no estarán disponibles. Etiquetas de Puntos: etiquetas opcionales para cada observación. Selección: selección de un subgrupo de datos. Modelo Estadístico El objetivo de un análisis de componentes principales es construir k combinaciones lineales de las p variables X que contengan la mayor varianza. Las combinaciones lineales toman la forma de Y = ax + a X a p X p Y = ax + a X a p X p Y k = ak X + ak X akp X p () El primer componente es la combinación lineal que tiene varianza máxima, sujeta a la restricción de que el vector de coeficientes tenga longitud unitaria, i.e., p i= a = () ip Si la matriz de covarianzas de X es igual a Σ, entonces la varianza de Y es Var( Y = a Σa (3) ) El segundo componente principal es aquella combinación lineal que tiene la siguiente varianza mayor, sujeta a la misma restricción de longitud unitaria y también a la restricción de no estar correlacionada con el primer componente principal. Los componentes subsecuentes explican tanto como sea posible la varianza restante, mientras permanecen no correlacionados con todas los otros componentes. Bajo este modelo, los coeficientes a corresponden a los vectores propios de Σ, mientras que las varianzas de las Y s son iguales a los valores propios (eigenvalores): Var( ) = λ (4) Y j j La varianza poblacional es igual a la suma de los eigenvalores (valores propios) Varianza poblacional total = λ + λ + + λ p (5) 006 por StatPoint, Inc. Componentes Principales - 3

4 Un criterio para elegir el número de componentes principales a extraer es elegir todos los componentes para los cuales el correspondiente valor propio sea al menos de, lo que implica que el componente representa al menos una fracción de /p del total de la varianza poblacional. STATGRAPHICS da la opción de extraer componentes principales con base en la matriz de covarianzas Σ o la matriz de correlaciones ρ, dependiendo de la definición Estandarizar en la caja de diálogo de las Opciones de Análisis. Cuando las variables están en diferentes unidades, generalmente lo mejor es basar el análisis en la matriz de correlaciones (que es el valor por omisión). Resumen del Análisis A continuación se muestra la tabla del Resumen del Análisis: Análisis de Componentes Principales Datos/Variables: Engine Size (liters) Horsepower (maximum) Fueltank (gallons) Passengers (persons) Length (inches) Wheelbase (inches) Width (inches) U Turn Space (feet) Rear seat (inches) Luggage (cu. ft.) Weight (pounds) Entrada de datos: observaciones Número de casos completos: 8 Tratamiento de valores perdidos: eliminación listwise Estandarizar: sí Número de componentes extraídos: Análisis de Componentes Principales Componente Porcentaje de Porcentaje Número Eigenvalor Varianza Acumulado En la tabla se muestran: Datos/Variables: el nombre de las p columnas de entrada. Entrada de datos: observaciones o matriz, dependiendo de si las columnas de entrada contienen las observaciones originales o la matriz de covarianzas de la muestra. 006 por StatPoint, Inc. Componentes Principales - 4

5 Número de casos completos: el número de casos n para los cuales ninguna de las observaciones falta. Tratamiento de los valores perdidos: cómo se trataron los valores faltantes en la estimación de la matriz de covarianzas o de correlaciones. Si fue por lista, las estimaciones se basaron solo en casos completos. Si fue por pares, todos los pares de valores de datos no faltantes se usaron para obtener las estimaciones. Estandarizar: sí si el análisis se basó en la matriz de correlaciones. No si se basó en la matriz de covarianzas. Número de componentes extraídos: el número k de componentes extraídos de los datos. Este número se basa en las definiciones en la caja de diálogo de las Opciones de Análisis. También se presenta una tabla que muestra la información para cada uno de los p componentes principal posibles: Número de componente: el número j del componente, de a p. Eigenvalor: el valor propio de la matriz estimada de covarianzas o correlaciones, λˆ j. Porcentaje de varianza: el porcentaje del total de la varianza poblacional estimada representada por sus componentes, igual a 00 ˆ λ ˆ λ j % ˆ λ... ˆ + + λ + k (6) Porcentaje acumulado: el porcentaje acumulado del total de la varianza poblacional estimada explicada por los j primeros componentes. En el ejemplo, los primeros k = explican más del 84% de la varianza total entre las variables. 006 por StatPoint, Inc. Componentes Principales - 5

6 Opciones de Análisis STATGRAPHICS Rev. 4/5/007 Tratamiento de Valore Faltante: método para manejar los valores faltantes cuando se estima las covarianzas o correlaciones muestrales. Especifique Listwise para usar sólo casos sin valores faltantes para cualquiera de las variables de entrada. Especifique Pairwisw para usar todas las observaciones en las que ninguno de los valores (del par) falte. Estandarizar: marque esta casilla para basar el análisis en la matriz de correlaciones de la muestra más que en la matriz de covarianzas de la muestra. Esto corresponde a estandarizar cada variable de entrada antes de calcular las covarianzas, substrayendo su media y dividiendo entre su desviación estándar. Extraer Por: el criterio empleado para determinar el número de componentes principales a extraer. Eigenvalor Mínimo: si se extrae por magnitud de los valores propios, el valor propio más pequeño para el cual se extraerá un componente. Número de Componentes: si se extrae por número de componentes, el número k. Gráfico de Sedimentación El Gráfico de Sedimentación puede ser muy útil para determinar el número de componentes principales a extraer. Por omisión, grafica el tamaño de los valores propios (eigenvalores) correspondientes a cada uno de los p posibles componentes: 006 por StatPoint, Inc. Componentes Principales - 6

7 Gráfica de Sedimentación 8 6 Eigenvalor Componente Se agrega una línea horizontal en el valor propio mínimo especificado en la caja de diálogo de las Opciones de Análisis. En el gráfico anterior, advierta que sólo los primeros componentes tienen valores propios grandes. Opciones de Ventana Graficar: valor graficado en el eje vertical. Pesos de Componentes La ventana Pesos de Componentes muestra los valores estimados de los coeficientes a para cada componente extraído: Tabla de Pesos de Componentes Componente Componente Engine Size Horsepower Fueltank Passengers Length Wheelbase Width U Turn Space Rear seat Luggage Weight por StatPoint, Inc. Componentes Principales - 7

8 Los pesos al interior de cada columna frecuentemente tienen interpretaciones interesantes. En el ejemplo, advierta que los pesos en la primer columna son todos aproximadamente los mismos. Esto implica que el primer componente es básicamente un promedio de todas las variables de entrada. El segundo componente está ponderado más pesadamente en una dirección positiva en el número de pasajeros (Passengers), el espacio del asiento trasero (Rear Seat), y la cantidad de espacio para el equipaje (Luggage), y en una dirección negativa en los caballos de fuerza (Horsepower). Probablemente diferencia entre distintos tipos de vehículos. Gráficos de Dispersión D y 3D Estos gráficos despliegan los valores de o 3 componentes principales elegidos para cada uno de los n casos. 3.3 Diagrama de Dispersión Componente Componente Es útil examinar cualesquiera puntos muy alejados de los otros, tales como el resaltado Dodge Stealth, que tiene un valor muy bajo para el segundo componente. Una variación interesante de este gráfico es uno en el cuál los casos están codificados de acuerdo con otra columna, tal como el tipo de vehículo: Gráfico de PCOMP_ vs PCOMP_ PCOMP_ Type Compact Large Midsize Small Sporty PCOMP_ Para producir el gráfico anterior: 006 por StatPoint, Inc. Componentes Principales - 8

9 . Presione el botón Salvar Resultados y salve los Componentes Principales en nuevas columnas de la hoja de datos.. Seleccione el procedimiento Gráfico X-Y del menú principal e ingrese las nuevas columnas. 3. Seleccione Opciones de Ventana y especifique Tipo en el campo Códigos de Puntos. Ahora es claro que el primer componente se relaciona con el tamaño del vehículo, mientras que el segundo componente separa los carros deportivos de los demás. Opciones de Ventana Especifique los componentes a graficar en cada eje. Tabla de Datos La Tabla de Datos presenta los valores de los componentes principales para cada uno de los n casos. Tabla de Componentes Principales Componente Componente Fila Etiqueta Integra Legend i Century LeSabre Roadmaster Riviera por StatPoint, Inc. Componentes Principales - 9

10 Gráficos de Componentes D y 3D Los Gráficos de Componentes muestran la localización de cada variable en el espacio de o 3 componentes elegidos: Gráfica de Pesos del Componente Componente Rear seat Passengers Luggage Horsepower Wheelbase Length U Turn Space Engine Width Size Fueltank Weight Componente Las variables más alejadas de las líneas de referencia en 0 hacen la mayor contribución a los componentes. Bigráficas D y 3D Las Bigráficas despliegan ambas observaciones y variables en un solo gráfico. Bigráfica Componente Passengers Rear seat Luggage Wheelbase Length U Turn Space Engine Width Size Fueltank Weight Horsepower Componente Los símbolos de los puntos corresponden a las observaciones. Los extremos de las líneas sólidas corresponden a las variables. 006 por StatPoint, Inc. Componentes Principales - 0

11 Salvar Resultados Se pueden salvar los siguientes resultados en la hoja de datos:. Eigenvalores los k valores propios. STATGRAPHICS Rev. 4/5/007. Pesos de Componente k columnas, cada una con p estimaciones de los coeficientes a. 3. Componentes Principales k columnas, cada una con n valores que corresponden a los componentes principales extraídos. 006 por StatPoint, Inc. Componentes Principales -