Estadística II Tema 1: Distribución normal multivariante

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Estadística II Tema 1: Distribución normal multivariante"

Carla Jiménez Soler
hace 6 años
Vistas:

1 Estadística II Tema 1: Distribución normal multivariante José R. Berrendero Departamento de Matemáticas Universidad Autónoma de Madrid

2 Algunas propiedades de los vectores aleatorios Sea X = (X 1,..., X p ) un vector aleatorio p-dimensional. Su vector de medias es E(X ) = µ = (µ 1,..., µ p ) donde µ i = E(X i ). Su matriz de covarianzas es Var(X ) = Σ, cuya posición (i, j) es σ i,j = Cov(X i, X j ). Es fácil comprobar Var(X ) = E[(X µ)(x µ) ] = E(XX ) µµ. Transformaciones afines: si A es matriz q p y b R q, E(AX + b) = Aµ + b. Var(AX + b) = E[A(X µ)(x µ) A ] = AΣA. La función característica de X es ϕ(t) = E(e it x ), donde t R p. Esta función caracteriza la distribución de X.

3 La distribución normal multivariante El vector aleatorio X es normal p-dimensional con vector de medias µ y matriz de covarianzas Σ (notación: X N p (µ, Σ)) si tiene densidad dada por: { f (x) = Σ 1/2 (2π) p/2 exp 1 } 2 (x µ) Σ 1 (x µ), x R p. µ = µ 1 µ 2. µ p, Σ = σ 11 σ 12 σ 1p σ 21 σ 22 σ 2p σ p1 σ p2 σ pp

4 Ejemplos de densidades normales bidimensionales µ = (0, 0) y Σ = ( ).

5 Ejemplos de densidades normales bidimensionales ( µ = (0, 0) y Σ = ) ( µ = (0, 0) y Σ = )

6 Relaciona cada matriz con su conjunto de datos Σ 1 = Σ 2 = ( ) ( ) Σ 3 = ( 1 0, 5 0, 5 1 ) Σ 4 = ( )

7 Estandarización multivariante Prop: Si X N p (µ, Σ) y definimos Y = Σ 1/2 (X µ), entonces Y 1,..., Y p son i.i.d. N(0, 1). Dem: Cambio de variable h(x) = Σ 1/2 (x µ) y Jh 1 = Σ 1/2. Σ simétrica Σ = CDC Σ 1/2 = CD 1/2 C. Por lo tanto, Y = CD 1/2 C (X µ). Geométricamente, la estandarización equivale a las siguientes operaciones sobre los datos: Trasladarlos para que la media sea el origen. Rotarlos de forma que las correlaciones se anulen. Cambios de escala en cada variable, para que las varianzas sean 1. Deshacer la rotación anterior (no cambia la distribución).

8 Estandarización multivariante Datos originales Un giro Cambio de escala Se deshace el giro

9 Estandarización multivariante: consecuencias 1. Si X N p (µ, Σ), entonces E(X ) = µ y Var(X ) = Σ. (puesto que X = Σ 1/2 Y + µ). 2. Si X N p (µ, Σ), entonces ϕ X (t) = exp{it µ 1 2 t Σt} (ya que X = Σ 1/2 Y + µ y la f.c. de una v.a. normal estándar es e t2 /2 ). 3. La distribución de (X µ) Σ 1 (X µ) es χ 2 p. (puesto que (X µ) Σ 1 (X µ) = Y Y ).

10 Distancia de Mahalanobis Si X = (X 1,..., X p ) es un vector con media µ y covarianzas Σ, la distancia de Mahalanobis de X a µ es d M (X, µ) = (X µ) Σ 1 (X µ). Distancia de Mahalanobis frente a otras distancias 1. d M coincide con la distancia eucĺıdea entre los datos estandarizados de forma multivariante. 2. d M es adimensional. 3. d M tiene en cuenta las diferentes variabilidades (varianzas) de las variables. 4. d M tiene en cuenta las correlaciones entre las variables. 5. Bajo normalidad, su cuadrado se distribuye como una χ 2 p.

11 Ejemplo Σ = [ , 5 ] [, Σ 1 0, 1 0 = 0 0, 4 ] [ 1 0, R = 0 1 ]. d 2 M (x, y) = (x y) Σ 1 (x y) = 0, 1(x 1 y 1 ) (x 2 y 2 ) 2. d E (A, O) = d E (B, O), d M (A, O) > d M (B, O). d M tiene en cuenta la diferente variabilidad de las variables. B O

12 Ejemplo Σ = [ ] [, Σ 1 0, 3 0, 2 = 0, 2 0, 3 ] [ 1 0, 6, R = 0, 6 1 ]. A B d 2 M = (x µ) Σ 1 (x µ). d E (A, O) = d E (B, O). d M (A, O) > d M (B, O). O d M incluye la correlación.

13 Distancias de Mahalanobis para datos normales

14 Distancias de Mahalanobis para datos normales Estadísticos descriptivos para D 2 i en el segundo ejemplo: Min. 1st Qu. Median Mean 3rd Qu. Max Desviacion tipica: Comparación con la densidad χ 2 :

15 Datos de lirios de Fisher Conjunto de datos (iris data) muy famoso utilizado por Fisher (1936) para ilustrar un ejemplo de clasificación. Enlace a la entrada en wikipedia sobre estos datos Medidas de la longitud y anchura del pétalo y el sépalo de 150 lirios Hay 50 lirios de cada una de las especies iris setosa, iris versicolor e iris virginica.

16 Datos de lirios de Fisher

17 Distancias de Mahalanobis

18 Distancias de Mahalanobis La forma del histograma no coincide del todo con lo que se espera bajo normalidad (distribución χ 2 ) La distancia de Mahalanobis media es 3.97 y la varianza de las distancias es 7.69 La mayor distancia es 13.1 y corresponde al número 132. La menor distancia es 0.32 y corresponde al número 79.

19 Datos de lirios de Fisher

20 Transformaciones afines de vectores normales Prop: Si X N p (µ, Σ), A es matriz q p y b R q, entonces Dem: Ejercicio (usar la f.c.) AX + b N q (Aµ + b, AΣA ) Consecuencia: si X = (X 1 X 2 ), con X 1 R q y X 2 R p q, y consideramos las particiones correspondientes de µ y Σ, ( ) Σ11 Σ µ = (µ 1 µ 2 ), Σ = 12 Σ 21 Σ 22 entonces X 1 N q (µ 1, Σ 11 ). Prop: X 1 y X 2 son independientes Σ 12 = 0. Dem: Ejercicio (descomponer la densidad de X como producto de las densidades de X 1 y X 2 ).

21 Observaciones Si dos v.a. X e Y tienen distribución normal y además Cov(X, Y ) = 0, esto no implica que X e Y sean independientes. Si dos v.a. X e Y tienen distribución normal y a, b R, la combinación lineal ax + by no tiene necesariamente distribución normal. Aunque todas las marginales de un vector aleatorio p-dimensional X tengan distribución normal, esto no implica que X tenga distribución normal p-dimensional. Ejercicio: Añade las hipótesis necesarias para que las conclusiones sí sean válidas.

22 Ejemplo X = (X 1, X 2, X 3 ) N 3 (µ, Σ) con µ = 0 0 0, Σ = 7/2 1/2 1 1/2 1/ /2. 1. Calcula las distribuciones marginales. 2. Calcula la distribución del vector (X 1, X 2 ). 3. Son X 2 y X 3 independientes? 4. Es X 3 independiente del vector (X 1, X 2 )? 5. Calcula la distribución de la variable 2X 1 X 2 + 3X 3.

23 Distribuciones condicionadas Prop: Sea X = (X 1 X 2 ), con X 1 R q y X 2 R p q. Consideramos las particiones correspondientes de µ y Σ y suponemos que existe Σ Entonces, donde X 2 X 1 N p q (µ 2.1, Σ 2.1 ), µ 2.1 = µ 2 + Σ 21 Σ 1 11 (X 1 µ 1 ), Σ 2.1 = Σ 22 Σ 21 Σ 1 11 Σ 12. µ 2.1 = E(X 2 X 1 ) es una función lineal (afín) de X 1. Σ 2.1 no depende de X 1 (homocedasticidad).

24 Ejemplos ( ) (( ) ( )) X Sea N Y 2, Calcula la distribución de Y dada X. 2. Repite el ejercicio para la distribución de X dada Y. ( ) (( ) ( )) X Sea N Y 2, Calcula la distribución de X + Y condicionada a que X Y = 1.

25 Formas cuadráticas bajo normalidad Prop: Sea Y N n (µ, σ 2 I n ) y sea B una matriz n n simétrica e idempotente. Supongamos que µ Bµ = 0. Entonces donde p es la traza de B. 1 σ 2 Y BY χ 2 p, Prop: Sea Y N n (µ, σ 2 I n ) y sean A p n, B q n, C n n y D n n con C y D simétricas e idempotentes. 1. AY y BY son independientes AB = Y CY e Y DY son independientes CD = AY e Y CY son independientes AC = 0.

26 Algunas aplicaciones 1. Si proyectamos Y en dos direccciones ortogonales, tanto las proyecciones como sus normas son independientes. 2. Lema de Fisher: Se demuestra a partir de la obs. siguiente. Sea 1 n = (1,..., 1) R n y M = 1 n 1 n1 n (una matriz n n con todas sus entradas iguales a 1/n), entonces Ȳ 1 n = MY n (Y i Ȳ ) 2 = Y (I n M)Y. i=1 Interpretación geométrica: M es una matriz de proyección sobre el subespacio de R n cuya base es 1 n.

27 Teorema central del ĺımite multivariante TCL para variables aleatorias unidimensionales: Sean X 1, X 2,... v.a.i.i.d. con esperanza µ y varianza σ 2, entonces n( X n µ) d N(0, σ 2 ), donde X n = n 1 (X X n ). Para promedios de vectores aleatorios, el TCL es totalmente análogo: Sean X 1, X 2,... vectores aleatorios p dimensionales i.i.d. con vector de medias µ y matriz de covarianzas Σ, entonces n( X n µ) d N p (0, Σ), donde X n = n 1 (X X n ).

Documentos relacionados

Tema 3 Normalidad multivariante

Aurea Grané Máster en Estadística Universidade Pedagógica Aurea Grané Máster en Estadística Universidade Pedagógica Tema 3 Normalidad multivariante 3 Normalidad multivariante Distribuciones de probabilidad