Técnicas de Inferencia Estadística II. Tema 6. Contrastes de independencia

Transcripción

1 Técnicas de Inferencia Estadística II Tema 6. Contrastes de independencia M. Concepción Ausín Universidad Carlos III de Madrid Grado en Estadística y Empresa Curso 2015/16

2 Contenidos 1. Introducción 2. Contrastes χ 2 de independencia 3. El coeficiente de correlación lineal de Pearson 4. Coeficientes de correlación por rangos 4.1. El coeficiente de Spearman 4.2. El coeficiente de Kendall

3 Introducción: Contrastes de independencia En este tema vamos a abordar el siguiente problema: Problema de independencia: A partir de una muestra bivariante, {(X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n )}, de dos características observadas en una población, se trata de analizar si dichas características pueden considerarse independientes o por el contrario existe relación estadística entre ellas.

4 Contrastes χ 2 de independencia Consideramos una muestra aleatoria simple bivariante, {(X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n )}, con distribución conjunta, F (x, y), desconocida. Además, denotamos por F 1 (x) y F 2 (y) a las distribuciones marginales de X e Y, respectivamente. Queremos contrastar si las variables X e Y son independientes, es decir: H 0 : F (x, y) = F 1 (x)f 2 (y) H 1 : F (x, y) F 1 (x)f 2 (y)

5 Contrastes χ 2 de independencia Dividimos el recorrido de X en k clases, A 1, A 2,..., A k y el de Y en r clases, B 1, B 2,..., B r y llamamos: O ij = Número de observaciones que pertenecen a A i B j para i = 1,..., k, y j = 1,..., r. Construimos una tabla de contingencia: A 1 A 2... A k B 1 O 11 O O 1k n 1 B 2 O 21 O O 2k n 2. B r O r1 O r2... O rk n r n 1 n 2... n k N

6 Contrastes χ 2 de independencia El contraste no-paramétrico inicial se reduce al contraste paramétrico: H 0 : p ij = p i p j para todo par (i, j). H 1 : p ij p i p j para algún par (i, j). donde p ij = Pr(A i B j ), p i = Pr(A i ) y p j = Pr(B j ). Pearson propuso el siguiente estadístico de contraste: k r (O ij E ij ) 2 i=1 j=1 E ij χ 2 (k 1)(r 1) donde E ij = n i n j N

7 Contrastes χ 2 de independencia Ejemplo 7.1. Se estudian los sueldos y los años de permanencia en una empresa de 400 empleados: Sueldos Años < > 2000 < > Verificar si los años de servicio y el sueldo son variables independientes.

8 Comentarios Los contrastes χ 2 tienen los siguientes inconvenientes: Son poco precisos para muestras pequeñas por ser tests asintóticos. Para variables continuas, se desprecia información al agrupar datos en clases. A continuación, vamos a ver contrastes para analizar la independendencia de dos variables continuas que no requieren agrupar los datos.

9 El coeficiente de correlación lineal de Pearson El coeficiente de correlación lineal de Pearson entre dos variables X e Y se define como el cociente entre su covarianza y las respectivas desviaciones típicas: Cov(X, Y ) ρ = V (X ) V (Y ). Consideramos una muestra aleatoria simple bivariante, {(X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n )}, con distribución conjunta, F (x, y), desconocida, el coeficiente de Pearson se estima con: n ( Xi X ) ( Y i Ȳ ) i=1 ˆρ = n ( Xi X ) 2 n ( Yi Ȳ ) 2 i=1 i=1

10 El coeficiente de correlación lineal de Pearson El coeficiente ρ es una medida de la dependencia lineal entre X e Y. Siempre toma valores en 1 ρ 1, de modo que: Si ρ 1 indica relación lineal positiva. Si ρ 1 indica relación lineal negativa. Si ρ 0 indica que no hay relación lineal. Si hay relación lineal perfecta: { } ρ = 1, si b > 0, Y = a + bx ρ = 1, si b < 0. Si X e Y son independientes ρ = 0, pero el inverso no tiene que ser cierto. Si (X, Y ) siguen una normal bivariante entonces: X e Y son independientes ρ = 0.

11 El coeficiente de correlación lineal de Pearson Asumiendo normalidad en la variable bivariante (X, Y ): (( ) ( )) µ1 σ 2 (X, Y ) N, 1 σ 12 µ 2 σ 12 σ2 2, el contraste de independencia es equivalente a: H 0 : ρ = 0 H 1 : ρ 0 donde: ρ = σ 12 σ 1 σ 2 En este caso, el estadístico de contraste es: n 2 ˆρ 1 ˆρ 2 H 0 t n 2

12 El coeficiente de correlación lineal de Pearson Ejemplo 7.2. Se desea contrastar si las notas en Matemáticas son independientes de las notas en Inglés. Se tienen los siguientes pares de notas de 6 alumnos: Inglés Matemáticas Asumiendo normalidad en los datos, contrastar la hipótesis de independencia al nivel α =0.05.

13 El coeficiente de correlación lineal de Pearson El coeficiente de correlación de Pearson es invariante ante transformaciones lineales: ρ(x, Y ) = ρ(ax + b, cx + d) Pero el coeficiente de correlación de Pearson NO es invariante ante transformaciones no lineales.

14 Coeficientes de correlación por rangos El inconveniente del coeficiente de correlación de Pearson es que sólo sirve para examinar si hay la relación lineal. Alternativamente, para medir la relación (no necesariamente lineal) entre dos variables se proponen los coeficientes de correlación por rangos, que están basados en diferentes maneras de ordenar la muestra. Los más conocidos son: El coeficiente de correlación por rangos de Spearman El coeficiente de correlación por rangos de Kendall

15 El coeficiente de correlación por rangos de Spearman El coeficiente de correlación por rangos de Spearman entre X e Y se define como el coeficiente de Pearson entre sus funciones de distribución: ρ S = ρ(f X (X ), F Y (Y )). Dada una muestra {(X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n )}, se estima con: 1. Calculamos los rangos {R 1, R 2,..., R n } de {X 1, X 2,..., X n }. 2. Calculamos los rangos {S 1, S 2,..., S n } de {Y 1, Y 2,..., Y n }. 3. Calculamos el coeficiente de Pearson para {(R 1, S 1 ), (R 2, S 2 ),..., (R n, S n )}: n ( Ri R ) ( S i S ) i=1 ˆρ S = n ( Ri R ) 2 n ( Si S ) 2 i=1 i=1

16 El coeficiente de correlación por rangos de Spearman El coeficiente ρ S es una medida de la dependencia monótona entre X e Y. Siempre toma valores en 1 ρ S 1, de modo que: Si ρ S 1 indica relación monótona positiva. Si ρ S 1 indica relación monótona negativa. Si ρ S 0 indica que no hay relación monótona. Si hay relación montona perfecta: ρ S = 1 (montona creciente) ρ S = 1 (montona decreciente). El coeficiente ρ S SÍ es invariante ante transformaciones monótonas. Si X e Y son independientes ρ S = 0, pero el inverso no tiene que ser cierto. Si (X, Y ) siguen una normal bivariante entonces: X e Y son independientes ρ S = 0.

17 Contraste de la ρ de Spearman Dada la muestra {(X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n )}, con distribución conjunta, F (x, y), desconocida y distribuciones marginales, F 1 (x) y F 2 (y), queremos contrastar si las variables X e Y son independientes, es decir: H 0 : F (x, y) = F 1 (x)f 2 (y) H 1 : F (x, y) F 1 (x)f 2 (y) El estadístico de contraste es: S p = n (R i S i ) 2 que toma siempre valores positivos. Además, se tiene que: i=1 ρ S = 1 6S p n 3 n

18 Contraste de la ρ de Spearman Ejemplo 7.3. Se desea contrastar si las notas en Matemáticas son independientes de las notas en Inglés. Se tienen los siguientes pares de notas de 6 alumnos: Inglés Matemáticas Contrastar la hipótesis de independencia mediante el contraste de la ρ de Spearman al nivel α =0.05.

19 El coeficiente de correlación por rangos de Kendall El coeficiente de correlación por rangos de Kendall entre dos variables X e Y se define como la diferencia entre la probabilidad de concordancia y discordancia de cualquier par de pares (X 1, Y 1 ) y (X 2, Y 2 ): τ = Pr((X 2 X 1 )(Y 2 Y 1 ) > 0) ((X 2 X 1 )(Y 2 Y 1 ) > 0). Dada una muestra, {(X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n )}, se estima con: ˆτ = n c n d 1 2n(n 1) donde n c = n o pares concordantes y n d = n o pares discordantes y donde un par de datos (X 1, Y 1 ) y (X 2, Y 2 ) es: concordante si {X 1 < X 2 } y {Y 1 < Y 2 }, o bien, si {X 1 > X 2 } y {Y 1 > Y 2 }. disconcordante si {X 1 < X 2 } y {Y 1 > Y 2 }, o bien, si {X 1 > X 2 } y {Y 1 < Y 2 }.

20 El coeficiente de correlación por rangos de Kendall La tau de Kendall es una medida de la dependencia monótona entre X e Y. Siempre toma valores en 1 τ 1, de modo que: Si τ 1 indica relación monótona positiva. Si τ 1 indica relación monótona negativa. Si τ 0 indica que no hay relación monótona. Si hay relacin montona perfecta: τ = 1 (montona creciente) τ = 1 (montona decreciente). La tau de Kendall SÍ es invariante ante transformaciones monótonas. Si X e Y son independientes τ = 0, pero el inverso no tiene que ser cierto. Si (X, Y ) siguen una normal bivariante entonces: X e Y son independientes τ = 0.

21 Contraste de la τ de Kendall Dada la muestra {(X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n )}, con distribución conjunta, F (x, y), desconocida y distribuciones marginales, F 1 (x) y F 2 (y), queremos contrastar si las variables X e Y son independientes, es decir: H 0 : F (x, y) = F 1 (x)f 2 (y) H 1 : F (x, y) F 1 (x)f 2 (y) El estadístico de contraste es n c, que toma siempre valores en [0, ).

22 Contraste de la τ de Kendall Ejemplo 7.4. Se desea contrastar si las notas en Matemáticas son independientes de las notas en Inglés. Se tienen los siguientes pares de notas de 6 alumnos: Inglés Matemáticas Contrastar la hipótesis de independencia mediante el contraste de la τ de Kendall al nivel α =0.05.