Tema VII. La predicción de variables

Transcripción

1 7.1. La ecuación lineal de regresión: - Variable dependiente e independiente (fijas ó aleatorias):. Fijas (modelo I de regresión). Aleatorias (modelo II; más complejo) - Objetivo predictivo (básico en ciencia) - Ecuación de regresión (mínimos cuadrados):. Valor de intersección (a). Pendiente (b) y = a + bx a = y bx = y i b x i (x i x)(y i y) COVxy n-1 b XY = = σ 2 x (x i x) 2 N Dependiente (y) (n -1) Fórmulas simplificadas Independiente (x) 1

2 7.1. La ecuación lineal de regresión: - Aplicación a un ejemplo: - Gráfico dispersión - Estimación de recta predictiva Fórmulas simplificadas Enfermos (t 1 ) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (t 2 ) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 b = cov xy / Var x Enfermos (y) Cov xy = 4,26 V x = 4,64 b xy = 0,918 y = x x i = 1086 y i = 1134 a = 13, sanos (x)

3 7.1. La ecuación lineal de regresión: - Los residuos:. El valor predicho de y por la ecuación (y ). Porción de y explicado (azul) y no explicado (rojo). Resíduo (e i ) y promedio 3

4 7.1. La ecuación lineal de regresión: - La relación con el coeficiente de correlación:. La r 2 (porcentaje de variación explicado) b xy = r xy (σ y /σ x ) r XY = COVxy σxσy r 2 = V Explained V Total 4

5 7.1. La ecuación lineal de regresión: - La relación con el coeficiente de correlación:. Ejemplo Enfermos (t 1 ) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (t 2 ) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 r XY = COVxy σxσy r = 0, y = x r 2 = 0, % Explicado = 31%

6 7.2. El test estadístico asociado al análisis de regresión: - El ANOVA de regresión (el mejor método de evaluación estadística):. Partición variación explicada (Regresión) y No explicada (Error):. SSr y Sse. GLr y Gle. Test F 6

7 7.2. El test estadístico asociado al análisis de regresión: - El ANOVA de regresión:. Ejemplo: Enfermos (t 1 ) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (t 2 ) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 SC r = SC e = Modelo 1 Regresión Residual Total ANOVA b Suma de Media cuadrados gl cuadrática F Sig a a. Variables predictoras: (Constante), sanos b. Variable dependiente: enfermos La ecuación de regresión no explica una parte significativa de la variación 7

8 7.2. El test estadístico asociado al análisis de regresión: - Significación de b:. Evaluación de σ b. Test t CM e σ 2 b = (x i x) 2 Enfermos (t 1 ) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (t 2 ) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 Test t = b 0 y y = x x σ b CM e = 10,66 (x i x) 2 = 46,4 σ b = (10,66/46,4) = 0,479 t = 0,918/0,479 = 1,915 p = 0,092 La pendiente no se distingue significativamente de cero 8

9 7.2. El test estadístico asociado al análisis de regresión: - Significación de a, o cualquier valor de y:. Evaluación de σ a. Test t Enfermos (t 1 ) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (t 2 ) : 110, 105, 108, 111, 107, 111, 110, 111, 106, (y-x) 2 σ 2 a = CM e + n x i 2 Test t = a 0 y y = x x CM e = 10,66 y = 0 x 2 =11793,96 x i2 = σ a σ a = (10,66 x (0,1 + 0,0999)) = 1,03 t = 13,694/1,03 = 13,29 La intersección en el eje y es significativamente distinta de cero 9

10 7.3. El uso práctico de los residuos de regresión: - Uso práctico de los residuos:. Si tenemos más de dos variables explicativas (x y z independientes):. Se obtiene la regresión x/y. El residuo de la anterior se usa como dependiente para estudiar z:. 1 (mucho) 2 (poco) 3 (nada) Enfermos (y) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (x) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 Fumador (z) : 3, 1, 2, 2, 3, 1, 1, 3, 3, 2 y = x y = x y x y z F xy = 3,67 ns Explicado = 31% F xz = 7,53 * Explicado = 48% 10

11 7.3. El uso práctico de los residuos de regresión: - Uso práctico de los residuos:. Si tenemos más de dos variables explicativas (x / z independientes):. Se obtiene la regresión x/y (fumar disminuye HDL). El residuo de la anterior se usa como dependiente para estudiar z: y Residuo y = x z y = x z (y) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 (x) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 Res: 5,3; -3,1; -2,8; 0,4; 2,1; -4,6; -1,7; 1,4; 3,0; 0,1 (z) : 3, 1, 2, 2, 3, 1, 1, 3, 3, 2 F xy = 52,7 *** Explicado = 87% Originalmente, parecía que cuanto menos se fumase más alto eran los valores de HDL En la realidad si corregimos por variación en HDL: fumar aumenta realmente el valor de HDL 11

12 7.4. La regresión lineal multivariable: - Objetivos:. Conocer la capacidad predictiva de un conjunto de variables. Inferir la mejor o mejores variables explicativas de un conjunto de variables - Objetivo 1º: se introducen todas las variables:. Extensión directa de la regresión con una variable independiente Enfermos (y) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (x) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 Fumador (z) : 3, 1, 2, 2, 3, 1, 1, 3, 3, 2 ANOVA b Modelo 1 Regresión Residual Total Suma de Media cuadrados gl a cuadrática F Sig. Explicada = 92% Modelo 1 (Constante) fumador sanos Coeficientes no estandarizados B Error típ

13 7.4. La regresión lineal multivariable: - Objetivos:. Conocer la capacidad predictiva de un conjunto de variables. Inferir la mejor o mejores variables explicativas de un conjunto de variables - Objetivo 2º: se usa el procedimiento paso a paso:. Sólo se seleccionan algunas variables:. Criterios de p de aceptación (0,05) y p de exclusión (0,10) Enfermos (y) : 120, 107, 110, 116, 114, 111, 113, 117, 114, 112 Sanos (x) : 110, 105, 108, 111, 107, 111, 110, 111, 106, 107 Fumador (z) : 3, 1, 2, 2, 3, 1, 1, 3, 3, 2 ANOVA c Modelo 1 2 Regresión Residual Total Regresión Residual Total Suma de Media cuadrados gl cuadrática F Sig a b a. Variables predictoras: (Constante), fumador b. Variables predictoras: (Constante), fumador, sanos c. Variable dependiente: enfermos Explicada = 92% 13

14 7.4. La regresión lineal multivariable: - Objetivos:. Conocer la capacidad predictiva de un conjunto de variables. Inferir la mejor o mejores variables explicativas de un conjunto de variables - Objetivo 2º: se usa el procedimiento paso a paso:. Sólo se seleccionan algunas variables:. Criterios de p de aceptación (0,05) y p de exclusión (0,10) 14

15 7.5. La regresión cuadrática: - No todas las relaciones son lineales:. Ecuaciones cuadráticas. Idéntico procedimiento a las lineales y = a + bx + cx 2 x y Coeficientes a y x F = 43,7*** Explicado = 92% Modelo 1 (Constante) x x2 a. Variable dependiente: y Coeficientes no estandarizados Coeficientes estandarizad os B Error típ. Beta t Sig y = 13,83 1,9x + 0,2x 2 15

16 7.6. Las asunciones del modelo de regresión : - Variables dependientes normales - Variables independientes (fijas o normales) - Un nº de casos muy superior al de variables (o regresión paso a paso) - Cuando no se cumplan se puede:. Aplicar algún test no paramétrico (método robusto de Kendall). Aplicar bootstrapping y = 8,78 0,05x 16

17 Referencias Bibliográficas LIBROS: Siegel, S., Castellan, N.J Nonparametric Statistics. McGraw Hill, New York Sokal,R.R., Rohlf, F.J Biometry. Freeman and co., New York PÁGINAS WEB: (Pagina Web donde se explica el análisis de regresión) 17