Estadística aplicada al medio ambiente

Transcripción

1 Estadística aplicada al medio ambiente III. Regresión lineal 3 o de CC. AA. Departamento de Matemáticas Universidad Autónoma de Madrid 2011/12

2 Planteamiento Modelo Estimación de parámetros Intervalos de confianza Análisis de residuos Transformaciones de datos Predicciones Formulario

3 El problema Explicar la variabilidad de una magnitud continua Y (variable explicada) por medio de la variación de otra variable continua X (variable explicativa). Ejemplos Peso de una persona por medio de la estatura Presión atmosférica en función de la altitud Alargamiento de un resorte en función de la fuerza aplicada

4 Los elementos Normal bivariante Ajuste por mínimos cuadrados

5 Normal bivariante { } 1 2πσ 1 σ 2 1 ρ 2 exp 1 2σ 1 2σ2 2 (1 ρ2 ) (σ2 2 (x µ 1) 2 2σ 1 σ 2 (x µ 1 )(y µ 2 )+σ1 2(y µ 2) 2 ) 1 2πσ 1 σ 2 1 ρ 2 exp { 1 2 ( ( x µ 1 σ 1 1 ρ 2 ) 2 2( x µ 1 σ 1 1 ρ 2 )( x µ 2 σ 2 1 ρ 2 ) ( + x µ 1 σ 1 1 ρ 2 ) 2 )}

6 Simulación

7 Modelo Modelo lineal: Y = β 0 + β 1 X + U Normalidad y homocedasticidad: U N(0, σ), es decir, Y x N(β 0 + β 1 x, σ) Parámetros: β 0, β 1, σ.

8 Ejemplo: Pearson y Lee On the Laws of Inheritance in Man; Karl Pearson, Alice Lee; Biometrika (1903) Y = 0,516X + 33,73 X : estatura del padre Y : estatura del hijo Datos: 1078 parejas padre hijo Estatura media padres: 68 pulgadas Estatura media hijos: 69 pulgadas v x = v y = 2,7 r = 0,51 Observación: Artículo completo disponible en la página del profesor

9 Muestra aleatoria Muestra: (X i, Y i ), i = 1..n, pares independientes Dos modelos distintos: Valor de X i aleatorio Estatura y peso de un conjunto de individuos Estatura del padre y estatura del hijo para un conjunto de parejas (padre, hijo) Valor de X i determinado por el investigador Presión atmosférica a una serie de altitudes prefijadas Extensión del resorte para una serie de masas prefijadas Ambos modelos se tratan matemáticamente de forma análoga

10 Ejemplo La estatura crece linealmente con la edad No hay relación (lineal) entre el mes de nacimiento y la estatura

11 Ajuste por mínimos cuadrados Mínimos cuadrados Mínima suma de cuadrados de distancias verticales a la recta. Determinar β 0 y β 1 para que la suma n (y i (β 0 + β 1 x i )) 2 i=1 sea mínima. Notación x = 1 x i n i ȳ = 1 y i n i

12 Parámetros estimados

13 Varianza residual Estimación de σ 2 : Residuos e i = y i ŷ i = y i ( ˆβ 0 + ˆβ 1 x i ) = (y i ȳ) ˆβ 1 (x i x) Varianza residual S 2 R = n i=1 e2 i n 2

14 Estimación puntual de los parámetros cov(x, y) ˆβ 1 = v x ˆβ 0 = ȳ ˆβ 1 x e ˆσ 2 = SR 2 2 = i n 2 ; cov(x, y) ˆρ = r = vx v y. Coeficiente de determinación: R 2 = r 2 Recuérdese: v x = 1 (x i x) 2 = n i ( 1 n cov(x, y) = 1 (x i x)(y i ȳ) = n i ) xi 2 x 2 ; v y = 1 (y i ȳ) 2 = n i i ( 1 n ) x i y i xȳ i ( 1 n i y 2 i ) ȳ 2

15 Intervalos de confianza IC 1 α (β 1 ) = ( ˆβ 1 t n 2;α/2 S R 1 nv x, ) 1 ˆβ 1 + t n 2;α/2 S R nv x IC 1 α (β 0 ) = 1 ˆβ 0 t n 2;α/2 S R n + x2, nv x 1 ˆβ 0 + t n 2;α/2 S R n + x2 nv x IC 1 α (σ 2 ) = ( (n 2)SR 2 χ 2, n 2;α/2 (n 2)S 2 R χ 2 n 2;1 α/2 )

16 Contraste de la regresión Es β 1 0? H 0 β 1 = 0 H 1 β 1 0 Contraste t R = ˆβ 1 S 1 R > t n 2;α/2 nv x

17 Contraste ANOVA Equivalente al contraste t (los estadísticos que se obtienen con una muestra dada tiene exactamente el mismo p-valor en ambos contrastes) Sumas de cuadrados SCT = i (y i ȳ) 2 = i (y i ŷ i ) 2 + i (ŷ i ȳ) 2 = SCR + SCE Tabla ANOVA Suma de cuadrados g. de l. Varianzas F Modelo SCE 1 SCE SCE/S 2 R Error SCR n 2 S 2 R Total SCT n 1 R = {F > F 1,n 2;α }

18 Comentarios El contraste de la regresión permite decidir si parte de la variabilidad de la Y puede atribuirse a la X. Las sumas de cuadrados se pueden calcular a partir de algunos estadísticos ya calculados: SCT = nv y = (n 1)s 2 y SCE = nv y r 2 = (n 1)s 2 y r 2 SCR = nv y (1 r 2 ) = (n 1)s 2 y (1 r 2 ) Según lo anterior: r 2 F = (n 2) 1 r 2

19 Coeficiente de determinación: R 2 Da una idea de qué fracción de la variablidad de Y está explicada por X. Su valor, R 2 = SCE SCT, es siempre positivo. En regresión lineal simple, coincide con r 2, el cuadrado del coeficiente de correlación.

20 Ejemplo: Oecanthus niveus; Bessey & Bessey; The American Naturalist; 1897 T N n = 5 T = 356 T 2 = N = 737 N 2 = NT = Modelo para explicar la temperatura (T) por medio del número de cricks por minuto (N): T = β 0 + β 1 N (...)

21 ...Oecanthus... T = 71,20 N = 147,40 nv T = (n 1)s 2 T = 232,80 T 2 = 5116,00 N 2 = ,80 nv N = (n 1)sN 2 = 4945,20 ncov(n, T) = 1064,60 ˆβ 1 = cov(n, T) ncov(n, T) = = 0,2153 v N nv N ˆβ 0 = T ˆβ 1 N = 39,47 Ecuación de la recta de regresión: T = 39,47 + 0,215N r = cov(n, T) vn v T = 0,9922 S 2 R = nv T n 2 (1 r 2 ) = 1,206 (...)

22 ...Oecanthus... Intervalos de confianza: IC 95 % (β 0 ) = (31,98, 46,96) IC 95 % (β 1 ) = (0,166, 0,265) Sumas de cuadrados: SCE = 229,2 SCR = 3,618 SCT = 232,8 Contraste F : F = 190 F 1,3;0,05 = 10,13 Al nivel de significación α = 0,05, se rechaza β 1 = 0 Coeficiente de determinación: R 2 = 0,985

23 Interpretación

24 Observación de los datos

25 Observación de los datos

26 Observación de los datos

27 Requisitos Linealidad Normalidad Homocedasticidad Independencia Desviaciones significativas sobre estos requisitos pueden proporcionar conclusiones incorrectas

28 Análisis de residuos Residuo: e i = y i ŷ i Observación: e i = y i ˆβ 0 ˆβ 1 x i = (y i ȳ) ˆβ 1 (x i x) Representación gráfica de los residuos Debe hacerse respecto de los valores pronosticados (ŷ i ), nunca respecto de los valores observados (y i ) de la variable explicada.

29 Los cuatro ejemplos con los mismos descriptivos

30 Casos 3 y 4

31 Estatura vs. edad

32 Dispersión de residuos Las hipótesis del modelo

33 Ejemplo La siguiente tabla recoge los datos de altura (cm) y peso (kg) de 20 mujeres estudiantes de la UAM estatura peso Coeficiente de correlación: = 0,476 Estimaciones: β 0 = 11,84 β 1 = 0,388

34 Residuos Dato n o Pronóstico Residuo 1 49,88 7, ,27 3, ,38 0, ,11 0, ,11 6, ,33 0, ,21 4, ,11 1, ,99 2, ,44 0, ,77 1, ,49 0, ,77 6, ,49 1, ,11 1, ,44 1, ,15 5, ,21 4, ,99 5, ,77 1,23

35 Tranformaciones de datos Cuando detectamos problemas de no linealidad o heterocedasticidad y queremos aplicar las técnicas de regresión lineal

36 Ejemplos Logaritmo: y = ke βx ln y = ln k + βx Doble logaritmo: y = kx β log y = log k + β log x Nota: Cualquier logaritmo Inversa: y = k + β 1 x Logaritmo e inversa: y = ke β x ln y = ln k + β 1 x

37 Gráficas

38 Curva logística

39 Falta de homocedasticidad

40 Predicciones a partir del modelo ajustado Una vez aceptado el modelo de regresión, podemos plantearnos realizar estimaciones y predicciones sobre distintas características de la Y dado un valor fijo de X que denominaremos x 0. Analizaremos dos opciones: Estimación de E(Y X =x0 ): valor medio de Y para X = x 0 Predicción de un valor de Y para X = x 0 En ambos casos la mejor estimación puntual es el valor de Y dado por la recta de regresión ajustada: ŷ 0 = ˆβ 0 + ˆβ 1 x 0 Cuál es la diferencia?

41 Intervalos de predicción Estimación de la media IC 1 α (E(Y X =x0 ) = 1 ˆβ 0 + ˆβ 1 x 0 ± t n 2;α/2 S R n + (x 0 x) 2 nv x Predicción I 1 α (Y X =x0 ) = ˆβ 0 + ˆβ 1 x 0 ± t n 2;α/2 S R n + (x 0 x) 2 nv x

42 Bandas Los intervalos anteriores definen dos bandas en torno a la recta de regresión que tienen la misma forma. La banda para la media es siempre más estrecha que la banda para la predicción.

43 Formulario Modelo: Y i N(β 0 + β 1 x i ; σ 2 ) independientes, i = 1,..., n. ˆβ 1 = cov v x ˆβ 0 = ȳ cov x = ȳ v ˆβ 1 x x ˆσ 2 = S 2 R = 1 n 2 IC 1 α (β 0 ) = IC 1 α (β 1 ) = IC 1 α (σ 2 ) = i (y i ŷ i ) 2 = 1 n 2 1 ˆβ0 ± t n 2;α/2 S R n + x 2 nv x ( ) 1 ˆβ 1 ± t n 2;α/2 S R nv x ( ) (n 2)SR 2 χ 2 ; (n 2)S R 2 n 2;α/2 χ 2 n 2;1 α/2 (y i ˆβ 0 ˆβ 1 x i ) 2 i

44 Formulario Tabla anova Suma de cuadrados G.l. Varianza Estadístico SCE = i (ŷ i ȳ) 2 SCE 1 1 F = SCE/1 SCR/(n 2) SCR = i (y i ŷ i ) 2 SCR n 2 n 2 SCT = i (y i ȳ) 2 n 1 SCE = nv y r 2 ; SCR = nv y (1 r 2 ) ; donde r = cov vx v y 1 IC 1 α (valor medio de Y ) = ŷ 0 ± t n 2;α/2 S R n + (x 0 x) 2 nv x IC 1 α (valor individual de Y ) = ŷ 0 ± t n 2;α/2 S R n + (x 0 x) 2 nv x