Tema 8: Regresión y Correlación

Transcripción

1 Tema 8: Regresión y Correlación Estadística. 4 o Curso. Licenciatura en Ciencias Ambientales Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

2 Índice 1 Introducción 2 Modelo de Regresión Lineal 3 Inferencia en el Modelo de Regresión Lineal 4 Correlación Lineal 5 Predicciones Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

3 1. Introducción En este tema estudiaremos cómo determinar si existe relación entre dos variables cuantitativas X e Y, así como algunos coeficientes para, caso de existir, determinar la fuerza de dicha asociación. Al mismo tiempo que daremos respuesta a estos problemas, desarrollaremos un modelo que relaciona X e Y aunque no de forma determinística, sino admitiendo la existencia de una componente aleatoria, debida al azar y a otros elementos del experimento estadístico que no se han tenido en cuenta en el análisis. Dicho modelo se denomina Modelo de Regresión Lineal. Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

4 2. Modelo de Regresión Lineal Planteamiento general Supongamos que estamos interesados en determinar la relación entre las siguientes variables: Y, variable aleatoria sobre una población (dependiente o respuesta). las variables que influyen en Y se llaman predictoras o regresoras. Nos limitaremos al caso de una única variable predictora, X, definida sobre la misma población que Y. La distribución de probabilidad de Y dependerá del valor que tome X. No obstante, Y no está completamente determinada por X, ya que hay otras influencias aleatorias. Esto se expresa mediante la ecuación: Y = f (X) + E (ecuación de regresión de Y sobre X) E, variable aleatoria no observable con media E[E] = 0 (error o ruido) Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

5 2. Modelo de Regresión Lineal Regresión Lineal Si f es una recta, entonces la regresión de Y sobre X es lineal. Y = β 0 + β 1 X + E En la práctica, la ecuación anterior es imposible de determinar. Nuestro problema se limita a la Inferencia (estimación puntual, intervalos de confianza y contraste de hipótesis) sobre los parámetros β 0 y β 1. Intuitivamente, la pendiente de la recta, β 1, marca el crecimiento (o decrecimiento) de la variable Y por cada unidad que crece la variable X. Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

6 2. Modelo de Regresión Lineal Otros parámetros de interés: correlación lineal Algunos parámetros cuantificarán el grado de relación entre X e Y y el sentido de la misma. Son la Covarianza poblacional (σ xy ) y el Coeficiente de Correlación Lineal (ρ). Se relacionan mediante la expresión Se verifica que ρ = σ xy σ x σ y, 1 ρ 1 Si β 1, σ xy, ρ < 0, la relación lineal es negativa (cuando crece X, decrece Y). Si β 1, σ xy, ρ = 0, no hay relación lineal, las variables son incorreladas, es decir, el comportamiento de X no afecta al de Y. Si β 1, σ xy, ρ > 0, la relación lineal es positiva (cuando crece X también crece Y). Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

7 3. Inferencia en el Modelo de Regresión Lineal Ejemplo 1 Se desea conocer si existe relación entre las concentraciones de nitrato y sulfato en un suelo. Para ello se toman 20 muestras de tierra resultando estas concentraciones: SO NO SO NO Representamos las dos variables en la nube de puntos o diagrama de dispersión nitrato NIT SULF sulfato Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

8 3. Inferencia en el Modelo de Regresión Lineal Toma de datos Como hemos visto en el Ejemplo, la inferencia se basará en una muestra aleatoria simple ambas variables X e Y, medidas sobre los mismos individuos. Y y 1 y 2 y 3... y n X x 1 x 2 x 3... x n Estimación puntual Los estimadores de los parámetros del modelo son: ˆσ xy = s xy = 1 n 1 nx (x i x)(y i ȳ), ˆρ = r = sxy, 1 r 1 s i=1 xs y La recta de regresión lineal estimada de Y sobre X es la recta que mejor se ajusta a la nube de puntos de un determinado conjunto de datos (ajuste de mínimos cuadrados) y sus coeficientes se calculan son: s s ˆβ 1 = sxy s s 2, E 1 = 2 x (n 1)s 2, ˆβ0 = ȳ ˆβ 1 1 x, E 0 = s 2 x n + x 2 «(n 1)s 2 x siendo s 2 la varianza intrínseca muestral: s 2 = 1 X n n 2 (y i ( ˆβ 0 + ˆβ 1 x i )) 2 = n 1 i=1 n 2 (s2 y s xy ˆβ1 ) Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

9 3. Inferencia en el Modelo de Regresión Lineal Intervalos de confianza Hemos de suponer que E N(0, σ). A un nivel de confianza 1 α: Para β 1 : I 1 = [ ˆβ 1 ± E 1 t n 2,α/2 ] Para β 0 : I 0 = [ ˆβ 0 ± E 0 t n 2,α/2 ] Contraste de hipótiesis Supondremos también que E N(0, σ). La hipótesis más interesante a contrastar es que hay relación entre las variables, es decir, H 0 : β 1 = 0 H 1 : β 1 0 H 0 : no hay relación lineal entre X e Y H 1 : sí hay relación lineal entre X e Y El estadístico de contraste es: T = ˆβ 1 E 1 Rechazamos H 0 al nivel α si T > t n 2,α/2 (equivalentemente si 0 I 1 ). Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

10 4. Correlación Lineal Grado de relación entre las variables Intuitivamente, si aceptamos H 0 la variable X desaparece de la ecuación Y = β 0 + β 1 X + E es decir, toda la variabilidad de Y es aleatoria. Por el contrario si aceptamos H 1, entonces parte de la variabilidad de Y es debida a X y habrá relación entre X e Y. El grado de relación y el signo de la misma nos lo dan ˆσ xy = s xy, ˆρ = r. Este último coeficiente está entre -1 y 1, y por tanto su magnitud puede ser comparada con estas cantidades. Así su proximidad a -1 ó a 1 nos da idea de una asociación lineal fuerte mientras que su proximidad a 0 de una asociación débil. Coeficiente de determinación Al valor r 2 se le denomina coeficiente de determinación. Mide el grado de asociación lineal (sin signo) entre X e Y. Intuitivamente, r 2 se puede interpretar como el tanto por 1 de la variabilidad de Y que queda explicada por la variable X. Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

11 4. Correlación Lineal Contraste de hipótesis A menudo es útil contrastar El estadístico de contraste es H 0 : ρ = 0 H 1 : ρ 0 T = r n 2 1 r 2 Rechazamos H 0 al nivel α si T > t n 2,α/2 Este contraste es equivalente al de H 0 : β 1 = 0 y por tanto requiere la hipótesis de normalidad. Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12

12 5. Predicciones La recta de regresión estimada Y = ˆβ 0 + ˆβ 1 X puede ser utilizada para realizar predicciones. Sea x 0 un valor observado de la variable X, que se corresponde con un valor y 0 de la variable Y que no hemos observado. Aunque no conozcamos y 0, la recta anterior nos permite hacer inferencia sobre este valor. Así su estimación será ŷ 0 = ˆβ 0 + ˆβ 1 x 0 Si además E N(0, σ) podemos dar un intervalo de confianza al nivel 1 α para y 0 : [ ( ŷ 0 ± s n + (x ) ] 0 x) 2 (n 1)s 2 t n 2,α/2 x Estas predicciones sólo serán fiables si hemos probado que hay relación entre las variables y el coeficiente de determinación r 2 es alto. Licenciatura en Ciencias Ambientales (4 o Curso) Tema 8: Regresión y Correlación Curso / 12