REGRESION Y CORRELACION LINEALES

Transcripción

1 REGRESION Y CORRELACION LINEALES 1

2 Relaciones entre variables regresión El término regresión fue introducido por Galton (1889) refiriéndose a la le de la regresión universal : Cada peculiaridad en un hombre es compartida por sus descendientes, pero en media, en un grado menor. Regresión a la media Su trabajo se centraba en la descripción de los rasgos físicos de los descendientes (una variable) a partir de los de sus padres (otra variable). Francis Galton Pearson realizó un estudio con más de 1000 registros de grupos familiares observando una relación del tipo: Altura del hijo = 85cm + 0,5 altura del padre (apro.) Conclusión: los padres mu altos tienen tendencia a tener hijos que heredan parte de esta altura, aunque tienen tendencia a acercarse (regresar) a la media. Lo mismo puede decirse de los padres mu bajos. Karl Pearson

3 Regresión Describir la relación entre dos variables numéricas El análisis de regresión sirve para predecir una medida en función de otra medida (o varias). Y = Variable dependiente predicha eplicada X = Variable independiente predictora eplicativa Es posible descubrir una relación? Y = f(x) + error f es una función de un tipo determinado el error es aleatorio, pequeño, no depende de X 3

4 Mide 187 cm. Diagramas de dispersión, nube de puntos o Scaterplot Tenemos las alturas los pesos de 30 individuos representados en un diagrama de dispersión. Variable dependiente (peso) Pesa 76 kg Pesa 50 kg. Mide 161 cm Variable independiente (altura) 4

5 Finalidad REGRESION LINEAL SIMPLE Estimar los valores de (variable dependiente) a partir de los valores de (variable independiente) ŷ Modelo b a Ordenada en el origen (intercepto) q =tg q coeficiente de regresión (pendiente) 5

6 Relación directa e inversa No ha relacion Fuerte relación directa Para valores de X por encima de la media tenemos valores de Y por encima por debajo en proporciones similares Cierta relación inversa Para los valores de X maores que la media le corresponden valores de Y maores también. Para los valores de X menores que la media le corresponden valores de Y menores también. : relación directa. Para los valores de X maores que la media le corresponden valores de Y menores. Esto es relación inversa o decreciente. 6

7 COVARIANZA Es una medida de la variación lineal conjunta de dos variables centroide + + s cov ( μ )( N Estimación de s ( μ ) )( ) n Es un estimador sesgado s < 0 asociación lineal con pendiente negativa s = 0 ausencia de asociación lineal s > 0 asociación lineal con pendiente positiva 7

8 El signo de la covarianza nos dice si el aspecto de la nube de puntos es creciente o no, pero no nos dice nada sobre el grado de relación entre las variables. r r Coef. de correlación lineal de Pearson Valor en la muestra (Rho ) en la poblaciòn El coeficiente de correlación lineal de Pearson de dos variables, r, indica si los puntos tienen una tendencia a disponerse alineadamente (ecluendo rectas horizontales verticales). 8

9 Finalidad CORRELACION LINEAL Medir la intensidad de la asociación lineal entre dos variables aleatorias coeficiente de correlación r s / s s r s / s s covarianza poblacional coeficiente de determinación r r Proporción de varianza compartida por las dos variables 9

10 Propiedades de r Es adimensional Sólo toma valores entre Las variables NO estàn correlacionadas r=0 Relación lineal perfecta entre dos variables r = +1 o r=-1 Ecluimos los casos de puntos alineados horiz. o verticalmente. Cuanto más cerca esté r de +1 o -1 mejor será el grado de relación lineal. Siempre que no eistan observaciones anómalas. Relación inversa perfecta Variables NO correlacionadas Relación directa casi perfecta

11 Y Y Y Correlación negativa 0 Y 10= X X X Y = X 1-1 r 0 r = Y = X r +1 Correlación positiva Y = X r = X X 11

12 Y Y Y 16 Y = X Y = X # DIV/0! X r = Ausencia de correlación X 1

13 Animación: Evolución de r diagrama de dispersión 13

14 ESTIMACION DE r (rho) r Cov s. s PRUEBA DE Ho: r 0 t calc r n 1 r Se compara con el valor critico (t tabulado) CONSIDERACIONES PARA LA VALIDEZ DEL TEST Los residuos ( e ) deben ser : Normales Homocedasticos Independientes Testar la Ho: r = 0 equivale a ensaar la Ho: = 0 14

15 Animación: Residuos del modelo de regresión 15

16 Varianza residual (insesgada) ESTADISTICOS USUALES sˆ. ( ˆ) n n Error tipico de estimación de sˆ. sˆ. Error tipico de estimación de b s ˆ b sˆ. SCX Coeficiente de Determinación R R SCRegresión SCtotal (0 R 1) R 1 S S e Y 16

17 Cómo medir la bondad de una regresión? Imaginemos un diagrama de dispersión, vamos a tratar de comprender en primer lugar qué es el error residual, su relación con la varianza de Y, de ahí, cómo medir la bondad de un ajuste. 17

18 Interpretación de la variabilidad en Y En primer lugar olvidemos que eiste la variable X. Veamos cuál es la variabilidad en el eje Y. Y La franja sombreada indica la zona donde varían los valores de Y. Proección sobre el eje Y = olvidar X S Y 18

19 Interpretación del residuo ( ) ˆ Fijémonos ahora en los errores de predicción (líneas verticales). Los proectamos sobre el eje Y. Se observa que los errores de predicción, residuos, están menos dispersos que la variable Y original. Y Cuanto menos dispersos sean los residuos, mejor será la bondad del ajuste. S e 19

20 Bondad de un ajuste Resumiendo: La dispersión del error residual será una fracción de la dispersión original de Y Y Cuanto menor sea la dispersión del error residual mejor será el ajuste de regresión. Eso hace que definamos como medida de bondad de un ajuste de regresión, o coeficiente de determinación a: R 1 S S e Y S e S Y 0

21 Consecuencia sobre las estimaciones de btsˆ b b btsˆ b faja de confianza para faja de confianza para ŷ A medida que los valores se alejan del centroide (, ) las estimaciones de son más imprecisas 1

22 P Q Buen ajuste a la recta en el intervalo PQ NO implica que la relación sea lineal fuera del mismo

23 e e La recta de regresión de sobre no es la misma que la de sobre, salvo que todos los puntos estén sobre la recta 3

24 Precauciones en la interpretación de r r significativo NO implica relación de causalidad entre las variables t r = 0 NO implica ausencia de asociación entre las variables r = 0 r = 0 4

25 Los problemas de regresión de correlación lineales se parecen pero difieren En la finalidad En las variables REGRESION variable independiente fija variable dependiente aleatoria CORRELACION NO ha distinción entre variable dependiente e independiente e son variables aleatorias 5

26 Cálculos en correlación regresión s Entrar Hallar Borrar la memoria estadística Entrar Hallar s Borrar la memoria estadística Entrar los productos ( ) Hallar Calcular: Cov. r Cov Testar: s. s Ho: r 0 b rs s a b a b 6