Objetivo: Proponer modelos para analizar la influencia

Transcripción

1 TEMA 3: REGRESIÓN LINEAL SIMPLE Objetivo: Proponer modelos para analizar la influencia de una variable cuantitativa sobre un fenómeno que nos interesa estudiar. 1. Modelo lineal l de regresión 2. Estimación curvilínea 3. Estimación y contrastes en la recta de regresión 4. Estimación de la respuesta media y predicción 1

2 1. Modelo lineal de regresión Se trata estudiar la relación entre dos variables cuantitativas que observamos en los mismos individuos (tenemos siempre pares de datos). El interés principal se centra en analizar si la relación es lineal o curvilínea, cuánto de fuerte es la relación y predecir nuevos valores. Ejemplos: A. La relación entre la altura de los descendientes y sus progenitores es una regresión, cuanto más altos los progenitores, más altos los descendientes. B. En un estudio sobre la sensibilidad de la población española frente al cambio climático, se quiere ver si depende d de la edad. d Diseño de experimentos y regresión En el diseño de experimentos las variables explicativas se tratan siempre como cualitativas. No se tiene en cuenta si existe un orden entre los niveles. En la regresión las variables explicativas siempre se tratan como cuantitativas. El orden y la magnitud es importante. 2

3 1. Modelo de regresión lineal Modelo y i 2 x u, u i N (0, ) 0 1 i i i 1,,n Las hipótesis del modelo E(y)=β β 0 +ββ 1 x independientes Los datos E(y x n ) E(y x 3 ) E(y x 2 ) E(y x 1 ) x 1 x 2 x 3 x n n Interpretación de los parámetros de la recta de regresión: β 0 es el punto de corte y representa el valor medio de la respuesta (y) cuando la variable explicativa (x) vale cero β 1 es la pendiente y representa el incremento de la respuesta media (y) cuando la variable explicativa (x) aumenta en una unidad. d 3

4 1. Modelo de regresión lineal 4

5 1. Modelo de regresión lineal Comprobar si las hipótesis del modelo son ciertas Problema: La relación no es lineal 5

6 1. Modelo de regresión lineal Comprobar si las hipótesis del modelo son ciertas Problema de heterocedasticidad 6

7 1. Modelo de regresión lineal Comprobar si las hipótesis del modelo son ciertas Problema de heterocedasticidad y linealidad 7

8 2. Estimación curvilínea Buscamos que relación describe mejor los datos 8

9 2. Estimación curvilínea Transformaciones más habituales 9

10 2. Estimación curvilínea Transformaciones más habituales 10

11 2. Estimación curvilínea Consecuencia de las transformaciones logarítmicas La interpretación de los parámetros se refiere a la relación entre las variables transformadas, no a las originales es el incremento de y cuando x aumenta 1 unidad d x 100 es el incremento porcentual de y cuando x aumenta 1 unidad es el incremento de y cuando x aumenta un 1 por ciento x 100 es el incremento porcentual de y cuando x aumenta un 1 por ciento 11

12 2. Estimación curvilínea Ejemplo. Peso del cerebro en función del peso corporal para 62 especies de mamíferos Elefante asiático Elefante africano Hombre 12

13 2. Estimación curvilínea Cómo es la relación? 13

14 2. Estimación curvilínea Buscamos que relación describe mejor los datos 14

15 2. Estimación curvilínea Buscamos que relación describe mejor los datos El SPSS nos proporciona un resumen del ajuste con los distintos modelos Resumen del modelo y estimaciones de los parámetros Variable dependiente: Porcentaje de fracaso escolar Estimaciones de los Resumen del modelo parámetros Ecuación R cuadrado F gl1 gl2 Sig. Constante b1 Lineal,550 25, ,000 38,494 -,001 Logarítmica,572 28, , ,975-19,600 Inversa,576 28, ,000 -, ,8 Exponencial,594 30, ,000 51,642-7,4E-005 La variable independiente esrenta per cápita bruta en 2003 (euros). OJO! Antes de aceptar un modelo no lineal a partir de las apariencias de un gráfico, o incluso del análisis de la tabla resumen, debemos hacer las correspondientes transformaciones y representarlas NO SIEMPRE LA TRANSFORMACIÓN FUNCIONA 15

16 2. Estimación curvilínea Buscamos qué relación describe mejor los datos 16

17 3. Estimación y contrastes en la recta de regresión Estimación de parámetros en regresión Recta de regresión estimada Residuos del modelo: Los grados de libertad de los residuos son n-2 Estimación de la varianza Varianza residual 17

18 3. Estimación y contrastes en la recta de regresión Test t: Contraste de la regresión (la pendiente es nula) La hipótesis nula es que no hay relación lineal entre las variables Test F: Contraste de la regresión (tabla ANOVA) El modelo de regresión lineal NO sirve para explicar la respuesta El modelo de regresión lineal SI sirve para explicar la respuesta (Cuando H 0 y las hipótesis del modelo son ciertas) 18

19 3. Estimación y contrastes en la recta de regresión Descomposición de la variabilidad en regresión SCT = SCE + SCR 19

20 3. Estimación y contrastes en la recta de regresión Comentarios: El contraste de la regresión supone que la relación es LINEAL. Por tanto, si no rechazamos la hipótesis nula lo único que podemos decir es que no hemos encontrado evidencia de que exista una relación lineal,,puede existir una relación no lineal En REGRESIÓN SIMPLE el test de la F de la tabla ANOVA coincide exactamente con el contraste de que la pendiente es nula (test de la t) ) 20

21 3. Estimación y contrastes en la recta de regresión Cómo evaluamos la fuerza del ajuste de una recta regresión? Coeficiente de determinación R 2 Es la proporción p de variabilidad explicada por la regresión: R 2 = SCE /SCT En regresión simple el coeficiente de determinación coincide con el coeficiente de correlación al cuadrado. 21

22 3. Estimación y contrastes en la recta de regresión Diagnóstico de las hipótesis del modelo Si las hipótesis del modelo son ciertas, entonces los residuos son aproximadamente Podemos utilizar contrastes y gráficos para ver si hay EVIDENCIA CLARA en contra de la hipótesis i de normalidad d 22

23 3. Estimación y contrastes en la recta de regresión Ejemplo de regresión lineal simple Una serie de boyas situadas en el mar Cantábrico registran la altura significativa de ola y la velocidad del viento en el mismo instante 0 ˆ 1 H H 0 1 : 0 0 : 0 ˆ H0 : 1 0 H : : 1 23

24 3. Estimación y contrastes en la recta de regresión Una serie de boyas situadas en el mar Cantábrico registran la altura significativa de ola y la velocidad del viento en el mismo instante 24

25 3. Estimación y contrastes en la recta de regresión Una serie de boyas situadas en el mar Cantábrico registran la altura significativa de ola y la velocidad del viento en el mismo instante Comprobamos con los residuos que no hay ninguna evidencia i en contra de la hipótesis de normalidad 25

26 4. Estimación de la respuesta media y predicción Estimación de la media de Y Cuál es la respuesta media para un valor fijo de x = Xh? Como no conocemos la media, proponemos p la respuesta media que hemos estimado con el modelo la recta ˆ ˆ ˆ mh 0 1x h mh Xh Predicción de Y Qué respuesta predecimos para un nuevo valor de x=xh? yh Xh La mejor propuesta es la media de las y cuando x=xh.como no conocemos la media, proponemos la respuesta media que hemos estimado con el modelo la recta yˆ ˆ ˆ x yh 0 1x h 26

27 4. Estimación de la respuesta media y predicción Bandas de confianza y de predicción ió Bandas de predicción ió Bandas de confianza media Las dos bandas tienen la misma forma, siempre más estrechas en la media de las x, que es donde se tiene más información La banda de predicción es siempre mayor. Para predecir, proponemos la media (primera fuente de incertidumbre), que se tiene que estimar (segunda fuente de incertidumbre). La estimación de la media sólo tiene esta última incertidumbre 27

28 4. Estimación de la respuesta media y predicción Una serie de boyas situadas en el mar Cantábrico registran la altura significativa de ola y la velocidad del viento en el mismo instante Estimación de la altura de ola media para velocidades de viento de 7 nudos? Estimación puntual de la media Intervalo de confianza para la estimación de la media 7 Predicción puntual Intervalo de predicción Predicción de la altura de ola para una velocidad de viento de 7 nudos? 28