Vamos a estudiar: Relación entre variables. Cómo influye una variable X sobre otra variable Y

Transcripción

1 Regresión

2 Vamos a estudiar: Relación entre variables. Cómo influye una variable X sobre otra variable Y

3 Vamos a estudiar: Relación entre variables. Cómo influye una variable X sobre otra variable Y X Y

4 Existen dos tipos de relaciones: Deterministas: Si conocemos el valor de X, el valor de Y queda perfectamente establecido. Aparecen en ciencias. Ejemplo: Una resistencia de valor R ohmios. La caída de tensión en sus bornes es: V=R.I siendo I la Intensidad en amperios

5 Existen dos tipos de relaciones: Deterministas: Si conocemos el valor de X, el valor de Y queda perfectamente establecido. Aparecen en ciencias. Ejemplo: Una resistencia de valor R ohmios. La caída de tensión en sus bornes es: V=R.I siendo I la Intensidad en amperios I V R V=R.I

6 Deterministas: Deterministas: Si R=2 Ohmios Circulan 3 Amperios de intensidad La caída de tensión será de 2.3=6 voltios. Circulan 4 Amperios de intensidad La caída de tensión será de 2.4=8 voltios. I V R V=R.I

7 Deterministas: Deterministas: Si R=2 Ohmios Circulan 3 Amperios de intensidad La caída de tensión será de 2.3=6 voltios. Circulan 4 Amperios de intensidad La caída de tensión será de 2.4=8 voltios. SIEMPRE I V Tensión (V) R Voltios al pasar intensidades por una R= V=R.I Intensidad (A)

8 Relaciones No Deterministas No Deterministas: Si conocemos el valor de X, el valor de Y no queda perfectamente establecido. Hay una cierta variabilidad Aparecen en ciencias, en ciencias sociales y en problemas de calidad. Ejemplo: Conocemos el peso y la altura de 117 estudiantes de ingeniería:

9 Relaciones no deterministas 121 Plot of peso vs altura 101 peso altura Si un estudiante mide 170cm su peso estará razonablemente entre 55 y 75 kg

10 Relaciones no deterministas 121 Plot of peso vs altura 101 peso altura Si un estudiante mide 170cm su peso estará razonablemente entre 55 y 75 kg

11 La regresión estudia las relaciones no deterministas Ajusta una línea recta a la nube de puntos: 121 Plot of Fitted Model 101 peso altura

12 El El modelo de de regresión hace básicamente eso: ajustar líneas a datos que sean razonablemente rectos. La recta ajustada es la recta de regresión y explica la relación entre la variable Y (Peso) y la variable X (Altura).

13 El El modelo de de regresión hace básicamente eso: ajustar líneas a datos que sean razonablemente rectos. La recta ajustada es la recta de regresión y explica la relación entre la variable Y (Peso) y la variable X (Altura). X Y Independiente Explicativa Dependiente Respuesta A explicar

14 La recta ajustada, que proporciona el ordenador, es: 121 Plot of Fitted Model 101 peso 81 Peso = -100, Altura altura Una persona con Altura=1.80m pesará según la recta de regresión: Peso= -100, *180 = 74,38 Kg Indudablemente no todas las personas de 1.80 m pesan Kg Indudablemente no todas las personas de 1.80 m pesan Kg Si un individuo de altura=1.80m tiene Peso=76 kg, el error o residuo del modelo será: e= = 1.62 Kg

15 El modelo de regresión sirve para predecir Y en función de X. Pero siempre cometeremos algún error. Por ello la ecuación de la regresión será: y = β + β x + u i 0 1 i i y i el de la i representa el valor de la variable respuesta para la la observación i-ésima x i el de la i representa el valor de la variable explicativa para la la observación i-ésima. Los valores β 0 1 los 0 y β 1 son los parámetros que hay que estimar con los los datos. u i el i representa el error

16 El modelo de regresión sirve para predecir Y en función de X. Pero siempre cometeremos algún error. Por ello la ecuación de la regresión será: y β + β x + 0 i = 1 i u i Peso i = Altura i +error i

17 Regresión Simple Variable Independiente Variable Dependiente y β + β x + 0 i = 1 i u i

18 Veamos otro ejemplo y para qué sirve Estudiamos el tiempo que tarda un juzgado en dar solución a un proceso en función del número de casos registrados Los datos:

19 Si estudiamos los retrasos a lo bestia El retraso medio es de 17 meses. El juzgado número 18 tarda (VER DATOS): 18.49

20 Vamos a estudiarlo de otro modo: El gráfico de Duración vs. Número de casos es: 25 Duración media vs. número de casos duracion media Numero de casos

21 La recta de regresión será: Duracion= *Num Casos 25 Duración vs. Número de casos duracion media Numero de casos Juzgado 18 El juzgado 18 recibe 741 casos. Según la recta de regresión debería Resolverlos en una duración media de: Duración= *741=19.59

22 Duración vs. Número de casos duracion media Resuelve en meses Debería resolver en meses Numero de casos Recibe 741 casos Es un juzgado muy eficiente: Resuelve en menos tiempo del que le corresponde 18, =-1.09 meses

23 duracion media 25 LENTOS Duración vs. Número de casos Numero de casos RÁPIDOS Los juzgados con error de predicción o residuo negativo, resuelven antes de los que les corresponde por volumen de trabajo. Los positivos (por encima de la línea) resuelven después.

24 La regresión nos permite: Clasificar los juzgados por su rapidez teniendo en cuenta el volumen de trabajo. Además como sabemos que un juzgado con 100 casos más tendrá una duración media de 1,6 meses más, podemos evaluar la necesidad de incrementar el personal. Duracion= *Num Casos

25 El modelo de regresión sirve para predecir Y en función de X. Pero siempre cometeremos algún error. Por ello la ecuación de la regresión será: y β + β x + 0 i = 1 i u i Peso i = Altura i +error i Duracion i = *Num Casos i +error i Duracion 18 = *Num Casos 18 +error 18

26 Estos análisis nos sirven para ver datos Y entenderlos Y sacar conclusiones.otros ejemplos

27 Otro ejemplo: Tasa de alfabetización femenina vs. Masculina en diversos paises 100 Plot of Fitted Model Alfabfem Alfabmasc Conclusiones?

28 Hipótesis del modelo: 1. Linealidad 2. Homocedasticidad 3. Independencia 4. Normalidad Resumen

29 Linealidad Fundamental: Si vamos ajustar una línea recta, los datos deben ser razonablemente rectos Datos rectos: Recta de regresión representa bien la estructura de los datos

30 Linealidad: Datos no lineales 1,3 1 Y 0,7 0,4 0,1-0,2-1 -0,6-0,2 0,2 0,6 1 X Plot of Fitted Model 1,3 1 Y 0,7 0,4 0,1-0,2-1 -0,6-0,2 0,2 0,6 1 X Datos no no rectos: Recta de de regresión no no representa la la estructura de de los los datos

31 Linealidad: Comprobación Siempre: Haremos el el gráfico X-Y de de los los datos y comprobaremos si si son lineales. Si no son lineales hay que transformarlos Ajustar un recta a datos curvos es es un sinsentido y nos lleva a conclusiones equivocadas

32 Homocedasticidad La nube de puntos debe tener el mismo grosor La dispersión o varianza de los datos es constante. Si no se cumple se llaman HETEROCEDASTICOS. 121 Plot of peso vs altura 101 peso altura Datos homocedásticos: Varianza constante

33 Datos heterocedásticos Es un fenómeno frecuente. En economía los gastos de las familias tienen variabilidad creciente a medida que aumentan los ingresos: (X 1,E6) 1 Gastos - Ingresos 0,8 Gastos 0,6 0,4 0, (X ) Ingresos Datos heterocedásticos: Varianza creciente

34 Homocedasticidad: : Comprobación Siempre: Haremos el el gráfico X-Y de de los los datos y comprobaremos si si son homocedásticos. Si no son homocedásticos hay que transformarlos Ajustar un recta a datos heterocedásticos nos lleva a conclusiones equivocadas

35 Independencia Fundamental: Los datos deben ser independientes. Una observación (Un punto) no debe dar información sobre las demás Sabremos por el tipo de datos si son adecuados para el análisis. No No sirven datos temporales Datos independientes: Recta de de regresión representa bien la la estructura de de los los datos

36 Datos temporales Independencia Año Coches vendidos Número de nacidos Datos dependientes: La recta de regresión sacará falsas relaciones. Relaciones espúrias

37 Normalidad Admitimos que los datos son normales No lo lo comprobaremos a priori

38 El modelo

39

40

41 Hay relación? Cumple las hipótesis?

42 Hay relación? Cumple las hipótesis?

43 Hay relación? Cumple las hipótesis?

44 Hay relación? Cumple las hipótesis? 3.5 x

45 Hay relación? Cumple las hipótesis? Y ,3 0,7 1,7 2,7 3,7 X

46 Hay relación? Cumple las hipótesis? 3.5 x

47 Hay relación? Cumple las hipótesis?

48 Hay relación? Cumple las hipótesis? Y ,9 6,9 8,9 10,9 12,9 14,9 X

49 Hay relación? Cumple las hipótesis? 6 x

50 Hay relación? Cumple las hipótesis? 1 x

51 Hay relación? Cumple las hipótesis?

52 (X ) 6,8 Nacimientos vs. Cigüeñas Nacimientos 6,5 6,2 5,9 5,6 5, (X 1000) Número de Cigüeñas

53 Nacimientos (X ) 6,8 6,5 6,2 5,9 5,6 5,3 5 Nacimientos vs. Cigüeñas (X 1000) Número de Cigüeñas (X ) 6,8 6,5 6,2 5,9 5,6 5,3 5 Nacimientos (X 1000) Cigüeñas

54 (X ) 6,8 Nacimientos Nacimientos 6,5 6,2 5,9 5,6 5, Venta de Automóviles

55 Nacimientos (X ) 6,8 6,5 6,2 5,9 5,6 5,3 5 Nacimientos Venta de Automóviles Venta de automóviles (X ) 6,8 6,5 6,2 5,9 5,6 5,3 5 Nacimientos

56 Si no se cumplen las hipótesis hay que transformar: LOGS (X ) 10 Gatos totales Vs. Ingresos totales 8 GTINE ITOTAL (X ) Gatos totales Vs. Ingresos totales en logs 14 log(gtine) log(itotal)

57 Si no se cumplen las hipótesis hay que transformar: Cuadrado Y-X Y-X

58 Si no se cumplen las hipótesis hay que transformar: Raíz cuadrada Y-X Y- x

59 Si no se cumplen las hipótesis hay que transformar: exponencial Y-X x Y-exp(X)

60 Regresión: Estimación Regresión: Estimación Regresión: Estimación = = = = n i i n i i i x x x x y y x y x ) ( ) )( ( ) var( ), cov( ˆβ 2 ˆ = = n e S n i i R y 1x 0 ˆ ˆ β β =

61 Datos: Censo de Floridablanca 1787 Provincia de Sevilla (X 10000) 4 Plot of VARONES vs MUJERES VARONES (X 10000) MUJERES (X 10000) 1 Plot of VARONES vs MUJERES VARONES (X 10000) MUJERES

62 Datos: Censo de Floridablanca 1787 Provincia de Sevilla (X 10000) 4 Plot of VARONES vs MUJERES VARONES (X 10000) MUJERES (X 10000) 4 Plot of Fitted Model VARONES (X 10000) MUJERES

63 Datos: Censo de Floridablanca 1787 Provincia de Sevilla (X 10000) 4 Plot of Fitted Model VARONES (X 10000) MUJERES ˆ β ˆ β 1 0 Regression Analysis - Linear model: Y = a + b*x Dependent variable: VARONES Independent variable: MUJERES Standard T Parameter Estimate Error Statistic P-Value Intercept 77, ,4564 2, ,0150 Slope 0,9293 0, ,547 0,0000 = = Varones= Mujeres

64 Interpretación del modelo: Varones = Mujeres 1. Signo del estimador beta 1 : Información sobre la relación entre X e Y. Positivo: Si X aumenta Y también aumenta. Negativo: Si X aumenta Y disminuye. Al aumentar el número de mujeres aumenta el de varones

65 Interpretación del modelo: Varones = Mujeres Valor del estimador beta 1 : Información sobre cómo se transmite el efecto de X sobre Y. Si X aumenta, el efecto se transmite a Y multiplicado por beta 1 X Y = β * ˆ1 X Si un pueblo tiene 100 mujeres más Tendrá 0.93 x 100 = 93 Hombres más

66 Resultados Varones = Mujeres Beta 1 = 0.93 Si fuera 1, a 100 mujeres más le corresponderían 100 hombres más. Puede valer 1 Beta 1?

67 Puede valer 1 Beta 1? Solución: Intervalo de confianza Contraste de hipótesis

68 INTERVALOS DE CONFIANZA Un intervalo de de confianza proporciona una zona en en la la que con una confianza predeterminada estará el el auténtico valor de de Beta 11 Límite Beta 1 Límite Inferior Superior

69 INTERVALOS DE CONFIANZA Se Se calcula: Beta 11-2xSE(Beta 11 )) Beta 11 +2xSE(Beta 11 )) El El SE(Beta 11 )) se se denomina Error estándarde de Beta 11 y lo lo calculael el programa Beta 1-2xSE(Beta 1 ) Beta 1 Beta 1 +2xSE(Beta 1 )

70 INTERVALOS DE CONFIANZA Se Se calcula: Beta Beta 1 1 ) Beta 1 1 ) 1-2xSE(Beta 1 ) Beta 1 +2xSE(Beta 1 ) El El SE(Beta 1 ) se de Beta 1 lo el 1 ) se denomina Error estándar de Beta 1 y lo calcula el programa Regression Analysis - Linear model: Y = a + b*x Dependent variable: VARONES Independent variable: MUJERES Standard T Parameter Estimate Error Statistic P-Value Intercept 77, ,4564 2, ,0150 Slope 0,9293 0, ,547 0,0000 Beta Beta 1 1 ) Beta 1 1 ) 1-2xSE(Beta 1 ) Beta 1 +2xSE(Beta 1 ) x x

71 INTERVALOS DE CONFIANZA Beta Beta 1 1 ) Beta 1 1 ) 1-2xSE(Beta 1 ) Beta 1 +2xSE(Beta 1 ) x x

72 Consideraciones sobre el error estándar SE(Beta 1 ) SE ( ˆ β ) = i ˆ 2 R S ns 2 x La La amplitud del del intervalo de de confianza depende del del intervalo de de confianza: Si Si SE SE es es grande aumenta la la imprecisión: S R grande genera más imprecisión n grande más precisión S xx grande más precisión

73 Si Beta 1 auténtica es cero... Beta 1 =0 Implica que Y no depende de X X Y

74 Si Beta 1 auténtica es cero... Beta 1 =0 Implica que Y no depende de X

75 Si Beta 1 auténtica es cero... Beta 1 =0 Implica que Y no depende de X Lo sabemos construyendo un intervalo de confianza: Si el cero está dentro del intervalo, Beta 1 puede valer cero. Variable X no es significativa Si el cero está fuera, Beta 1 no puede valer cero. Variable X es significativa

76 Hay que comprobar si Beta 1 auténtica puede ser cero... Beta 1 =0 Mediante un intervalo de confianza Mediante un contraste t. Para los datos de Sevilla: Beta Beta 1 1 ) Beta 1 1 ) 1-2xSE(Beta 1 ) Beta 1 +2xSE(Beta 1 ) x x

77 Contrastes de hipótesis: Contraste t Una forma rápida y sencilla de saber si Beta 1 auténtico puede valer cero es utilizar el contraste t El contraste t lo proporciona el ordenador. H 0 : Beta 1 =0 H 1 : Beta 1 distinto de 0 Si t<2 sin importar el signo. Nos quedamos con H 0. Si t>2 sin importar el signo. Nos quedamos con H 1.

78 Contraste t Regression Analysis - Linear model: Y = a + b*x Dependent variable: VARONES Independent variable: MUJERES Standard T Parameter Estimate Error Statistic P-Value Intercept 77, ,4564 2, ,0150 Slope 0,9293 0, ,547 0,0000 T T de de Beta 11 es es 137, que es es mayor que Por tanto el el número de de mujeres es es significativo: El número de mujeres aporta información sobre el número de varones.

79 Ejemplo: Altura vs última cifra del teléfono Altura Plot of Altura vs Telefono Telefono Regression Analysis - Linear model: Y = a + b*x Dependent variable: Altura Independent variable: Telefono Standard T Parameter Estimate Error Statistic P-Value Intercept 166,317 2, ,6952 0,0000 Slope 0, , , , Altura= Telefono Si el teléfono sube una unidad se crece 0.66cm?????????????????????????????????

80 Siempre nos fijamos en la t Si es menor que 2 (No importa el signo)...la variable X o influye sobre Y

81 R 2 Indica cuánto de Y es explicado por X Datos de Sevilla: R 2 =99.4%

82 Resumen Estudiamos los datos y vemos si cumplen las hipótesis. Si no las cumplen transformamos. Ajustamos el modelo. Intervalos y contrastes para ver si X es significativa (INFLUYE) sobre Y

83 Diagnosis La diagnosis sirve para ver si se cumplen las hipótesis del modelo a posteriori. Hay que comprobar básicamente: Linealidad Homocedasticidad

84 Lo hacemos mediante Gráfico de residuos frente a valores predichos Este gráfico si el modelo está bien ajustado no debe presentar ninguna estructura.

85 Ejemplo: Datos Lineales

86 Ejemplo

87 Ejemplo: Datos Homocedásticos

88 Ejemplo x

89 Ejemplo 5 x x

90 Perímetro y área de iglesias Plot of area vs perimetro area perimetro Studentized residual 2,7 1,7 0,7-0,3-1,3-2,3 Residual Plot predicted area

91 Plot of area vs perimetro area perimetro Plot of log(area) vs log(perimetro) 4 log(area) ,9-0,4 0,1 0,6 1,1 1,6 log(perimetro)

92 Plot of log(area) vs log(perimetro) 4 log(area) ,9-0,4 0,1 0,6 1,1 1,6 log(perimetro) Residual Plot Studentized residual 2,7 1,7 0,7-0,3-1,3-2,3-0,1 0,9 1,9 2,9 3,9 4,9 predicted log(area) Regression Analysis - Linear model: Y = a + b*x Dependent variable: log(area) Independent variable: log(perimetro) Standard T Parameter Estimate Error Statistic P-Value Intercept 1, , ,9261 0,0000 Slope 1, , ,9802 0,0000 Log(area)= Log(perimetro) (48.9) (46.9) R 2 =98.9%

93 Log(area)= Log(perimetro) (48.9) (46.9) Cuando hay logaritmos: Incrementos porcentuales. Si el perímetro se incrementa un 10%, el area se incrementará un 1.68 x 10 = 16.8 %

94 Datos Análisis gráfico 6 x Cumplen las hipótesis? Si No transformar Estimación. Contraste t Conclusiones R Modelo Válido: Predicciones Diagnosis -500 Gráfico 0de residuos vs. 60 Valores 80 previstos 100 No Tiene estructura? Si x 10

95 FIN

96 Regresión Múltiple

97 En regresión simple: Y es explicada por una sola variable En regresión múltiple: Y es explicada por más variables

98 Regresión múltiple X 2 X 1 Y X 3 X 4

99 La ecuación de regresión será: Y = β 0 + β 1 X 1 + β 2 X β k X k + u Las β representan la influencia (PESOS) que las variables X tienen sobre Y

100 Las hipótesis en regresión múltiple Son idénticas a las de regresión simple: 1. Linealidad 2. Homocedasticidad 3. Independencia 4. Normalidad Si tenemos dos variables explicativas: Y = β 0 + β 1 X 1 + β 2 X 2 + u Las hipótesis indican:

101 Hipótesis Y X 1 X 2

102 Y Hipótesis Linealidad: Los puntos se ajustan a un plano X 1 X 2

103 Y Hipótesis Linealidad: Los puntos se ajustan a un plano X 1 X 2

104 Y Hipótesis Linealidad: Los puntos se ajustan a un plano X 1 X 2

105 Y Hipótesis Linealidad: Los puntos se ajustan a un plano Homocedasticidad: La nube de puntos tiene el mismo grosor X 1 X 2

106 Y Hipótesis Linealidad: Los puntos se ajustan a un plano Homocedasticidad: La nube de puntos tiene el mismo grosor X 1 X 2 Nube de puntos con aspecto de Almohada: plana y de grosor constante

107 Estimación Lo hace el ordenador. Proporciona: 1. Estimadores: valores de las Betas 2. Errores estándar: medida de la precisión. Sirve para construir intervalos de confianza 3. Estadísticos t: para ver si las variables son significativas (t>2) o no (t<2) 4. R 2 : Cuánto de Y es explicado por las X

108 Interpretación de regresiones MpG i i = Pot i i Acel i i Precio ii (-16.22) (-3.95)( (2.02) R 2 =65.6% MpG= Millas recorridas por galón Pot= Potencia (CV) Acel= Aceleración Precio= Precio

109 Interpretación de regresiones Log R i i = Log Ventas i i 0.5 Log Num Empleados (4.2) (5.6) (-7.4)( R 2 =67% R= Remuneración del director general de de la la empresa Ventas= Ventas de de la la empresa Num Empleados= Número de de empleados de de la la empresa

110 Interpretación de regresiones Log A i i = log S i i 0.5 Log Años i i 0.02Edad ii (1.2) (6.6) (-4.4)( (-3.7)( R 2 =54.3% A = Precio del alquiler de de viviendas S = Superficie del piso Años= Antigüedad del contrato Edad= Edad del edificio

111 Universidad Carlos III

112 Universidad Carlos III No todas las preguntas son igualmente importantes. Variables Globales: Aumenta interés interés por por la la materia materia Satisfacción global global con con el el profesor profesor Me Me gustaría gustaría cursar cursar otra otra asignatura con con este este profesor profesor Variables parciales: CLARIDAD ENTUSIASMO PARTICIPACION LECTURAS PUNTUALIDAD DESPACHO Variables de de Prácticas Utilidad Utilidad Satisfacción Pizarra Pizarra Satisfacción Laboratorio

113 Aumenta el interés Global Prof Trab. Personal Despacho lecturas Claridad Participación Global Prácticas Entusiasmo Pizarra Laboratorio

114 Aumenta el interés Global Prof Trab. Personal Despacho lecturas Claridad Participación Global Prácticas Entusiasmo Pizarra Laboratorio

115 Aumenta el interés Global Prof Trab. Personal Despacho lecturas Claridad Participación Global Prácticas Entusiasmo Pizarra Laboratorio

116 Más Profesor Global Prof Aumenta el interés Trab. Personal Despacho lecturas Claridad Participación Global Prácticas Entusiasmo Pizarra Laboratorio

117 Más Profesor Global Prof Aumenta el interés Trab. Personal Despacho lecturas Claridad Participación Global Prácticas Entusiasmo Pizarra Laboratorio

118 Interpretación de regresiones Multiple Regression Analysis Dependent variable: Satis_profesor Standard T Parameter Estimate Error Statistic P-Value CONSTANT -0, , , ,0016 Entusiasmo_intere 0, , , ,0000 Organiza_clases 0, , ,9202 0,0000 Prom_participacio 0, , , ,0001 Sat Global = Entus i i +0.72Organiza i i +0.1 Part ii (7.8) (30.9) (3.9) R 2 =95.4%

119 Más Profesor Global Prof Aumenta el interés Trab. Personal Despacho lecturas Claridad Participación Global Prácticas Entusiasmo Pizarra Laboratorio

120 Interpretación de regresiones Multiple Regression Analysis Dependent variable: Clase_Practica Standard T Parameter Estimate Error Statistic P-Value CONSTANT 0, , , ,0001 Pof Laboratorio 0, , , ,0000 Prof_Pizarra 0, , , ,0000 Sat Prac= Lab i i Pizarra ii (8.55) (4.19) R 2 =95.4%

121 Regresión múltiple X 2 X 1 Peso2 Peso1 Y X 3 Peso3 Peso4 X 4

122 Diagnosis Gráfico de residuos vs. Valores ajustados Gráfico de residuos vs. Valores ajustados Residual Plot Studentized residual 4,9 2,9 0,9-1,1-3, predicted mpg Bien????

123 Miramos los datos: MpG Potencia No lineal No lineal Acel Precio

124 Tomando logaritmos log(mpg) log(pot) log(acel) log(precio)

125 Regresión en Logaritmos: Log MpG i i = log Pot i - i log Acel i i log Precio ii (-20.6) (-6.2)( (4.4) R 2 =75.3% MpG= Millas recorridas por galón Pot= Potencia (CV) Acel= Aceleración (Tiempo de de 0-100Km) 0 Precio= Precio

126 Residuos Studentized residual 4,1 2,1 0,1-1,9-3,9 Residual Plot 2,7 2,9 3,1 3,3 3,5 3,7 3,9 predicted log(mpg)

127 R 2 corregido R 2 tiene un problema: Si metemos variables en el modelo R 2 aumenta aunque las variables sean no significativas Para evitarlo se define: R 2 R 2 corregido por grados de libertad. Al introducir nuevas variables en el modelo no aumenta

128 FIN

129 Multicolinealidad

130 Ejemplo (X 1000) 3 nacciden 2,5 2 1,5 1 0, (X 1000) matricul Numero de de accidentes en en provincias españolas en en función del número de de vehículos matriculados Dependent variable: nacciden Standard T Parameter Estimate Error Statistic P-Value CONSTANT 278,24 102,518 2, ,0265 matricul 0, , ,682 0,0000 R-squared (adjusted for d.f.) = 93,7703 percent

131 Numero de de accidentes en en provincias españolas en en función del número de de permisos de de conducir (X 1000) 3 nacciden 2,5 2 1,5 1 0,5 0 Ejemplo (X 1000) permisos Dependent variable: nacciden Standard T Parameter Estimate Error Statistic P-Value CONSTANT 216, ,099 1, ,1269 permisos 0, , , ,0000 R-squared (adjusted for d.f.) = 91,3722 percent

132 Regresiones Accid= Matriculas (11.68) Accid= Permisos (9.81)

133 Regresión con las dos variables Dependent variable: nacciden Standard T Parameter Estimate Error Statistic P-Value CONSTANT 250,63 113,216 2, ,0625 matricul 0, , , ,1093 permisos 0, , , ,5098

134 Regresión con las dos variables Dependent variable: nacciden Standard T Parameter Estimate Error Statistic P-Value CONSTANT 250,63 113,216 2, ,0625 matricul 0, , , ,1093 permisos 0, , , ,5098 R 2 =93.3%

135 Regresiones Accid= Matriculas (11.68) Accid= Permisos (9.81) Accid= Matriculas Permisos (1.8) (0.69)

136 Qué está pasando? (X 1000) 24 matricul (X 1000) permisos Correlación=.975

137 Regresión: : Un problema A veces las variables independientes son muy parecidas: Contienen la misma información. Variables Independientes Variable Dependiente

138 Regresión: : Un problema El modelo no puede diferenciar entre las variables. Variables Independientes Variable Dependiente

139 En nuestro ejemplo Matrículas Permisos Num Accid Ambas son muy parecidas para distinguir entre ellas

140 En nuestro ejemplo Solución: eliminar una variable: No perdemos casi información Matrículas Permisos Num Accid Ambas son muy parecidas para distinguir entre ellas

141 En nuestro ejemplo Solución: eliminar una variable: No perdemos casi información Matrículas Num Accid Ambas son muy parecidas para distinguir entre ellas

142 El problema de Multicolinealidad aparece en casi todos los trabajos estadísticos. Tendemos a medir una cosa de muchas formas Se detecta: En regresión simple las variables son significativas Al introducir nuevas variables dejan de ser significativas

143 Otro ejemplo: Cata de quesos: Factores: 1. Acetico 2. Láctico 3. H 2 S

144 Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -61, ,8464-2, ,0196 Acetic 15,6478 4, , ,0017 R-squared (adjusted for d.f.) = 27,7065 percent ACETICO Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -29, ,5823-2, ,0087 Lactic 37,7199 7,1864 5,2488 0,0000 R-squared (adjusted for d.f.) = 47,7947 percent Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -9, , , ,1116 H2S 5, , , ,0000 R-squared (adjusted for d.f.) = 55,5846 percent LACTICO H 2 S

145 Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -26, ,1941-1,2711 0,2145 Acetic 3,8012 4, , ,4062 H2S 5,1456 1, , ,0002 ACETICO Y H 2 S R-squared (adjusted for d.f.) = 55,1227 percent Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -27,5918 8, , ,0048 Lactic 19,8872 7, ,4987 0,0189 H2S 3, , , ,0017 R-squared (adjusted for d.f.) = 62,5903 percent Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -51,366 21,1744-2, ,0222 Lactic 31,3923 8, , ,0016 Acetic 5, , , ,2522 R-squared (adjusted for d.f.) = 48,4741 percent LACTICO Y H 2 S ACETICO y LACTICO

146 ACETICO, LACTICO y Y H 2 S Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -28, ,7354-1,4632 0,1554 H2S 3, , , ,0042 Lactic 19,6705 8, , ,0311 Acetic 0, , , ,9420 R-squared (adjusted for d.f.) = 61,1595 percent

147 TASTE Lactico 47% Acetico Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -51,366 21,1744-2, ,0222 Lactic 31,3923 8, , ,0016 Acetic 5, , , ,2522 R-squared (adjusted for d.f.) = 48,4741 percent

148 TASTE Acetico H 2 S 55% Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value CONSTANT -26, ,1941-1,2711 0,2145 Acetic 3,8012 4, , ,4062 H2S 5,1456 1, , ,0002 R-squared (adjusted for d.f.) = 55,1227 percent

149 TASTE Lactico 47% H 2 S 55% Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value La información de Acético está contenida tanto en Láctico Como en H 2 S. La solución es eliminar Acético. No perdemos información CONSTANT -27,5918 8, , ,0048 Lactic 19,8872 7, ,4987 0,0189 H2S 3, , , ,0017 R-squared (adjusted for d.f.) = 62,5903 percent

150 TASTE Lactico 47% H 2 S 55% Acetico Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value La información de Acético está contenida tanto en Láctico Como en H 2 S. La solución es eliminar Acético. No perdemos información CONSTANT -27,5918 8, , ,0048 Lactic 19,8872 7, ,4987 0,0189 H2S 3, , , ,0017 R-squared (adjusted for d.f.) = 62,5903 percent

151 TASTE Lactico 47% H 2 S 55% Dependent variable: taste Standard T Parameter Estimate Error Statistic P-Value La información de Acético está contenida tanto en Láctico Como en H 2 S. La solución es eliminar Acético. No perdemos información CONSTANT -27,5918 8, , ,0048 Lactic 19,8872 7, ,4987 0,0189 H2S 3, , , ,0017 R-squared (adjusted for d.f.) = 62,5903 percent

152 FIN

153 Variables Cualitativas

154 Estudiamos Pesos - Alturas Peso Es igual la relación para hombres que para mujeres? Altura

155 Estudiamos Pesos - Alturas Peso Es igual la relación para hombres que para mujeres? Peso Altura Altura

156 Estudiamos Pesos - Alturas Peso Es igual la relación para hombres que para mujeres? Peso Altura Altura Si la relación no es igual, podemos cometer errores graves:

157 Estudiamos Pesos - Alturas Peso Si la relación no es igual, podemos cometer errores graves: Peso Altura Altura Creer que no es significativa x

158 Estudiamos Pesos - Alturas Peso Si la relación no es igual, podemos cometer errores graves: Peso Altura Altura Estimar la relación inversa

159 Ejemplos Variable Y Variable X Grupo que puede influir Peso Altura Sexo: Hombre o Mujer Consumo de un trabajador Ingresos trabajador del Status laboral: Paro o Empleado Consumo de un automóvil Margen Ordinario de una Sucursal bancaria Potencia Motor: Diesel o Gasolina Comisiones Sucursal: Urbana o Rural

160 Es necesario introducir el grupo: Para ello: definiremos una variable Z que tome los siguientes valores: Z i =0 si una observación pertenece al grupo A Z i =1 si una observación pertenece al grupo B y estimaremos el siguiente modelo de regresión: yˆ = ˆ β 0 + ˆ β1x + ˆ β2z

161 El modelo que se estima: yˆ = ˆ β 0 + ˆ β1x + ˆ β2z Mujeres: Les asignamos Z=0. Por tanto: yˆ = ˆ β + ˆ β1x Hombres: Les asignamos Z=1. Por tanto: 0 yˆ = ( ˆ β + ˆ β ) + ˆ β1x 0 2

162 Por tanto: Peso yˆ = ( ˆ β + ˆ β ) + ˆ β X ˆβ 2 yˆ = ˆ β + ˆ β1x 0 Altura El efecto es que un hombre de la misma altura pesa Beta 2 kilos más que una mujer de su misma altura. O no?

163 Hagámoslo: Dependent variable: peso Standard T Parameter Estimate Error Statistic P-Value CONSTANT -77, ,0908-4, ,0000 altura 0, , , ,0000 sexo -5, , , ,0208 R-squared = 60,8791 percent R-squared (adjusted for d.f.) = 60,1927 percent Sexo=0 Hombres Sexo=1 Mujeres Por tanto: un hombre que mida 180 pesará= x180=73 kilos... y una mujer de la misma altura pesará= x =68 kilos La diferencia existe porque t=-2.34 que es mayor que 2 en valor absoluto

164 Resultado Peso 5 Kilos Hombres Mujeres Altura

165 Millas por galón: Influye el origen? Dependent variable: mpg Standard T Parameter Estimate Error Statistic P-Value CONSTANT 46,1123 3, ,7049 0,0000 Japon 3, , , ,0071 horsepower -0, , , ,0000 R-squared = 66,4955 percent R-squared (adjusted for d.f.) = 63,8152 percent Japon=0 No Japonés Japon=1 Japonés 1981

166 Millas por galón: Influye el origen? Multiple Regression Analysis Dependent variable: mpg Standard T Parameter Estimate Error Statistic P-Value CONSTANT 49,0576 3, ,0466 0,0000 USA -3, , , ,0131 horsepower -0, , , ,0000 R-squared = 64,9719 percent R-squared (adjusted for d.f.) = 62,1697 percent USA=0 USA=1 1981

167 Interacciones Hemos supuesto que las rectas son paralelas. Y si no lo son?

168 Interacciones Hemos supuesto que las rectas son paralelas. Y si no lo son? Y B A X

169 Modelización de las interacciones La modelización de la interacción es sencilla. Hay que estimar un modelo de regresión entre: la variable Y la variable X la variable Z la interacción de X y Z que se modeliza por el producto (XZ). yˆ = ˆ β 0 + ˆ β1x + ˆ β 2Z + ˆ β 3 XZ Para el grupo con Z=0 Para el grupo con Z=1 ˆ ˆ ˆ β X y = β y = ˆ β + ˆ β X + ˆ β + ˆ β X = ( ˆ β + ˆ β ) + ( ˆ β + ˆ ) X ˆ β 3 Por tanto, analizar si existe interacción se reduce a estimar un modelo de regresión y analizar si el parámetro es significativo (estadístico t mayor de 2) en la estimación realizada.

170 Ejemplo: Ejemplo:Ventas de empresas del sector servicios en Madrid en función de su inversión en I+D Plot of ventas vs id ventas id (X 1000) log(ventas) Plot of log(ventas) vs log(id) log(id) LOG(VENTAS) = Log(ID) (t) (7.88) (10.34) R 2 = 45.7 %

171 Queremos estudiar si hay diferencias por estar en el sector telecomunicaciones z=1 Si está en el sector teleco z=0 si no está en ese sector LOG(VENTAS) = Log(ID) TELECO (t) (11.12) (8.08) (7.03) R 2 = 61.05% Si la empresa funciona en el sector teleco: Log(VENTAS)= log(id) Si funciona en otro sector: Log(VENTAS) = log(id) Estimamos la interacción: Log(VENTAS)= Log(ID)+1.80 TELECO TELECOxLog(ID) (t) (8.84) (8.40) (3.40) (-2.43) R 2 = 62.8% Si no está en el sector teleco Log(VENTAS) = log(id) Si está en el sector teleco Log(VENTAS) = log(id)

172 Variables politómicas Dicotómicas: Dos grupos. Si hay más de dos grupos: Politómicas. Variable Y Variable X Grupos que pueden influir Ingresos de un trabajador Consumo de un automóvil Margen Ordinario de una Sucursal bancaria Años trabajando Potencia Comisiones Sector de actividad: Agricultura Industria Construcción Servicios Origen del automóvil: USA Europa Japón Región Geográfica: Madrid Andalucía Cataluña Castilla Extremadura

173 Introducción de V. Politómicas 1. Si la población puede dividirse en K grupos 2. Se generan k variables dicotómicas con criterio de pertenencia: Ejemplo: Estudiar ingresos de un trabajador en función de su experiencia laboral y el sector de actividad. El sector de actividad puede ser Aricultura, Industria, Construcción y Servicios Generamos AG=1 si el trabajador desarrolla su actividad en el sector agrícola (Si no vale 0) IN=1 si el trabajador desarrolla su actividad en el sector industria (Si no vale 0) CO=1 si el trabajador desarrolla su actividad en el sector construcción (Si no vale 0) SE=1 si el trabajador desarrolla su actividad en el sector servicios (Si no vale 0)

174

175 Multiple Regression Analysis Dependent variable: Renta Standard T Parameter Estimate Error Statistic P-Value CONSTANT 56631,1 7138,79 7, ,0000 Experiencia 7075,51 506,786 13,9615 0,0000 Agricultura ,0 3753,78-7, ,0000 Industria -1626, ,38-0, ,6965 Construcci ,7 6061,56-3, ,0004 Trabajador de servicios (Miles de pesetas): Renta=56+7 EXP Si tiene 20 años de experiencia: Renta=56+140=196 mil pesetas Trabajador de Agricultura Renta=56+7 EXP 28 Si tiene 20 años de experiencia: Renta= =168 mil pesetas Trabajador de Industria (t<2) IGUAL QUE SERVICIOS Renta=56+7 EXP Si tiene 20 años de experiencia: Renta=56+140=196 mil pesetas Trabajador de Construcción Renta=56+7 EXP 22 Si tiene 20 años de experiencia: Renta= =174 mil pesetas

176 FIN