Pronósticos, Series de Tiempo y Regresión. Capítulo 4: Regresión Lineal Múltiple

Transcripción

1 Pronósticos, Series de Tiempo y Regresión Capítulo 4: Regresión Lineal Múltiple

2 Temas Modelo de regresión lineal múltiple Estimaciones de Mínimos Cuadrados Ordinarios (MCO); estimación puntual y predicción Error Cuadrático Medio y Error Estándar Utilidad del modelo: R 2, R 2 ajustada y la prueba F global Prueba de significancia de una variable independiente Intervalos de Confianza para valores esperados y de predicción Temas avanzados

3 Modelo de Regresión Lineal Múltiple Se emplean más de una variable independiente. Relaciona y con x 1, x 2,..., x k Modelo: y x x x k y x1, x2,..., x k k

4 Valor medio de y cuando los valores de las variables independientes son x 1, x 2,..., x k : y x x x k y x1, x2,..., x k k Parámetros: β 0, β 1, β 2,..., β k Término de error:

5 Suposiciones del modelo de regresión lineal: 1. En cualquier combinación dada de valores de x 1, x 2,..., x k, la media de la población de los valores potenciales de = Varianza constante del error. 3. Normalidad de errores. 4. Independencia de los errores. 5. Ninguna relación entre las variables independientes mismas.

6 Ejemplo 4.2 (p. 146). El gerente de una compañía desea evaluar el desempeño de su fuerza de ventas en el territorio de actuación. Recopila información sobre cinco variables, que según su criterio, podrían ejercer alguna influencia sobre las ventas. Tomando una muestra aleatoria de 25 vendedores, se plantea el siguiente modelo de regresión lineal: y x x x x x i 0 1 1i 2 2i 3 3i 4 4i 5 5i i

7 y= ventas anuales en miles de dólares (sales). x 1 = número de meses de empleado en la compañía (time). x 2 = ventas del producto de la compañía y productos de la competencia en el territorio (mktpoten). x 3 = gasto en publicidad (adver). x 4 = promedio ponderado de la participación en el mercado de la compañía en el territorio en los últimos cuatro años (mktshare). x 5 =cambio en la participación en el mercado de la compañía en el territorio en los últimos cuatro años (change). = termino de error aleatorio.

8 Interpretación geométrica del modelo de regresión Región experimental: combinaciones de los valores observados de x 1, x 2,..., x k Plano de medias

9 Interpretación de los parámetros de regresión β 0, β 1,..., βk Los parámetros relacionan la media de la variable dependiente con las variables independientes en un sentido global. β 0 : ordenada al origen (valor de y cuando x 1 =x 2 = x k =0. β i : cambio en la variable dependiente asociado con el incremento de una unidad de la variable x i manteniendo las k-1 variables restantes sin cambio alguno ( i=1,2,...,k-1).

10 Estimaciones de mínimos cuadrados: estimación puntual y predicción Estimación puntual del valor medio y de un valor individual de la variable dependiente y cuando los valores de las variables independientes son x 01, x 02,..., x 0k. ˆ Se predice = 0 y b b x b x b x k 0k Esta ecuación se llama la ecuación de regresión o de predicción de mínimos cuadrados

11 Estimadores MCO utilizando algebra matricial ˆ ( X ' X ) 1 ' X Y donde donde Y y1 y 2... y n X 1 x... x 1 x... x x1 n... x 11 k1 12 k 2 kn 0 ˆ 1... k

12 Ejemplo 4.2 utilizando STATA Matriz de diagramas de dispersión

13 Estimadores MCO Source SS df MS Number of obs = F( 5, 19) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = sales Coef. Std. Err. t P> t [95% Conf. Interval] time mktpoten adver mktshare change _cons

14 Error Cuadrático Medio y Error Estándar Una estimación puntual de σ 2 es el error cuadrático medio: 2 SCE ˆ n k Una estimación puntual de σ es el error estándar: ˆ SCE n k

15 Utilidad del Modelo: R 2, R 2 Ajustada y la Prueba F Global En el caso del modelo de regresión lineal múltiple, 1. Variación total = Y 2 i Y 2. Variación explicada = Y ˆi Y Variación inexplicada = Y ˆ i Yi 4. Variación total = Variación explicada + Variación inexplicada 5. El coeficiente de determinación múltiple es R 2 = (variación explicada)/(variación total) 6. El R 2 es la proporción de la variación total de los valores observados de la variable dependiente que es explicada por las variables independientes incluidas en el modelo de regresión. 7. Coeficiente de correlación múltiple: R = R 2

16 R 2 Ajustada 2 2 k1 n1 R R n 1 n k donde R 2 es el coeficiente de determinación múltiple n es la cantidad de observaciones y k es la cantidad de coeficientes estimados en el modelo

17 Prueba F de significancia global H 0 : β 0 = β 1 = β 2 =... = β k = 0 H a : por lo menos uno de los β 0, β 1, β 2,..., β k 0 Estadística F global: F(mod elo) Variación _ exp licada /( k 1) Variación _ inexp licada / n k

18 Se puede rechazar H 0 y aceptar H a en el nivel de significancia α si se mantiene alguna de las condiciones siguientes: Estadística F (modelo) > F [α] donde el punto F [α] se basa en k-1 grados de libertad para el numerador y n-k para el denominador. valor p (de F) < α

19 Prueba de significancia individual Defina la estadística de una prueba t b j ee( ˆ ) b j y asuma que las suposiciones de regresión se mantienen.

20 Hipótesis alternativa Condición de punto de rechazo Valor p H a : β j 0 t t ( nk1) / 2 2 (área bajo la curva t a la derecha de t ) H a : β j > 0 t t n k 1 área bajo la curva t a la derecha de t H a : β j < 0 t t n k 1 área bajo la curva t a la izquierda de t

21 Intervalo de Confianza para j Si se cumplen las suposiciones de la regresión, un intervalo de confianza de 100(1-α)% para el parámetro de regresión β j es ˆ j t nk /2 ee( ˆ ) j

22 Intervalos de Confianza para valores esperados y de predicción Para calcular el valor de distancia en un modelo de regresión múltiple, se requiere de álgebra de matrices. Véase el Apéndice B (p. 621). Valor de distancia x ( X ' X ) x ' donde x 0 = 1 x01 x02... x0k

23 Si se cumplen las suposiciones de la regresión, un intervalo de confianza de 100(1-α)% para el valor medio de y cuando los valores de las variables independientes son x 01, x 02,..., x 0k es nk /2 yˆ t ˆ v. d.

24 Si se cumplen las suposiciones de la regresión, un intervalo de predicción 100(1-α)% para un valor individual de y cuando los valores de las variables independientes son x 01, x 02,..., x 0k es nk /2 yˆ t s 1 v. d.

25 Temas Avanzados Modelo de regresión cuadrática. Interacción. Uso de variables ficticias para modelar variables independientes cualitativas. Prueba F parcial: Prueba de la significancia de una parte de un modelo de regresión

26 Modelo de regresión cuadrática El modelo de regresión cuadrática que relaciona y con x es: 2 y 0 1x 2x μ y x μ y x μ y x x x x μ y x μ y x μ y x x x x

27 Interacción Se introduce un término de interacción cuando se cree que una variable (x i ) influye en la relación entre otra variable (x j ) independiente y la variable dependiente, y. y x x x x

28 Uso de variables ficticias para modelar variables independientes cualitativas Cuando se quiere incluir una variable cualitativa, se pueden utilizar variables ficticias (variables indicadoras, dummies). Toman el valor de 1 o 0. Esta variable influye en el intercepto.

29 Ejemplo 4.15 (p. 183). La cadena de tiendas Sonny -que comercializa equipos de audio y video- desea conocer el impacto que tiene sobre sus ventas, y, (en miles de dólares), tanto el número de hogares alrededor del área de las tiendas, x, (en miles), así como la ubicación de las tiendas, D, ya sea que estás se encuentren: i) en el centro de la ciudad; ii) dentro de un centro comercial o, iii) fuera de un centro comercial (nótese que D es una variable cualitativa).

30 Para comparar el efecto de las tres ubicaciones sobre las ventas, se plantea el siguiente modelo: y x D D donde se define M 3 D D M = D D = 1 si la tienda está en un centro comercial. 0 en cualquier otra parte. 1 si la tienda se ubica en el centro de la ciudad. 0 en cualquier otra parte.

31 Se deduce entonces que: 1. Para las tiendas en la calle, el volumen medio de las ventas esta dado por: y x D D x (0) (0) M 3 D x En el caso de las tiendas ubicadas en el centro comercial, el volumen medio de las ventas esta dado por: y x D D x (1) (0) M 3 D x Las tiendas ubicadas en el centro de la ciudad, el volumen medio de las ventas esta dado por: y x D D x (0) (1) M 3 D x 1

32 Interpretación geométrica del modelo:

33 yˆ x D M D D Source SS df MS Number of obs = F( 3, 11) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = y Coef. Std. Err. t P> t [95% Conf. Interval] x dm dd _cons

34 Prueba F parcial: Prueba de la significancia de una parte de un modelo de regresión Permite probar la significancia de un subconjunto seleccionado de las variables independientes. Sea, por ejemplo, el modelo y x x x Podría ser de interés saber si las variables x 2 y x 3 son relevantes en el modelo. H 0 : 2 = 3 =0 H a : por lo menos una de 2 y 3 0

35 Se puede pensar en términos de dos modelos competidores: Modelo completo y x x x c Modelo reducido y x R Se busca establecer si: H 0 : 2 = 3 =0 vs. H a : por lo menos una de 2 y 3 0

36 El estadístico de prueba esta dado por donde F ( SCE SCE ) / k g R k= número de variables independientes del modelo completo. g= número de coeficientes del modelo reducido C SCE / n ( k 1) C Rechazar H o ssi F > F (), o bien, Valor p(f) <

37 Para comparar el efecto de las tres ubicaciones sobre las ventas, se plantea el siguiente modelo: y x D D M 3 Para comparar el efecto de las tres ubicaciones sobre las ventas, se plantea el siguiente modelo: yˆ x D M D D D

38 μ y x μ y x μ y x x x x μ y x μ y x μ y x x x x

39 EJERCICIO 4.1 (p. 197) Paso 1. Obtener los datos del ejercicio en la pagina references-and-data-sets/forecasting-and-time-series---an-applied-approach-bowerman Paso 2. Dado que están en formato EXCEL, se debe pasar a Stata abrir Stata Escribir edit en la ventana de Comandos En el editor de datos usar copiar y pegar Cerrar el editor de datos Listo Paso 3. Realizar el ejercicio

40 EJERCICIO 4.1 (p. 197) Datos del ejercicio 'Y' 'X1' 'X2' Y= precio de venta de una casa (en miles de dólares). X1= dimensiones de la casa (en miles de pies cuadrados). X2= calificación (una calificación global del refinamiento de la casa expresada en una escala de 1 [peor] a 10 [mejor], que proporciona la compañía de bienes raíces

41 EJERCICIO 4.1 (p. 197) DIMENSIONES CALIFICACION PRECIOS Fitted values PRECIOS Fitted values twoway (sc precios dimensiones) (lfit precios dimensiones) twoway (sc precios calificacion) (lfit precios calificacion)

42 EJERCICIO 4.1 (p. 197) reg precios dimensiones calificacion Source SS df MS Number of obs = F( 2, 7) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = precios Coef. Std. Err. t P> t [95% Conf. Interval] dimensiones calificacion _cons precio\dimensiones=20, calificacion=9 = (20)+ 2 (9) representa el valor que en promedio asume el precio de ventas cuando las dimensiones de la cas son de 2000 pies cuadrados y la calificación global de refinamiento señala que es de 9 ( buena casa ) = 176, dólares