Regresión Lineal. Rodrigo A. Alfaro. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

Transcripción

1 Regresión Lineal Rodrigo A. Alfaro 2009 Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

2 Contenidos 1 Regresiones Lineales Regresión Clásica Paquetes estadísticos 2 Estadísticos de Ajuste Global 3 Variables Especiales Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

3 Regresiones Lineales Regresión Clásica Regresión Lineal Clásica: Introducción Suponemos que E(Y X ) = α + βx, por lo que estimamos un modelo como y i = α + βx i + u i Asumimos que u i tiene media cero y varianza finita σ 2. Si se cuenta con n datos, es equivalente a decir que se cuenta con n ecuaciones y sólo 2 incógnitas (α y β). La generalización de la matriz inversa resulta ser el estimador de Mínimos Cuadrados Ordinarios (MCO). Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

4 Regresiones Lineales Regresión Clásica Regresión Lineal Clásica: Estimación Siendo a y b los estimadores de α y β como siguen a = x b x y b = [ n i=1(x i x) 2] 1 [ n i=1 (x i x)(y i ȳ) Una versión simplificada del modelo puede ser obtenida si consideramos: (1) ỹ i = y i ȳ, y (2) x i = x i x, para los cuales tenemos ] ỹ i = β x i + ũ i b = n i=1 x iỹ i n i=1 x 2 i Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

5 Regresiones Lineales Regresión Clásica Regresión Lineal Clásica: Estimación Los estimadores MCO a y b pueden ser obtenidos por los métodos anteriormente mencionados. Si se asume u i N(0, σ 2 ) la función de probabilidad conjunta depende de α, beta y σ 2. Al resolver el problema obtenemos como estimadores de α y β los valores a y b. El Método de Momentos también entrega el mismo resultado que MCO. Los momentos relevantes son E(u i ) = 0 y E(x i u i ) = 0. El primero es obvio en el sentido de que en promedio el modelo no debe equivocarse. El segundo es algo más complejo y tiene relación con el hecho de que el error no contiene información de la variable X. En otras palabras el error se genera pese a que conocemos X. Formalmente esto es E(u i x i ) = 0 pero dicha restricción es muy general, por tanto E(x i u i ) = 0 es una adaptación simplificada. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

6 Regresiones Lineales Regresión Clásica Regresión Lineal Clásica: Estimación En el caso general un supuesto importante es independencia de las observaciones. Esto es que E(u i u j ) = 0 para todo i j, es decir el error que se comente para un individuo o empresa no se repite en otra empresa. Entendemos a Y como variable dependiente o explicada y a X como independiente o explicativa. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

7 Regresiones Lineales Regresión Clásica Regresión Lineal Clásica: CAPM En el modelo CAPM y i representa el exceso de retorno del activo i durante un período determinado de tiempo y x i representa el exceso de retorno del mercado durante el mismo período. Si se asume el exceso de retorno del mercado como exógenos entonces el estimador b representa la sensibilidad del activo i con respecto al mercado. El parámetro β puede descomponerse como β = σ xy σx 2 = ρ σ ( ) ( ) y yi xi E = ρ σ x σ y σ x Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

8 Regresiones Lineales Regresión Clásica Regresión Lineal Clásica: CAPM Notamos que β y ρ están relacionados. En particular, si los datos están normalizados, ˆβ será un estimador de ρ. Para el modelo CAPM esto tiene mayor significancia en sentido que el beta del mercado es la correlación del activo con el mercado, ajustado por un ratio de volatilidades. Si la correlación es perfecta entonces β captura la diferencia en riesgo con respecto al mercado. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

9 Regresiones Lineales Regresión Clásica Regresión Lineal Clásica: Bonos Suponga que se cuenta con una serie de precios de bonos que pagan cupones a diferentes madureces (m). Utilizando la fórmula de valor presente tenemos que P m = D 1 C 1 + D 2 C D m C m Para un número considerable de bonos n > m, podemos estimar por MCO los parámetros D k. Reconocemos que D k = (1 + Y kt ) k, por lo que con los parámetros estimados podemos recoger la curva de factores de descuento de flujos. Por construcción dicha curva es cero-cupón. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

10 Regresiones Lineales Paquetes estadísticos Paquetes Estadísticos Los modelos presentados pueden ser estimados fácilmente con el uso de un computador. Utilizando el complemento de Excel Análisis Estadístico se puede generar un reporte sobre la regresión lineal. EViews: software especializado para Series de Tiempo. De uso interactivo, cuenta con una basta literatura que apoya como usarlo. Una versión alternativa es EasyReg. SPSS: utilizado en varias ciencias sociales es interactivo y con formato profesional de resultados. Stata: útil para el manejo de bases de datos, análisis de panel y series de tiempo. Tiene la ventaja de tener open-code por lo que existe varias rutinas compartidas por los usuarios. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

11 Estadísticos de Ajuste Global Estadísticos de Ajuste Global La primera revisión del resultado está en corroborar si los signos y magnitudes de los coeficientes son coherentes con el modelo económico y/o financiero. Los test t o alternativamente los intervalos de confianza entregan una señal sobre la distribución de los coeficientes. Un intervalo de confianza que cambia de signo siempre va asociado a un bajo valor t y es señal que el parámetro podría ser en teoría cero aunque en la práctica el estimador es distinto de cero. Las magnitudes son también relevantes. Es posible que la pregunta esté asociada a una escala. Por ejemplo, al analizar el crecimiento del producto se observa que el gasto público tiene un impacto de Si las variables están en porcentajes esta cifra se conoce como elasticidad y dice que el aumento del 10% del gasto público genera un aumento del 0.02% del producto. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

12 Estadísticos de Ajuste Global Estadísticos de Ajuste Global Un estadístico que resume el ajuste de los datos es el R 2. La experiencia es necesaria para saber si este valor es aceptable o no. Sentido común indica que si R 2 = 0 entonces el modelo está malo y/o los datos no corresponden y R 2 = 1 indica que algo obvio está ante nuestros ojos, aunque a veces no es tan obvio. EL problema del R 2 es que aumenta cuando se agrega una nueva variable al modelo, aunque esta contribuya poco a reducir el error. El R 2 ajustado es la solución al problema anterior aunque la penalización por las variables extras es algo arbitrario. Cuando se trabaja con datos en el tiempo (series de tiempo) hay que tener mayor cuidado en el análisis motivo por el cual revisaremos ese material en la próxima parte del curso. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

13 Estadísticos de Ajuste Global Estadísticos de Ajuste Global Existen 2 problemas asociados a los errores: autocorrelación y heterocedasticidad. El primero de ellos corresponde a una serie de tiempo y lo estudiaremos en detalle más adelante. EL segundo fue estudiado en extenso a través del caso de MC Generalizados. Sin embargo, los resultados no fueron muy satisfactorios. Hoy en día dicho problema se ha mostrado que tiene poco efecto en los coeficientes y algo de efecto en la inferencia. Por ello se ha desarrollado inferencia robusta. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

14 Variables Especiales Variables Dummies Se llama variable dummy si una X toma valores 0 ó 1 solamente. Por ejemplo X pertenece al sector eléctrico, o X es casado, o X trabaja de forma independiente, etc. Si X está en la ecuación NO SE PUEDE agregar Z no pertenece al sector eléctrico, o Z no es casado, etc. La interacción de variables dummies con otras del modelo permite calcular efectos diferenciadores entre grupos. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

15 Variables Especiales Variables Colineales Si X está en la regresión y tengo Z que es muy similar a X, es decir que su correlación es elevada, entonces X podría colinear con Z. Al usar X y Z puedo perder el efecto buscado dado que ambas variables buscan explicar lo mismo. Usualmente si se cuenta con X y Z se opta por una de ellas o se combinan. En el caso de las dummies anteriormente presentado, X y Z tienen una correlación perfecta de -1. La decisión es dejar solo una de ellas. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16

16 Variables Especiales Variables Endógenas En el caso de que x i sea endógena debemos resolver un problema de ecuaciones simultáneas.... ambas variables son endógenas. Un método tradicional es MCO en 2 etapas (2SLS).... la idea es que se resuelve para x, luego se utiliza el resultado en la ecuación con y. No existe un test que detecte endogeneidad, sólo correlación (débil) con el error. 2SLS está disponible en la mayoría de los paquetes estadísticos y econométricos. Rodrigo A. Alfaro (BCCh) Regresión Lineal / 16