T2. El modelo lineal simple

Transcripción

1 T2. El modelo lineal simple Ana J. López y Rigoberto Pérez Dpto Economía Aplicada. Universidad de Oviedo Curso Curso / 40

2 Índice 1 Planteamiento e hipótesis básicas 2 Estimación de los parámetros de regresión 3 Propiedades de los estimadores Teorema de Gauss-Markov Estimación con Gretl 4 Intervalos de confianza 5 Contrastes asociados a un modelo ANOVA Evaluación de la capacidad explicativa 6 Predicción Evaluación de predicciones Curso / 40

3 El modelo lineal simple Competencias El modelo lineal simple ya ha sido estudiado en la asignatura Introducción a la estadística económica, si bien entonces se adoptaba una óptica descriptiva y ahora se completa con el análisis inferencial, incluyendo la construcción de intervalos de confianza y la realización de contrastes asociados a un modelo. Una vez superado este tema los alumnos serán capaces de: Estimar e interpretar los parámetros de un modelo lineal simple. Enunciar y resolver el contraste de significación del modelo. Utilizar las opciones de estimación de Grel e interpretar correctamente el output. Curso / 40

4 Planteamiento e hipótesis básicas Especificación de un modelo Teoría económica Y = f(x) Supuestos teóricos Conductas humanas Componente aleatoria u Errores de medida Factores no medibles Modelo econométrico Y = f(x) + u Teoría Keynesiana: C t = β 1 + β 2 R t Hipótesis: β 1 > 0, 0 < β 2 < 1 Componente errática del consumo: u Modelo econométrico del Consumo: C t = β 1 + β 2 R t + u t Curso / 40

5 Planteamiento e hipótesis básicas Hipótesis básicas Hipótesis Supuesto Hipótesis sobre u sobre Y Esperanza E(u i ) = 0 Esperanza de la E(Y /X i ) = β 1 + β 2 X i i = 1,..., n perturbación nula i = 1,..., n Varianza Var(u i ) = σ 2 Homocedasticidad Var(Y /X i ) = σ 2 i = 1,..., n i = 1,..., n Correlación Cov(u i, u j ) = 0 No Cov(Y /X i, Y /X j ) = 0 i j = 1,..., n autocorrelación i j = 1,..., n Distr.Prob. u i N (0, σ) Normalidad Y /X i N (β 1 + β 2 X i, σ) na J. López y Rigoberto Pérez (Dpto Economía Aplicada. T2. ElUniversidad modelo lineal de simple Oviedo) Curso / 40

6 Planteamiento e hipótesis básicas Modelo de regresión Línea de regresión poblacional Curso / 40

7 Estimación de los parámetros de regresión Estimación del modelo Información estadística Muestras temporales Muestras de corte transversal Muestras de panel Métodos de estimación Método de mínimos cuadrados Método de máxima verosimilitud Método de los momentos Análisis de los estimadores Curso / 40

8 Estimación de los parámetros de regresión Estimación Objetivos: Estimar un modelo lineal Ŷ i = ˆβ 1 + ˆβ 2 X i que aproxime lo mejor posible los valores observados de Y. Ŷ i = ˆβ 1 + ˆβ 2 X i Y i û i = Y i Ŷ i Valores estimados Valores observados Errores de estimación o residuos Curso / 40

9 Estimación de los parámetros de regresión Estimación mínimo cuadrática Función a minimizar n n ) 2 n ) 2 ûi 2 = (Y i Ŷ i = (Y i ˆβ 1 ˆβ 2 X i Estimadores mínimo cuadráticos (EMC) n ( Xi X ) ( Y i Ȳ ) ˆβ 2 = S XY S 2 X = n ( Xi X ) 2 ˆβ 1 = Ȳ ˆβ 2 X Curso / 40

10 Estimación de los parámetros de regresión Estimadores mínimo cuadráticos Propiedades descriptivas n û i = 0 Ȳ = ˆβ 1 + ˆβ 2 X n X i û i = 0 n Ŷ i û i = 0 Curso / 40

11 Estimación de los parámetros de regresión Estimación máximo verosímil u i N (0, σ) Y /X i N (β 1 + β 2 X i, σ) f (y i ) = f (y i, β 1, β 2, σ 2 ) = 1 e 1 (y i β 1 β 2 x i ) 2 2 σ 2 2πσ L(y 1,, y n, β 1, β 2, σ 2 ) = n f (y i, β 1, β 2, σ 2 ) ( = n 1 2πσ e 1 2 ) (y i β 1 β 2 x i ) 2 σ 2 ( ) n = 1 2πσ e 1 n (y i β 1 β 2 x i ) 2 2 σ 2 Curso / 40

12 Estimación de los parámetros de regresión Estimación máximo verosímil Función a maximizar ln L(y 1,..., y n, β 1, β 2, σ 2 ) = n 2 ln(2π) n 2 ln(σ2 ) 1 2 n (y i β 1 β 2 x i ) 2 σ 2 Estimadores máximo verosímiles (EMV) ˆβ 2 = S XY S 2 X ; ˆβ 1 = Ȳ ˆβ 2 X ˆσ 2 = n ûi 2 n Curso / 40

13 Propiedades de los estimadores Características de los estimadores Estimadores Esperanzas Varianzas ˆβ 1 ( ) ( ) E ˆβ1 = β 1 Var ˆβ1 = σ 2 n X 2 i n n (X i X) 2 ˆβ 2 ( ) ( ) E ˆβ 2 = β 2 Var ˆβ 2 σ = 2 n (X i X) 2 Propiedades de los estimadores: Insesgados, Consistentes, Óptimos na J. López y Rigoberto Pérez (Dpto Economía Aplicada. T2. ElUniversidad modelo lineal de simple Oviedo) Curso / 40

14 Propiedades de los estimadores Teorema de Gauss-Markov Teorema de Gauss-Markov Dentro de la familia de estimadores lineales e insesgados, los EMC son óptimos en el sentido de que presentan mínima varianza Curso / 40

15 Propiedades de los estimadores Teorema de Gauss-Markov Distribución de los estimadores Distribución de ˆβ 1 y ˆβ 2 Bajo la hipótesis de normalidad de las perturbaciones u N (0, σ) se garantiza la normalidad de los estimadores: ) ˆβ 1 N (β 1, σ ˆβ1 ) ; ˆβ2 N (β 2, σ ˆβ2 Estimador de la varianza La varianza σ 2 es deconocida y por tanto también lo serán: σ 2ˆβ 1 y σ 2ˆβ 2 S 2 = n ûi 2 n 2 E(S 2 ) = σ 2 Curso / 40

16 Propiedades de los estimadores Teorema de Gauss-Markov Estimación de las varianzas σ 2 n X 2 i ( ) Var ˆβ1 = n n ( Xi X ) 2 S 2 n X 2 i S 2ˆβ1 = n n ( Xi X ) 2 S 2ˆβ 2 = S 2 n ( Xi X ) 2 Curso / 40

17 Propiedades de los estimadores Estimación con Gretl Estimación con Gretl Modelo 1: MCO, usando las observaciones (T = 15) Variable dependiente: consumo Coeficiente Desv. típica const -49, ,9325 renta 0, }{{} 0, } {{ } = ˆβ 2 =S ˆβ2 na J. López y Rigoberto Pérez (Dpto Economía Aplicada. T2. ElUniversidad modelo lineal de simple Oviedo) Curso / 40

18 Propiedades de los estimadores Estimación con Gretl Estimación con Gretl 900 consumo con respecto a renta (con ajuste mínimo-cuadrático) Y = X consumo renta Curso / 40

19 Intervalos de confianza Análisis inferencial Para los parámetros de regresión ( ) ˆβ N β, σ ˆβ ˆβ β σ ˆβ N (0, 1) ˆβ β S ˆβ t n 2 Para la varianza poblacional d S 2 = (n 2)S 2 σ 2 χ 2 n 1 Curso / 40

20 Intervalos de confianza Intervalos de confianza para los parámetros de regresión IC para β con un nivel de confianza 1 α ( ) ( ) d ˆβ β P ˆβ k α = 1 α P k α = 1 α ( ) [ P ˆβ k α S ˆβ β ˆβ + k α S ˆβ = 1 α ˆβ ks ˆβ, ˆβ + ks ˆβ] S ˆβ 0.5 Función de densidad t(n-2=13) Valores probabilidad a dos colas = 0.05 Valor crítico k α= Curso / 40

21 Intervalos de confianza Intervalos de confianza para la varianza poblaconal IC para σ 2 con un nivel de confianza 1 α ( ) ( ) (n 2)S 2 (n 2)S 2 P σ 2 < k 1 = P σ 2 > k 2 = α 2 [ (n 2)S 2 k 2, ] (n 2)S 2 k Función de densidad Chi-cuadrado(n-2=13) probabilidad en la cola derecha = Valores Valor crítico k α= Curso / 40

22 Contrastes asociados a un modelo Contrastes de significación: Y i = β 1 + β 2 X i + u i Contraste básico: explica X los cambios de Y? Valor muestral: H 0 : β 2 = 0 H 1 : β 2 0 Contraste individual t de Student ˆβ 2 β 2 S ˆβ2 t n 2 Nivel crítico: p = P d ˆβ2 = ˆβ 2 S ˆβ 2 ( ) t n 2 > d ˆβ2 Conclusión: Para p bajo se rechaza la hipótesis (por tanto se concluye que X tiene sentido para explicar Y) na J. López y Rigoberto Pérez (Dpto Economía Aplicada. T2. ElUniversidad modelo lineal de simple Oviedo) Curso / 40

23 Contrastes asociados a un modelo Contraste de significación con Gretl Modelo 1: MCO, usando las observaciones (T = 15) Variable dependiente: consumo Coeficiente Desv. Típica Estadístico t Valor p const *** renta ,3539 }{{} 0,0000 }{{} *** ˆβ 2 0 p=p( t 13 >46,3539) = S ˆβ 0, Conclusión Se rechaza la nulidad del coeficiente de la renta y por tanto ésta es una variable relevante para explicar el consumo Curso / 40

24 Contrastes asociados a un modelo ANOVA Análisis de la varianza Ŷi = ˆβ 1 + ˆβ 2 X i VT = n ( Yi Ȳ ) 2 VE = n ) 2 n (Ŷi Ȳ ; VNE = ûi 2 na J. López y Rigoberto Pérez (Dpto Economía Aplicada. T2. ElUniversidad modelo lineal de simple Oviedo) Curso / 40

25 Contrastes asociados a un modelo ANOVA Análisis de la varianza (ANOVA) ( Yi Ȳ ) = ) ) (Ŷi Ȳ + (Y i Ŷ i n ( Yi Ȳ ) n ) 2 2 n ) 2 = (Ŷi Ȳ + (Y i Ŷ i ANOVA en Gretl Análisis de Varianza: Suma de cuadrados gl Media de cuadrados Regresión (VE) Residuo (VNE) Total (VT) R 2 = / = F(1, 13) = / = [Valor p 7.98e-16] Curso / 40

26 Contrastes asociados a un modelo ANOVA Análisis de varianza (ANOVA) VT VE VNE Variabilidad g.l. Ratios n ( Yi Ȳ ) 2 n ) 2 (Ŷi Ȳ = ˆβ 2 2 n n ( Xi X ) 2 ( ) 2 n Y i Ŷi = n-1 1 ˆβ 2 2 n (Y i Ȳ ) 2 n 1 n ( Xi X ) 2 û 2 i n-2 S 2 = n ûi 2 n 2 VE 1 VNE n 2 = ˆβ 2 2 n (X i X ) 2 S 2 F 1 n 2 ; R 2 = 1 VNE VT n ûi 2 = 1 n ( Yi Ȳ ) 2 Curso / 40

27 Contrastes asociados a un modelo ANOVA Contraste F Y i = β 1 + β 2 X i + u i Contraste H 0 : β 2 = 0 H 1 : β 2 0 n (X i X ) 2 ˆβ 2 2 S 2 F 1 n 2 Si el modelo propuesto es adecuado la variación explicada será muy superior a la no explicada, con lo que el ratio F adoptará un valor elevado y su nivel crítico será reducido. En el modelo lineal simple este contraste es equivalente al de la t de Student ya que se cumple: F 1 n 2 = (t n 2) 2 Curso / 40

28 Contrastes asociados a un modelo Evaluación de la capacidad explicativa Medidas de bondad de un modelo Coeficiente de determinación Proporción de la variación de Y que viene explicada por X R 2 = 1 Acotación: 0 R 2 1 n ûi 2 n ( Yi Ȳ ) = 2 n ) 2 (Ŷi Ȳ n ( Yi Ȳ ) 2 Error estándar de la regresión n û i 2 S = n 2 Curso / 40

29 Predicción Predicción ex-post y ex-ante Curso / 40

30 Predicción Predicción Predicciones condicionadas Los modelos econométricos estimados permiten obtener predicciones condicionadas a determinados valores de la variable explicativa. Horizonte de predicción Ŷ 0 = ˆβ 1 + ˆβ 2 X 0 En modelos temporales, considerando horizontes de predicción 1, 2, 3...T las predicciones se obtendrán sustituyendo en el modelo estimado los correspondientes valores de la variable X en esos periodos. Curso / 40

31 Predicción Predicciones estáticas y dinámicas Generalmente realizaremos predicciones estáticas, condicionadas a los valores registrados de X y con horizonte de predicción 1. Cuando intervienen como explicativas variables endógenas retardadas es posible realizar predicciones dinámicas, que a medida que aumenta el horizonte de predicción irán condicionadas a las predicciones anteriores. Período muestral Predicción Estática Predicción Dinámica na J. López y Rigoberto Pérez (Dpto Economía Aplicada. T2. ElUniversidad modelo lineal de simple Oviedo) Curso / 40

32 Predicción Elaboración de predicciones Predicción de Y para un valor X 0 Error de predicción Ŷ 0 = ˆβ 1 + ˆβ 2 X 0 eŷ0 = Y 0 Ŷ 0 = Y 0 E (Y /X 0 ) + E (Y /X }{{} 0 ) Ŷ }{{} 0 Error poblacional Error muestral Varianza del error de predicción ) Var = σ (eŷ ( n + X0 X ) 2 n ( Xi X ) 2 Curso / 40

33 Predicción Elaboración de predicciones Intervalo de confianza al nivel 1 α para la predicción de Y cuando X = X 0 ks Ŷ n + ( X0 X ) 2 n ( Xi X ), Ŷ 0 + ks n + siendo k el valor tal que P ( t n 2 > k) = 1 α ( X0 X ) 2 n ( Xi X ) 2 Curso / 40

34 Predicción Predicción con Gretl Gretl: En la salida del modelo, Análisis Predicciones... Curso / 40

35 Predicción Predicción con Gretl Para intervalos de confianza 95 %, t(22,.0.025) = Obs. consumo predicción Desv. Típica Intervalo de confianza 95 % predicción ex-post, predicción ex-ante Curso / 40

36 Predicción Predicción con Gretl Curso / 40

37 Predicción Evaluación de predicciones Evaluación de predicciones Error medio (EM) Error cuadrático medio (ECM) Raiz del error cuadrático medio (RECM) Error absoluto medio (EAM) Porcentaje de error medio Porcentaje de error absoluto medio 1 T ) (Y t Ŷ t T t=1 1 T ( ) 2 Y t T Ŷt t=1 1 T ) 2 (Y t Ŷ t T t=1 1 T Y t Ŷ t T ( t=1 ) T Y t Ŷt 100 t=1 TY t T Y t Ŷ t 100 TY t t=1 Curso / 40

38 Predicción Evaluación de predicciones Índice de Theil 1 T U de Theil U = 1 T T 1 t=1 T 1 t=1 ( Y t+1 Ŷ t+1 Y t ( Yt+1 Y t Y t ) 2 ) 2 El índice de Theil puede ser interpretado como el ratio entre las raíces del error cuadrático medio asociadas al modelo propuesto y a un modelo naive o ingenuo que asignase como predicción el valor actual (Ŷt+1 = Y t ). Predicciones ingenuas Ŷ t+1 = Y t U=1 Predicciones perfectas Ŷ t+1 = Y t+1 U=0 Curso / 40

39 Predicción Evaluación de predicciones Índice de Theil Además Theil propone una descomposición de los errores cuadráticos de predicción en tres términos, denominados respectivamente de sesgo, de regresión y de perturbación: ( Ŷ Ȳ ) 2 Proporción de sesgo ECM Proporción de regresión Proporción de error ( SŶ r Y Ŷ S Y ) 2 ECM ( ) 1 r 2 S 2 Y Ŷ Y ECM Es deseable que las proporciones de sesgo y de regresión sean lo más Anapequeñas J. López y Rigoberto posibles Pérez (Dpto Economía Aplicada. T2. ElUniversidad modelo lineal de simple Oviedo) Curso / 40

40 Predicción Evaluación de predicciones Evaluación de predicciones con Gretl Gretl: En la salida del modelo, Análisis Predicciones... Estadísticos de evaluación de la predicción Error medio Error cuadrático medio Raíz del Error cuadrático medio Error absoluto medio Porcentaje de error medio Porcentaje de error absoluto medio U de Theil Proporción de sesgo, UM Proporción de regresión, UR Proporción de perturbación, UD e-16 Curso / 40