Heterocedasticidad y autocorrelación

Transcripción

1 Heterocedasticidad y autocorrelación Tema 6

2 Heterocedasticidad y Autocorrelación Esquema 1. Supuestos del modelo de regresión. 2. Distribución de los estimadores MCO. 3. Varianzas de los estimadores. 4. Inferencia. 5. Predicción

3 Regresión con heterocedasticidad La heterocedasticidad significa que var(ε i ) cte Es frecuente en especial con datos transversales Hay diversas circunstancias que justifican su aparición: En modelos de aprendizaje, los agentes reducen sus errores en el tiempo Hay variables explicativas que justifican una mayor variabilidad de los agentes Mejora en la recogida de datos reduce los errores Existencia de atípicos severos Mala especificación (omisión de variables, forma funcional, datos incorrectos ) La heterocedasticidad afecta a la eficiencia, pero los estimadores MCO siguen siendo insesgados y consistentes

4 Consecuencias de la heterocedasticidad El estimador MCO es Puesto que, Se mantiene la insesgadez La varianza será, ˆ ( ) 1 βmco = β+ X'X X'ε E ˆ E E 1 1 ( β) = [ β + ( X'X) X'ε] = β + [( X'X) X'ε] = β (por la exogeneidad) E[( βˆ β)( βˆ β)'] = ( X'X) X' εε' X( X'X) = E[( X'X) X' Σεε ' X( X'X) ] Pero ahora Σ εε σ 2 I y por tanto la expresión anterior no será igual a σ 2 (X X) -1 El estimador MCO ya no es eficiente

5 Estimación eficiente con heterocedasticidad Supongamos que conociésemos la forma de la heterocedasticidad var( ε X ) = λh( X ) Entonces el modelo transformado, tiene errores homocedásticos: i i i Yi 1 X1 i Xki εi = β0 + β βk + λhx ( ) λhx ( ) λhx ( ) λhx ( ) λhx ( ) i i i i i ε i 1 1 var = var( εi) = λhx ( i) = 1 λhx ( ) λhx ( i) λhx ( i) i Por tanto podemos estimar por MCO el modelo transformado. Este es el método de MCP y es una caso particular de MCG

6 Estimación eficiente con heterocedasticidad Por ejemplo si en Y i = β 0 + β 1 X i + ε i,var(ε i ) = λx i,en el modelo, Tendremos, Análogamente Yi 1 Xi εi = β0 + β1 + λx λx λx λx i i i i ε i 1 var = λ X i = 1 = cte. λx i λx i Yi 1 Xi εi = β0 + β1 + X X X X i i i i 2 ε i 1 var = λx i = λ = cte X i X i 2

7 Estimación eficiente con heterocedasticidad Cuando no se conoce la forma de la heterocedasticidad hay que estimarla para poder aplicar el método anterior: MCPF Una forma bastante flexible de modelizar la heteroscedasticidad es, ( ) var( ε X) = σ exp α + α X α X = σ h( X ) 2 2 i 0 1 1i k ki Si u i es una v.a. independiente de X y con media unitaria, ( X X ) u E ( X X ) ε = σ exp α + α α pues ( ε ) = σ exp α + α α i 0 1 1i k ki i i 0 1 1i k ki 2 ln( εi ) = δ0 + α0 + α1x1 i αkxki + ei que podemos estimar para obtener ˆ( ) hx y aplicar el método

8 Estimación robusta También podemos usar estimadores robustos ( ) var ˆ ( ˆ β ) ( n 2) [( X X) ˆ ε ] i i 1 = n n ( X1 i X) A la hora de decidirse por MCP o el estimador robusto, debemos tener en cuenta que, Si conocemos la forma de la heterocedasticidad, MCP es más eficiente que el estimador robusto Pero MCP (MCG) exige exogeneidad estricta En general el estimador robusto es mejor si hemos de emplear MCPF y es fácil de obtener al venir incorporado en todos los programas Considerando pros y contras junto con el hecho de que no se suele conocer la forma de la heterocedasticidad, no es extraño que hoy lo habitual sea emplear estimadores robustos

9 Partimos del modelo general, Contrastes de heterocedasticidad y β β X β X ε i = i k ki + i y queremos contrastar si el error es homocedástico, o sea deseamos contrastar, H : var( ε X,..., X ) = E( ε X,..., X ) = σ = cte i 1i ki i 1i ki Por tanto la estrategia para contrastar si se cumple la hipótesis, 2 consiste en ver si hay alguna relación entre ε i y las variables explicativas del modelo. Como no disponemos de ε i lo sustituimos por su estimador, ε. ˆi

10 Contrastes de heterocedasticidad Contraste de Breusch Pagan Para contrastar si la varianza del error se relaciona con las variables explicativas, estimamos el modelo 2 ˆ ε = α + α X α X + e i 0 1 1i k ki i A continuación contrastamos H 0 : α 1 = α k = 0. El estadístico de contraste nr 2 se distribuye como una χ 2 (k) Contraste de White Más potente y más empleado, es similar al anterior incluyendo como regresores potencias y, eventualmente, productos cruzados de las X El estadístico de contraste y su distribución son idénticos, nr 2 se distribuye como una χ 2 (k), pero ahora k será mayor

11 Ejemplo contraste heteroscedasticidad Test de Breusch-Pagan Dependent Variable: VOTEA Method: Least Squares Date: 01/14/16 Time: 17:26 Sample: Included observations: 173 Variable Coefficient Std. Error t-statistic Prob. C PRTYSTRA DEMOCA LEXPENDA LEXPENDB R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic) Dependent Variable: U2 Method: Least Squares Date: 01/14/16 Time: 17:25 Sample: Included observations: 173 Variable Coefficient Std. Error t-statistic Prob. C PRTYSTRA DEMOCA LEXPENDA LEXPENDB R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic) χ 2 (4)= nr 2 = = 9.093; (vc (5%) = 9,49) Econometría y predicción Matilla, M., Pérez, P. y Sanz, B. McGraw Hill

12 Ejemplo contraste heteroscedasticidad Dependent Variable: VOTEA Method: Least Squares Date: 01/14/16 Time: 17:26 Sample: Included observations: 173 Test de White Variable Coefficient Std. Error t-statistic Prob. C PRTYSTRA DEMOCA LEXPENDA LEXPENDB R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic) Test Equation: Dependent variable U2 Variable Coefficient Std. Error t-statistic Prob. C PRTYSTRA^ PRTYSTRA*DEMOCA PRTYSTRA*LEXPEND PRTYSTRA*LEXPEND PRTYSTRA DEMOCA^ DEMOCA*LEXPENDA DEMOCA*LEXPENDB LEXPENDA^ LEXPENDA*LEXPEND LEXPENDA LEXPENDB^ LEXPENDB R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic) χ 2 (13)= nr 2 = = 31,10; (vc (5%) = 22,4) Econometría y predicción Matilla, M., Pérez, P. y Sanz, B. McGraw Hill

13 Problemas de heteroscedasticidad Estimador robusto Dependent Variable: VOTEA Method: Least Squares Date: 01/14/16 Time: 17:26 Sample: Included observations: 173 Variable Coefficient Std. Error t-statistic Prob. C PRTYSTRA DEMOCA LEXPENDA LEXPENDB R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic) Dependent Variable: VOTEA Method: Least Squares Date: 01/14/16 Time: 18:00 Sample: Included observations: 173 HAC standard errors covariance (Bartlett kernel, Newey-West fixed bandwidth = ) Variable Coefficient Std. Error t-statistic Prob. C PRTYSTRA DEMOCA LEXPENDA LEXPENDB R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic) Wald F-statistic Prob(Wald F-statistic) Econometría y predicción Matilla, M., Pérez, P. y Sanz, B. McGraw Hill

14 Regresión con autocorrelación Hay autocorrelación serial si corr(ε t ε s ) 0 para t s Esta circunstancia afecta a la eficiencia de los estimadores MCO La autocorrelación es mucho más frecuente en series temporales (en series transversales se conoce como autocorrelación espacial) Entre los motivos por los que puede surgir el problema cabe señalar: Omisión de variables que por naturaleza están autocorrelacionadas Inercia propia de las series temporales Utilización de variables retardadas Manipulación de los datos

15 Regresión con autocorrelación Esta circunstancia afecta a la eficiencia de los estimadores MCO Si las perturbaciones están correlacionadas, Σ εε ' = E( εε ' X) es una matriz en la que no todos los elementos fuera de la diagonal principal son nulos En estas condiciones, como antes con heterocedasticidad, var( βˆ X) = ( X'X) X' Σ X( X'X) 1 1 εε ' es diferente de la habitual σ 2 (X X) -1. El estimador MCO ya no es eficiente

16 Perturbaciones esféricas Matriz εε homocedástica y no autocorrelacionada! " $ % Econometría y predicción Matilla, M., Pérez, P. y Sanz, B. McGraw Hill

17 Perturbaciones esféricas Matriz εε homocedástica y no autocorrelacionada! " $ % Matriz εε heterocedástica y no autocorrelacionada! " $ % Econometría y predicción Matilla, M., Pérez, P. y Sanz, B. McGraw Hill

18 Perturbaciones esféricas Matriz εε homocedástica y no autocorrelacionada! " $ % Matriz εε homocedástica y autocorrelacionada! " $ % Econometría y predicción Matilla, M., Pérez, P. y Sanz, B. McGraw Hill

19 Regresión con autocorrelación En un modelo de regresión simple con autocorrelación, la varianza del estimador de la pendiente puede descomponerse en, var ( ˆ β ) Entre corchetes la varianza de autocorrelación f T =1. 1 var[( X µ ) ε ] = f t X t T ( σ x ) ˆβ 1 T sin autocorrelación. Es decir, sin

20 Regresión con autocorrelación Cuando hay autocorrelación f T 1. En general Siendo f T =1+ 2 T (T 1)ρ T (T 2)ρ T ρ T 1 ε t = ρ 1 ε t 1 + ρ 2 ε t ρ T 1 ε t (t 1) y la expresión típica de la varianza del estimador dada por la fórmula anterior, deja de ser válida Como en el caso de la heterocedasticidad, si se conoce la forma de la autocorrelación podemos aplicar una transformación que conduce a un modelo con residuos no autocorrelacionados (MCG)

21 Regresión con autocorrelación: MCG Supongamos que en el modelo Y t =β 0 +β 1 X t + ε t el patrón de la autocorrelación de ε t es un AR(1), ε t = ρε t +u t, con ρ <1 Retardando un periodo y multiplicando por ρ, se tiene ρy t-1 = ρ β 0 + ρ β 1 X t-1 + ρε t-1, y restando del modelo original o bien, Y ρy = β ρβ + β X ρβ X + ( ε ρε ) = t t t 1 t 1 t t 1 = β (1 ρ) + β ( X ρx ) + u 0 1 t t 1 t Y = β + β X + u * * * t 0 1 t t donde, por definición, no hay autocorrelación y puede estimarse por MCO. Este es el método de MCG, pero exige conocer ρ o estimarlo (MCG factibles)

22 Regresión con autocorrelación: MCG El método anterior implica la pérdida de la primera observación, lo que puede ser relevante si la muestra es pequeña. Prais y Winstein idearon un método para recuperarla, Y = Y 1 ρ * X = X 1 ρ * Todo el desarrollo anterior está basado en el supuesto concreto de que la autocorrelación sigue un proceso AR(1) Si fuese otro, la transformación sería también diferente. Para un AR(2), * * Y = Y ρy ρ Y, X = X ρ X ρ X t t 1 t 1 2 t 2 t t 1 t 1 2 t 2

23 Regresión con autocorrelación Como en la regresión con heterocedasticidad, suele recurrirse a un estimador robusto para solucionar el problema (estimador HAC) Este viene dado por la expresión general σ 2 β1 = ˆσ 2 β1 f T 2 donde σˆβ 1 es el estimador de la varianza sin autocorrelación y la función f debe conocerse o estimarse. En la econometría actual hay diversos estimadores robustos, aunque en nuestro programa solo mencionamos uno de ellos

24 Contrastes de autocorrelación Contraste de Durbin y Watson. Se basa en el supuesto de que la autocorrelación es AR(1) y responde a la expresión, DW T 2 ( ˆ ε ˆ t εt 1) t= 2 = T 2 ˆ εt t= 1 2(1 ˆ ρ) En ausencia de autocorrelación (ρ = 0), DW = 2 Los valores críticos dependen del nº de parámetros (k) Contraste por defecto en todos los programas El funcionamiento de este contraste diferente del habitual

25 Zonas del contraste DW Contrastes de autocorrelación Autocorrelación (+) Indetermi nación NO AUTOCORRELACIÓN Indetermi nación Autocorrelación (-) 0 d L d U 2 4-d U 4-d L 4 Problemas del contraste DW Diseñado para AR(1) Exige variables explicativas no estocásticas No es aplicable si entre las explicativas hay retardos de la endógena Existencia de regiones no concluyentes

26 Contrastes de autocorrelación Contraste de Breusch-Godfrey. Contrasta la autocorrelación de cualquier orden. Se basa en la estimación de la ecuación ˆ ε = β + β X β X + ρεˆ ρ ˆ ε + e t 0 1 1t k kt 1 t 1 q t q t La hipótesis nula es H 0 : ρ 1 = = ρ q = 0 y el estadístico de contraste (n-q)r 2 se distribuye como una Ji cuadrada con q g.l. Cabe mencionar los contrastes de Box Pierce y de Ljung Box Q= T q j= 1 ˆ ρ 2 j Q' = T( T + 2) q j= 1 T ˆ ρ 2 j j

27 Autocorrelación: ejemplo Dependent Variable: LC Method: Least Squares Date: 01/14/16 Time: 18:12 Sample: 1 35 Included observations: 35 Variable Coefficient Std. Error t-statistic Prob. C LY I R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic) Relación entre consumo, renta dispobible y tipo de interés Para n=35 y k = 2, d L y d u son respectivamente, y 1,584 Como 0,6999 está entre 0 y d L, rechazaríamos H 0 en favor de autocorrelación positiva El test de Breusch Godfrey para la autocorrelación de primer orden es, χ 2 (1) = 14,05, i.e., lleva a la misma conclusión Econometría y predicción Matilla, M., Pérez, P. y Sanz, B. McGraw Hill

28 Ejemplo Modelo 1: MCO, usando las observaciones (T = 30) Variable dependiente: l_pib00 Coeficiente Desv. Típica Estadístico t Valor p const 0, , ,583 0,0155 ** l_k 0, , ,30 9,77e-12 *** l_l 0, , ,968 3,32e-05 *** Media de la vble. dep. 13,20176 D.T. de la vble. dep. 0, Suma de cuad. residuos 0, D.T. de la regresión 0, R-cuadrado 0, R-cuadrado corregido 0, F(2, 27) 2079,075 Valor p (de F) 2,69e-30 Log-verosimilitud 73,27798 Criterio de Akaike 140,5560 Criterio de Schwarz 136,3524 Crit. de Hannan-Quinn 139,2112 rho 0, Durbin-Watson 0,141601

29 Ejemplo Modelo 1: MCO, usando las observaciones (T = 30) Variable dependiente: l_pib00 Coeficiente Desv. Típica Estadístico t Valor p const 0, , ,583 0,0155 ** l_k 0, , ,30 9,77e-12 *** l_l 0, , ,968 3,32e-05 *** Media de la vble. dep. 13,20176 D.T. de la vble. dep. 0, Suma de cuad. residuos 0, D.T. de la regresión 0, R-cuadrado 0, R-cuadrado corregido 0, F(2, 27) 2079,075 Valor p (de F) 2,69e-30 Log-verosimilitud 73,27798 Criterio de Akaike 140,5560 Criterio de Schwarz 136,3524 Crit. de Hannan-Quinn 139,2112 rho 0, Durbin-Watson 0, Autocorrelación (+) Indetermi nación NO AUTOCORRELACIÓN Indetermi nación Autocorrelación (-)

30 Ejemplo Modelo 1: MCO, usando las observaciones (T = 30) Variable dependiente: l_pib00 Coeficiente Desv. Típica Estadístico t Valor p const 0, , ,583 0,0155 ** l_k 0, , ,30 9,77e-12 *** l_l 0, , ,968 3,32e-05 *** Media de la vble. dep. 13,20176 D.T. de la vble. dep. 0, Suma de cuad. residuos 0, D.T. de la regresión 0, R-cuadrado 0, R-cuadrado corregido 0, F(2, 27) 2079,075 Valor p (de F) 2,69e-30 Log-verosimilitud 73,27798 Criterio de Akaike 140,5560 Criterio de Schwarz 136,3524 Crit. de Hannan-Quinn 139,2112 rho 0, Durbin-Watson 0, Modelo 2: MCO, usando las observaciones (T = 30) Variable dependiente: l_pib00 Desviaciones típicas HAC, con ancho de banda 2 (Kernel de Bartlett) Coeficiente Desv. Típica Estadístico t Valor p const 0, , ,282 0,0028 *** l_k 0, , ,641 3,98e-07 *** l_l 0, , ,650 0,0011 *** Media de la vble. dep. 13,20176 D.T. de la vble. dep. 0, Suma de cuad. residuos 0, D.T. de la regresión 0, R-cuadrado 0, R-cuadrado corregido 0, F(2, 27) 1825,727 Valor p (de F) 1,54e-29 Log-verosimilitud 73,27798 Criterio de Akaike 140,5560 Criterio de Schwarz 136,3524 Crit. de Hannan-Quinn 139,2112 rho 0, Durbin-Watson 0,141601

31 Resumen Si las perturbaciones no son esféricas los estimadores son insesgados pero no eficientes MCG: en general si Y = Xβ+ε con E(εε )=Ω entonces se busca la transformación T tal que TT =Ω -1 y entonces, en se tiene, T'Y = T'Xβ + T'ε E( ) ( ) ( ) T'εε'T = T' E εε' T = T' Ω T = T' HH' T = T'T' T T = I En función del incumplimiento variará T Estimador HAC: válido con heterocedasticidad y/o autocorrelación: σ 2 σ 2 T 1 ˆ 1 % = ρ β β T T = + j ˆ f, con f 1 2 ( T j) T, con truncamiento m, o ˆ ˆ j= 1 ( ) ˆ ˆ j ˆ ˆ ˆ m var( ˆ β m T ) = Γ (0) + 1 ( j) '( j), ( j) T ˆ εεˆ ' j= 1 Γ + Γ Γ = x x t= j+ 1 t t t t j