Econometría Aplicada

Transcripción

1 Econometría Aplicada Especificación y problemas con la data Víctor Medina

2

3 Introducción Hasta el momento hemos considerado el modelo como dado y nos hemos preguntado cosas del estilo Dado el modelo y = β 1 + β 2 x β K x K + e Cómo podemos estimar de mejor forma sus parámetros? Cómo testeamos hipótesis acerca de los estimadores de ese modelo? Cómo construímos intervalos de confianza para los estimadores? Cuáles son las propiedades de los estimadores en un modelo en particular? Dado que todas estas preguntas requieren conocimiento del modelo, es natural preguntar de dónde viene el modelo mismo. Como dijimos al comienzo del curso, en cualquier investigación econométrica, la elección del modelo es uno de los primeras decisiones que se debe tomar. Ahora nos enfocamos en responder Cuáles son las consideraciones importantes cuando escogemos un modelo? Cuáles son las consecuencias de elegir un modelo incorrecto? Hay formas de medir si un modelo es adecuado?

4 Introducción Tres características esenciales en la selección del modelo 1. Elección de la forma funcional 2. Elección de las variables explicativas (regresores) 3. Si los supuestos 1 al 5 se cumplen Heterocedasticidad Autocorrelación Regresores aleatorios Para la elección de la forma funcional y las variables explicativas, debemos responder preguntas del tipo Qué variables independientes probablemente influyen la variable dependiente? Cómo es esperable que la variable dependiente responda a cambios en los regresores: A una tasa constante? A una tasa decreciente? Es razonable asumir una elasticidad constante para toda el rango?, entre otras preguntas. Ahora consideraremos las consecuencias de elegir regresores inadecuados y criterios de elección.

5 Antes de seguir... Regresión Particionada Para efectos de lo que viene, es útil reformular el problema de regresión como la partición de dos subconjuntos de regresores. Matricialmente tenemos y = Xβ + e con dim(x) = N K, que podemos expresar como y = X 1β 1 + X 2β 2 + e (con dim(x 1) = N K 1 y dim(x 2) = N K 2), es decir X = [ [ ] ] β1 X 1 X 2, β = β 2 Y sabemos que los estimadores de MC cumplen X t X ˆβ = X t y, por lo tanto [ ] [ ] [ ] t X1 X 1 X t 1 X 2 ˆβ1 t X1 y X t 2 X 1 X t = 2 X 2 ˆβ 2 X t 2 y

6 Regresión Particionada Luego, las ecuaciones particionadas son X 1 t X 1 ˆβ1 + X 1 t X 2 ˆβ2 = X 1 t y X 2 t X 1 ˆβ 1 + X 2 t X 2 ˆβ2 = X 2 t y Haciendo un poco de algebra, llegamos a ˆβ 1 = (X 1 t M 2X 1) 1 X 1 t M 2y ˆβ 2 = (X 2 t M 1X 2) 1 X 2 t M 1y Con M 1 = I X 1(X 1 t X 1) 1 X 1 t y M 2 = I X 2(X 2 t X 2) 1 X 2 t Y es directo demostrar que 1 var( ˆβ 1 ) = σ 2 (X 1 t M 2X 1) 1 var( ˆβ 2 ) = σ 2 (X 2 t M 1X 2) 1 1 Recordar que var(ax) = Avar(x)A t

7 Variables relevantes omitidas Sesgo Si el modelo considerado tiene la forma verdadera Pero se estima pensando que es y verdadero = X 1β 1 + X 2β 2 + e y falso = X 1β 1 + e Entonces, para este último modelo se estima β 1 como β 1 = (X1t X 1) 1 X t 1 y verdadero = β 1 + (X t 1 X 1) 1 X t 1 X 2β 2 + (X t 1 X 1) 1 X t 1 e Y por lo tanto, su esperanza es E(β 1 ) = (X t 1 X 1) 1 X t 1 E(y) = β 1 + (X t 1 X 1) 1 X t 1 X 2β 2

8 Variables relevantes omitidas Reducción de varianza del estimador Vimos que la varianza del estimador era var( ˆβ 1 ) = σ 2 (X 1 t M 2X 1) 1 con M 2 = I X 2(X 2 t X 2) 1 X 2 t, es decir, var( ˆβ 1 ) = σ 2 (X 1 t [I X 2(X 2 t X 2) 1 X 2 t ]X 1) 1 = σ 2 (X 1 t X 1 X 1 t X 2(X 2 t X 2) 1 X 2 t X 1) 1 Y por otra parte, si estimamos la varianza del modelo incorrecto, obtenemos var(β 1 ) = σ2 (X 1 t X 1) 1 Es decir, las inversas de las matrices de covarianzas se diferencian por var(β 1 ) 1 var( ˆβ 1 ) 1 = σ 2 (X 1 t X 2(X 2 t X 2) 1 X 2 t X 1) Donde la última matriz se puede mostrar que es definida positiva. Es decir, la varianza verdadera es mayor a la varianza incorrecta

9 Ejemplo de omisión de variables relevantes Ejemplo utilizando la data del economista Tom Mroz, que relaciona el ingreso familiar con los años de educación del esposo y esposa. ingreso = β 1 + β 2Edu H + β 3Edu M + e La estimación de los coeficientes arroja

10 Ejemplo de omisión de variables relevantes Ahora si consideramos el modelo (omitiendo la variable que indica la educación de la esposa) Tenemos ingreso = β 1 + β 2Edu H + e Es decir, el coeficiente que acompaña a la variable de años de educación del hombre ha aumentado, y su varianza a disminuído.

11 Ejemplo de omisión de variables relevantes Si expresamos las ecuaciones obtenidas anteriormente para el caso de 2 variables, tenemos E(β 2 ) = β 2 + β 3 ĉov(edu H, Edu M ) var(edu H) Por lo tanto, si creemos que la variable omitida tiene un efecto positivo en la variable dependiente y la correlación entre las variables explicativas es positiva, luego el sesgo es positivo, como ocurre en este caso.

12 Variables irrelevantes Sesgo Ahora consideremos el caso contrario, es decir, en vez de omitir una variable relevante, incluímos una variable irrelevante. Es decir, si el modelo considerado tiene la forma verdadera Pero se estima pensando que es y verdadero = X 1β 1 + e y falso = X 1β 1 + X 2β 2 + e Entonces del modelo incorrecto calculamos que E(β 1 ) = E((X 1 t M 2X 1) 1 X 1 t M 2y verdadero ) = β 1 + (X 1 t M 2X 1) 1 X 1 t M 2E(e) = β 1 Es decir, incluír una variable irrelevante no causa sesgo en los parámetros

13 Variables irrelevantes Aumento de varianza del estimador Utilizando los resultados anteriores, teniamos que Y la varianza verdadera es var(β 1 ) = σ2 (X 1 t M 2X 1) 1 var( ˆβ 1 ) = σ 2 (X 1 t X 1) 1 Y como vimos, (X 1 t X 1) > (X 1 t M 2X 1) (en el sentido matricial), es decir, la varianza del estimador con el modelo incorrecto es mayor a la verdadera.

14 Ejemplo de inclusión de variables irrelevantes Teníamos el modelo ingreso = β 1 + β 2Edu H + β 3Edu M + e

15 Ejemplo de inclusión de variables irrelevantes Luego, si calculamos el modelo ingreso = β 1 + β 2Edu H + β 3Edu M + β 4Irrelev + e Tenemos estimadores menos precisos (mayor varianza)

16 Selección del modelo Consideraremos 3 criterios de selección de modelos: R2, AIC y BIC. Estos criterios deben ser tratados como información adicional a otros criterios, como consideraciones lógicas, económicas, etc. Estos criterios son adecuados para comparar modelos con la misma variable dependiente (y), no, por ejemplo, y vs. exp(y) Coeficiente de determinación ajustado ( R 2 ) Recordemos R 2 = 1 SSE/SST que mide la bondad de ajuste. El problema de este coeficiente es que crece a medida que aumentamos el número de regresores (en el extremo, si nuestro modelo tiene N 1 variables, entonces R 2 = 1). Coeficiente de determinación ajustado, R 2 = 1 SSE/(N K) SST /(N 1) Ya no crece necesariamente cuando agregamos un regresor Ya no se puede interpretar como la proporción de variabilidad explicada por el modelo Intentamos maximizar R 2 cuando estamos seleccionando los modelos.

17 Selección del modelo Criterios de información 2 El criterio de información de Akaike (AIC), se define como AIC = ln ( SSE ) 2K + N N El primer término disminuye en la medida que agragamos más regresores, pero el segundo aumenta (penaliza) Se busca el modelo que minimiza esta métrica El criterio de información bayesiano (BIC), se define como BIC = ln ( SSE ) K ln(n) + N N El primer término disminuye en la medida que agragamos más regresores, pero el segundo aumenta (penaliza) Se busca el modelo que minimiza esta métrica 2 Existe una versión más general de estos criterios que le suman 1 + ln(2π)

18 Ejemplo de selección del modelo Estimamos 4 modelos distintos Modelo 1: ingreso = β 1 + β 2Edu H + e Modelo 2: ingreso = β 1 + β 2Edu M + e Modelo 3: ingreso = β 1 + β 2Edu H + β 3Edu M + e Modelo 4: ingreso = β 1 + β 2Edu H + β 3Edu M + β 4Irrelev + e

19 RESET (REgression Specification Error Test) Testear la especificación del modelo es una forma de preguntarse si el modelo es adecuado o si lo podemos mejorar. Puede estar mal especificado si hemos omitido variables relevantes, incorporado irrelevantes, haber elegido la forma funcional inadecuada o violar los supuestos del modelo de regresión múltiple. RESET está diseñado para detectar variables omitidas y formas funcionales inadecuadas Para efectos de ilustrar su procedimiento, supongamos que tenemos la regresión y = β 1 + β 2x 2 + β 3x 3 + e Y si suponemos que ( ˆβ 1, ˆβ 2, ˆβ 3) son los estimadores de mínimos cuadrados e ŷ = ˆβ 1 + ˆβ 2x 2 + ˆβ 3x 3 los valores estimados de y. Consideramos, por ejemplo, los siguientes dos modelos artificiales y = β 1 + β 2x 2 + β 3x 3 + γ 1ŷ 2 + e y = β 1 + β 2x 2 + β 3x 3 + γ 1ŷ 2 + γ 2ŷ 3 + e

20 RESET (REgression Specification Error Test) En el primer modelo, un test de especificación es H 0 : γ 1 = 0 contra la alternativa H 1 : γ 1 0 (usar t- o F-test) Rechazar la nula significa que el modelo original no es adecuado y puede ser mejorado No rechazar la nula significa que el test no ha sido capaz de detectar ninguna mala especificación En el segundo modelo, testeamos H 0 : γ 1 = γ 2 = 0 contra la alternativa H 1 : γ 1 0 y/o γ 2 0 (usar F-test) Para ambos casos: Rechazar la nula significa que el modelo original no es adecuado y puede ser mejorado No rechazar la nula significa que el test no ha sido capaz de detectar ninguna mala especificación

21 RESET (REgression Specification Error Test) La idea detrás del test es que al incluír ŷ 2 y/o ŷ 3, estamos incluyendo términos polinomiales del estilo x 2 2, x 2 3, x 2x 3, x 2x 2 3, etc. Y los polinomios pueden aproximar variadas formas funcionales Si la forma funcional original no es correcta, el polinomio que incluye ŷ 2 y/o ŷ 3 podría mejorar el ajuste considerablemente. Si podemos mejorar significativamente el modelo de manera artificial incluyendo potencias de los predictores del modelo, entonces el modelo debe ser inadecuado El modelo RESET general puede tener más potencias, no sólo 3 y = Modelo original + γ 1ŷ γ k 1 ŷ k + ɛ

22 Ejemplo RESET (REgression Specification Error Test) En el ejemplo anterior del ingreso en función de la educación, tenemos Es decir, a un nivel de significancia del 5% rechazamos la nula, por lo tanto, el modelo original no es el adecuado y puede ser mejorado. Quizás habría que incluír la experiencia o la ciudad o el modelo lineal no es el adecuado.

23 Problemas con la data Problemas con la data

24 Problemas con la data Colinealidad En general la data económica disponible es no-experimental, es decir, es coleccionada no con el propósito de realizar experimentos controlados. Los datos de las variables explicativas se podrían mover juntas sistemáticamente (conservar el mismo patrón de comportamiento). A estas variables se les llama colineales. No hay garantía que estas variables serán ricas en información, ni tampoco que será posible separar la relación económica de cada una, o más aún, que podremos estimar sus coeficientes. Consecuencias de la colinealidad Siempre que haya una o más relaciones lineales exactas entre las variables explicatorias, entonces la condición de colinealidad exacta aparece. En este caso, el estimador de mínimos cuadrados no está definido (el supuesto 5 no se cumple)

25 Problemas con la data Colinealidad Para el modelo y = β 1 + β 2x 2 + β 3x 3 + e Se puede expresar, por ejemplo, la varianza del estimador de β 2 como 3 var( ˆβ 2) = σ 2 (1 r23 2 ) N (xi2 x2)2 i=1 Donde r 23 es la correlación entre x 2 y x 3 A pesar de que es menos usual encontrarse con colinealidad exacta, puede existir alta correlación entre dos variables o baja variabilidad de una de ellas, y los estimadores existen, pero los efectos son Alto error estándar del estimador (alta varianza), implica que t-test no rechaza hipótesis nula. Los colineales no proveen suficiente información para estimar sus efectos independientes, incluso cuando la teoría apoya la importancia de ellas. Los estimadores son sensibles a pequeños cambios en la data o al eliminar una variable que aparentemente era insignificante A pesar de las dificultades de aislar los efectos de las variables individuales, la predicción todavía puede ser posible si la naturaleza de la colinealidad se mantiene con las observaciones fuera de muestra 3 Hágalo!

26 Problemas con la data Ejemplo colinealidad Considerando la base de datos que contiene observaciones de las siguientes variables para 392 autos MPG, millas por galón de bencina CYL, numero de cilindros ENG, cilindrada del motor en pulgadas cúbicas WGT, peso del auto Y estamos interesados en estimar como influye el numero de cilindros (CYL), la cilindrada (ENG) y el peso (WGT) en el rendimiento del auto (MPG). En términos generales, esperaríamos que valores de CYL, ENG y WGT fueran altos para autos grandes y pequeños para autos pequeños. A priori ya podriamos pensar que hay variables que están altamente correlacionadas y por lo tanto su efecto independiente será dificil de estimar.

27 Problemas con la data Ejemplo colinealidad

28 Problemas con la data Ejemplo colinealidad Si estimamos la regresión del efecto de CYL en MPG, tenemos Donde podemos notar la importancia de la variable.

29 Problemas con la data Ejemplo colinealidad Ahora si estimamos la regresión incluyendo el efecto de ENG y WGT en MPG, tenemos La estimación de CYL ha cambiado completamente (ahora aparece que no es significativo a pesar de que habíamos estimado que era, lo mismo ocurre con ENG) La alta correlación entre CYL y ENG hace difícil separar sus efectos.

30 Problemas con la data Ejemplo colinealidad Sin embargo, cuando estimamos el efecto conjunto de CYL y ENG, son estadísticamente significativos Deberíamos eliminar una de ellas de nuestro modelo?, por ejemplo, CYL? Reduciría la varianza de los demás estimadores, Pero, dado que CYL es una variable relevante altamente correlacionada con ENG y WGT, también es probable que incorporemos sesgo de variable relevante omitida

31 Problemas con la data Identificación y mitigación de colinealidad Como sabemos, la colinealidad no-exacta no es estrictamente una violacion a los supuestos de MC, por lo tanto, no tiene sentido buscar un problema cuando no lo existe. Es decir, Si estimamos un modelo donde los coeficientes son significativos, tienen magnitudes y signos esperados, no son sensibles a pequeños cambios en la data o al agregar variables insignificantes, entonces no hay razón para identificar y mitigar la colinealidad. Si existen variables correlacionadas, no están causando problemas. Sin embargo, si estimamos un modelo que no es como lo que uno esperaría, es útil establecer por qué las estimaciones son insatisfactorias. Formas sencillas de detectar colinealidad Correlaciones entre par de variables explicativas Regresión sobre las variables explicativas Formas de mitigar Más data (muchas veces es difícil o caro) Usar información fuera de muestra (sesgo en estimadores)