PROPIEDADES DEL ESTIMADOR MCO

TEMA 3 PROPIEDADES DEL ESTIMADOR MCO S. Álvarez, A. Beyaert, M. Camacho, M. González, A. Quesada Departamento de Métodos Cuantitativos para la Economía y la Empresa Econometría (3º GADE)

Lo que estudiaremos en este tema: 1. El valor esperado del estimador MCO 1.1 Supuestos mínimos necesarios para la insesgadez 1. Errores de especificación e insesgadez del estimador MCO. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO. El estimador de la varianza del estimador MCO.3 Multicolinealidad fuerte y varianzas MCO.4 Varianzas en modelos mal especificados 3. Optimalidad del estimador MCO 3.1 Supuestos necesarios 3. El Teorema de Gauss-Markov 4. Consistencia del estimador MCO 4.1 Introducción 4. Supuestos necesarios 4.3 Teorema Bibliografía básica: Wooldridge, 008, cap. 3 y 5 Econometría (3º GADE) Tema 3

1. El valor esperado del estimador MCO 1.11 Supuestos mínimos necesarios para la insesgadez Propiedad de insesgadez: y x x 0 1 1 k k E ˆ /x,x,,x,x, 0,1, 01,k 11 1 (k1)n kn Eˆ es una medida de posición del estimador El estimador MCO de los coeficientes poblacionales 0, 1,, k es insesgado si se cumplen ciertos supuestos: RLM.1 Modelo lineal en los parámetros RLM. Media nula + Exogeneidad estricta RLM.3 No multicolinealidad perfecta E( x,x,,x,x ) E Ei 0 i 1,,N i 11 1 (k 1)N kn i ( RLM =Regresión Lineal Múltiple) Econometría (3º GADE) Tema 3 3

1. El valor esperado del estimador MCO 1.11 Supuestos mínimos necesarios para la insesgadez RLM.1 Modelo lineal en los parámetros y x x 0 1 1 k k Supuesto bastante flexible: permite usar funciones de las variables de interés Eemplo: log(salario) educ exp er exp er 0 1 3 Cómo se interpretan los coeficientes de este eemplo? Econometría (3º GADE) Tema 3 4

1. El valor esperado del estimador MCO 1.11 Supuestos mínimos necesarios para la insesgadez RLM. Media nula y exogeneidad estricta El valor esperado del error, condicionado a las explicativas, es igual al valor esperado no condicionado, y vale cero E( x,x,,x,x ) E( ) 0 i 1,,N i 11 1 (k1)n kn i E( i x 11,x 1,,x (k1)n,x kn) E i i 1,,N (RLM.a) E i 0 i1,,n (RLM.b) (RLM.a) exogeneidad estricta i incorrelacionado con las N observaciones de cada una de las explicativas (RLM.b) media nula Econometría (3º GADE) Tema 3 5

1. El valor esperado del estimador MCO 1.11 Supuestos mínimos necesarios para la insesgadez RLM.3 No multicolinealidad exacta En la muestra ninguna de las variables explicativas es constante, y no existen relaciones lineales exactas entre las explicativas se refiere sólo a las variables explicativas en la muestra. No excluye cierta correlación -no perfecta- entre las explicativas Puede cumplirse el supuesto RLM.3 en este eemplo? log(salario) educ exp er exp er 0 1 3 Econometría (3º GADE) Tema 3 6

1. El valor esperado del estimador MCO 1.1 Supuestos mínimos necesarios para la insesgadez Si hay multicolinealidad exacta, no es posible obtener el estimador MCO porque no está bien definido Por qué? Eemplo: y x x i 0 1 1i i i ˆ N i1 1 N i1 ry 1i r 1i i donde r 1i = residuo de regresar x sobre x 1, y un término constante es la parte de no relacionada con pero si x1i kxi (multicolinealidad exacta): r 1i 0i En general, la multicolinealidad exacta se debe a un error del analista Econometría (3º GADE) Tema 3 7 x 1 x x

1. El valor esperado del estimador MCO 1.11 Supuestos mínimos necesarios para la insesgadez Teorema de insesgadez Bao los supuestos RLM.1 a RLM.3, E ˆ /x,x,,x,x, 0,1,,k 11 1 (k1)n kn para cualquiera de los valores del coeficiente poblacional. Los estimadores MCO son estimadores insesgados de los coeficientes poblacionales No se puede hablar de la insesgadez de una estimación, sino del estimador. Nota: Todas las esperanzas y varianzas están condicionadas a los valores muestrales de las variables explicativas, pero para simplificar notación en las ecuaciones del resto del tema no aparece dicha condición, salvo cuando sea útil. Econometría (3º GADE) Tema 3 8

1. El valor esperado del estimador MCO 1.11 Supuestos mínimos necesarios para la insesgadez Demostración: modelo de regresión simple (Wooldridge p. 54) yi 0 1x1i i RLM.3 RLM.1 ˆ (x1i x 1)(yi y) (x1i x 1) 1(x1i x 1) ( i ) 1 (x x ) (x x ) 1i 1 i 1 (x1i x 1) 1i 1 1i 1 (x x )( ) ˆ (x1i x 1)( i ) E 1/x 11,,x1N E 1 /x 11,,x1N (x1i x 1) 0 (RLM.) (x x )E ( ) / x,,x 1i 1 i 11 1N 1 1 (x1i x 1) (x x ) Econometría (3º GADE) Tema 3 9

1. El valor esperado del estimador MCO 1. Errores de especificación e insesgadez del MCO Dos tipos frecuentes de error de especificación: Inclusión de irrelevantes: una (o más) variable(s) explicativa(s) incluida(s) no tiene(n) ningún efecto sobre la variable dependiente del modelo => modelo sobreespecificado Omisión de relevantes: se omite una (o más) variable(s) explicativa(s) que sí tiene(n) efecto sobre la variable dependiente del modelo => modelo subespecificado Tienen efectos distintos sobre la insesgadez Econometría (3º GADE) Tema 3 10

1. El valor esperado del estimador MCO 1. Errores de especificación e insesgadez del MCO Efecto de la inclusión ió de irrelevantes: modelo verdadero: modelo planteado: modelo estimado: y x, cumple RLM.1-RLM.3 i 0 1 1i i yi 0 1x1i xi i 0 y x x i 0 1 1i i Se siguen cumpliendo RLM.1-RLM.4 E 0 0 E 11 E 0 E 0,1, la inclusión de irrelevantes no afecta a la insesgadez Econometría (3º GADE) Tema 3 11

1. El valor esperado del estimador MCO 1. Errores de especificación e insesgadez del MCO Efecto de la omisión de relevantes: modelo verdadero: y x x, 0, cumple RLM.1-RLM.3 i 0 1 1i i i modelo planteado: yi 0 1 x1i i i x i i, puede fallar RLM. modelo estimado: y x i 0 1 1i Usando el modelo verdadero, E ˆ 1 1 Pero con el modelo mal especificado es muy probable que el estimador MCO esté sesgado: E( ) 1 1 La expresión del sesgo para muestra grande es aproximadamente: Sesgo de mala Cov(x especificación, función de: 1,x ) V(x 1) covarianza entre x y x 1 (si no es cero, falla RLM.) Econometría (3º GADE) Tema 3 1 x

1. El valor esperado del estimador MCO 1. Errores de especificación e insesgadez del MCO Eemplo: salario en función del nivel de estudios y de la habilidad Modelo verdadero: sal ne habil Modelo planteado (estimado): sal i 0 1ne i i 0 1 i i i Sesgo 1 Cov(ne,habil) V(ne) Es probable bl que Cov(ne, habil) 0 y también 1 0, 0 Por tanto: o Sobreestimación de β 1 o Sobrevaloración del impacto de ne sobre sal No sólo es importante el signo del sesgo sino también el tamaño del mismo. Econometría (3º GADE) Tema 3 13

. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO Necesitamos una medida de la dispersiónió de ˆ alrededor del valor central E ˆ : ˆ V Vˆ depende de las características del modelo. Característica más simple: Supuesto RLM.4: homoscedasticidad V( i x 11,x 1,,x (k 1)N,x kn) V( i) i1,,n V(yi x 11,x 1,,x (k1)n,x kn) V( i x 11,x 1,,x (k1)n,x kn) i La varianza del error ( y por tanto de y) es independiente de los valores de las explicativas, y además es constante. homoscedasticidad la varianza del error es constante Econometría (3º GADE) Tema 3 14

. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO Ilustración gráfica en el modelo de regresión simple Homoscedasticidad: y Ey/x E y x x 3 E y x x E y x x 1 0 1 E y / x x x 1 x x 3 x Econometría (3º GADE) Tema 3 15

. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO Heteroscedasticidad: y Ey/x E y x x 3 E y x x E y x x 1 0 1 E y / x x x 1 x x 3 x Econometría (3º GADE) Tema 3 16

. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO Supuesto RLM.5: no autocorrelación Cov(, x, x,, x, x ) 0 i h con i,h 1,, N i h 11 1 (k1)n kn Condicionando a las variables explicativas, los términos de error de dos observaciones diferentes están incorrelacionados. Si la muestra es aleatoria, los datos y el error de la observación i y de la observación h son independientes di para cualquier par de observaciones i y h. Muestreo aleatorio No autocorrelación Econometría (3º GADE) Tema 3 17

. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO Teorema de las varianzas muestrales de los estimadores MCO de los coeficientes de los regresores: Bao RLM.1 a RLM.5, condicionando a los valores muestrales de las variables explicativas, N STC x x R i i1 ˆ V 1,,,k STC (1 R ), proporcional a la varianza muestral de R-cuadrado de la regresión de sobre el resto de explicativas y un término constante Compare la expresión de la V ˆ en el modelo de regresión simple con 1 la del modelo de regresión múltiple. Econometría (3º GADE) Tema 3 18 x

. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO En el modelo de regresión simple: yi 0 1x1i i Bao RLM.1 a RLM.5: V ˆ /x,,x Demostración: 1 11 1N (x1i x 1) RLM.3 RLM.1 ˆ (x x )y (x x )( x ) (x x ) 1 1 (x x ) (x x ) (x x ) 1i 1 i 1i 1 0 1 1i i 1i 1 i 1i 1 1i 1 1i 1 ˆ (x1i x 1) i V 1/x 11,,x1N V /x 11,,x1N (x1i x 1) RLM.5 1i 1 (RL M. y RLM. 4) (x x ) V / x,,x i 11 1N (x 1i x (x 1) 1i x 1) Econometría (3º GADE) Tema 3 19

. La varianza del estimador MCO y su estimación.1 La varianza del estimador MCO Tres componentes: ˆ V 1,,,k STC (1 R ) varianza del error : a mayor, mayorv( ˆ ) grande, muestra más dispersa estimación menos precisa de las pendientes variación muestral de x : a mayor STC, menorv( ˆ ) x varía mucho p p p variaciones sobre y más fácil capturar con precisión el efecto ceteris paribus de sus relación de x con las demás explicativas: amenor R, menor V( ) x muy relacionado con el resto de explicativas efecto ceteris paribus de sus variaciones sobre y ˆ más difícil capturar con precisión el Econometría (3º GADE) Tema 3 0

. La varianza del estimador MCO y su estimación. El estimador de la varianza del estimador MCO V( ˆ ) STC (1 R ) desconocido calculable Necesitamos un estimador insesgado de E( ) i Bao RLM.1 - RLM.5 (demostración: Wooldridge p.6 para modelo de regresión simple) N s e i i1 N K con E s estimador insesgado de V( ˆ ): V( ˆ ˆ ) s STC (1 R ) Econometría (3º GADE) Tema 3 1

. La varianza del estimador MCO y su estimación.3 Multicolinealidad fuerte y varianzas MCO Multicolinealidad fuerte ( o multicolinealidad) existe una correlación alta (no exacta) entre dos o más variables explicativas No viola ninguno de los supuestos RLM.1 a RLM.5 Pero genera valores altos de varios => varias (muy) altas R V( ˆ ) fuente de (mucha) imprecisión en las estimaciones cómo detectarla? soluciones posibles? Econometría (3º GADE) Tema 3

. La varianza del estimador MCO y su estimación.3 Multicolinealidad fuerte y varianzas MCO Para detectarla: Si es entre variables explicativas Coeficiente de correlación lineal entre ellas Diagrama de dispersión de esas dos variables Si es entre más de dos variables explicativas R los =1,, k Para solucionarla: Recoger más datos (aumentar N) Si no es posible, reducirla eliminando alguna variable menos relevante (problema: cuál es menos relevante? reducimos multicolinealidad y dispersión a costa de introducir sesgo? (Ver tema4) Econometría (3º GADE) Tema 3 3

. La varianza del estimador MCO y su estimación.4 Varianzas en modelos mal especificados Inclusión de irrelevantes: modelo verdadero: modelo planteado: modelo estimado: yi 0 1x 1i i, cumple RLM.1-RLM.5 yi 0 1x1i xi i 0 y x x i 0 1 1i i pero no lo sabemos ˆ V( ) en mod. verdadero V( ˆ ˆ ) 1 1 STC 1 STC 1 ˆ s pero V( ) en mod. estimado V( ) STC (1 R ) STC (1 R ) 1 1 1 1 1 1 s las varianzas aumentan se pierde precisión en la estimación Econometría (3º GADE) Tema 3 4

. La varianza del estimador MCO y su estimación.4 Varianzas en modelos mal especificados Omisión de relevantes: modelo verdadero: y x x, 0, cumple RLM.1-RLM.5 i 0 1 1i i i modelo planteado: yi 0 1x1i i ixi i pero se ignora modelo estimado: y x i 0 1 1i pero ˆV( ˆ ) ˆV( ) s STC (1 R ) 1 1 1 1 s STC 1 las varianzas estimadas podrían reducirse mayor precisión aparente en la estimación Engañoso Econometría (3º GADE) Tema 3 5

3. Optimalidad de MCO 3.1 Supuestos necesarios Hasta ahora, hemos visto: orlm.1-rlm.3: necesarios para la insesgadez de MCO orlm.1-rlm.5: necesarios para la fórmula de V( ˆ ) RLM.1-RLM.5 = supuestos de Gauss-Markov Garantizan la optimalidad del estimador MCO. Recordemos: estimador óptimo estimador de mínima varianza dentro de una clase concreta Econometría (3º GADE) Tema 3 6

3. Optimalidad de MCO 3. Teorema de Gauss-Markov Teorema de Gauss-Markov: Bao los supuestos RLM.1-RLM.5, ˆ, ˆ,, ˆ 0 1 k son los estimadores lineales insesgados óptimos (ELIO) de, respectivamente.,,, 0 1 k Interpretación: RLM.1-RLM.5 garantizan que el MCO es el estimador de mínima varianza (más preciso) de entre todos los estimadores lineales e insesgados. Si falla un supuesto de RLM.1 a RLM.3 (p.e. RLM. que suele fallar), dea de ser insesgado. Si sólo fallan RLM.4 o RLM.5, existen otros estimadores más precisos (ver Tema 6 para RLM.4) Econometría (3º GADE) Tema 3 7

4. Consistencia del estimador MCO 4.1 Introducción No siempre se cumplen RLM.1-RLM.3 que aseguran insesgadez del MCO (propiedad de muestra finita) Pero un estimador debe ser por lo menos consistente: t amayor tamaño muestral, menos probabilidad de que el estimador se alee del valor poblacional (propiedad asintótica) Tamaño muestral : T 1 <T < <T Valor poblacional: 4 Econometría (3º GADE) Tema 3 8

4. Consistencia del estimador MCO 4. Supuestos necesarios Bao RLM.1, RLM. y RLM.3, MCO es insesgado y consistente: E( ˆ ) y también plim( ˆ ) N (dem. Consistencia Wooldridge p. 183) Puede fallar exogeneidad estricta => RLM. no se cumple, y MCO está sesgado. Pero la consistencia sólo requiere E( x,x,,x ) E 0 i 1i i ki i podemos garantizar por lo menos la consistencia con supuestos menos exigentes que los de insesgadez Econometría (3º GADE) Tema 3 9

4. Consistencia del estimador MCO 4. Supuestos necesarios RLM. : media nula y exogeneidad débil E( i x 1i',x i,,x ki ) E i i 1,,i,,N (RLM.a ') Ei 0 i 1,,N (RLM.b) RLM.a : exogeneidad débil exogeneidad d débil : E( x,x,,x ) E( ) i con i 1,,N i 1i i ki i i incorrelacionado con la observación i-ésima de cada una de las explicativas Con muestreo aleatorio, exogeneidad débil exogeneidad estricta Econometría (3º GADE) Tema 3 30

4. Consistencia del estimador MCO 4.3 Teorema Teorema de consistencia del estimador MCO: Bao los supuestos RLM.1, RLM. y RLM.3, plim( ˆ ) N No hace falta RLM., porque no hace falta exogeneidad estricta, la exogeneidad débil basta La validez práctica de este resultado requiere un tamaño muestral grande Importante: con sólo exogeneidad débil y sin exogeneidad estricta: el estimador MCO está sesgado y dea de ser ELIO las fórmulas de las varianzas utilizadas hasta ahora sirven sólo en muestras suficientemente grandes (siempre y cuando se cumplan RLM.4 y RLM.5) Econometría (3º GADE) Tema 3 31

Lo que hemos aprendido: 1. Propiedades d de muestra finitait del MCO: Supuestos mínimos que garantizan la insesgadez del MCO Linealidad en los parámeros, exogeneidad estricta y media nula, no multicolinealidad exacta. Efectos de la mala especificación sobre la insegadez: o o Incluir una irrelevante no sesga la estimación MCO Omitir una relevante sesga la estimación, y el sesgo es mayor cuanto más relacionada esté la omitida con las incluidas Econometría (3º GADE) Tema 3 3

Lo que hemos aprendido: Varianza del estimador MCO, bao homoscedasticidad y los supuestos de insesgadez Cómo estimar esta varianza Cómo afecta la multicolinealidad fuerte a la precisión de las estimaciones Cómo la inclusión de irrelevantes y la omisión de relevantes afectan a la precisión de la estimación Los supuestos para que MCO sea óptimo (ELIO). Propiedad asintótica del MCO: Uno supuesto menos exigente para que MCO sea al menos consistente: exogeneidad débil Econometría (3º GADE) Tema 3 33