ECONOMETRIA I. Departamento de Fundamentos del Análisis Económico Universidad de Alicante. Curso 011/1 GUIÓN TEMA. PROPIEDADES DE LOS ESTIMADORES MCO Bibliografía apartados.1,. y.3: Greene, 6.6.1, 6.6.3 y 6.6.4 A. Fernández Gallastegui,., 3.5 y 3.7 J.M. Wooldridge. Epígrafes.5, 3.3 (hasta pág. 95), 3.4, 3.5 y Apéndice E..1 PROPIEDADES ESTADÍSTICAS DEL ES- TIMADOR MCO DE. En el tema 1 obtuvimos el estimador MCO de. En este apartado estudiaremos las propiedades estadísticas del estimador MCO de y en el epígrafe siguiente obtendremos un estimador de y estudiaremos las propiedades estadísticas del estimador MCO de : Propiedades estadísticas de b : b es un estimador lineal, es decir b es una función lineal de Y. Bajo lash hipótesis i básicas 1 a 4, b es un estimador insesgado de ; es decir E b = : b = (X 0 X) 1 X 0 Y = + (X 0 X) 1 X 0 u y por tanto E b = + (X 0 X) 1 X 0 E [u] = puesto que E[u]=0 Nótese que el estimador MCO es insesgado con independencia de que se veri que o no el supuesto 5.
Bajo las hipótesis básicas del MRL, V ar b = (X 0 X) 1 : V ar b hb i h i 0 hb i 0 = E E b b E b = E b = E n (X 0 X) 1 X 0 u (X 0 X) 1 X 0 u 0 o = (X 0 X) 1 X 0 E(uu 0 )X(X 0 X) 1 = = (X 0 X) 1 Ya que E(uu 0 )= I T Teorema de Gauss-Markov. Bajo las hipótesis básicas del MRL, el estimador MCO de es óptimo entre la familia de estimadores lineales e insesgados. Es decir, no es posible encontrar otro estimador de que siendo lineal e insesgado tenga una varianza menor que el estimador MCO.. ESTIMACIÓN DE Y PROPIEDADES ESTADÍSTICAS DEL ESTIMADOR. Como ya vimos en el tema anterior, el vector de residuos MCO es la diferencia entre los valores de la variable dependiente y los valores estimados de la misma: e = Y X b = Y b Y. Los residuos pueden interpretarse como la estimación del vector de errores, u. El vector de residuos MCO, e, es una transformación lineal de u E [e] = 0. e = Y X b = MY = ya que MX=0 Mu siendo M = I T X(X 0 X) 1 X 0. M es una matriz singular, simétrica (M = M 0 ) e idempotente (MM = M). E[e] = E[Mu] = ME[u] = ya que E[u]=0 0
V ar(e) = M V ar(e) = Ef[Mu] [Mu] 0 g = E[Muu 0 M] = ME[uu 0 ]M = ya que E[uu 0 ]= I T b = e0 e T k es un estimador insesgado de : MM = M Sabemos que e 0 e = (Mu) 0 (Mu) = u 0 Mu Se puede demostrar que E [e 0 e] = E [u 0 Mu] = (T k) Si de nimos b = e0 e T k e E(b 0 e ) = E = E [e0 e] T k T k = (T k) T k = También podemos escribir e 0 e como e 0 e = (Y X b ) 0 (Y X b ) = Y 0 Y b 0 X 0 Y.3 MATRIZ DE VARIANZAS ESTIMADA Y ERRORES ESTÁNDAR Hemos visto que bajo las hipótesis 1 a 5 V ar b = (X 0 X) 1 esta matriz es desconocida ya que es desconocida. Para saber la abilidad b y poder hacer inferencia es importante disponer de un estimador de su varianza. Se de ne la matriz de varianzas estimada de b como \ V ar b = b (X 0 X) 1 3
En el tema 3 veremos cómo contrastar hipótesis sobre el vector de parámetros utilizando b y V \ ar b : Nótese que si no se veri ca la hipótesis 5, V ar b 6= (X 0 X) 1 y por tanto b (X 0 X) 1 no sería un estimador apropiado de la varianza de b : Se de nen los errores estándar como las raices cuadradas de los elementos \ de la diagonal principal de la matriz V ar b : Es decir SE( b j ) = q b (X 0 X) 1 jj j = 1; ::; k donde b j es el elemento j del vector b y (X 0 X) 1 jj es el elemento (j; j) de la matrix (X 0 X) 1 : SE( b j ) es un estimador de la desviación típica de b j. Nota: Si cambiamos las unidades de medida de alguna o algunas de las variables explicativas y/o de la variable dependiente cada uno de los errores estándar variará en la misma proporción que el valor estimado del parámetro correspondiente..4. DISTRIBUCIÓN DE FORMAS CUADRÁTI- CAS ASOCIADAS A LA DISTRIBUCIÓN NOR- MAL. En este apartado estudiaremos algunos resultados básicos que serán de utilidad para obtener la distribución de los estimadores ^ y ^ y para realizar contrastes de hipótesis sobre los parámetros bajo la hipótesis de normalidad de los errores (Hipótesis 6 del Tema 1). Bibliografía apartado.4: Greene, 3.4.1, 3.4., y 3.10 A. Gallastegui.: apéndice 4.A. J.M. Wooldridge: apéndice B.5 Propiedad de la distribución normal multivariante Si X es un vector n 1, X N [; ] ; A es una matriz r n (r n) no aleatoria y b es un vector r 1 no aleatorio, entonces: (i) AX + b N [A + b; AA 0 ] 4
(ii) En particular 1= (X ) N [0; I n ] De nición 1 (chi-cuadrado con 1 grado de libertad): Si Z N [0; 1] ; entonces Z 1 De nición (chi-cuadrado con n grados de libertad): Si Z 1 ; Z ; :::; Z n son n variables aleatorias independientes e idénticamente distribuidas (i.i.d) como P N [0; 1], entonces n Zi n. i=1 De nición 3 (t de Student con n grados de libertad): Si Z y X son variables aleatorias independientes Z N [0; 1] y X n entonces Z q X n t n De nición 4 (F de Snedecor con n y m grados de libertad): Si X 1 y X son variables aleatorias independientes X 1 n y X m entonces X 1 n X m F n;m Teorema 1. (Suma de chi-cuadrados): Sean X 1 y X dos variables aleatorias independientes con distribución X 1 n 1 y X n ; entonces X 1 + X n 1 +n Teorema. Si Z 1 ; Z ; :::; Z n son n variables aleatorias independientes e idénticamente distribuidas (i.i.d) como N [0; ], entonces n P n Teorema 3: Distribución de formas cuadráticas de matrices idempotentes en vectores normales estandarizados. Sea X un vector aleatorio de dimensión n tal que X N(0; I n ); A una matriz n n simétrica e idempotente, entonces i=1 Z i X 0 AX J donde J = rg(a) = tr(a) Teorema 4: Independencia de dos formas cuadráticas con matrices idempotentes en un mismo vector normal estandarizado Sea X N(0; I n ) y A y B dos matrices n n idempotentes tales que AB = 0, entonces, las dos formas cuadráticas X 0 AX y X 0 BX son independientes. 5
Ejemplo: Sea X N(0; I n ) y A y B dos matrices n n idempotentes de rango n A y n B ; respectivamente. Utilizando el Teorema 3 X 0 AX n A X 0 BX n B Si AB = 0; utilizando el Teorema 4, X 0 AX y X 0 BX son independientes y por tanto (X 0 AX) =n A (X 0 BX) =n B F na ;n B Teorema 5: Independencia de una función lineal y una forma cuadrática idempotente de un vector normal estandarizado Sea X N(0; I n ) y sea L una matriz r n y A una matriz n n idempotente tales que LA = 0; entonces la función lineal LX y la forma cuadrática X 0 AX son independientes. Ejemplo: Sea X N(0; I n ); A una matriz n n idempotente de rango n A y L un vector n 1 tal que L 0 L = 1. Como X N(0; I n ) ) L 0 X N(0; L 0 L) = N(0; 1) y X 0 AX n A : Si L 0 A = 0; utilizando el Teorema 5, L 0 X y X 0 AX son independientes y por tanto L 0 X p (X0 AX) =n A t na Teorema 6: Distribución de formas cuadráticas de matrices de rango completo en vectores normales Sea X un vector n 1, X N [; ] ; entonces (X ) 0 1 (X ) n.5. PROPIEDADES DE LOS ESTIMADORES MCO CON ERRORES NORMALES Bibliografía apartado.5: Greene, 3.10., 6.6.3, A. Gallastegui.: 4.. J.M. Wooldridge, 4.1 Bajo la hipótesis adicional 6 de normalidad de los errores, se puede calcular la distribución exacta de los estimadores ^ y ^ : Nótese que la media y la varianza de ^ MCO se obtuvieron en el tema sin necesidad de imponer la hipótesis adicional 6, aunque obviamente la distribución de ^ sin esta hipótesis adicional es desconocida. Si el modelo satisface las hipótesis básicas 1 a 6: 6
b sigue una distribución normal ya que b es una función lineal de u ( b = + (X 0 X) 1 X 0 u). En concreto b N ; (X 0 X) 1 (0.1) k1 k1 kk La distribución marginal de cada elemento del vector b es también normal: b j N j ; (X 0 X) 1 jj para j = 1; :::; k donde b j es el elemento j del vector b ; j es el elemento j del vector y (X 0 X) 1 jj es el elemento (j; j) de la matriz (X 0 X) 1 : Y = X + u N(X; I T ); ya que Y es la suma de un vector no aleatorio X y un vector normal u. ^Y = X b N(X; X(X 0 X) 1 X 0 ); ya que b Y es una transformación lineal de b y b se distribuye como una normal como se ha visto en la expresión (0.1) tración b (T k) (T k) Dado que b = e0 e (T k) ) b (T k) y lo que tenemos que demostrar es que e 0 e (T k) = e0 e Sabemos que e 0 e = u0 Mu u 0 u = M Puesto que u N(0; IT ) y M es una matriz idempotente de rango T k, utilizando el Teorema 3, e 0 e (T k) 7
^ y b son independientes entre sí. tración Nótese que ^ u = (X 0 X) 1 X 0! función lineal del vector normal estandarizado b (T k) u 0 u = M! forma cuadrática con matriz idempotente M u en el vector normal estandarizado u Entonces, puesto que (X 0 X) 1 X 0 M = 0; utilizando el Teorema 5 b (T k) ^ y son independientes () b y ^ son independientes 8