EL MODELO DE REGRESIÓN LINEAL SIMPLE

Transcripción

1 Unversdad Carlos III de Madrd César Alonso ECONOMETRIA EL MODELO DE REGRESIÓN LINEAL SIMLE Índce 1. Relacones empírcas y teórcas Conceptos prevos Mejor redccón Constante Mejor redccón Lneal Mejor redccón Introduccón al modelo de regresón lneal smple Supuestos del modelo de regresón smple Interpretacón de coe centes Estmacón El prncpo de analogía El crtero de MCO ropedades de los estmadores MCO Lnealdad (en las observacones de Y ) Insesgadez Varanzas El Teorema de Gauss-Markov Consstenca de los estmadores MCO Estmacón de las varanzas Estmacón de Estmacón de las varanzas de los estmadores MCO Meddas de bondad del ajuste Error estándar de la regresón El coe cente de determnacón

2 Capítulos 6, 9, 10 y 12 de Goldberger. Capítulo 2 de Wooldrdge 1. Relacones empírcas y teórcas Como economstas, nos nteresa la relacón entre dos o más varables económcas. or ello, nos concentramos en poblacones, al menos, bvarantes. La teoría económca postula, en general, relacones del tpo Y = f (X) donde f () es una funcón. Dchas relacones son exactas o determnístcas, de manera que a cada valor de X le corresponde un únco valor de Y. S tuvéramos más varables exógenas, el razonamento sería déntco Y = f (X 1 ; : : : ; X K ) a cada combnacón de valores de X 1 ; : : : ; X K le corresponde un únco valor de Y. Qué sucede en general con los datos reales de varables económcas? Ejemplo: Relacón entre tasa de ahorro (Y ) y renta (X) (Goldberger, Capítulo 1 de A Course n Econometrcs, Harvard U. ress.) La teoría económca predce una relacón crecente entre tasa de ahorro y renta Datos de 1027 famlas de EE.UU. en los años 1960 a ara smpl car, hemos agrupado los datos en ntervalos para ambas varables, ponendo el punto medo del ntervalo. ara cada combnacón de X e Y presentamos la frecuenca relatva (en tanto por uno). 1

3 Dstrbucón conjunta de frecuencas de X e Y (X; Y ) X (renta en mles de dólares) Y (Y ) (tasa de ahorro) (suma de las) (X) (suma de columnas) Dada la evdenca empírca, podemos a rmar que exste una relacón determnístca entre tasa de ahorro y renta? ara que ello fuera certo, deberíamos encontrar en cada columna (para cada nvel de renta X) una únca frecuenca dstnta de 0. Claramente, esto NO es certo: para cada nvel de renta, exsten famlas que ahorran mucho y famlas que desahorran mucho. NO hay una funcón que relacone ahorro y renta: tenemos una dstrbucón, con valores más y menos probables: Observamos una proporcón mayor de famlas con tasas de ahorro más altas cuanto mayor es su renta. ara verlo mejor, podemos concentrarnos en las dstrbucones condconales de la tasa de ahorro para cada nvel de renta. ara ello, tenemos que dvdr las frecuencas relatvas de cada columna por la suma de éstas Dstrbucones condconales de frecuencas de Y para cada valor de X (Y j X) X (renta en mles de dólares) Y (tasa de ahorro) Suma de columnas Meda cond. b Y jx

4 Vemos que, en térmnos relatvos, las tasas de ahorro negatvas son más frecuentes para rentas bajas. arece exstr una contradccón entre la relacón funconal exacta predcha por la teoría económca y la evdenca empírca: La teoría a rma que las famlas de gual renta deberían presentar la msma tasa de ahorro ERO vemos que no es certo en realdad. Y no podemos argumentar que lo que observamos es una mera desvacón del comportamento óptmo. (mplcaría que la mayoría de las famlas se equvocan sstemátcamente). or supuesto, cabe argumentar que hay otras característcas en las que d eren famlas de gual renta. Ello requerría condconar en otras característcas. Ello reducría la dspersón (tendríamos celdas con valores cercanos a 0). ERO seguríamos tenendo tasas de ahorro dstntas para famlas parecdas. CONCLUSIÓN: las relacones empírcas entre varables económcas NO son determnístcas, sno estocástcas. ara reconclar teoría y datos, debemos renterpretar la teoría económca: Cuando la teoría postula que Y es funcón de X, entenderemos que el valor medo de Y es una funcón de X. En el ejemplo, vemos que las dstrbucones condconales del ahorro para cada nvel de renta varían con la renta: Cuanto mayor es la renta, las tasas de ahorro tenden a ser mayores. Ello mplca que la tasa de ahorro meda, condconal a la renta, aumenta con la renta. 3

5 Interpretacón: la meda de la tasa de ahorro Y es una funcón crecente de la renta X. Grá camente: Y (Tasa de ahorro meda) X (R enta) 2. Conceptos prevos Dada la dstrbucón de probabldad conjunta de (X; Y ) (por ejemplo, tasa de ahorro y renta famlar), supongamos que nos preguntan la tasa de ahorro de una famla tomada aleatoramente de la poblacón de nterés. Supongamos que nuestro crtero para medr el error en la predccón c(x) es la mnmzacón de E(U 2 ), sendo: U = Y c(x) el error de predccón, pudendo emplear en la predccón de Y el valor de X correspondente Mejor redccón Constante Supongamos que no conocemos la renta de la famla consderada (X). Entonces, nuestra eleccón de predctores queda restrngda a la nformacón sobre la dstrbucón margnal de la tasa de ahorro Y. En el ejemplo anteror, para calcular la dstrbucón margnal de Y debemos sumar las frecuencas observadas para cada la. 4

6 Y (tasa de ahorro) (Y ) En este caso, gnoramos cómo se comporta Y de acuerdo con X. La predccón que podemos hacer sobre Y se lmta a las constantes. El error de predccón será U = Y c. Se elegrá c tal que mnmce E(U 2 ) = k (Y k c) 2 p k. Dcho valor no es otro que: c = E(Y ) = Y La meda poblaconal Y es el mejor predctor constante de Y en una dstrbucón de probabldad bvarante (véase Capítulo 3 de Goldberger). En el ejemplo, suponendo que la dstrbucón presentada se re ere a una poblacón, E (Y ) = 0;45 0; ;18 0; ;05 0;331 0;11 0;165 0;25 0;063 = 0;09848 = 9;85 % 2.2. Mejor redccón Lneal Supongamos que conocemos la renta (X) de la famla para la que queremos predecr su tasa de ahorro (Y ). Además, sólo podemos elegr predctores que sean funcones lneales de X, es decr, c(x) = c 0 + c 1 X, sendo c 0 y c 1 constantes. El error de predccón será U = Y c 0 c 1 X. Se elegrán aquellas constantes c 0 y c 1 que mnmcen E(U 2 ) = k (Y k c 0 c 1 X) 2 p k. 5

7 Sean 0, 1, dchas constantes, de manera que c(x) = X, ver cando que c 0 = 0 = E(Y ) 1 E(X) = Y 1 X, c 1 = 1 = C(X; Y ) = XY. V (X) 2 X La recta X es la proyeccón lneal (o mejor predccón lneal) de Y dado X En nuestro ejemplo L(Y j X) = X C (X; Y ) = E (XY ) E (X) E (Y ) tenemos que calcular los 5 5 = 25 valores resultantes de multplcar cada uno de los valores de X e Y, respectvamente, y presentar la celda correspondente a la probabldad de ocurrenca de cada valor: Dstrbucón margnal de XY XY (XY ) XY (XY ) XY (XY ) XY (XY ) XY (XY ) donde y E (XY ) = 5X 5X X Y j r (XY = X Y j ) = 0; =1 j=1 E (X) = 1;4 0; ;0 0; ;9 0;216 +7;8 0; ;2 0;165 = 6;532 y por tanto, C (X; Y ) = 0; ;532 0;09848 = 0;

8 En consecuenca, tenendo en cuenta que entonces con lo cual E X 2 = 1;4 2 0; ;0 2 0; ;9 2 0;216 +7;8 2 0; ;2 2 0;165 = 59;155 V (X) = E X 2 [E (X)] 2 = 59;155 6;532 2 = 16;488 c 1 = 1 = C(X; Y ) = 0;13934 V (X) 16;488 = 0; c 0 = 0 = E(Y ) 1 E(X) = 0; ; ;532 = 0; y por tanto la funcón de proyeccón lneal es L(Y j X) = 0; ;008451X Aplcada úncamente a los valores de renta X, podemos escrbr la proyeccón lneal como 8 >< L (Y j X) = >: 2.3. Mejor redccón 0; ; ;4 = 0;055 s X = 1;4 0; ; ;0 = 0;069 s X = 3;0 0; ; ;9 = 0;085 s X = 4;9 0; ; ;8 = 0;1092 s X = 7;8 0; ; ;2 = 0;1633 s X = 14;2 Supongamos que conocemos la renta (X) de la famla antes de hacer la predccón de su tasa de ahorro (Y ). Además, podemos elegr como funcón de predccón cualquer funcón de X, c(x). El error de predccón será U = Y E(U 2 ), resultando que c(x) = E(Y j X). c(x). Se elegrá c(x) de forma que mnmce El mejor predctor de Y dado X es su esperanza condconal, E (Y j X). 7

9 Solamente cuando la funcón de esperanza condconal es lneal, la funcón de proyeccón lneal L (Y j X) y la funcón de esperanza condconal E (Y j X) concden. De lo contraro, cuando la funcón de esperanza condconal no es lneal, entonces la proyeccón lneal no es el mejor predctor, pero es la mejor aproxmacón lneal a la funcón de esperanza condconal. La funcón de esperanza condconal vene dada por las medas de cada una de las dstrbucones condconales de Y para cada uno de los valores de X. En el ejemplo, Dstrbucones condconales de frecuencas de Y para cada valor de X X (renta en mles de dólares) Y (tasa de ahorro) b Y jx La funcón de meda condconal se obtene calculando E (Y j X) para cada uno de los valores de X: E (Y j X = 1;4) = 0;45 0; ;18 0; ;05 0;440 0;11 0;172 0;25 0;134 = 0;045 E (Y j X = 3;0) = 0;45 0; ;18 0; ;05 0;377 0;11 0;200 0;25 0;091 = 0;074 E (Y j X = 4;9) = 0;45 0; ;18 0; ;05 0;329 0;11 0;208 0;25 0;074 = 0;079 E (Y j X = 7;8) = 0;45 0; ;18 0; ;05 0;277 0;11 0;152 0;25 0;026 = 0;119 E (Y j X = 14;2) = 0;45 0; ;18 0; ;05 0;297 0;11 0;091 0;25 0;030 = 0;156 8

10 de manera que la funcón de esperanza condconal se puede escrbr como 8 0;045 s X = 1;4 >< 0;074 s X = 3;0 E (Y j X) = 0;079 s X = 4;9 0;119 s X = 7;8 >: 0;156 s X = 14;2 En resumen, redctores de tasa de ahorro X (renta en mles de dólares) C L (Y j X) E (Y j X) 1.4 0;0985 0;055 0; ;0985 0;069 0; ;0985 0;085 0; ;0985 0;1092 0; ;0985 0;1633 0;156 Las predccones asocadas a la proyeccón lneal son dstntas de las basadas en la funcón de esperanza condconal, porque ésta no es lneal. En el grá co presentado anterormente, puede verse que la funcón de esperanza condconal no es lneal. L (Y j X) proporcona una aproxmacón bastante buena a E (Y j X). Ello mplca que L (Y j X) puede ser, en casos como éste, un buen predctor, aunque no concda con E (Y j X). ero mentras que E (Y j X) caracterza momentos (medas condconales) de las correspondentes dstrbucones condconales de Y dado X, L (Y j X) NO. Ello mplca que E (Y j X) puede tener una nterpretacón causal, pero L (Y j X) NO. 3. Introduccón al modelo de regresón lneal smple El Modelo de Regresón Lneal Smple se puede emplear para estudar la relacón entre dos varables, aunque tene lmtacones como herramenta para el análss empírco. 9

11 Objeto de estudo: Y y X son dos varables que representan alguna poblacón y estamos nteresados en explcar Y en térmnos de X o en estudar cómo varía Y ante varacones en X. or ejemplo, Y = ventas, X = gastos en publcdad; Y = tasa ahorro, X = renta. Al tratar de formular un modelo que explque Y en térmnos de X debemos afrontar varas cuestones: Cómo tenemos en cuenta otros factores que afecten a Y además de X? Cuál es la forma funconal de la relacón entre Y y X? Estamos captando con nuestro modelo una relacón ceters-parbus entre Y y X? El Modelo de Regresón Lneal Smple nos permte explcar Y en térmnos de X resolvendo las cuestones anterores. Sea Y = X + " donde: Y : Varable dependente, endógena, explcada, de respuesta... X : Varable ndependente, exógena, explcatva, de control, regresor.. 0 y 1 : arámetros poblaconales " : Térmno de error o perturbacón nobservable. Representa los factores que n uyen en Y además de X, el componente aleatoro de Y que no vene explcado por X. Ejemplo 1: S Y = salaro y X = años de estudo, entonces el térmno de error puede recoger factores nobservables como: - experenca laboral - capacdad o habldad - antgüedad en la empresa... 10

12 Ejemplo 2: S Y = cosecha y X = cantdad de abono, entonces el térmno de error puede recoger factores como: - caldad de la terra - lluva. 4. Supuestos del modelo de regresón smple 1. Lnealdad en los parámetros (Y = X + "). Este supuesto mplca que un cambo untaro en X tene el msmo efecto sobre Y con ndependenca del valor ncal de X. uede no ser realsta para algunas aplcacones económcas. (por ejemplo, en el caso de salaro y educacón podemos pensar en la exstenca de rendmentos crecentes) Esta lmtacón puede superarse formulando modelos lneales en parámetros que recogen relacones no lneales entre varables. 2. E ("jx) = 0, es decr: ara cualquer valor de X, la meda de los nobservables es sempre la msma e gual a cero (que es la meda de los nobservables para el total de la poblacón) Implcacones: E (") = 0 or la ley de esperanzas teradas, E (") = E [E ("jx)] = 0 Que E ("jx) = 0 mplca que C (h (X) ; ") = 0, donde h () es cualquer funcón de X. or tanto, " no está correlaconado con nnguna funcón de X. 11

13 En partcular, C(X; ") = 0 C(X; ") = E(X") E(X)E(") donde E(X") = E [E (X"jX)] = E [X E ("jx)] = 0 E(X)E(") = 0 dado que E (") = 0 Nótese que E ("jx) = 0 ) C(X; ") = 0, pero C(X; ") = 0 ; E ("jx) = 0 (que C(X; ") = 0 es cond. necesara, pero no su cente, para E ("jx) = 0). E(Y jx) = X La funcón de esperanza condconal o funcón de regresón poblaconal es lneal. Entonces: C(Y; X) C(Y; X) = C [E(Y jx); X] = 1 V (X) ) 1 = V (X) E(Y ) = E [E(Y jx)] = E(X) ) 0 = E(Y ) 1 E(X) Nótese que: Hemos de utlzar esperanzas condconales en X dado el carácter estocástco de dcha varable. S X fuera determnístca (como ocurrría en el caso de datos expermentales), bastaría con aplcar esperanzas margnales. Al ser la funcón de esperanza condconal lneal en X, E(Y jx) = L(Y jx) = X donde L () denota la proyeccón lneal de Y dado X. 0 y 1 son los parámetros que mnmzan la varanza del error " = Y 0 1 X, es decr, resuelven el problema mn E(Y 0 1 X) 2 cuyas condcones de prmer orden son E(Y 0 1 X) E(") = 0 ) 0 = E(Y ) 1 E(X) C(Y; X) E [(Y 0 1 X)X] = E(X") = 0 ) 1 = V (X) 12

14 3. V ("jx) = 2 para todo X (Homocedastcdad condconal) Implcacones: V (") = 2. ara verlo, V ("jx) = E(" 2 jx) E E("jX) 2 = E(" 2 jx) = 2 E(" 2 ) = E E(" 2 jx) = 2 V (") = E(" 2 ) [E(")] 2 = 2 V (Y jx) = 2 La varanza de Y dado X es constante. 13

15 5. Interpretacón de coe centes Supongamos, que el supuesto 1. de lnealdad en parámetros se cumple, de manera que nuestra espec cacón es Y = X + " Queremos ver cómo podemos nterpretar los parámetros de este modelo. La nterpretacón depende de que se cumpla o no el supuesto 2. E ("jx) = 0. S E ("jx) = 0, entonces tenemos que E (Y j X) = E (Xj X) + E ("j X) = X En este caso, E (Y j X) = L (Y j X): la funcón de esperanza condconal es lneal, y por tanto concde con la proyecón lneal de Y dado X. or tanto, la pendente 1 tene una nterpretacón causal: 1 = E(Y jx) X Cuando X aumenta en una undad, Y varía, en meda, 1 undades dey. La pendente 1 mde el cambo promedo en Y ante un cambo untaro en X. En otras palabras, 1 mde la dferenca de medas entre la dstrbucón condconal f (Y jx = x) y la dstrbucón condconal f (Y jx = x + x). En cuanto a la constante (tambén llamada térmno constante) 0, puede verse que E(Y jx = 0) = 0, es decr: 0 es el valor medo de Y cuando X = 0. Geométrcamente, es el valor de la recta de regresón en el eje de ordenadas. En la práctca, 0 no tene a menudo nterpretacón, en aquellos casos en que no tene sentdo que X = 0. 14

16 Sn embargo, el térmno constante 0 debe nclurse sempre en el modelo, para controlar por el hecho de que X e Y no tenen porqué tener meda 0. S E ("jx) 6= 0, entonces tenemos que E (Y j X) = E (Xj X) + E ("j X) = X + E ("j X) 6= X En este caso, s E ("jx) 6= 0, E (Y j X) 6= L (Y j X), porque E ("j X) = 0 8X. Los parámetros 0 y 1 son en este caso los parámetros de la proyeccón lneal, L (Y j X). ero 0 y 1 no tenen una nterpretacón causal. En resumen: S E ("jx) 6= 0, Y = X + " caracterza una proyeccón lneal, pero no una esperanza condconal, y NO tene nterpretacón causal. 15

17 6. Estmacón Nuestro objetvo consste en estmar los parámetros poblaconales, los betas, a partr de un conjunto de datos. Supondremos que nuestros datos (y ; x ), con = 1; : : : ; n, son una realzacón de una muestra aleatora de tamaño n de una poblacón, (Y ; X ). Sea el modelo: Y = X + " donde: E("jX) = 0 V ("jx) = 2 Cómo podemos estmar los parámetros 0, 1 y 2? Necestaremos una muestra de la poblacón. Dada una muestra aleatora de tamaño n de la poblacón, podemos escrbr: Y = X + " = 1; : : : ; n donde para todo = 1; : : : ; n: E(" jx ) = 0 V (" jx ) = 2 Vamos a ver cómo podemos obtener estmadores de los parámetros 0, 1 y 2, denotados como b 0, b 1 y b 2. 16

18 6.1. El prncpo de analogía Los parámetros de nterés son característcas de la poblacón, que son funcones de momentos poblaconales. El prncpo de analogía consste en utlzar como estmador la característca análoga en la muestra. Ejemplo: meda margnal Sea una muestra aleatora de observacones de Y, fy g n =1. ara estmar la meda margnal de Y, E(Y ), utlzamos la meda muestral Y = 1 n n =1 y. Recuérdese que, bajo los supuestos que hacíamos en el modelo smple en la poblacón: E(Y jx) = L(Y jx) = X y que por tanto 0 y 0 se obtenen de mnmzar: sendo: E(" 2 ) = E(Y 0 1 X) 2 0 = E(Y ) 1 E(X) C(Y; X) 1 = V (X) Aplcando el prncpo de analogía, susttuyendo momentos poblaconales por muestrales, obtenemos estmadores de 0, 1 : b 0 = Y 1 b X b 1 = (X X)(Y Y ) (X = X) El crtero de MCO 1 n 1 n (X X)Y (X X) = S XY 2 SX 2 odemos ver tambén este msmo estmador de la sguente forma: bajo los supuestos que hacíamos en el modelo smple en la poblacón, 0 y 1 son los parámetros que mnmzan la varanza del error " = Y 0 1 X, es decr, resuelven el problema o de forma equvalente, mn E(" 2 ), mn E(Y 0 1 X) 2 : 17

19 ara una observacón de la muestra, el análogo muestral del térmno de error o perturbacón (desvacón entre el valor observado y valor esperado) " = Y E(Y jx ), donde la funcón de esperanza condconal es lneal, se conoce como resduo (desvacón entre el valor observado y el valor predcho), b" = Y b Y = Y b0 + b 1 X or tanto, el análogo muestral del problema de mnmzar E(" 2 ) es 1 mn 0 ; 1 n sendo b" = Y b Y = Y b0 + b 1 X nx b" 2, =1 el resduo (desvacón entre el valor observado y el valor predcho) de la observacón -ésma, donde b Y es el valor predcho que mejor se ajusta a los datos (en el sentdo de que mnmza 1 n n =1 b"2 ), by = b0 + b 1 X = b L(Y jx ) or tanto, el estmador que hemos obtendo antes a partr del prncpo de analogía puede nterpretarse tambén como un estmador que mnmza la suma de los cuadrados de los resduos, lo que se conoce como estmador de mínmos cuadrados ordnaros (MCO). Las condcones de prmer orden son: X b" = 0; O, de forma equvalente, X X b" = 0: 1 X b" = 0 (meda muestral de los resduos 0) n 1 X x b" = 0 (covaranza muestral entre resduos y regresores 0) n donde x = X X (desvacón respecto a la meda muestral). 18

20 Nótese que estas condcones de prmer orden son el análogo muestral de las condcones de prmer orden para el modelo de regresón clásco referdo a los s en la poblacón: E(") = 0; C(X; ") = 0: El sstema de ecuacones normales nos queda como: n b 0 + b 1 X = Y b 1 x2 = y x En el modelo de regresón smple Y = X + " = 1; : : : ; n; los estmadores MCO de 0 y 1, es decr, b 0 y b 1, serían los argumentos que mnmzan: nx b" 2 = =1 nx (Y 0 b 1 b X ) 2 =1 Las condcones de prmer orden serían: b" = 0 ) b 0 = Y 1 b X X b" = 0 ) b 1 = (X X)(Y Y ) (X = (X X)Y X) 2 (X X) = S XY 2 SX 2 Los valores predchos o valores ajustados en base a los estmadores MCO resultantes, b Y = b 0 + b 1 X, ver can que X by b" = 0 (covaranza 0 entre valores ajustados MCO y resduos MCO). (es nmedato de comprobar explotando las condcones de prmer orden b" = 0 y X b" = 0, puesto que b Y es una funcón lneal de X ). 19

21 7. ropedades de los estmadores MCO 7.1. Lnealdad (en las observacones de Y ) b 0 = Y 1 b X = Y b 1 X b 1 = x Y = x2 c Y, donde x = X X, c = x x Insesgadez Esta propedad se ver ca s se cumplen los supuestos 1. (lnealdad) y 2. (E ("j X) = 0). E b0 = 0 (Véase ejercco) E b1 = 1 Demostracón: debemos probar que E b1 X = 1 ; después, es nmedato que E b1 = E X E b1 X = 1 h. (el carácter estocástco de X nos oblga a utlzar esperanzas condconales). En prmer lugar, podemos escrbr b 1 como ero c = c X = or tanto, b 1 = c Y = c ( X + " ) = 0 c + 1 c X + c " 1 x2 x X x2! X x = 0 porque X = 1 X x 2 x2 = 1 x = X X nx = 0 b 1 = 1 + c " y E b1 X = 1 + E ( c " j X) = 1 + c E (" j X) {z } = 0 = 1 20

22 Recordemos que la propedad de nsesgadez ndca que s dsponemos de un número n nto de muestras de tamaño n de la msma poblacón y estmamos el msmo modelo con cada una de las muestras: tendremos una dstrbucón de valores estmados de j, con una realzacón numérca dstnta para cada muestra, la meda de la dstrbucón de dchos valores estmados de j, concdrá 7.3. Varanzas con el parámetro poblaconal j. Además de los supuestos 1. y 2., utlzaremos el supuesto 3. (V ("jx) = 2 para todo X). V b0 = ( X2 / n) V b1 (Véase ejercco) V b1 = 2 1 n E. Sx 2 Demostracón: V b1 h 2 = E b1 2 1 = E c " = E c 2 " 2 = E E c 2 " 2 X = E c 2 E " 2 X = 2 E c 2 (por el supuesto 3.) " # " # 2 = 2 x E = 2 1 E x2 ( x 2 x2 ) = 2 6 E 4 n = 2 1 n ( x2 ) n E SX El Teorema de Gauss-Markov En el contexto del modelo de regresón lneal, bajo los supuestos 1. a 3., b 0, b 1 son los de menor varanza entre los estmadores lneales e nsesgados. (Demostracón: Goldberger p , para el modelo smple) 21

23 or tanto, cuando se cumplen los supuestos del modelo clásco, el estmador de MCO es el más e cente dentro de la famla de estmadores lneales e nsesgados Consstenca de los estmadores MCO Los estmadores MCO b 0 y b 1 son estmadores consstentes de 0 y 1 : p lm n!1 b j = j ; j = 0; 1: es decr: lm r j b j < = 1; 8 > 0 n!1 Intucón: Los estmadores MCO se obtenen a partr de los análogos muestrales de momentos poblaconales. En concreto, explotan los análogos muestrales de las condcones de momentos: E(") = 0; C(X; ") = 0; (*) es decr: 1 n b" 1 = 0; n b" x = 0; ero dchos análogos muestrales son funcones de medas muestrales de varables aleatoras, que bajo condcones bastante generales son estmadores consstentes de sus análogos poblacones. La condcón esencal para consstenca es que las condcones sobre los momentos poblaconales (*) se cumplan. (Lo que ocurre s se cumplen los supuestos 1. y 2. del modelo de regresón) 8. Estmacón de las varanzas 8.1. Estmacón de 2 Las varanzas de los estmadores MCO, b 0 y b 1, dependen de 2 = V (") = E (" 2 ). El problema es que los errores " ( = 1; : : : ; n) son nobservables. 22

24 Una vez estmado el modelo por MCO, observamos los resduos b" : b" = Y b 0 b 1 X = ( X + " ) b 0 b 1 X = " b0 0 b1 1 X ( = 1; : : : ; n) S ben E b0 = 0, E b1 = 1, b" 6= ". Además, E (b" " ) 6= 0. S observáramos, para nuestra muestra de temaño n, los errores " ( = 1; : : : ; n), entonces el estmador natural de 2 sería el análogo muestral de E (" 2 ), es decr, 1 n "2. ERO este estmador no es factble. S reemplazamos los errores por sus análogos muestrales, los resduos, podemos calcular como estmador de 2 : e 2 = b"2 n. Este estmador sí es factble, pero es sesgado. La razón es que, los resduos ver can 2 restrccones lneales, 1 n b" = 0 y 1 n b" x = 0, de manera que sólo hay (n 2) resduos ndependentes (lo que se conoce como grados de lbertad). Alternatvamente, podemos obtener un estmador nsesgado (que para n grande es muy smlar): b 2 = b"2 n 2. (Demostracón: véase Wooldrdge, Teorema 2.3) Tanto e 2 como b 2 son estmadores consstentes de 2. En general, para tamaños muestrales moderados, es rrelevante cuál de los dos estmadores utlzar, porque sempre que n no sea muy pequeño, proporconan estmacones numércas muy parecdas Estmacón de las varanzas de los estmadores MCO Hemos vsto que V b0 = ( X2 / n) V b1 23

25 V b1 = 2 1 n E. Sx 2 Como estmador de V b1 1, podemos aproxmar E un estmador consstente de 2 : S 2 x medante 1 Sx 2 así como Y por tanto, para estmar V bv b0, b1 = b2 ns 2 x bv b0 = b2 X2 n 2 S 2 x 9. Meddas de bondad del ajuste 9.1. Error estándar de la regresón En el caso poblaconal, vmos que la funcón de esperanza condconal E (Y j X) es la proyeccón lneal de Y dado X. en el sentdo de que mnmza E (" 2 ). or analogía, en el caso de la estmacón MCO a partr de una muestra de los coe centes del modelo de regresón clásco Y = X + " = 1; : : : ; n; donde: E("jX) = 0 V ("jx) = 2 resulta natural presentar la estmacón de E (" 2 ), b 2 como ndco del éxto o del fracaso del modelo. De forma más convenente, suele consderarse la raíz cuadrada de b 2, b, que se denomna error estándar de la regresón, como medda de la bondad del ajuste 24

26 9.2. El coe cente de determnacón Una medda más popular de capacdad predctva del modelo es el R 2 o coe - cente de determnacón, que se de ne como R 2 = by2 = 1 b"2, y2 donde y = Y Y, by = b Y Y, b" = Y b Y. (la segunda gualdad es certa sempre que el modelo tenga térmno constante) El R 2 se nterpreta como la proporcón de la varacón muestral de Y explcada por el modelo. (Véase Goldberger, pp. 82 y 83). El R 2 ver ca que 0 R 2 1. Cuando R 2 = 0, el modelo explca el 0 % de la varacón de Y. Cuando R 2 = 1, el modelo explca el 100 % de la varacón de Y. uede verse que 2 R 2 2 SY b = b Y Y b = Y = S Y S by n y2 q 1 n Y Y 2 Y Y Y b Y r 1 n by Y es decr: el R 2 es el cuadrado del coe cente de correlacón muestral entre Y e by. En el caso de datos de seccón cruzada, no es nusual que el R 2 de una regresón presente valores bajos. Ello mplca que el modelo deja sn explcar una proporcón mportante de la varacón de Y. ERO un R 2 poco útles o nadecuadas. bajo no mplca necesaramente que las estmacones son El R 2 puede ser útl para comparar dstntos modelos para la msma varable dependente Y