Modelo de regresión lineal simple

Transcripción

1 Modelo de regresión lineal simple Inroducción Con frecuencia, nos enconramos en economía con modelos en los que el comporamieno de una variable,, se puede explicar a ravés de una variable X; lo que represenamos mediane = f ( X ) () Si consideramos que la relación f, que liga con X, es lineal, enonces () se puede escribir así: = β + β X () Como quiera que las relaciones del ipo anerior raramene son exacas, sino que más bien son aproximaciones en las que se han omiido muchas variables de imporancia secundaria, debemos incluir un érmino de perurbación aleaoria, u, que refleja odos los facores disinos de X -que influyen sobre la variable endógena, pero que ninguno de ellos es relevane individualmene. Con ello, la relación quedaría de la siguiene forma: Modelo de regresión simple = β + β X + u (3) La expresión anerior refleja una relación lineal, y en ella sólo figura una única variable explicaiva, recibiendo el nombre de relación lineal simple. El calificaivo de simple se debe a que solamene hay una variable explicaiva. Supongamos ahora que disponemos de observaciones de la variable (,,, ) y de las correspondienes observaciones de X ( X, X,, X ). Si hacemos exensiva (3) a la relación enre observaciones, endremos el siguiene conjuno de ecuaciones: = β+ βx+ u = β + β X + u = β + β X + u El sisema de ecuaciones (4) se puede escribir abreviadamene de la forma siguiene: = β+ β X + u =,,, (5) (4) I-

2 El objeivo principal de la regresión es la deerminación o esimación de β y β a parir de la información conenida en las observaciones de que disponemos. Esa esimación se puede llevar a cabo mediane diversos procedimienos. A coninuación se analizan en dealle algunos de los méodos posibles. Ineresa, en primer lugar, realizar una aproximación inuiiva a diferenes crierios de ajuse. Para ello se uiliza la represenación gráfica de las observaciones ( X, ), con =,,...,. Si la relación lineal de dependencia enre y X fuera exaca, las observaciones se siuarían a lo largo de una reca (véase la figura ). En ese caso, las esimaciones más adecuadas de β y β de hecho, los verdaderos valores serían, respecivamene, la ordenada en el origen y la pendiene de dicha reca. Figura Pero si la dependencia enre y X es esocásica, enonces, en general, las observaciones no se alinearán a lo largo de una reca, sino que formarán una nube de punos, como aparece en la figura. En ese caso, podemos conemplar las esimaciones de β y β como la ordenada en el origen y la pendiene de una reca próxima a los punos. Así, si designamos mediane β y β las esimaciones de β y β, respecivamene, la ordenada de la reca para el valor X vendrá dada por = β + β X (6) El problema que enemos planeado es, pues, hallar unos esimadores β y β ales que la reca que pasa por los punos ( X, ) se ajuse lo mejor posible a los punos ( X, ). Se denomina error o residuo a la diferencia enre el valor observado de la variable endógena y el valor ajusado, es decir, I-

3 u = = β β X (7) eniendo en cuena el concepo de residuo se analizan a coninuación diversos crierios de ajuse. Figura Un primer crierio consisiría en omar como esimadores β y β aquellos valores que hagan la suma de odos los residuos an próxima a cero como sea posible. Con ese crierio la expresión a minimizar sería la siguiene: u (8) = El problema fundamenal de ese méodo de esimación radica en que los residuos de disino signo pueden compensarse. al siuación puede observarse gráficamene en la figura 3, en la que se represenan res observaciones alineadas, ( X, ), ( X, ) y ( X3, 3), ales que 3 = X X X X 3 Si se ajusa una reca que pase por los res punos, cada uno de los residuos omará el valor cero, de forma que = u = 0 Dicho ajuse se podría considerar ópimo. Pero ambién es posible que 3 u 0 = = haciendo girar en cualquier senido la reca si dejamos fijo ( X, ), como muesra la figura, debido a que u 3 = u. Ese sencillo ejemplo nos muesra que ese crierio no es apropiado para la esimación de β y β, debido a. I-3

4 que, para cualquier conjuno de observaciones, exisen infinias recas que lo saisfacen. Ora forma de eviar la compensación de residuos posiivos con negaivos consise en omar los valores absoluos de los residuos. En ese caso se minimizaría la siguiene expresión: u (9) = Figura 3 Desgraciadamene, aunque los esimadores así obenidos ienen algunas propiedades ineresanes, su cálculo es complicado, requiriendo la resolución de un problema de programación lineal o la aplicación de un procedimieno de cálculo ieraivo. Un ercer méodo consise en minimizar la suma de los cuadrados de los residuos, es decir, S = u (0) Los esimadores obenidos con arreglo al crierio expresado en (0) se denominan mínimo-cuadráicos, y gozan de cieras propiedades esadísicas deseables, que se esudian poseriormene. Por ora pare, frene al primero de los crierios examinados, al omar los cuadrados de los residuos se evia la compensación de ésos, mienras que, a diferencia del segundo de los crierios, los esimadores mínimo-cuadráicos son sencillos de obener. Es imporane señalar que, desde el momeno en que omamos los cuadrados de los residuos, esamos penalizando más que proporcionalmene a los residuos grandes frene a los pequeños (si un residuo es el doble que oro, su cuadrado será cuaro veces mayor), lo que caraceriza ambién a la esimación mínimo-cuadráica frene a oros posibles méodos. = I-4

5 . Obención de los esimadores mínimo-cuadráicos A coninuación se expone el proceso para la obención por mínimos cuadrados de los esimadores β y β. El objeivo es minimizar la suma de los cuadrados de los residuos (S). Para ello, en primer lugar expresamos S en función de los esimadores β y β : ( β β ) () = S = X Para minimizar S, derivamos parcialmene respeco a β y β : S = ( β β X ) β = S = ( ) β β X X () β = Los esimadores mínimo-cuadráicos se obienen igualando las aneriores derivadas a cero: ( β β X ) = 0 = Operando, se iene que β βx X (3) = ( ) = 0 = β + β X = = X = β X + β X = = = (4) Las ecuaciones (4) se denominan ecuaciones normales de la reca de regresión. Resolviendo ese sisema, según puede verse en el recuadro adjuno, a parir de () se obiene de forma inmediaa el esimador de β : = = β ( )( X X) = ( X X) (5) I-5

6 Resolución del sisema de ecuaciones (4) Dividiendo la primera ecuación normal en (4) por se obiene: donde = β + β X (6) = = X = = X De acuerdo con la anerior expresión se obiene β = β X (7) Susiuyendo β en la segunda ecuación normal (4) se ienen que X = ( βx) X + βx = = = X X = β X XX = = = = (8) Por ora pare, ( )( X X ) = ( X X X + X ) = = = X X X + X = = = = = = = X X X+ X = X X = = X X = X XX + X = = ( ) ( ) X XX X X XX XX = = = = = = + = + = = = X X X eniendo en cuena (9) y (0), enonces (8) se puede expresar así: (9) (0) ( )( X X) = β ( X X) () = = I-6

7 A su vez β se obiene a ravés de la relación (7). Es decir, β = β X () Dividiendo numerador y denominador (5) por se iene que = ( )( X X) cov( X, ) β = = var( X ) ( X X) = De acuerdo con (3), la esimación de β se obiene dividiendo la covarianza muesral de X e por la varianza muesral de X. Dado que la varianza de X no puede ser negaiva, el signo de β será el mismo que el de la covarianza muesral de X e. 3. Propiedades descripivas en la regresión lineal simple Las propiedades que se exponen a coninuación son propiedades derivadas exclusivamene de la aplicación del méodo de esimación por mínimos cuadrados al modelo de regresión lineal simple, en el que se incluye como primer regresor el érmino independiene.. La suma de los residuos mínimo-cuadráicos es igual a cero: (3) Demosración. u = 0 (4) = Por definición de residuo u = = β β X =,,, (5) Si sumamos para las observaciones, se obiene: u = = β β X (6) = = = = = Por ora pare, la primera ecuación del sisema de ecuaciones normales (4) es igual a I-7

8 = β + β X (7) = = Al comparar (6) y (7), se concluye que necesariamene debe cumplirse (4). Obsérvese que, al cumplirse (4), se cumplirá ambién que y, al dividir por, enemos = (8) = = = (9). La reca de regresión pasa necesariamene por el puno (, X ). Demosración. En efeco, dividiendo por la ecuación (7) se obiene: = β + β X (30) 3. La suma de los producos cruzados enre la variable explicaiva y los residuos es igual a 0, es decir, Demosración. ux = 0 (3) = En efeco, ux = ( β β X) X = 0 = = (3). Para llegar a (3) se ha enido en cuena la segunda ecuación normal de 4. La suma de los producos cruzados enre los valores ajusados y los residuos es igual a 0, es decir, Demosración. u = 0 (3) = En efeco, si se iene en cuena (7) resula que I-8

9 u = u ( β + β X ) = β u + β u X = 0 = = = = Para llegar a (3) se ha enido en cuena las propiedades descripivas y 3. 4 Medidas de la bondad del ajuse. Coeficiene de deerminación Una vez que se ha realizado el ajuse por mínimos cuadrados, conviene disponer de algún indicador que permia medir el grado de ajuse enre el modelo y los daos. En el caso de que se haya esimado varios modelos alernaivos podría uilizarse medidas de ese ipo, a las que se denomina medidas de la bondad del ajuse, para seleccionar el modelo más adecuado. Exisen en la lieraura economérica numerosas medidas de la bondad del ajuse. La más conocida es el coeficiene de deerminación, al que se designa por R o R cuadrado. Como se verá en oro momeno, esa medida ienen algunas limiaciones, aunque es válida para comparar modelos de regresión lineal simple. El coeficiene de deerminación se basa en la descomposición de la varianza de la variable endógena, a la que denominaremos varianza oal. Vamos a ver a coninuación como se obiene esa descomposición. De acuerdo con (7) = + u (33) Resando a ambos miembros, se iene que = + u (34) Si elevamos al cuadrado ambos miembros se obiene que es decir, ( ) ( ) = u + (35) ( ) ( ) ( u u ) = + (36) Sumando ambos miembros de la expresión anerior de a, se iene ( ) ( ) ( = + u u ) (37) = = = = Ahora bien, puede verse que el ercer érmino del segundo miembro de (37) es I-9

10 ( ) (38) u = u u = 0 = = = de acuerdo con (3) y (4). Por lo ano, (37) queda reducida a ( ) ( ) = + u = = = (39) Debe recalcarse que para se cumpla que (38) es igual a 0 es necesario uilizar la relación (4), que a su vez esá asociada a la primera ecuación normal de la reca, es decir, a la ecuación correspondiene al érmino independiene. Si en modelo no hay érmino independiene, enonces en general no se cumplirá la descomposición obenida en (39). Si en la expresión (39) dividimos ambos miembros por, se obiene que ( ) ( ) u = = = = + Por lo ano, la varianza oal de la variable endógena se descompone en dos pares: varianza explicada por la regresión o varianza de los valores ajusados y varianza residual. Es decir, Varianza oal = varianza "explicada" + varianza residual A parir de la descomposición anerior, el coeficiene de deerminación se define como la proporción de la varianza oal explicada por la regresión. Su expresión es la siguiene: (40) R = = = ( ) ( ) Alernaivamene, y de forma equivalene, de acuerdo con (39) el coeficiene de deerminación se puede definir como menos la proporción no explicada por la regresión, es decir, como (4) El primer érmino del segundo miembro de (40) es la varianza de, ya que, de acuerdo con (9), se verifica que = I-0

11 R = = = u ( ) Los valores exremos del coeficiene de deerminación son: 0, cuando la varianza explicada es nula, y,cuando la varianza residual es nula, es decir, cuando el ajuse es perfeco 5 Hipóesis esadísicas del modelo I Hipóesis sobre la forma funcional Los elemenos del modelo ienen la siguiene relación enre sí: (4) = β + β X + u (43) La relación enre el regresando, los regresores y la perurbación aleaoria es lineal. El regresando y los regresores pueden ser cualquier función de la variable endógena o de las variables predeerminadas, respecivamene, siempre que enre regresando y regresores se manenga una relación lineal, es decir, el modelo sea lineal en los parámeros. El carácer adiivo de la perurbación aleaoria garaniza su relación lineal con el reso de los elemenos. II Hipóesis sobre la perurbación aleaoria La perurbación aleaoria u es una variable aleaoria no observable con las siguienes propiedades: a) La esperanza maemáica de la perurbación aleaoria u es cero. E( u ) = 0 =,,, (44) Se adopa aquí el supueso de que los efecos individuales de las variables incluidas en el érmino de perurbación ienden a compensarse por érmino medio. En cualquier caso, aun suponiendo que los efecos individuales no se compensasen exacamene y, por ano, su valor esperado fuese disino de cero, dicho valor podría ser acumulado en el érmino consane del modelo de regresión, con lo cual se podría manener esa hipóesis sin ningún problema. Por esa razón, si el modelo iene érmino consane, es imposible deslindar a poseriori la pare esricamene correspondiene al coeficiene independiene del modelo, de la pare proveniene de la media de la perurbación aleaoria del modelo. Así, pues, ésa seria una hipóesis no conrasable empíricamene. b) Las perurbaciones aleaorias son homoscedásicas E u = = (45) ( ),,, I-

12 Esa hipóesis indica que odas las perurbaciones aleaorias ienen la misma varianza. Es decir, la varianza de las perurbaciones aleaorias del modelo es consane y, por ano, independiene del iempo o de los valores de las variables predeerminadas. Dicha hipóesis es conrasable empíricamene mediane diversos conrases esadísicos basados en los residuos mínimocuadráicos. Asimismo, hay que señalar que, en deerminadas siuaciones, esa hipóesis resula poco plausible, sobre odo cuando se rabaja con daos de core ransversal, es decir, con observaciones sobre diferenes unidades muesrales referidas a un mismo momeno del iempo. Si no se cumple esa hipóesis, se dice que las perurbaciones son heeroscedásicas. c) Las perurbaciones aleaorias con disinos subíndices son independienes enre sí. E( uu ) = 0 s (46) s Es decir, las perurbaciones correspondienes a disinos momenos del iempo o a disinas unidades muesrales no esán correlacionadas enre si. Ese supueso, al igual que el anerior, es conrasable a poseriori. La ransgresión del mismo se produce con basane frecuencia en los modelos en los que se uilizan daos de series emporales, es decir, observaciones realizadas a inervalos regulares de iempo. d) La perurbación aleaoria iene una disribución normal mulivariane Dado que la perurbación aleaoria recoge un conjuno amplio de variables, omiidas del modelo de regresión, que son independienes enre si y ambién del conjuno de regresores, por el eorema cenral del limie se puede suponer que el vecor de perurbaciones aleaorias iene una disribución normal mulivariane. Las cuaro hipóesis formuladas sobre las perurbaciones aleaorias se pueden expresar de forma conjuna como ~ (0, ) donde NID indica que son normales e independienes. u NID (47) III Hipóesis sobre el regresor X a) Las observaciones de X son fijas en repeidas muesras De acuerdo con esa hipóesis, los disinos regresores del modelo oman los mismos valores para diversas muesras del regresando. Ése es un supueso fuere en el caso de las ciencias sociales, en el que es poco viable experimenar. Los daos se obienen por observación, y no por experimenación. Para que dicho supueso se cumpliera, los regresores deberían ser suscepibles de ser conrolados por pare del invesigador. Es imporane señalar que los resulados que se I-

13 obienen uilizando ese supueso se manendrían prácicamene idénicos si supusiéramos que los regresores son esocásicos, siempre que inrodujéramos el supueso adicional de independencia enre los regresores y la perurbación aleaoria. Ese supueso alernaivo se puede formular así: a*) La variable X se disribuye independienemene de la perurbación aleaoria En desarrollos poseriores se adopará el supueso de que se cumple la hipóesis a). b) El regresor X no coniene errores de observación o de medida Ésa es una hipóesis que raramene se cumple en la prácica, ya que los insrumenos de medición en economía son escasamene fiables (piénsese en la muliud de errores que es posible comeer en una recogida de información, mediane encuesa, sobre los presupuesos familiares). Aunque es difícil enconrar insrumenos para conrasar esa hipóesis, la nauraleza del problema y, sobre odo, la procedencia de los daos uilizados pueden ofrecer evidencia favorable o desfavorable a la hipóesis enunciada. IV Hipóesis sobre los parámeros β y β son consanes Si no se adopa esa hipóesis el modelo de regresión sería muy complicado de manejar. En odo caso, puede ser acepable posular que los parámeros del modelo se manienen esables en el iempo (si no se raa de períodos muy exensos) o en el espacio (si esá relaivamene acoado). 6 Propiedades probabilísicas del modelo Aleaoriedad del modelo Dado que u es aleaoria, ambién la variable endógena será una variable aleaoria por ser una función lineal de la perurbación aleaoria, como se deduce del modelo de regresión lineal (43). Cuando realizamos una esimación por mínimos cuadrados con daos reales, esamos suponiendo que exise un mecanismo de generación de daos - el modelo de regresión - que ha deerminado los valores observados de la variable endógena. Así, cuando realizamos una esimación en un modelo de regresión lineal simple, al como el modelo (43), esamos suponiendo que los valores observados por el invesigador de la variable endógena (,,..., ) han sido generados por dicha relación que coniene unos parámeros ( β y β ) desconocidos para el invesigador, una variable explicaiva (X) con valores conocidos y una perurbación aleaoria u cuyos valores son desconocidos. El invesigador supone que los valores de la perurbación aleaoria han sido I-3

14 generados por una disribución normal con media 0 y varianza, ambién desconocida. Así pues, el invesigador no observa direcamene el proceso de generación de daos, sino los resulados finales de ese proceso, es decir, los valores observados de :,,...,. Precisamene, aplicando el méodo de mínimos cuadrados (a esos daos y a los daos de la variable explicaiva), lo que se persigue es realizar esimaciones de los parámeros del modelo ( β, β y ), que son desconocidos para el invesigador. Con objeo de comprender mejor el proceso que acabamos de describir, es conveniene inverir los papeles, generando el propio invesigador los valores que oma la variable endógena. Cuando se generan los daos de forma arificial, se dice que se esá realizando un experimeno de Monecarlo. Ese nombre proviene del famoso casino de la Cosa Azul debido a que en esos experimenos se realizan exracciones de números aleaorios, lo que en definiiva es análogo al resulado del lanzamieno de una bola en la rulea de un casino. En la realización de un experimeno de Monecarlo se pare del supueso de que es conocido ano el mecanismo de generación de daos, como los valores de los parámeros. Aleaoriedad de los esimadores Los esimadores β y β son ambién variables aleaorias pueso que son función de las variables aleaorias. En efeco, ( X X)( ) ( X X) ( X X) = = = β = = ( X X) ( X X) = = = = = ( X ( X X ) X ) En el desarrollo anerior se ha enido en cuena que (48) En Economería Aplicada (páginas 60 a 66) puede verse como se generan números aleaorios uniformes y normales mediane ruinas informáicas. Por ora pare, en las páginas 49 a 53 (caso 3.) se realiza un experimeno de Monecarlo con una hipoéica función de consumo. I-4

15 ( X X) = ( X X) = X X = [ X X ] = 0 = = = Denominando = ( X ( X X ) X ) = c enonces el esimador β se puede expresar de la siguiene forma: β = c (49) Si se adopa el supueso III a), que implica que la variable X es no aleaoria, enonces de la expresión anerior se deduce que β es una combinación lineal de la variable. = Los coeficienes c ienen las siguienes propiedades: c = 0 (50) = En efeco, cx = (5) = = = ( X X) X X X X c = = = = 0 = = ( X X) ( X X) ( X X) = = = ( X X) X ( X X)( X X) ( X X) = = = ( X X) ( X X) ( X X) = = = cx = = = = Vamos a expresar a ahora el esimador β en función de las perurbaciones aleaorias. eniendo en cuena (49) y (43) resula que β = c ( β + β X + u ) = I-5

16 (5) = β c + β c X + cu = β + cu = = = = Para llegar al resulado final se ha enido en cuena (50) y (5). Análogamene, β = β X = β + β X + u β X = β + u X( β β ) u X cu = = = β + (53) EJEMPLO Esimación de la función de consumo con series simuladas Con el mismo modelo que el caso 3. de Economería Aplicada, en un experimeno de Monecarlo al que denominaremos Exp., hemos generado 0 series de consumo (CONS) a parir de la relación: CONS = + 0,85 RENDIS + u (54) donde RENDIS es la rena disponible y la perurbación u se disribuye con media 0 y desviación ípica. (La única variación con respeco al caso 3. es que en dicho caso la desviación ípica de la perurbación es,.) Aplicando mínimos cuadrados uilizando cada una de las muesras generadas de consumo y de la muesra dada de la variable RENDIS (Véase cuadro 3. de Economería Aplicada ), se han esimado (véase cuadro ) los parámeros β y β del modelo: CONS = β + β RENDIS + u (55) I-6

17 CUADRO Resulados Exp. Desviación ípica de las perurbaciones: Consane ( = ) Desviación ípica de la muesra de RENDIS: Consane ( S RENDIS =.905) Núm. muesra β β β Desviaciones ípicas eóricas β Desviaciones ípicas esimadas R Media β β CONS RENDIS Figura 4. Reca de regresión eórica (razo coninuo) y esimada en la muesra del Exp. (razo disconinuo) En la figura 4, además de la nube de punos, se han represenado la reca de regresión eórica (en razo coninuo) y la reca de regresión esimada con los daos de la muesra. Como puede verse, la reca ajusada esá muy próxima a la reca eórica. Insesgadez de los coeficienes Una propiedad deseable en un esimador es que sea insesgado, es decir, que su media eórica coincida con el parámero que raa de esimar. Veamos I-7

18 concreamene, y de forma analíica, si se verifica esa propiedad en los esimadores β y β. omando esperanza maemáica en (5) y (53), y eniendo en cuena la hipóesis a), se obiene que E( β) = E β + cu = E( β) + ce ( u) = β = = (56) E( β ) E β = + u Xcu E( ) E( u) X ce ( u) = β + = β (57) = = = = Por lo ano, β y β son esimadores insesgados de los parámeros β y β respecivamene. Cuando se esá rabajando con series reales no se conocen los valores de los parámeros; por ello, no se puede calcular la diferencia enre esimación y parámero correspondiene a una muesra en concreo. Sin embargo, si el esimador es insesgado sabemos que si esimáramos el modelo con un gran número de muesras, enonces la media de las esimaciones obenidas esaría muy próxima a los parámeros que se raa de esimar. Si un esimador no cumple esa propiedad, se dice que es un esimador sesgado. La diferencia enre el valor esperado del esimador y el esimador se denomina sesgo. EJEMPLO (coninuación) Esimación de la función de consumo con series simuladas Como en un experimeno de Monecarlo se conocen los parámeros, se pueden calcular los sesgos que se han comeido en la esimación. Así, los sesgos comeidos en la esimación con la muesra, según muesra el cuadro, son los siguienes: Sesgo ordenada: β, 000,993 0,993 β = = Sesgo pendiene: β 0,850 0,803 0, 047 β = = Los resulados aneriores esán deerminados en pare por el azar, es decir, por la exracción concrea de las perurbaciones aleaorias. Ahora bien, si hacemos varias exracciones y obenemos la media de odas las esimaciones obenidas, enonces los sesgos serán en general menores que en una muesra en concreo. Así, la media de las 0 esimaciones realizadas, según puede verse en el cuadro son las siguienes: 0 β j j= = =,803 β 0 I-8

19 0 β j j= = = 0,858 β 0 Los sesgos que se obienen para esos valores medios son los siguienes: Sesgo ordenada: β, 000,803 0,97 β = = Sesgo pendiene: β 0,850 0,858 0, 008 β = = Examinando los resulados del cuadro, en relación a esos sesgos medios, puede observarse que únicamene en la muesra 8 se obiene un sesgo menor para la pendiene (0,003), mienras que en la muesra 6 el sesgo de la esimación de la ordenada es igual en valor absoluo al correspondiene sesgo medio. Precisión de los coeficienes Ora propiedad deseable de un esimador es que sea preciso, es decir, que la función de densidad se encuenre lo más concenrada posible en orno al valor medio. Una medida de esa precisión la suminisra la varianza (o la desviación ípica) del esimador. La varianza del esimador β es la siguiene E( β β ) = = β = ( X X ) La demosración de (58) puede verse en el recuadro adjuno. (58) Denominando S x a la varianza muesral de X, es decir, ( X X ) = S x = la varianza de β se puede expresar del siguiene modo (59) E( (60) S x β β ) = = β I-9

20 Demosración de (58) De acuerdo con (5) se iene que β β = cu Elevando al cuadrado ambos miembros de la expresión anerior, y aplicando el operador esperanza se obiene = = E( β β) E cu = = E cu + ccuu = ceu ( ) + cceuu ( ) = = eniendo en cuena las hipóesis II b) y II c) se obiene ( ) X X c = ( X X) = = = = = ( X X ) = De forma análoga se obiene la varianza del esimador β : X X E( β β) = = + = β + Sx ( X X) = (6) Por ora pare, puede demosrarse que los esimadores mínimo cuadráicos, son esimadores ópimos, es decir, son los que iene menor varianza denro de la clase de esimadores lineales e insesgados. Por ello, suele decirse de los esimadores mínimo-cuadráicos que son ELIO (Esimadores Lineales Insesgados y Ópimos). De acuerdo con (60) y (6) las desviaciones ípicas de los esimadores vendrán dadas por β = (6) S x I-0

21 β X = + Sx (63) Como puede verse en (6), la desviación ípica de β es direcamene proporcional a la desviación ípica de las perurbaciones e inversamene proporcional a la raíz cuadrada del amaño de la muesra y a la desviación ípica muesral de la variable explicaiva. En la expresión (63), depende la desviación ípica de β depende de esos mismos facores y, además, de la media de la variable explicaiva. Al ser desconocida la varianza de las perurbaciones ( ), las varianzas de los esimadores de los coeficienes de regresión son ambién desconocidas. Por ello es necesario esimarla. El esimador insesgado de la varianza de las perurbaciones en el modelo de regresión lineal simple viene dado por u = = (64) A la desviación ípica esimada de la perurbación ( ) se le suele conocer ambién con la denominación de error ípico de regresión. Si en las varianzas eóricas de los esimadores (expresiones (60) y (6)) se susiuye la varianza de las perurbaciones por el esimador (64), se obienen las varianzas esimadas de los esimadores: β = (65) S x X β = + (66) S x Análogamene, las desviaciones ípicas esimadas de los esimadores vendrán dadas por = β (67) S x X = + β Sx (68) I-

22 EJEMPLO (coninuación) Esimación de la función de consumo con series simuladas En el cuadro se recogen ambién los resulados obenidos en las 0 muesras del Exp. para, y. β β Con objeo de ver la influencia que ienen y S RENDIS en las desviaciones de los esimadores, hemos realizado los experimenos y 3. En el experimeno se uiliza el mismo modelo que en el experimeno pero la varianza de la perurbaciones uilizada ha sido disina en cada una de las muesras. En concreo, en las 5 muesras generadas, según puede verse en el cuadro, se han asignado a de forma sucesiva los valores, 3, 4 y 5. Como puede observarse, excepo en el caso de que =, los esimadores obenidos esán muy alejados de los valores de los parámeros. Se comprueba ambién que según va creciendo, lo va haciendo ambién su esimador, aunque, como es previsible, de una forma menos uniforme que el parámero. En la figura 5 se ha represenado la reca de regresión verdadera y la correspondiene a esimación con la muesra 5, donde =5. Como puede comprobarse esán muy alejadas enre sí ambas recas. En el experimeno 3 se uiliza el mismo modelo que en el experimeno y ambién la misma la varianza de la perurbaciones. Sin embargo hemos uilizado 5 muesras disinas de la variable X. Las 5 muesras se caracerizan por ener la misma media (,4), pero una desviación ípica muesral de X variable, con valores que oscilan, según puede verse en el cuadro 3, enre,905 de la muesra (igual que en el experimeno ) y 0,90 de la muesra 5. Como puede observarse, las desviaciones ípicas de los esimadores crecen de forma drásica a medida que disminuye la desviación ípica muesral de la variable explicaiva. CUADRO Resulados Exp. Desviación ípica de las perurbaciones: Variable Desviación ípica de la muesra de RENDIS: Consane ( S RENDIS =.905) Núm β muesra β Desviaciones ípicas eóricas β β Desviaciones ípicas esimadas Media β β R I-

23 CONS RENDIS Figura 5. Reca de regresión eórica (razo coninuo) y esimada en la muesra 5 del Exp. (razo disconinuo) En la figura 6 se ha represenado la reca de regresión verdadera y la correspondiene a esimación con la muesra 5, donde S RENDIS =0,90. Como puede comprobarse en ese caso ambién esán muy alejadas enre sí ambas recas. CUADRO 3 Rena disponible (RENDIS) uilizada en el Exp. 3 RENDIS RENDIS RENDIS3 RENDIS4 RENDIS Media Desviación ípica I-3

24 CUADRO 4 Resulados Exp. 3 Desviación ípica de las perurbaciones: Consane ( = ) Desviación ípica de la muesra de RENDIS: Variable Desviaciones ípicas eóricas Núm β muesra β SRENDIS β β Desviaciones ípicas eóricas β β R Media CONS RENDIS5 Figura 6. Reca de regresión eórica (razo coninuo) y esimada en la muesra 5 del Exp. 3 (razo disconinuo) I-4

25 7 Principios generales del Conrase de hipóesis El conrase de hipóesis permie realizar inferencias acerca de parámeros poblacionales uilizando daos provenienes de una muesra. Para realizar conrases de hipóesis en esadísica, en general, hay que realizar los siguienes pasos: ) Esablecer una hipóesis nula y una hipóesis alernaiva relaivas a los parámeros de la población. ) Consruir un esadísico para conrasar las hipóesis formuladas. 3) Definir una regla de decisión para deerminar si la hipóesis nula debe ser, o no, rechazada en función del valor que ome el esadísico consruido. Formulación de la hipóesis nula y de la hipóesis alernaiva En la regresión lineal simple vamos a realizar conraes individuales sobre los coeficienes del modelo de regresión. La formulación de la hipóesis nula se realiza mediane una igualdad, que revise la siguiene forma: H β = β (69) * 0 : i i * donde β i es un valor prefijado por el invesigador. Para formular la hipóesis alernaiva se uilizan, según los casos, los operadores "desigualdad", "mayor que" o "menor que". Por ano, las res alernaivas de hipóesis alernaivas que consideraremos son las siguienes: ah ) : β β bh ) : β > β ch ) : β < β (70) * * * 0 i i 0 i i 0 i i El caso a) dará lugar a un conrase de colas, mienras que en los casos b) y c) el conrase correspondiene será de una sola cola. Consrucción del esadísico de conrase Para realizar el conrase se raa de buscar un esadísico que enga una disribución conocida. La disribución del esadísico dependerá en buena medida de los supuesos que se esablezcan en el modelo. De acuerdo con la hipóesis del modelo de regresión lineal simple II d), la perurbación u sigue una disribución normal. Dado que β y β se obienen como combinación lineal de u, seguirán a su vez una disribución normal, es decir,, β N β Sx (7) I-5

26 , X β N β + Sx o alernaivamene, si ipificamos, endremos que (7) β β N(0,) (73) S β β X + S x x N(0,) Supongamos que deseamos realizar un conrase sobre el coeficiene β. En concreo, supongamos que deseamos conrasar la siguiene hipóesis nula ((69) frene a la hipóesis alernaiva a) de (70)). Si es ciera la H 0, se verificará que (74) β β S * x N(0,) (75) El problema que se nos planea es que no se puede calcular el esadísico anerior porque no se conoce cuando rabajamos con daos reales. Cuando se susiuye por su esimador, enonces el esadísico anerior se disribuye como una con -k grados de liberad, es decir, * β β k (76) S x La dispersión de una de Suden es mayor que en una N(0,), aunque la dispersión va disminuyendo a medida que aumenan los grados de liberad, verificándose que: n N(0,) (77) n Así pues, cuando el número de grados de liberad de una de Suden iende hacia infinio converge hacia una disribución N(0,). En el conexo del conrase de hipóesis, si crece el amaño de la muesra, ambién lo harán los grados de liberad. Eso implica que para amaños grandes (por ejemplo, para muesras con un amaño superior a 60) se puede uilizar, de forma prácicamene I-6

27 equivalene, la disribución normal para conrasar hipóesis, aún cuando no se conozca la varianza poblacional. Conviene recordar que una con n grados de liberad iene la siguiene relación con una F de grado de liberad en el numerador y n grados de liberad en el denominador: n = ± F,n (78) Una variable F oma siempre valores posiivos, mienras que una variable, que iene una función de densidad simérica, puede omar valores posiivos y negaivos. Obsérvese que a cada valor de una F le corresponden dos valores (uno posiivo y oro negaivo) en una. La disribución del esadísico uilizado en el conrase incorpora la H 0, es decir, se consruye bajo el cumplimieno de la hipóesis nula. Regla de decisión para el conrase 3 3 Véase página 57 y siguienes de Economería Aplicada I-7