Tema 3 Modelo de regresión lineal simple (I)

Transcripción

1 Itroduccó a la Ecoometría. Curso 7-8 3º de Ecoomía Tema 3 Modelo de regresó leal smple (I. EL MODELO: MOTIVACIÓN DEFINICIONES El modelo de regresó leal smple trata de capturar la relacó etre dos varales y, x. y f(x,u y es la varale depedete, o varale explcada o regresado. x es la varale depedete, o varale explcatva, o regresor. u es el térmo de error o perturacó aleatora o oservale. Cotee todos los factores dsttos de x que afecta a y. Qué recoge u? - Alguas varales que explca la varale depedete y, pero que o so oservales o o se puede medr. - Errores de especfcacó, es decr, varales explcatvas mportates que hemos omtdo por error, o porque o las podamos medr. - Errores de medcó de la varale depedete.

2 . EL MODELO: MOTIVACIÓN DEFINICIONES Para oteer u modelo útl que os permta cuatfcar cómo x explca y, teemos que respoder a las sguetes cuestoes: Qué forma fucoal supoemos para f(x,u? Supodremos que la relacó que vcula x e y es leal e parámetros y que el térmo oservale etra de forma adtva. y β β x u β es la costate (tercept parameter β es la pedete (slope parameter. EL MODELO: MOTIVACIÓN DEFINICIONES β β β 3 4 Supogamos que la varale es ua fucó leal de otra varale, dode la relacó etre y depede de parámetros β y β descoocdos. S uestro terés fuera coocer la relacó que ue a co, etoces deeríamos estmar los parámetros descoocdos.

3 . EL MODELO: MOTIVACIÓN DEFINICIONES β β β Q Q Q 3 Q Supogamos que teemos ua muestra de 4 oservacoes de (,. Supoemos que esas oservacoes procede de ua muestra aleatora smple. S la relacó etre e fuera exacta, solo astaría dos putos para hallar ua solucó para los parámetros β y β. 3. EL MODELO: MOTIVACIÓN DEFINICIONES β β β P Q Q Q 3 P P 3 Q S emargo, las relacoes ecoómcas o so exactas: muchos de los putos que oservamos o va a estar e la recta 4

4 . EL MODELO: MOTIVACIÓN DEFINICIONES β β β P Q Q Q 3 P P 3 Q Para permtr dvergeca etre la varale de la recta de terés, troducmos u térmo de perturacó al modelo, que o es oservale: β β u. Por ejemplo, s es el salaro y la educacó, u puede represetar la haldad ata para gaar más dero: así dos dvduos co la msma educacó puede teer u salaro dferete. 5. EL MODELO: MOTIVACIÓN DEFINICIONES β β β β β u P Q Q Q 3 P P 3 Q Cada valor de tee etoces u compoete o aleatoro o sstemátco β β y u compoete aleatora, u. La prmera oservacó la hemos descompuesto e estas dos partes. 6

5 . EL MODELO: MOTIVACIÓN DEFINICIONES P P P E el mudo real, úcamete oservamos los putos P para cada. 7. EL MODELO: MOTIVACIÓN DEFINICIONES ˆ P P P Naturalmete, podríamos utlzar los putos P para dujar ua líea que aproxme β β. ^ Podemos escrr esta líea como, dode es ua estmacó de β y es ua estmacó de β. 8

6 . EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho ˆ P R R 3 R 4 R P 3 P 3 4 A esta líea aproxmada se la cooce como el modelo ajustado, y a los valores de la varale e esa líea se le llama valores predchos o ajustados (so los putos R. 9. EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho ˆ e (resduo e 4 ˆ R 3 R 4 R P e e 3 e R P 3 P 3 4 Oservad que hay ua dscrepaca etre el valor de realmete oservado (los putos P y el valor predcho por la líea aproxmada (R. A esta dscrepaca se le llama resduo.

7 . EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho P R R 3 R 4 ˆ β β β R P P Es mportate oservar que los valores que toma los resduos so dsttos a los valores del térmo de perturacó. Esto es dedo a que la aproxmacó que hacemos uca va a cocdr exactamete co la verdadera líea que relacoa a estas varales.. EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho ˆ β β β P Q 3 Q Q P 3 P Q La perturacó es la resposale de la desvacó que exste etre el compoete o aleatoro y las verdaderas oservacoes.

8 . EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho P R R 3 R 4 ˆ β β β R P P Los resduos so la dfereca etre el valor real y el valor predcho por la recta estmada e ase a la aproxmacó de los parámetros descoocdos 3. EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho P R R 3 R 4 ˆ β β β R P P Etoces, es atural que cuado los resduos sea pequeños el ajuste sea ueo y los resduos teda a estar cerca de la perturacó. Pero lo que dee quedar claro es que los dos coceptos represeta cosas dsttas. 4

9 . EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho u 4 ˆ β β Q 4 β β β Amas líeas, la aproxmada y la verdadera, so mportates e el aálss de regresó, puesto que permte descompoer el valor oservado de e dos partes. Usado la relacó téorca, o verdadera, se descompoe e su parte o estocástca β β y su parte estocástca u. 5. EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho u 4 ˆ β β Q 4 β β β Esta es ua descomposcó teórca dado que o coocemos los valores exactos de β o β, los del térmo de perturacó. 7

10 . EL MODELO: MOTIVACIÓN DEFINICIONES (valor real ˆ (valor predcho e 4 R 4 ˆ β β β La seguda descomposcó del valor real de se hace e fucó de la líea ajustada: es la suma del valor predcho de y de su resduo. Esta descomposcó la utlzaremos para oteer fórmulas que os permta aproxmar los valores descoocdos de los parámetros 8. EL MODELO: MOTIVACIÓN DEFINICIONES Cómo podemos oteer ueas estmacoes de los parámetros del modelo? Más adelate mostraremos que sólo podemos oteer estmadores fales de β y β, partedo de u muestreo aleatoro de datos, cuado estalecemos supuestos que restrge el modo e el que el térmo de error u se relacoa co x. Dado quex y u so varales aleatoras, ecestamos realzar supuestos mportates sore su dstrucó cojuta. Es decr, ecestamos hacer supuestos sore cómo es la relacó etre x y u. Ates de estalecer el supuesto clave, vamos a estalecer u supuesto sore cómo se comporta u. Sempre y cuado troduzcamos u térmo costate e la regresó, o perdemos ada al supoer que E(u

11 . EL MODELO: MOTIVACIÓN DEFINICIONES Cómo podemos oteer ueas estmacoes de los parámetros del modelo? Por Porqué decmosque queeste este supuestoo o es es restrctvo: β β u Supoed E(u µ u. u. Defmos Etoces v u- - µ u, u, etoces u v µ u u v µ uu ( ( u µ u v dode E(v E(u E(u- - µ u - E(µ u u E(u - E(µ u. EL MODELO: MOTIVACIÓN DEFINICIONES Cómo podemos oteer ueas estmacoes de los parámetros del modelo? Pero el supuesto clave para poder detfcar el efecto de x sore y es que x y u o está relacoadas. Para garatzar esto astaría co supoer cov(x,u? Queremosquex o os dé gua formacó sore u, es decr, queremos que estas dos varales o tega gú tpo de relacó. Supuesto: E(u x E(u Este supuesto mplca: E(y x β β x

12 . EL MODELO: MOTIVACIÓN DEFINICIONES Es decr, estamos supoedo que E(y x es ua fucó leal de x tal que, para cualquer x, la dstrucó de y está cetrada e E(y x f(y E(y x β β x. EL MODELO: MOTIVACIÓN DEFINICIONES EJEMPLO: Ecuacó de salaros wage β β educ u Supogamos que u es la capacdad ata del dvduo (para gaar dero. El supuesto de meda codcoal gual a cero mplca que: E( alty educ E( alty educ 6 Es decr, el vel medo de capacdad dee ser el msmo para todos los veles educatvos. S la gete co más capacdad tede a educarse más, etoces este supuesto o se cumple. ESTO ES UN PROBLEMA IMPORTANTE.

13 EJERCICIO Sea kds el úmero de ños que ua mujer ha tedo y educ el úmero de años de educacó que la mujer ha recdo. El sguete es u modelo smple que relacoa la fertldad co el úmero de años de educacó. kds β β educ u Dode u es el error o oservado. a Qué tpo de factores está e u? Puede estos estar correlacoados co el vel de educacó? E el aálss de regresó osotros estamos teresados e hacer terpretacoes de efectos causales. Para ello deemos medr relacoes etre educ y kds ceters parus, es decr, s lo demás permaece costate. De acuerdo co lo que respodste e el apartado ateror, crees que e este modelo el β mde el efecto causal de educ sore kds?. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS S u ajuste ueo es aquél que tee los resduos pequeños, por qué o uscar uos valores para los parámetros que haga mímo este resduo? Mmzar la SCR (suma de cuadrados de los resduos, dode SCR e e... e Por qué o mmzamos? e e... e 9

14 . ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS P P P La respuesta está e que los errores postvos y egatvos se compesaría. El ajuste perfecto e este caso sería ua líea recta e la meda del valor de. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS Verdadero : β β u Qué pasa s teemos oservacoes? 3

15 . ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS Verdadero Ajustado : : ˆ β β u ˆ ˆ Dada uestra eleccó de y, la recta ajustada es la que se muestra e el gráfco. 4. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS Verdadero Ajustado : : ˆ β β u ˆ e ˆ e e... ˆ ˆ Defmos el resduo para la prmera oservacó 5

16 . ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS Verdadero Ajustado : : ˆ β β u e ˆ e ˆ e e... ˆ ˆ Del msmo modo, defmos los resduos para el resto de oservacoes. E la gráfca se señala el correspodete a la últma oservacó. 6. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS SCR ( e ( Oservad que los resduos depede de y y que, por lo tato, se puede elegr sus valores de forma tal que haga míma dcha suma de resduos al cuadrado 7

17 . ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS m, SCR ( e ( SCR ( (. SCR ( y ( 7. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS SCR Se dvde por. 6

18 SCR ( Se susttuye por la expresó oteda aterormete, de maera que la ecuacó queda sólo e fucó de. 7. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS SCR ( ( Utlzamos la defcó de la meda muestral 8. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS

19 SCR ( ( ( Los térmos que o cotee se pasa a la parte de la derecha y se dvde la ecuacó por. 9. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS SCR ( ( (, Cov( Var( Var(, Cov( Así, oteemos ua expresó para.. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS

20 . ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS Verdadero Ajustado : : ˆ β β u ˆ ˆ De uevo, mostramos el gráfco para lustrar lo que hemos hecho. Hemos especfcado u modelo de regresó y, a partr de los datos, hemos ajustado la recta que aparece e el gráfco. 3. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS Verdadero Ajustado : : ˆ β β u ˆ ˆ Cov(, Var( Hemos elegdo los parámetros de la recta ajustada de modo que mmce la suma de cuadrados de los resduos. 3

21 Expresoes alteratvas para Var(, Cov( E fucó de las expresoes de la varaza y covaraza muestral ( ( ( ( ( (. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS Var(, Cov( ( ( ( ( ( ( 35 Expresoes alteratvas para...y utlzado las expresoes alteratvas de la varaza y covaraza muestral que calculamos e clases aterores.. ESTIMACIÓN POR MÍNIMOS CUADRADOS ORDINARIOS

22 3. INTERPRETACIÓN DE LA REGRESIÓN 8 7 Salaro por hora ($ Estudos Este gráfco muestra el salaro por hora de 57 dvduos. 3. INTERPRETACIÓN DE LA REGRESIÓN. Regresó Salaro- Estudos Source SS df MS Numer of os F(, Model Pro > F. Resdual R-squared Adj R-squared. Total Root MSE SALARIO Coef. Std. Err. t P> t [95% Cof. Iterval] S _cos Esta es ua salda de ordeador de u programa ecoométrco típco. 5

23 3. INTERPRETACIÓN DE LA REGRESIÓN 8 7 ^ Salaro S 6 5 Salaro Estudos Qué sgfca los coefcetes? 5 3. INTERPRETACIÓN DE LA REGRESIÓN 4 3 $.49 Salaro $.4 U año $ Estudos Qué mde la pedete?

24 3. INTERPRETACIÓN DE LA REGRESIÓN 8 7 ^ Salaro S 6 5 Igreso Estudos Qué sgfca el térmo costate? E este caso, su valor tee setdo? La razó por la que oteemos ese valor egatvo es porque e uestra muestra sólo hay dvduos co u vel de estudos gual o superor a 6 años. Etoces INTERPRETACIÓN DE LA REGRESIÓN 8 7 ^ Salaro S 6 5 Salaro Estudos ésta sería la parte de la regresó que se correspode co las oservacoes dspoles. 8

25 EJERCICIO El sguete cuadro cotee los resultados de la pruea de apttud para el acceso a la uversdad e EE.UU. (ACT, Amerca College Testg y la ota meda e la uversdad (GPA, Grade Pot Average de 8 estudates. El GPA se asa e ua escala de a 4. Estudate GPA ACT a Estmar la relacó etre GPA y ACT empleado MCO, es decr, oteer los valores estmados de los parámetros del modelo GPA β β ACT u El térmo costate tee ua terpretacó útl e este caso? Cuáto aumeta GPA s ACT aumeta 5 putos? Calcula los valores ajustados y los resduos para cada oservacó. c Calcular el valor predcho para GPA cuado ACT. 4. BONDAD DE AJUSTE Tres resultados relevates: e ˆ Cov ( ˆ, e

26 4. BONDAD DE AJUSTE Tres resultados relevates: e ˆ Cov ( ˆ, e Demostrar e Resduo ˆ e ˆ 3 4. BONDAD DE AJUSTE Tres resultados relevates: e ˆ ˆ Cov ( ˆ, e e Demostrar e e ˆ ˆ ˆ e ˆ ˆ

27 4. BONDAD DE AJUSTE Tres resultados relevates: e ˆ Cov ( ˆ, e Cov( ˆ, e Cov([ ˆ ], e Cov(, e Cov( [ Cov(, Cov(, Cov(, ] [ Cov(, Cov(, ] Demostrar Cov(, e Cov(,[ Cov(, Cov(, Var( Var( Demostrad que es gual a, e ] e ˆ ˆ e 4. BONDAD DE AJUSTE Para aalzar la odad del ajuste, descompoemos el valor oservado e el valor ajustado y el resduo. 3

28 e ˆ ˆ e Var( Var( ˆ e Var( ˆ Var( e Cov( ˆ, e Var( ˆ Var( e ( 4. BONDAD DE AJUSTE ( ˆ ˆ ( ˆ ( e ( e e R SCT SCE SCE ( ˆ e SCT ( SCR ( U crtero de odad de ajuste de ajuste es el coefcete de determacó BONDAD DE AJUSTE r, ˆ Cov(, ˆ Cov([ ˆ e], ˆ Var( Var( ˆ Var( Var( ˆ Cov( ˆ, ˆ Cov( e, ˆ Var( ˆ Var( Var( ˆ Var( Var( ˆ Var( ˆ Var( ˆ Var( ˆ Var( Var( ˆ Var( Otro crtero de odad de ajuste es la correlaco etre el valor oservado y ajustado de la varale R. 37

29 4. BONDAD DE AJUSTE r, ˆ Cov(, ˆ Cov([ ˆ e], ˆ Var( Var( ˆ Var( Var( ˆ Cov( ˆ, ˆ Cov( e, ˆ Var( ˆ Var( Var( ˆ Var( Var( ˆ Var( ˆ Var( ˆ Var( ˆ Var( Var( ˆ Var( R 43