TALLER INTERNACIONAL CREANDO RECOLECCIÓN Y ANÁLISIS DE DATOS. Lima Feb, Análisis Econométrico

Transcripción

1 TALLER INTERNACIONAL CREANDO CAPACIDAD NACIONAL EN LA RECOLECCIÓN Y ANÁLISIS DE DATOS Lma 9-3 Feb, 007 Análss Econométrco

2 Análss de Regresón La regresón es la técnca estadístca más etendda y se utlza para estmar las relacones entre varables ndependentes eplcatoras y la varable dependente. Los modelos de regresón ayudan a entender y eplcar las relacones entre varas varables; tambén srven para predecr resultados.

3 Análss de Regresón Lneal Smple El análss de regresón lneal smple trata de modelar la relacón entre dos varables ajustando una ecuacón lneal a los datos observados. Una de las varables se consdera la varable eplcatora y la otra, la varable dependente. Antes de ajustar un modelo lneal a los datos observados, el nvestgador debe determnar s entre las varables de nterés este una relacón. Esto no sgnfca que oblgatoramente una varable cause la otra, sno que este algún tpo de asocacón entre ellas. 3

4 Análss de Regresón Lneal Smple Para nvestgar el alcance de cualquer asocacón ó entre dos varables se puede recurrr tanto a gráfcos como a métodos numércos. Scatterplot 0 0 chl_labor c gdp

5 Análss de Regresón Lneal Smple Coefcente de correlacón y covaranza La covaranza y el coefcente de correlacón son parámetros estrechamente relaconados entre sí e ndcan el grado en el que dos varables aleatoras co-varan. cov, y y n y Para cuantfcar la asocacón lneal entre dos varables se utlza el coefcente de correlacón 5 y y y r r + y

6 Análss de Regresón Lneal Smple y α + + ε Estmacón de los parámetros cov, y y y var y dependent varable α constant term ntercept ndependent varable slopel of the lne ε error term α Varable dependente Térmno constante Varable ndependente Pendente de la recta Térmno de error y b 6

7 Inferenca Análss de Regresón Lneal Smple Es la obtencón de conclusones estadístcas sobre las propedades de una poblacón basándose en la observacón de una muestra obtenda de la propa poblacón. La nferenca estadístca se basa en el Contraste de Hpótess H 0 : H : Predccones: yˆ ˆ α + ˆ Los valores predchos se calculan l substtuyendo los parámetros estmados en la ecuacón de la recta de regresón

8 Regresón Lneal :Bondad del ajuste El Coefcente de Determnacón mde la bondad del ajuste yˆ y R eplaned varaton total varaton y y El coefcente de determnacón mde la proporcón de la varabldad de la varable dependente que es eplcada por el modelo de regresón; es una medda sobre bondad del ajuste de nuestro modelo. Puede varar entre 0 y. 8

9 Análss de Regresón Múltple ε α n n y... + ε k b k b b Y b ˆ... ˆ ˆ 0 Por lo que: N N N N Y Y Y Y b N N N N b Coefcente de correlacón múltple: es una estmacón de la nfluenca 9 combnada de o más varables sobre la varable observada dependente.

10 Supuestos del método de Mínmos Cuadrados Ordnaros MCO Lnealdad: la relacón entre los parámetros y la varable debe ser lneal. Normaldad: los errores deben tener una dstrbucón normal -técncamente sólo la normaldad es necesara para que el constraste de hpótess sea váldo. La estmacón de los coefcentes sólo requere que los errores estén déntcamente e ndependentemente dstrbudos. Homogenedad de la varanza homocedastcdad: la varanza del error debe ser constante. Independenca: los errores asocados a una observacón no están correlaconados con los errores asocados a otra observacón. Colneardad: los parámetros fuertemente correlaconados lnealmente relaconados pueden causar problemas a la hora de estmar los coefcentes de la regresón. 0

11 Análss de Regresón Múltple Ejemplo yα+ ++ε; Trabajo nfantl α+ gdp+ gastos salud+ comerco +ε Source a SS b df c MS d Number of obs e F 3, 3 f 3.93 Model Prob > F Resdual R-squared g Adj R-squared h Total Root MSE chl_labor j Coef. k Std. Err. l t m P> t m [95% Conf. Interval] n gdp health trade _cons

12 Análss de Regresón Múltple: Interpretacón de los resultados a: Es la fuente de la varanza: modelada Model, resdual y total. La varanza total se dvde en la varanza eplcada por las varables ndependentes Modelada y la varanza que las varables ndependentes no logran eplcar Resdual. Nótese que la Suma de los Cuadrados Sums of Squares del Modelo y del Resdual es gual a la Varanza Total. b: Son las Sumas de los Cuadrados asocadas a cada una de las tres fuentes de varanza total, modelada y resdual. Pueden calcularse de dversos modos. Conceptualmente, estas fórmulas pueden epresarse como: SStotal La varabldad total alrededor de la meda SY-Ybar SSResdual La suma de los cuadrados del error de la predccón SY - Ypredcted. SSModel La mejora de la predccón dervada de la utlzacón de la predccón de Y en lugar de la smple meda de Y. As, este valor es la suma de las dferencas entre los valores predchos de Y y la meda de Y, SYpredcted - Ybar. Otra forma de nterpretarlo es pensar que SSModel SSTotal - SSResdual. Nótese que SSTotal SSModel + SSResdual. Nótese que SSModel / SSTotal es gual a 0.47, el valor de R-cuadrado R-squared. Esto se debe a que R-cuadrado es la proporcón de la varanza total que vene eplcada por las varables ndependentes, y por lo tanto puede calcularse como SSModel / SSTotal. c: Son los grados de lbertad GL asocados a cada una de las fuentes de varanza. La varanza total t tene N- grados de lbertad. En este caso esten N7 observacones, por lo tanto los GL Totales son 6. Los grados de lbertad del Modelo corresponden al número de parámetros menos K -. Podría pensarse que esto sería 3- puesto que esten 3 varables ndependentes en el modelo, pero la constante se ncluye automátcamente en el modelo a no ser que se omta de forma eplícta. Al nclur la constante, esten 4 parámetros, por lo tanto, los grados de lbertad del Modelo son 4-3. Los grados de lbertad del Resduo son los GL Totales menos los GL del Modelo, 6-33.

13 d: Es la Meda de los Cuadrados d Mean Squares, es decr, la Suma de los Cuadrados d Sum of Squares dvdda dd por los Grados de Lbertad. Para el Modelo sería 97/343. Para el Resduo, 430/30. Se calculan para calcular el F-rato: se dvde el Cuadrado de la Meda del Modelo Mean Square Model entre el Cuadrado de la Meda del Resduo Mean Square resdual. Se ullza para contrastar la sgnfcanca de los parámetros del modelo. e: Es el número de observacones que se utlzan en el análss de regresón. f: El F-valor es el Cuadrado de la Meda del Modelo Mean Square Model dvdda por el Cuadrado de la Meda del Resduo Mean Square Resdual, en este caso el F-valor3.93. El p-valor asocado a este F-valor es muy bajo Estos valores se utlzan para responder a la pregunta: Las varables ndependentes predcen correctamente la varable dependente?. El p-valor se compara con un nvel de alpha suele usarse un alpha0.05. S el p-valor es nferor a alpha se concluye que Las varables ndependentes predcen correctamente la varable dependente. S el p-valor es superor a alpha, se concluye que las varables ndependentes no están sgnfcatvamente relaconadas con la varable dependente, es decr que las varables ndependentes no predcen correctamente la varable dependente. g: ElRcuadrado R-cuadrado es la proporcón de la varabldad de la varable dependente trabajo nfantl que puede predecrse con las varables ndependentes gdp, gastos en salud y comerco. El valor ndca que alrededor del 50% de la varabldad del trabajo nfantl es eplcada por las varables gdp, salud y comerco. 3

14 h: Es el R-cuadrado Ajustado Adjusted R-square. Al nclur nuevos parámetros en el modelo, cada uno de ellos eplcaría algo de la varabldad de la varable dependente debdo smplemente a la casualdad. Por lo tanto la nclusón de nuevos parámetros al modelo aumentará la habldad de los parámetros para predecr la varable dependente, pero una parte de esta mejora se deberá úncamente a la casualdad en esa muestra partcular. El R- cuadrado Ajustado ofrece un valor más confable para estmar el R-cuadrado de la poblacón. El valor del R- cuadrado es apromadamente 0.5, mentras que el R-cuadrado Ajustado El R-cuadrado Ajustado se calcula tal que: - -R-sqN- / N - k -. De esta fórmula se derva que s el número de observacones es pequeño y el número de parámetros es elevado, la dferenca entre el R-cuadrado Ajustado y el R-cuadrado es ampla ya que el rato N- / N - k - será muy nferor a. S en cambo, el número de observacones es grande comparado con el número de parámetros, el valor del R-cuadrado Ajustado será parecdo al valor del R-cuadrado Ajustado, ya que el rato N-/N-k- estará prómo a. : La raz de la Meda de la Suma de cuadrados es la desvacón típca del error, y es la raz cuadrada de la Meda de Cuadrados Resdual o Error j: Esta columna muestra la varable dependente trabajo nfantl y más abajo las varables ndependentes gdp, gastos en salud y comerco. La últma varable _cons, representa la constante del modelo, tambén es el valor de la recta de regresón en el punto en el que esta cruza el eje Y. k: Son los valores de la ecuacón para predecr la varable dependente a través de las varables ndependentes. Estas estmacones muestran la relacón entre la varable dependente y las ndependentes. Indcan el ncremento del trabajo nfantl que se produce por el ncremento en una undad de las varables ndependentes. Nota: S una de las varables ndependentes no es sgnfcatva, su coefcente no será sgnfcatvamente dferente de 0, lo que deberá tenerse en cuenta a la hora de nterpretar el coefcente. observar las columnas del p-valor y t-valor para contrastar t la sgnfcanca f de los coefcentes. gdp- El coefcente parámetro estmado es Por lo tanto, el aumento en una undad del producto nteror bruto provoca la dsmnucón del trabajo nfantl en undades. 4

15 l: Son los errores típcos asocados a los coefcentes. Los errores típcos se utlzan para determnar s los parámetros son o no sgnfcatvamente dferentes de 0. Dvdendo los parámetros estmados por el error típco se obtene el t-valor observar la columna con el p-valor y t-valor. Los errores típcos se utlzan tambén para construr los ntervalos de confanza del parámetro últmas dos columnas de la tabla. m: Estas columnas proporconan el t-valor y el p-valor blateral de dos colas para contrastar la hpótess nula el coefcente o parámetro es gual a 0. S se utlza un contraste blateral, entonces debe compararse cada p-valor con el valor selecconado de alpha. Los coefcentes con un p-valor nferor a alpha son sgnfcatvos. Por ejemplo, s se elge un alpha de 0.05, 05 los coefcentes con un valor nferor o gual a serán estadístcamente sgnfcatvos es decr que se rechaza la hpótess nula y por lo tanto los coefcentes son sgnfcatvamente dferentes de 0. S se utlza un contraste unlateral es decr que se predce que el parámetro se dstrbuye en una determnada dreccón, se debe dvdr el p-valor entre, y comparar este resultado con el valor elegdo de alpha. Con un contraste blateral y un valor de alpha de 0.05 se rechaza la hpótess nula para los cofcentes del gdp y de los gastos en salud. La constante es sgnfcatvamente dferente de 0 para un alpha de 0.05 aunque una constante sgnfcatva es de poca mportanca. n: Son los ntervalos de confanza de los coefcentes al 95%. Son muy útles puesto que muestran cuan alto o cuan bajo podría ser el valor poblaconal del parámetro. El ntervalo de confanza permte observar cuanto podría varar la estmacón del coefcente. 5

16 Análss de Regresón: Volacón de los supuestos Cuando se realza una regresón lneal se asume que relacón entre la varable respuesta y los parámetros es lneal. S este supuesto no se cumple, la regresón lneal ntentará ajustar a una recta datos que no se dstrbuyen de tal forma. Multcolneardad: Este problema se produce cuando este una elevada correlacón entre las varables eplcatvas. La presenca de multcolneardad en un modelo se debe a la presenca de coefcentes nestables. La Varacón del Factor de Epansón ayuda al nvestgador a detectar la multcolneardad: VIF / R S j está fuertemente correlaconada con el resto de varables, la VFE será alto. Esto aumentaría la varanza de bj lo que haría dfícl la obtencón de t-ratos sgnfcatvos. Generalmente se utlza un valor de 0 como frontera para detectar la multcolneardad. 6

17 Normaldad: El supuesto de normaldad asegura que los p-valores para los contrastes t y F son váldos. La normaldad de los resduos sólo se requere para valdar el contraste de hpótess. 0.0 Densty Resduals Kernel densty estmate Normal densty 7

18 Homocedastcdad: homogenedad de la varanza de los resduos. S el modelo se ajusta correctamente no debería estr nngún patrón en la dstrbucón de los resduos contra los valores predchos Resd 0 0 duals Ftted values 8

19 Modelos con varables categórcas Consdérese una varable dependente dscreta: 9. Partcpacón en la fuerza laboral:0,; Asstenca a escuela:0,. Varable categórca; rankngs, 3. Actvdades de los nños: sólo categorías, no rankngs. En cada uno de estos casos, se pueden construr modelos que relaconan los resultados con un conjunto de factores en la regresón. Cada uno de estos modelos puede ser analzado dentro del marco general de modelos probablístcos. Probevento j ocurra ProbYjF[efectos relevantes: parámetros]

20 Eleccón bnara: Modelos Logt y Probt Eleccón smple: Probabldad estmada de que un nño trabaje 0 Los modelos Probt y Logt son una etensón de los prncpos de los Modelos Lneales Generales ej: regresones, pero tratan de forma más adecuada la presenca de varables dependentes dcotómcas. Además, los modelos Probt y Logt son no-lneales y predcen probabldades entre 0 y, evtando resultados negatvos para las probabldades. Estos métodos dferen de las regresones estandar ya que utlzan la estmacón por máma verosmltud de una funcón relaconada con la varable dependente en lugar de la estmacón por mínmos cuadrados de la propa varable.

21 Modelo para eplcar una varable bnara 0/: partcpacón en la fuerza laboral Formalmente: Donde : Y s trabaja Y0 s no trabaja Pr ob Y F, Pr ob Y 0 F, representa el vector del conjunto de factores varables ndependentes que eplcan la decsón; refleja el mpacto de los cambos de sobre la probabldad de observar el resultado.

22 Dado, y un vector de regresores, se espera que: lm + Pr ob Y and lm Pr ob Y 0 Asumendo que el error del modelo se dstrbuye según una dstrbucón normal ε ~ N0,σ 0 + Prob Y F σ Donde F es la funcón de densdad acumulatva normal fdc. El modelo probt sería: Pr ob Y φ t dt Φ

23 Para el modelo logt se especfca: e Pr ob Y + e La estmacón ó de ambos modelos se basa en el método de máma verosmltud. lt El modelo con una probabldad de suceso F y observacones ndependentes lleva a la sguente funcón de verosmltud: Prob Y y, Y y,..., Y y [ F ] F L n y [ F ] [ F n ] n y y 0 y 3

24 Ejemplo: Modelo Logt Análss de Regresón Logt: nños de 7-4, Camboda SIMPOC, 999 Logt estmates Number of obs 7706 b LR ch c Prob > ch d Log lkelhood a Pseudo R e Employ f Coef. g Std. Err. h z P>z l [95% Conf. Interval] age age female heduc _cons

25 Análss de Regresón Logt: Interpretacón de los resultados a Log verosmlud- es el log de la verosmltud del modelo fnal b Es el número de observacones que se utlza en el análss. Este número puede ser nferor al número total de observacones de la base de datos s esten valores omtdos mssng values en las varables ncludas en el análss. S este algún valor omtdo en una de las varables de la regresón, se ecluye la totaldad de la observacón del análss. c Este es el rato de verosmltud, el contraste ch-cuadrado. Se defne como la dferenca en térmnos absolutos entre el prmer teracón ó 0 y el últmo valor del log de la verosmltud lt multplcado por. Entre paréntess se muestran los grados de lbertad. d Muestra la probabldad de obtener el estadístco ch-cuadrado s las varables ndependentes no tenen efecto sobre la varable dependente. Es el p-valor y puede compararse con 0.05 o 0.0 para determnar s el modelo es estadístcamente sgnfcatvo o no. 5

26 e Es el pseudo R-cuadrado del modelo logt, pero no es equvalente al R-cuadrado de la regresón de MCO. f El empleo es la varable dependente que toma el valor s el entrevstado declara que trabaja y 0 en caso contraro. Las varables enumeradas a contnuacón son las varables ndependentes. g Son los coefcentes, es decr los valores predchos de la varable dependente. Se epresan en undades log-odds. logp/-pb0+b*+b*.. p La estmacón muestra el aumento en el ncremento del log-odds predcho cuando empleo que sería predcho con el aumento en undad, mantenendo el resto de varables constante. h Los errores típcos se utlzan para contrastar s los parámetros dferen estadístcamente de 0. Dvdendo el parámetro entre el error típco, se obtene el z-valor. P>z son los p-valores relatvos. 6

27 Modelos Logt y Probt: Efectos margnales Consdérese el sguente modelo probablístco E [ y ] 0[ F ] + [ F ] F En general, se defne el efecto margnal como E[ y ] df f d En el Modelo Logt dλ e d + e Λ [ Λ ] 7 Es posble calcular los efectos margnales en la meda muestral de los datos, o en cada observacón, utlzando la meda muestral de los efectos margnales ndvduales.

28 Ejemplo: Efectos margnales después de una estmacón Logt Efectos margnales después de Logt y Premploy predct varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc * dy/d s for dscrete change of dummy varable from 0 to 8

29 Modelo Probt Bvarante Actvdades de los nños: Empleo0,; Asstenca a la escuela0, La especfcacón general de un modelo de dos ecuacones es y y * * * + ε, y f y > 0, 0 otherwse + ε, y E[ ε] E[ ε ] 0 Var [ ε ] Var [ ε ] Cov[ ε ε ], ρ f y * > 0, 0 otherwse 9

30 Modelo Probt Bvarante La funcón de densdad acumulatva fdc bvarante es Pr ob <, < φ z, z, ρ the densty functon s / + ρ e φ z, z, ρ / π ρ / ρ dz dz ρ correlaton coeffcent between the two equatons and row vectors of eplanatory varables whch determne the probablty of the outcome 30. Coefcente de correlacón entre dos ecuacones. Vectores fla de las varables eplcatvas que determnan la probabldad del resultado

31 Para construr el modelo log de verosmltud lt sea: q y and q y. q f y and q f y 0, j, Sea z and w q z, j, j and j j ρ q q ρ * j j j Las probabldades bld d que entran en la funcón de verosmltud lt son Pr ob Y y, Y y Φ w, w, ρ * Thus log n L ln Φ w, w, ρ* 3

32 Bvarate probt regresson Number of obs 7706 Wald ch Log lkelhood Prob > ch Coef. Std. Err. z P>z [95% Conf. Interval] Employ age age female heduc _cons Attend age age female heduc _cons /athrho rho Lkelhood-rato test of rho0: ch Prob > ch Nños de 7-4, Camboda SIMPOC, 999 3

33 Modelo Probt Bvarante: Efectos margnales Un modelo probt bvarante permte evaluar dversos efectos margnales. Se empeza por los térmnos que se ntroducen en la funcón log de p p q g verosmltud, Pr y Y y Y ob, y y Y consderando el modelo, [ ],,,, Pr ρ y y ob Φ Se dervan la totaldad de los efectos margnales ρ ρ P P Φ Φ,,,,,,,, ρ ρ ρ ρ P P P P Φ Φ Φ Φ

34 34 Margnal effects after Bvarate Probt y Premploy,attend0 predct, p varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc y Premploy0,attend predct, p varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc y Premploy,attend predct, p varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc y Premploy0,attend0 0 predct, p varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc * dy/d s for dscrete change of dummy varable from 0 to

35 Modelo Logt Multnomal Consdérese que quere estudarse cómo dstrbuyen el tempo los nños entre dversas eleccones no ordenadas Actvdades: sólo trabajo,: sólo estudo, 3estudo y trabajo, 4 nnguna En general el modelo Logt Multnomal puede aplcarse a eleccones noordenadas y mutuamente ecluyentes. Sea un conjunto de regresores 35 Re-etquetando las eleccones desde 0, el modelo Logt Multnomal relatvo se defne como: e Pr ob Y j 3 K 0 j e k, j 0,,,3

36 Modelo Logt Multnomal La ecuacón estmada provee un conjunto de probabldades para las j+ eleccones de las nños con característcas j. Prob Y Prob Y e + j j j k e 0 j + e k k k for j,,..., j 36

37 Modelo Logt Multnomal El modelo permte calcular j ratos log-odds para una varable categórca con j categoras y baselne j0 P j ln P 0 j Normalzando cualquer otra probabldad, se obtene Pj ln Pk j k 37

38 Modelo Logt Multnomal Se defne para cada ndvduo dj s la alternatva j es elegda por el ndvduo, y dj0 en caso contraro para los j+ posbles resultados. Para cada, úncamente una de las actvdades dj puede ser gual a. La funcón log de verosmltud lt se defne tal que: ln L n J j 0 dj ln Prob Y j 38

39 Multnomal logstc regresson Number of obs 7706 LR ch Prob > ch Log lkelhood Pseudo R actvty Coef. Std. Err. z P>z [95% Conf. Interval] work only age age female heduc _cons work and study age age female heduc _cons nothng age age female heduc _cons Outcome actvtystudy only s the comparson group 39 Nños de 7-4, Camboda SIMPOC, 999

40 Margnal effects after Multnomal Logt Estmaton y Practvty predct, outcome varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc y Practvty predct, outcome varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc y Practvty3 predct, outcome varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc y Practvty4 predct, outcome varable dy/d Std. Err. z P> z [ 95% C.I. ] age age female* heduc * dy/d s for dscrete change of dummy varable from 0 to

41 Modelo probt Ordenado Algunas varables de eleccón multnomal están nherentemente ordenadas. Para analzar este tpo de varables se usa un modelo logt o probt ordenado. El modelo se construye entorno a una regresón latente como en el modelo probt bnomal. De tal forma que: 4 y * + ε * y 0 f y 0 * y f 0 < y µ * y f µ < y µ.. * y j f µ y j- we observe :

42 Modelo probt ordenado Dado este mecansmo de observacones, la probabldad de cada categoría vene dada por Prob y 0 Φ Prob y Φ µ Φ Prob y.. Φ µ Prob y J Φ µ j Φ µ 4 Para que todas las probabldades sean postvas se debe cumplr 0 < µ < µ <... < µ j

43 Estmacones probt ordenado Number of obs 604 LR ch Prob > ch Log lkelhood Pseudo R 0.07 Most serous llness Coef. Std. Err. z P>z [95% Conf. Interval] Educ. Level Female Age Age workng hours Ln ependture Rural resdence _cut Ancllary parameters _cut _cut _cut _cut