i = 1, 2,..., N Ecuación 1

Transcripción

1 9 apítulo III. ANÁLISIS DE REGRESIÓN Este capítulo trata de dar una vsón general de las técncas de análss de regresón, en partcular de las utlzadas en casos donde las respuestas son cualtatvas. El análss de regresón es una técnca estadístca utlzada para modelar la relacón que exste entre una o varas varables respuestas (usualmente denotada por y ) y una o varas varables explcatvas (usualmente denotada por x ). La pregunta que se busca responder es en qué forma se relaconan y y x? La varable y suele llamarse varable dependente, porque responde ante cambos de x. Asmsmo, la varable x suele llamarse varable causante, que orgna el cambo en y ; por lo tanto, se puede proponer la relacón de causaldad, sendo N el número de datos: E [ y ] f ( x),,,..., N Ecuacón La ecuacón () se denomna modelo de regresón. La forma de la funcón f(x ) es lo que determnará s la regresón es lneal o no lneal. El ejemplo más sencllo es el modelo de regresón lneal smple: y β 0 + β x + ε,,,..., N Ecuacón orque sólo tene una varable regresora (x ) y la ecuacón es lneal en los parámetros. La ecuacón o modelo de regresón sólo es una aproxmacón a la verdadera relacón funconal entre las varables. Es por ello que se debe de agregar el térmno ε, que es un error estadístco, es decr, una varable aleatora que explca por qué el modelo no ajusta exactamente los datos. Otro ejemplo, con un grado de dfcultad mayor, es el modelo de regresón lneal múltple (con varos regresores): y β 0 + βjxj + ε,,,..., N ; j,,,m Ecuacón donde M es el número de regresores. La prmera parte de un análss de regresón consste en escoger qué modelo parece ser el más convenente para el caso partcular de estudo. Los sguentes pasos conssten en estmar los parámetros desconocdos β 0, β, β,.., β M, y la comprobacón de la adecuacón del modelo. fr. INDYK R. & RUBINFELD, D. Econometrc models and economc forecast. McGraw Hll, New York, ed, 99, cap.

2 0. Modelos de opcón cualtatva Exsten muchos casos en los que el fenómeno que se busca modelar nvolucra opcones cualtatvas: en una eleccón se vota sí o no; se usa como medo de transporte el autobús, el metro o automóvl propo, etc. Los modelos más conocdos se pueden dvdr en: a) Opcón bnara: a.) Modelo de probabldad lneal a.) Modelo probt a.) Modelo logt a.4) Modelo de regresón censada b) Opcón múltple: b.) Extensones de los modelos probt y logt ). a) Opcón bnara En los modelos de opcón bnara, la varable dependente puede tomar dos valores (sí o no, hombre o mujer, arrba o abajo), que se representará por 0 y. Sea y y(x ), lo que se busca es predecr la probabldad de que un ndvduo especfcado por una (o un conjunto de) x opte por 0 ó. Se busca encontrar una relacón entre un conjunto de atrbutos que descrben a un ndvduo y la probabldad de que el ndvduo se nclne por una opcón determnada. ara smplfcar la dscusón se asumrá que la probabldad de que un ndvduo se nclne por una opcón es una funcón lneal de los atrbutos del msmo. ara los efectos del presente estudo, sólo se descrbrán los modelos probt y logt. ara estos modelos se necesta una funcón de dstrbucón acumulada 4 que cumpla los sguentes requermentos: Los atrbutos de los regresores x, que normalmente pueden tomar cualquer valor de la recta real, deben de acotarse al ntervalo (0,). Incrementos en x deben estar asocados a ncrementos o decrementos en la varable respuesta, para todos los valores de x. La dstrbucón de probabldad puede representarse por: GREENE, W. Econometrc Analyss. rentce Hall, 99, cap, pág. 65. Véase al respecto el artículo de SHMIDT,. & STRAUSS, R. The predcton of occupaton usng multple logt models, en Internatonal Econometrc Revew, vol. 6, N, june Una funcón de dstrbucón acumulada es aquella funcón de probabldad que tene como valor la probabldad de que el valor observado de una varable x sea menor o gual a una x partcular.

3 F α + βx ) F( z ) Ecuacón 4 (. Modelo probt ara entender este modelo se asumrá que exste un índce contnuo teórco z, determnado por una varable explcatva x: z α + β Ecuacón 5 x No se tenen observacones de z pero sí se tenen datos sufcentes para dstngur úncamente s las observacones ndvduales se encuentran en una prmera categoría (valores altos de z ) o en una segunda categoría (valores bajos de z ). El análss probt resuelve el problema de cómo obtener las estmacones de los parámetros α y β y al msmo tempo obtener nformacón acerca del índce z. Sea el caso de la pregunta te gustaría estudar una maestría?, el ndvduo puede responder sí o no. En este caso, el índce z representa la fuerza del sentmento del ndvduo haca su respuesta. Supóngase que se sabe que el índce de fuerza del sentmento es una funcón lneal de los ngresos famlares x. Entonces el modelo probt provee un medo para estmar la pendente y la ordenada al orgen en la relacón entre el índce y los ngresos. Sea una varable respuesta que vale s la respuesta es sí y 0 s la respuesta es no. Asúmase ahora que para cada ndvduo, z * representa el valor crítco que determna s la respuesta es sí o no. Específcamente: Indvduos votan sí s z >z * Indvduos votan no s z z * El modelo probt asume que z * es una varable aleatora dstrbuda normalmente de modo que la probabldad de que z sea menor que (o gual a) z * se puede calcular a partr de la funcón acumulada normal de probabldad. omo se sabe, la funcón estandarzada acumulada normal se escrbe como: F( Z ) e π s / ds Ecuacón 6 donde s es una varable aleatora que está normalmente dstrbuda, con meda cero y varanza. or construccón, la varable estará defnda en el ntervalo (0,) y representa la probabldad de que el ndvduo responda sí. Ya que esta probabldad es medda por el área bajo la curva normal estándar desde (- ) hasta z, mayor será la probabldad de que el evento ocurra cuanto mayor sea el índce z.

4 Se puede nterpretar la probabldad resultante del modelo probt como una estmacón de la probabldad condconal de que un ndvduo vote sí (o que un estudante escoja tal plan de estudos) dado que los ngresos famlares valen x. Esto es equvalente a la probabldad de que una varable estándar normal sea menor o gual a α + βx.. Modelo logt El modelo logt está basado en la funcón de probabldad logístca acumulada y está especfcado por: F( z ) F( α + βx ) Ecuacón 7 z ( α βx ) + e + e + representa la probabldad de que un ndvduo elja una de las dos opcones, dado x. Las funcones acumuladas de los modelos probt y logt son parecdas. El modelo logt es más comúnmente usado que el probt por razones computaconales. ara mostrar cómo se puede estmar el modelo de la ecuacón (7), se multplca ambos membros de la ecuacón por + e -z para obtener: z ( e ) Ecuacón 8 + Dvdendo entre y sustrayendo queda: z e Ecuacón 9 z e Ecuacón 0 Aplcando logartmo a ambos lados de la ecuacón: z α + βx ln Ecuacón

5 En esta regresón, la varable dependente es el logartmo del cocente de probabldades de que una opcón en partcular sea escogda. Una característca mportante del modelo logt es que transforma el problema de predecr probabldades (dentro del ntervalo (0,)) a un problema de predecr el cocente de probabldades de la ocurrenca de un evento, a lo largo de la recta real. La pendente de la curva logístca es mayor en /. Esto mplca que cambos en las varables ndependentes tendrán su efecto máxmo sobre la probabldad de escoger una opcón en partcular en la mtad de la dstrbucón. Las pendentes pequeñas cerca de los extremos sgnfcan que son necesaros cambos grandes en x para obtener un cambo pequeño en la probabldad. En el caso de que sea gual a 0 ó a, los cocentes de probabldades, /(- ) serán guales a 0, o a nfnto; y el logartmo de los cocentes de probabldades estará ndefndo. Así pues, la aplcacón del método de los mínmos cuadrados a la ecuacón () es claramente napropada. omo todo modelo, la regresón sólo ntenta reproducr y, en algunos casos, predecr el comportamento de un fenómeno real 5. Los tres modos fundamentales de comportamento (crecmento exponencal, búsqueda de un objetvo y establdad) son causados por tres estructuras báscas de retroalmentacón: retroalmentacón postva, retroalmentacón negatva y retroalmentacón negatva con retardos. Otros patrones más complejos provenen de la nteraccón no lneal de estas estructuras. recmento en forma de S: El crecmento es exponencal al prncpo y empeza a alentarse hasta que el sstema alcanza un nvel de equlbro. La forma de la curva se parece a una S estrada. Nnguna cantdad físca real puede crecer (o decrecer) para sempre: eventualmente, una o más restrccones detenen el crecmento. Un sstema genera un crecmento en forma de S sólo s se dan dos condcones:. Los rzos (loops) negatvos no ncluyen nngún retardo temporal sgnfcatvo. La cantdad físca tope debe fjarse Un aspecto clave de la estructura generadora de un crecmento tpo S es que la nteraccón entre los loops negatvo y postvo debe ser no lneal. Un modelo para el crecmento tpo S es el crecmento logístco: este modelo supone que la fraccón poblaconal neta g(,) es una funcón lneal de la poblacón, esto es, la tasa neta de nataldad es gual a: 5 Sterman, J. D. (000). Busness Dynamcs: Systems Thnkng and Modelng for a omplex World. NY: McGraw-Hll Hgher Educaton. hapter 4: Structure and Behavour of Dynamc Systems

6 4 g (, ) g *( ) Ecuacón donde g(,), la tasa de crecmento fracconal, es funcón de la capacdad y g* es el crecmento máxmo fracconal. Reordenando la ecuacón, resulta que la tasa neta de nataldad es gual a: g * ( ) g * g * ( ) Ecuacón El prmer térmno g* es un térmno estándar, de prmer orden, de retroalmentacón, y el segundo térmno, -g* /, es no lneal en la poblacón y representa la retroalmentacón negatva fuerte causada por la aproxmacón de la poblacón a la capacdad. uándo alcanza su máxmo el crecmento neto?, En el modelo logístco, la tasa neta de nataldad dada por la ecuacón () es una parábola nvertda que pasa por cero en los puntos 0 y. omo una parábola es smétrca con respecto al eje que pasa por su máxmo, la tasa neta máxma de nataldad ocurre cuando nf Ecuacón 4 Donde nf es el valor de la poblacón cuando la tasa neta de crecmento está en su máxmo y por tanto consttuye el punto de nflexón en la trayectora de la poblacón. El modelo logístco es mportante por varas razones. rmero, muchos procesos de crecmento tpo S pueden aproxmarse satsfactoramente a través del modelo logístco, salvo la restrccón de que el punto de nflexón ocurre en / precsamente. Segundo, el modelo logístco se puede resolver analítcamente. Fnalmente, el modelo logístco, ntrínsecamente no lneal, puede transformarse en una forma que es lneal. Solucón analítca de la ecuacón logístca 6 : Dada la ecuacón: dp Se separan varables y se ntegra: g * ( ) Ecuacón 5 6 STERMAN, J. D. Busness Dynamcs: Systems Thnkng and Modelng for a omplex World. NY: McGraw-Hll Hgher Educaton hapter 4: Structure and Behavour of Dynamc Systems.

7 5 dp ( ) g * dt Ecuacón 6 Re-escrbendo el membro zquerdo resulta: dp ( ) ( ) [ + ] dp g * dt Ecuacón 7 Integrando ambos membros: ln( ) ln( ) g * t + c, donde c es una constante Ecuacón 8 omo por defncón (t) (0) cuando t 0, ln( ) ln( ) g * t + ln( (0)) ln[ c (0)] Ecuacón 9 Aplcando la exponencal a ambos lados: (0) exp( g * t) ( ) (0) Ecuacón 0 que se puede reordenar como: ( t) Ecuacón + [ ]exp( g * t) (0) o equvalentemente: ( t) + exp[ g *( t h)], Ecuacón donde h es el tempo cuando la poblacón alcanza la mtad de su capacdad. El modelo probt está asocado con la funcón de probabldad normal acumulada. El modelo logt, con la funcón de probabldad logístca acumulada. b) Opcón múltple

8 6 Una extensón natural de los modelos probt y logt sería el permtr analzar varas ecuacones regresoras a la vez. La especfcacón general para un modelo de dos ecuacones es 7 : y, y s y *>0, 0 en caso contraro Ecuacón * ' + ε β x β ' x + y * ε, y s y *>0, E[ε ] E[ε ] 0, Var[ε] Var[ε ], ov[ε,ε ] ρ. ara el caso más general 8, un modelo probt multvarado podría, en prncpo, extenderse a más de una varable respuesta smplemente agregando ecuacones. El problema que se presenta es la evaluacón de ntegrales de orden superor. Ahora ben, exsten los llamados modelos de opcón múltple, dferentes al modelo probt multvarado menconado, en éste se debían tomar varas decsones, cada una de las cuales contaba con dos alternatvas. En los modelos de opcón múltple se debe tomar una sola decsón entre dos o más opcones. Greene 9 analza dos tpos de modelos de opcón múltple: no ordenado y ordenado.. Datos no ordenados Un ejemplo de este tpo de casos lo consttuye aquella pregunta en la que el encuestado debe escoger el medo de transporte que utlza para trasladarse a su trabajo: automóvl, autobús o metro. ara el -ésmo consumdor que debe escoger entre J opcones, la funcón de utldad es: u + j zj ε j β',,,..., N; j,,..., J; Ecuacón 4 S el consumdor elge la opcón j en partcular, se asumrá que u j es el máxmo entre J opcones. Así pues, el modelo estadístco está conducdo por la probabldad de que la opcón j sea elegda, lo que se expresa matemátcamente como rob(u j > u k ), para todos los k j. El modelo se hace operatvo al elegr una dstrbucón en partcular. De los modelos consderados anterormente el modelo probt se ha encontrado que es 7 GREENE, W. Econometrc Analyss. rentce Hall, 99, cap, pág Ibdem, cap, pág GREENE, W. Econometrc Analyss. rentce Hall, 99, pág 66.

9 7 de uso lmtado 0, dada la necesdad de evaluar ntegrales múltples de la dstrbucón normal. El modelo logt multnomal se utlza al querer explcar a través de característcas del ndvduo tales como nvel educatvo, sexo, edad, etc. una varable respuesta, por ejemplo, el puesto que ocupa en el trabajo. S la varable respuesta se codfca a través de números: 0,,, y 4, correspondente a cada nvel en el trabajo y sean x, x, x, x4 y x5 regresores, el modelo que explca la opcón ocupaconal es: Las ecuacones estmadas proveen un conjunto de probabldades para las J + opcones de un tomador de decsones con característcas x. Antes de prosegur, se debe remover una nconsstenca en el modelo. S defnmos β * j β j + q para cualquer vector no nulo q, resulta el msmo conjunto de probabldades, puesto que todos los térmnos que nvolucran a q se van. Una normalzacón convenente que resuelve el problema es el asumr que β 0 0. Las probabldades resultan entonces: donde El modelo bnomal ya estudado es ahora el caso especal para J. En este modelo, los coefcentes son dfícles de nterpretar. Nótese que los parámetros β s son específcos para cada categoría, es decr, s tenemos un caso con 4 opcones, tendremos un conjunto de β s para cada una de las opcones, en el caso de tener dos regresores, se tendría un conjunto de β s para cada una de las 4 categorías, en total, β s, de las cuales un conjunto ( β s) se anulan para efectos de la normalzacón. Dervando la ecuacón (7), se encuentra que los efectos margnales de los regresores sobre las probabldades son: 0 Ibdem, cap, pág.665

10 8 j x j β j k β k Ecuacón 5 k esto se puede calcular a partr de los parámetros estmados. El modelo mplca que se puede calcular los cocentes: ln j 0 ' βjx Ecuacón 6 Desde el punto de vsta de la estmacón es útl que el cocente de probabldades no dependa de las otras opcones. La estmacón del modelo logt multnomal es drecta. on el método de Newton normalmente se obtendrá fáclmente una respuesta. omo ejercco, se extenderá el modelo logt al caso de tres opcones : ln α ln α β x, β x, ln α β x Ecuacón 7 ndca la probabldad de que el ndvduo elja la opcón. En cada ecuacón se asume que el logartmo de los cocentes de probabldades (o razón de las ventajas del nglés odds rato) de una eleccón relatva a la segunda es una funcón lneal del atrbuto x. La únca lgadura entre las ecuacones es que la suma de probabldades debe ser la undad. ara resolver este sstema de ecuacones, nótese que: ln ln + ln ln ln Ecuacón 8 ( α α ) + ( β β ) x INDYK R. & RUBINFELD, D. Econometrc models and economc forecast. McGraw Hll, New York, ed, 99, cap 0, pág. 70

11 9 Se tenen así dos lgaduras adconales: α β α α β β Ecuacón 9 Es más fácl vsualzar el modelo logt s se redefnen todos los parámetros como: α β α α, α α α, α α α, β β β β, β β β β Ecuacón 0 De esta manera, el sstema de la ecuacón (0) se puede rescrbr así: ln ( α α) + ( β β ) x ln ( α α) + ( β β ) x Ecuacón ln ( α α ) + ( β β omo los parámetros de la ecuacón nmedatamente anteror se pueden calcular a partr de las dos prmeras ecuacones, no se necesta estmar la tercera ecuacón. S se supone que se tenen sufcentes réplcas, se puede usar el método de mínmos cuadrados. S no es así, deberá usarse el método de máxma verosmltud. ) x. Datos ordenados Una extensón nteresante de estos modelos es aquella donde las categorías asocadas a la varable dependente tenen un orden. Algunos ejemplos son los sguentes: Encuestas de opnón (Muy satsfecho, satsfecho, nsatsfecho, muy nsatsfecho). Ver Anexo, pág. 47. fr. GREENE, W. Econometrc Analyss. rentce Hall, 99, pág. 67

12 0 Resultados de pruebas de gusto. El nvel de la cobertura de un seguro: nnguna, una parte, toda. Estudos de empleo: desempleado, medo tempo, tempo completo. En este caso lo que procede es el uso de los modelos probt y logt ordenados. El modelo se construye de la sguente manera: y * β' x + ε Ecuacón La varable respuesta de todos estos casos está codfcada. En el caso de las encuestas de opnón, por ejemplo, se puede escoger la sguente codfcacón: Muy satsfecho y 0 Satsfecho y Insatsfecho y Muy nsatsfecho y El modelo asume que exsten puntos de corte z y z, tales que:, s y* z, y, s z < y* < z,, s 0 < y* z, 0, s y * 0, Las z s son parámetros desconocdos que se estmarán a partr del vector β. onsderando el caso de una encuesta de opnón, por ejemplo, los encuestados poseen su propa ntensdad de sentmentos, que dependen de los factores observables x y de certos factores no observables (ε). En prncpo, s se tratara de preguntas abertas, contestarían con su propa y*, pero en lugar de ello tenen que escoger la y* que más se parezca a sus sentmentos u opnón. omo sempre, se asumrá que ε está normalmente dstrbuda, con varanza 0 y meda. Se estmará el modelo para el caso de probt, en el entenddo que para logt la modfcacón es mínma. on la dstrbucón normal, se tenen las sguentes probabldades: rob(y0) Φ( β'x), rob(y) Φ( z β x) - Φ( β x), rob(y) Φ( z β x) - Φ(z -β x ),...

13 rob(yn) - Φ( z N- β x), ara que todas las probabldades sean postvas, se debe cumplr la condcón 0< z < z <... < z N-. La fgura muestra las mplcacones de la estructura, donde se evdenca que ésta es una generalzacón del modelo probt estudado anterormente. f(ε) y0 y y y y4 -β x µ-β x µ-β x µ-β x ε F uente: G REENE, W. E con o m etrc Analyss. re ntce Ha ll, 99, cap, p á g. 6 7 Fgura : robabldades en el modelo probt ordenado 4. 4 GREENE, W. Econometrc Analyss. rentce Hall, 99, cap, pág. 67.