Modelos para variables categóricas

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Modelos para variables categóricas"

Salvador Ortiz Soto
hace 9 años
Vistas:

1 Gabriel V. Montes-Rojas

2 Modelo logit multinomial Supongamos que la variable dependiente toma muchos valores, ej. y = 0, 1, 2..., J, aunque los valores de y no representan ningún orden en particular. Éste es el modelo multinomial. Ejemplo: Modelos de elección dicreta (discrete choice models). y podría ser la marca de un producto que el consumidor compra: y = 0 A y = 1 B y = 2 C y = 3 D y = 4 E Ejemplo: Participación en la fuerza laboral. y podría ser el status laboral de la persona: y = 0 empleado y = 1 desempleado y = 2 fuera de la fuerza laboral

3 Modelo logit multinomial Seleccionemos sin pérdida de generalidad un grupo base. Por convención corresponde a j = 0. Cada valor de y contiene los parámetros β j, j = 1, 2,..., J, vectores K j 1. (Si J = 1 tenemos el modelo logit.) En un modelo logit multinomial para modelar cada probabilidad tenemos exp(x β j ) P[y = j x] = 1 + J h=1 exp(x β, j = 1, 2,..., J h) Notemos que la suma debe ser 1 (o sea J h=0 P[y = h x] = 1), entonces 1 P[y = 0 x] = 1 + J h=1 exp(x β, j = 1, 2,..., J h) Construir el logaritmo de la función de verosimilitud: l i (β) = J j=0 1[y i = j]log(p[y = j x]). McFadden (1984) muestra que esta función es cóncava global, entonces tiene un máximo.

4 Modelo logit multinomial Los efectos parciales son P(y = j x) x k = P(y = j x) { β jk [ J β hk exp(x β h ) h=1 ] /g(x, β) donde β hk es el elemento k de β h y g(x, β) = 1 + J h=1 exp(x β h). Notemos que un cambio en x k afecta todas las probabilidades simúltaneamente. Una interpretación de β j está dada por p j (x, β)/p 0 (x, β) = exp(x β j ), j = 1, 2,..., J. Entonces, el cambio en p j (x, β)/p 0 (x, β) ante un cambio en x k (asumiendo es contínua) es β jk exp(x β j ) x k. O lo que es lo mismo, el log odds-ratio es linear en x: log(p j (x, β)/p 0 (x, β)) = x β j. Este resultado se extiende a comparaciones entre j y h: log(p j (x, β)/p h (x, β)) = x(β j β h ) Cómo se interpretaría el caso de x k dummy? Hacer. },

5 Modelo logit multinomial Una vez estimado podemos construir las probabilidades estimadas, p j (x, β), j = 0, 1,..., J. Para cada i podemos predecir el resultado usando la mayor probabilidad. O sea, ŷ i = max{j = 0, 1,..., J : p j (x i, ˆβ)}. Podríamos construir una medida de bondad del ajuste: peudo R 2 = N i=1 1[ŷ i =y i ] N. McFadden (1974) propone usar el likelihood ratio index: LRI = 1 L( ˆ β) L(β = 0)

6 Modelo logit multinomial Una de las características de este modelo es que las mismas variables x se usan para todas las alternativas j. En este caso los controles afectan al individuo, pero no son específicas de las caratcerśticas j = 0, 1, 2,..., J.

7 Modelo logit multinomial: STATA mlogit y x1 x2 x3 mfx, predict(p outcome(1)) (efectos marginales para y = 1) mfx, predict(p outcome(2)) (efectos marginales para y = 2)

8 Modelo de elección probabiĺıstica: logit condicional (McFadden, 1974, Wooldridge, 2012, cap.16) Supongamos que hay j = 0, 1,..., J variables latentes que representan la utilidad del individuo i yij = x ij β j + a ij, donde a ij son variables no observadas que afectan los gustos de las personas. x ij es un vector de 1 K que puede diferir entre alternativas e individuos (notar que depende de j, no sólo de i). Ejemplo: alternativas de transporte, x ij puede contener el tiempo de viaje, o el costo del viaje. Ejemplo: alternativas de prepagas, x ij puede contener el costo o las características del plan. Definamos y i = max{yi0, y i1,..., y ij }. Si a ij, j = 0, 1,..., J son variables aleatorias independientes con distribución F (a) = exp[ exp( a)] (distribución de valores extremos de tipo I), entonces exp(x ij β j ) P(y i = j x i ) = J h=0 exp(x, j = 0, 1,..., J. ihβ h )

9 Modelo de elección probabiĺıstica: logit condicional (McFadden, 1974, Wooldridge, 2012, cap.16) Los efectos marginales son p j (x)/ x jk = p j (x)[1 p j (x)]β jk, j = 0, 1,..., J, k = 1,..., K p j (x)/ x hk = p j (x)p h (x)β hk, j = 0, 1,..., J, k = 1,..., K Ver en STATA:

10 Independencia de alternativas irrelavantes Un gran problema de estos modelos (mlogit o clogit) es que la elección entre dos alternativas dadas no depende de una tercera. log(p j (x, β)/p h (x, β)) = x(β j β h ) Este supuesto viene del supuesto de independencia de los errores y homocedásticos. Se puede proponer un contraste de Hausman para ver la validez del modelo (Hausman y McFadden, 1984). Supongamos que la alternativa j = h es irrelevante, entonces exlcuirla no afecta los resultados entre las restantes. Si es relevante, excluirla debería generar inconsistencias. Sin embargo el modelo con j = 0, 1,..., h 1, h + 1,.., J es más eficiente que el modelo con j = 0, 1,.., J (?Por qué?) Así, ( ˆβ all ˆβ h ) [ ˆV h ˆV all )] 1 ( ˆβ all ˆβ h ) d χ 2 K bajo la nula de alternativas irrelevantes.

11 Independencia de alternativas irrelavantes Existen otras alternativas que no tienen este supuesto. En este modelo a i sigue una distribución multivariada normal con correlaciones arbitrarias entre a ij y a ih, para todo j = h. Sin embargo el modelo es mucho más complejo para estimar (problemas de convergencia). Ver en STATA:

12 Modelo probit de orden (ordered probit model) Supongamos que la variable dependiente toma muchos valores, ej. y = 0, 1, 2..., J, y los valores de y representan un orden en particular. Éste es el modelo de orden. Ejemplo: y podría ser salario mensual y = 0 sin ingreso y = 1 $ 1 a $ 500 y = 2 $ 501 a $ 1000 y = 3 $ 1001 a $ 2000 y = 4 $ 2001 a $ 5000 y = 5 mayor que $ 5000 Tiene sentido usar una regresión MCO?

13 Modelo probit de orden (ordered probit model) Asumamos una variable latente y dada por y = x β + e, e x N(0, 1) Consideremos un modelo con J + 1 categorías indexadas por j = 0, 1, 2..., Jy supongamos J umbrales o puntos de corte desconocidos α 1 < α 2 <... < α J que satisfacen y = 0 si y α 1 y = 1 si α 1 < y α 2. y = J si y α J Entonces la distribución condicional es P(y = 0 x) = P(y α 1 x) = P(x β + e α 1 x) = Φ(α 1 x β) P(y = 1 x) = P(α 1 < y α 2 x) = Φ(α 2 x β) Φ(α 1 x β). P(y = J 1 x) = P(α J 1 < y α J x) = Φ(α J x β) Φ(α J 1 x β) P(y = J x) = P(y > α J x) = 1 Φ(α J x β)

14 Modelo probit de orden (ordered probit model) El modelo se puede estimar por MLE: l i (β) = 1[y i = 0]log[Φ(α 1 x β)] + 1[y i = 1]log[Φ(α 2 x β) Φ(α 1 x β)] [y i = J]log[1 Φ(α J x β)]. Los efectos marginales se pueden calcular como: p 0 (x)/ x k = β k φ(α 1 x β), p J (x)/ x k = β k φ(α J x β), p j (x)/ x k = β k [φ(α j 1 x β) φ(α j x β), 0 < j < J

15 Modelo probit de orden (ordered probit model) Un supuesto que sale del modelo es el supuesto de regresiones paralelas. Podríamos armar el modelo de orden usando una serie de modelos probit. Por ejemplo, construir w ij = 1 si y ij j, w ij = 0 si y ij > j para j = 0, 1,..., J 1. Entonces tenemos, P(y j x) = P(y α j x) = G (α j x β) El modelo de orden asume que los parámetros β son los mismos en todos los probit bivariados, excepto por la constante (α). Un subproducto de este análisis es obtener P(y j x) x h = β h g(α j x β)

16 Modelo probit de orden (ordered probit model): STATA oprobit y x1 x2 x3 mfx, predict(p outcome(1)) (efectos marginales para y = 1) mfx, predict(p outcome(2)) (efectos marginales para y = 2)

Documentos relacionados

Modelos elección discreta y variable dependiente limitada

Modelos elección discreta y variable dependiente limitada Profesor: Graciela Sanroman Facultad de Ciencias Económicas y Administración Año 2010 Modelos multinomiales Los modelos multinomiales son aquellos