Guillermo Ayala Gallego Universidad de Valencia

Transcripción

1 GoBack

2 Regresión logística Guillermo Ayala Gallego Universidad de Valencia 4 de febrero de / 22

3 Puede que sea el procedimiento estadístico más utilizado. Con aplicaciones frecuentes en Medicina y Biología, Ciencias Sociales, Marketing,... El 11 de enero de 2009 saĺıa en artículos en la base de datos PubMed. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos 2 / 22

4 Modelo de regresión logística Y es una respuesta binaria. X (una sola) variable explicativa y π(x) = P(Y = 1 X = x) = 1 P(Y = 0 X = x). El modelo de regresión logística asume π(x) = exp{α + βx} 1 + exp{α + βx} o equivalentemente logit(π(x)) = log π(x) 1 π(x) = α + βx 3 / 22

5 Interpretación del parámetro β e β es un cociente de los odds de X = x + 1 dividido por los odds de X = x. El parámetro α no suele tener un interés especial. 4 / 22

6 Es apropiado el modelo? Una posibilidad es considerar para cada x el número de observaciones que comparten la covariable. Si y i es el número de unos y n i el número de pruebas entonces log y i n i y i ha de ser aproximadamente lineal. Si x es muy numérica (muchos valores distintos) entonces alguna técnica de suavizado parece mejor. 5 / 22

7 La basamos en la distribución asintótica de los estimadores máximo verosímiles. En un modelo con un solo predictor el contraste básico sería H 0 : β = 0; H 1 : β 0 Podemos usar los tres tests ya considerados: cociente de verosimilitudes, Wald y el score test. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos 6 / 22

8 Para obtener el intervalo de confianza para π(x 0 ) tenemos que, puesto que logit(ˆπ(x 0 )) = ˆα + ˆβx 0, entonces var(ˆα+ ˆβx 0 ) = var(ˆα)+x 2 0var(ˆβ)+2x 0 cov(ˆα, ˆβ). De donde el intervalo de confianza para α + βx 0 sería ˆα + ˆβx 0 ± 1,96SE, y el intervalo para π(x 0 ) lo obtenemos mediante la transformación inversa π(x 0 ) = exp(logit)/(1 + exp(logit)). Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos 7 / 22

9 Los cangrejos herradura hembra: depende el que tenga satélite de la anchura del caparazón? notar/notar022.pdf. Unos datos del IBV: notar/notar032.pdf. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos 8 / 22

10 no agrupados Una posibilidad es comparar nuestro modelo con modelos más complejos (con interacciones o términos cuadráticos). Si el modelo más complejo no ajusta sensiblemente mejor puede que nuestro modelo no sea demasiado malo. Si todas los predictores son categóricos entonces podemos estimar la probabilidad de uno y cero, lo multiplicamos por el número de sujetos en este setting y tenemos los valores ajustados. Podemos comparar lo ajustado y lo observado con el test ji-cuadrado de Pearson o el test del cociente de verosimilitud. Si el número de settings se mantiene fijo y aumentamos la muestra la distribución nula asintótica es una ji-cuadrado donde el número de grados de libertad es la diferencia entre el número de setting menos el número de parámetros del modelo. 9 / 22

11 no agrupados Y si los predictores son continuos, esto es, tenemos datos? Una posibilidad es categorizar los predictores. Asignamos el valor medio de los predictores a los individuos de la categoría. Estimamos la probabilidad de uno y cero usando en estos valores medios y reproducimos lo que hacemos para datos agrupados. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos 10 / 22

12 El procedimiento anterior con muchos predictores produce tablas con muchas celdas. Vamos a agrupar usando las probabilidades de éxito utilizando datos. Formamos grupos aproximadamente iguales: el primer grupo tendría los que tienen mayor probabilidad de éxito, el segundo grupo los siguientes y así sucesivamente. El valor observado es el número de individuos en el grupo. El valor esperado es la suma de las probabilidades estimadas para todas las observaciones del grupo. 11 / 22

13 Si y ij denota el resultado binario para la observación j del grupo i (i = 1,...,g,j = 1,...,n i y ˆπ ij denota su probabilidad ajustada entonces el estadístico del test de Hosmer Lemeshow sería ( g j y ij 2 j ij) ˆπ j ˆπ ij(1 j ˆπ ij)/n i i=1 La distribución asintótica no es una ji-cuadrado ya que no tenemos pruebas de Bernoulli. Si el número de settings es igual al tamaño muestral entonces la distribución nula es aproximadamente ji-cuadrado con g 1 grados de libertad. notar/notar035.pdf 12 / 22

14 Modelos logit con predictores categóricos Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos Representación tipo ANOVA Una formulación alternativa con variables dummy Regresión logística múltiple Modelos13 logit/ para 22 tablas de contingencia

15 Representación tipo ANOVA Supongamos un solo factor X con I categorías. Tendríamos una tabla I 2 donde el conteo de la primera columna y i es el número de éxitos de las n i pruebas. Tenemos y i con distribución binomial con parámetros π i y n i e independientes. El modelo logit con un solo factor sería log π i 1 π i = α + β i. Un valor mayor de β i supone un mayor valor de la probabilidad π i. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos Representación tipo ANOVA Una formulación alternativa con variables dummy Regresión logística múltiple Modelos14 logit/ para 22 tablas de contingencia

16 Tenemos un parámetro redundante. Las opciones habituales son i β i = 0. β I = 0. En este caso: α es el logit de la categoría I. β i es la diferencia de los logit entre la categoría i y la categoría I, el logaritmo del odds ratio. Es un modelo con I parámetros, tantos como observaciones binomiales. Es un modelo saturado. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos Representación tipo ANOVA Una formulación alternativa con variables dummy Regresión logística múltiple Modelos15 logit/ para 22 tablas de contingencia

17 Si el factor (X) no tiene efecto: β 1 =... = β I = 0, o equivalentemente π 1 =... = π I. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos Representación tipo ANOVA Una formulación alternativa con variables dummy Regresión logística múltiple Modelos16 logit/ para 22 tablas de contingencia

18 Una formulación alternativa con variables dummy Consideramos x i = 1 para las observaciones de la fila i en la tabla I 2 y cero en otro caso para i = 1,...,I 1 El modelo logit lo formulamos como logit(π i ) = α + β 1 x β I 1 x I 1. Esta formulación es equivalente con la hipótesis β I = 0. La categoría que elegimos para asumir que su β es nulo es arbitraria. Independientemente de la restricción ˆα + ˆβ i y por lo tanto ˆπ i son los mismos. notar/notar026.pdf. 17 / 22

19 Regresión logística múltiple Si π(x) = P(Y = 1 x) con x = (x 1,...,x p ) asumimos logit[π(x)] = α + β 1 x β p x p. O equivalentemente π(x) = exp(α + β 1x β p ) 1 + exp(α + β 1 x β p ). Fijadas todas las demás variables, un cambio en una unidad de x i se traduce en un cambio en el logaritmo de los odds de β i o bien un cambio multiplicativo en los odds de exp(β i ). 18 / 22

20 Modelos logit para tablas de contingencia múltiples Consideremos X,Z predictores binarios e Y la respuesta binaria: x 1 = z 1 = 1 y x 2 = z 2 = 0. Consideremos el modelo logit(p(y = 1)) = α + β 1 x i + β 2 Z donde están los efectos principales pero no hay interacción. El modelo indicado corresponde con una asociación homogénea entre X e Y, esto es, no depende del valor de Z. Si β 1 = 0 además X e Y son independientes en cada tabla parcial, esto es, son condicionalmente independientes dado Z La escala logit es la aceptada genéricamente para no interacción entre variables categóricas. Podemos trabajar en otra escala y la no interacción en una escala no implica la no interacción en la otra. 19 / 22

21 Modelos logit para tablas de contingencia múltiples Consideremos X,Z predictores categóricos e Y la respuesta binaria. El modelo de no interacción, de independencia condicional o de asociación homogénea corresponde con logit(p(y = 1)) = α + β X i + β Z k donde estamos representando los efectos de X mediante los (I 1) parámetros β X i y los efectos de Z mediante los β Z k. La independencia condicional se corresponde con H 0 : β X 1 = β X 2 =... = β X I. 20 / 22

22 SIDA Y AZT Tenemos una muestra de personas afectadas de sida en donde como respuesta consideramos si desarrollan síntomas de SIDA y como predictores la raza y si se les administra AZT de modo inmediato o cuando las células T muestran debilidad inmune. logit(p(y = 1)) = α + β AZT Si + β Raza Blanco α es el log odds de desarrollar síntomas de SIDA para negros que no se les administró inmediatamente AZT. βsi AZT es el incremento en los log odds para los que usan inmediatamente AZT. βblanco Raza es el incremento de los odds para los blancos. notar/notar027.pdf. 21 / 22

23 Los cangrejos herradura atacan de nuevo Consideramos el modelo logit(π) = α + β 1 c 1 + β 2 c 2 + β 3 c 3 + β 4 x, π = P(Y = 1), x= anchura en centímetros, c 1 = 1 para color medio claro y 0 en otro caso, c 2 = 1 para color medio y 0 en otro caso, c 3 = 1 para color medio oscuro y 0 en otro caso. notar/notar028.pdf. Modelo de regresión logística Interpretación del parámetro β Es apropiado el modelo? Modelos logit con predictores categóricos Representación tipo ANOVA Una formulación alternativa con variables dummy Regresión logística múltiple Modelos22 logit/ para 22 tablas de contingencia