Análisis de datos Categóricos

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Análisis de datos Categóricos"

Belén Espinoza Jiménez
hace 5 años
Vistas:

1 Regresión logística Universidad Nacional Agraria La Molina

2 Regresión logística simple Interpretación de parámetros Inferencia Para una variable aleatoria respuesta Y y una variable explicativa X, sea: π(x) = Pr (Y = 1 X = x) = 1 Pr (Y = 0 X = x) El modelo de regresión logística es: que es equivalente a: π(x) = exp{β 0 + β 1 x} 1 + exp{β 0 + β 1 x} log π(x) 1 π(x) = β 0 + β 1 x

3 Interpretación de parámetros Interpretación de parámetros Inferencia El signo del coeciente β 1 determina si π(x) aumenta o disminuye conforme x aumenta. Si β 1 = 0 entonces Y es independiente de X. El odds se incrementa de forma proporcional a e β 1 por cada unidad adicional en x. El parámetro β 0 no suele ser de mayor interés. Si π(x) = 1/2 entonces x = β 0 /β 1. El valor anterior es llamado LD50 y corresponde a la dosis con un 50 % de posibilidades de tener resultados letales. La tangente en un punto particular de x tiene una pendiente igual a β 1 π(x)(1 π(x)).

4 Inferencia Regresión logística simple Interpretación de parámetros Inferencia Para el modelo con un solo predictor: log π (x) 1 π (x) = β 0 + β 1 x las pruebas de signicancia se enfocan en H 0 : β 1 = 0, la hipótesis de independencia. Se pueden utilizar la prueba de Wald, score y razón de verosimilitud. Para muestras grandes las tres pruebas anteriores dan resultados similares, sin embargo se preere usar la prueba de razón de verosimilitud ya que usa mayor información.

5 Inferencia Regresión logística simple Interpretación de parámetros Inferencia Los intervalos de conanza suelen ser más ecientes. El intervalo de Wald es: ˆβ 1 ± z 1 α/2 EE( ˆβ 1 ) Un intervalo de conanza para logitπ(x 0 ) es: ˆβ 0 + ˆβ 1 x 0 ± z 1 α/2 EE( ˆβ 0 + ˆβ 1 x 0 ) donde EE es la raíz cuadrada de: Var( ˆβ 0 + ˆβ 1 x 0 ) = Var( ˆβ 0 ) + x 2 0 Var( ˆβ 1 ) + 2x 0 Cov( ˆβ 0, ˆβ 1 )

6 Ejemplo Regresión logística simple Interpretación de parámetros Inferencia Ejemplo: Pulso Suponga que se desea determinar el efecto del peso (en libras) de un grupo de pacientes sobre su tasa de pulso en reposo. La variable respuesta es Y = 1 si la tasa de pulso es alta y Y = 0 si la tasa de pulso es baja. Estimar el modelo de regresión logística simple y probar si la tasa de pulso es independiente del peso del paciente. Hallar un intervalo de conanza del 95 % para el coeciente de regresión asociado al peso del paciente. Hallar un intervalo de conanza del 98 % para la probabilidad que tiene un paciente de 140 libras de tener una tasa de pulso alta.

7 Pruebas y medidas de bondad de ajuste Residuales El modelo de regresión logística simple se puede extender hacia un modelo que permita incluir múltiples variables explicativas. Suponga que el modelo para π (x) = Pr(Y = 1), donde x = (x 1, x 2,, x p ), es: ( ) π (x) log = β 0 + β 1 x 1 + β 2 x β p x p 1 π (x) El parámetro β i representa el efecto de x i en el logaritmo del odds para Y = 1 controlando las otras x j. El efecto multiplicativo sobre el odds por cada unidad adicional en x i es exp{β i }, manteniendo jas las otras x j.

8 Ejemplo Regresión logística simple Pruebas y medidas de bondad de ajuste Residuales Ejemplo: Diabetes Se tiene información proveniente de un estudio con 768 pacientes mujeres del Instituto Nacional de enfermedades Digestivas, Diabetes y de Riñón. Las variables independientes involucradas son: número de embarazos, concentración de glucosa en plasma en una prueba de tolerancia oral (mmol/l), presión arterial diastólica (mmhg), grosor del pliegue del tríceps (mm), suero de insulina en dos horas (muu/ml), índice de masa corporal, función pedigrí de diabetes, edad (años). La variable respuesta diabetes cuyo valor 1 es interpretado como prueba de diabetes positiva.

9 Prueba de Hosmer y Lemeshow Pruebas y medidas de bondad de ajuste Residuales La idea es agrupar las observaciones en categorías de acuerdo a las probabilidades estimadas usando g grupos cada uno con aproximadamente la misma cantidad de observaciones. Con 10 grupos, el primer grupo de conteos observados y sus correspondientes conteos estimados esta formado con las n/10 observaciones con las probabilidades más altas y así sucesivamente. El valor estimado es la suma de las probabilidades estimadas en cada grupo. Sea y ij la observación j en el grupo denido por la partición i, i = 1, 2,, g y j = 1, 2,, n i.

10 Pruebas y medidas de bondad de ajuste Residuales Prueba de Hosmer y Lemeshow Sea ˆπ ij las probabilidades estimadas con la data no agrupada. El estadístico de Hosmer y Lemeshow es: X 2 HL = g i=1 ( j y ij j ˆπ ij) 2 ( ( ( ) ) j ij) ˆπ 1 j ˆπ ij /n i cuya distribución es aproximadamente chi-cuadrado con g 2 grados de libertad. Si el valor es grande puede ser evidencia de una falta de ajuste en el modelo.

11 Medidas de bondad de ajuste Pruebas y medidas de bondad de ajuste Residuales Es posible comparar el logaritmo de la verosimilitud del modelo estimado y el modelo minimal que es aquel donde todas las probabilidades son iguales. Sea ˆπ i las probabilidades estimadas para y i bajo el modelo de interés. La estadística chi-cuadrado de razón de verosimilitud es: Otra estadística usada es: C = 2 (l(ˆπ, y) l( π, y)) χ 2 p pseudo R 2 = l( π, y) l(ˆπ, y) l( π, y)

12 Residuales de Pearson Pruebas y medidas de bondad de ajuste Residuales El residual de Pearson es: e i = y i n i ˆπ i ni ˆπ i (1 ˆπ i ) i = 1, 2,, n tal que X 2 = e 2 i. El residual estandarizado de Pearson es: r i = e i (1 ĥi) donde ĥ i es el leverage obtenido de la matriz hat.

13 Residuales de Devianza Pruebas y medidas de bondad de ajuste Residuales El residual de devianza es: donde: d i = 2 g i = d i signo(y i n i ˆπ i ) [ ( ) ( )] yi ni y i y i log + (n i y i ) log n i ˆπ i n i n i ˆπ i Se cumple que: G 2 = g 2 i

14 Regresión logística simple Forward, Backward y AIC ¾Como seleccionar un modelo de regresión logística adecuado? El proceso de selección se hace difícil cuando el número de variables explicativas aumenta, porque aumentan a su vez los posibles efectos e interacciones. Hay dos objetivos contrapuestos: el modelo debe ser lo sucientemente complejo como para adaptarse bien a los datos, sin embargo los modelos más simples son más fáciles de interpretar. ¾Cuantas variables predictoras se deben introducir en el modelo? Los datos se dice que son no balanceados en la variable respuesta si y = 1 o y = 0 aparecen pocas veces.

15 Forward, Backward y AIC Forward, Backward y AIC Lo mencionado anteriormente limitara el número de variables predictoras cuyos efectos se pueden estimar de manera precisa. Se considera que deberá haber al menos 10 observaciones de 1 o 0 por cada variable predictora. Por ejemplo, si y = 1 solo 30 veces en n = 1000 observaciones, el modelo no deberá tener más de tres variables predictoras, aunque el tamaño total de la muestra fuera grande. Se pueden usar métodos de selección hacia adelante (forward), selección hacia atrás (backward), selección stepwise y el criterio de informacion de Akaike (AIC).

Documentos relacionados

Análisis de datos Categóricos

Análisis de datos Categóricos Regresión logística Universidad Nacional Agraria La Molina 2014-2 Regresión logística simple Interpretación de parámetros Gracando las proporciones Inferencia Introducción Para una variable aleatoria respuesta