Tema 7: Regresión Logística p. 1/1

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Tema 7: Regresión Logística p. 1/1"

José Ramón Figueroa Sáez
hace 5 años
Vistas:

1 Tema 7: Regresón Logístca Pedro Larrañaga, Iñak Inza, Abdelmalk Moujahd Departamento de Cencas de la Computacón e Intelgenca Artfcal Unversdad del País Vasco Tema 7: Regresón Logístca p. /

2 Introduccón Regresón logístca se basa en la funcón logístca: f(z) = +e z 0 < f(z) < puede ser nterpreta en térmnos de probabldad lím z +e z = 0 lím z + +e z = f(0) = +e 0 = 2 Muy usada en Cencas de la Salud: los parámetros tenen una nterpretacón en térmnos de resgo Tema 7: Regresón Logístca p. 2/

3 El modelo logístco Paradgma de regresón logístca: P (C = x) = +e (β 0 +P n = β x ) β 0, β,..., β n son los parámetros, que deben ser estmados a partr de los datos S C es bnara: P (C = 0 x) = + e (β 0+ P n = β x ) P n = e (β 0+ = β x ) + e (β 0+ P n = β x ) Tema 7: Regresón Logístca p. 3/

4 El modelo logístco rsk rato (RR(x, x )) Varables: C Enfermedad Coronara ( s, 0 no); X Nvel de Colesterol ( alto, 0 bajo), X 2 Edad, y X 3 Resultado del Electrocardograma ( anormal, 0 normal) Parámetros (N = 609 casos): c β0 = 3,9 c β = 0,652 c β2 = 0,029 c β3 = 0,342 Comparar el resgo para dos patrones: x = (, 40, 0) y x = (0, 40, 0) P (C = x) = P (C = X =, X 2 = 40, X 3 = 0) = = 0,09 +e ( 3,9 + 0,652() + 0,029(40) + 0,342(0)) P (C = x ) = P (C = X = 0, X 2 = 40, X 3 = 0) = = 0,060 ( 3,9 + 0,652(0) + 0,029(40) + 0,342(0)) +e RR(x, x ) = P (C= x) P (C= x ) = P (C= X =,X 2 =40,X 3 =0) P (C= X =0,X 2 =40,X 3 =0) = 0,09 0,060 =,82 Para una persona con 40 años y electrocardograma normal, el resgo se multplca cas por dos al pasar de un nvel de Colesterol bajo(0) a uno alto () Tema 7: Regresón Logístca p. 4/

5 El modelo logístco odds rato OR(x) = P (C= x) P (C= x) Modelo logístco en forma logt logt (P (C = x)) = ln OR(x) = ln =... = β 0 + n = β x [ ] P (C= x) P (C= x) ln OR(0)) = β 0 x = (, 40, 0), x = (0, 40, 0) logt P (C = x)) = β 0 + β + 40 β β 3 logt P (C = x )) = β β + 40 β β 3 logt P (C = x)) logt P (C = x )) = β Tema 7: Regresón Logístca p. 5/

6 El modelo logístco Teorema: En un modelo de regresón logístca, el coefcente β representa el cambo en el logt resultante al aumentar una undad en la -ésma varable X ( =,..., n) Demostracón: x = (x,..., x,..., x n ) y x = (x,..., x,..., x n) verfcando x j = x j para todo j y x = x + ( ) n n logt (x ) logt (x) = β 0 + β x β 0 + β x = β x β x = β (x + x ) = β = = Tema 7: Regresón Logístca p. 6/

7 El modelo logístco rsk odds rato ROR(x, x) = OR(x ) OR(x) = ep n = β (x x ) Mde el resgo del odds rato de x frente al odds rato de x Puede expresar de manera alternatva como: ROR(x, x) = n = e β (x x ) = e β (x x )... e β n(x n x n ) Tema 7: Regresón Logístca p. 7/

8 Estmacón máxmo verosml de los parámetros Funcón de verosmltud: L (x (), c () ),..., (x (N), c (N) ), β 0, β,..., β n NY = P C = x (j) c (j) P C = x (j) c (j) Logartmo de la verosmltud: lnl (x (), c () ),..., (x (N), c (N) ), β 0, β,..., β n = = c (j) lnp C = x (j) + c (j) ln P C = x (j) = = h c (j) lnp = = C = x (j) ln P c (j) ln P `C = x (j) P `C = x (j) + c (j) β 0 + nx = β x (j)! C = x (j) + ln P ln + e 0 ln P C = x (j) =... β 0 + nx = β x (j)! C A C = x ( Tema 7: Regresón Logístca p. 8/

9 Estmacón máxmo verosml de los parámetros cβ 0, β c,..., β c n, para los parámetros β 0, β,..., β n, como solucones! del sstema: nx β 0 + β x (j) lnl = c (j) e =! = 0 β 0 nx β 0 + β x (j) + e =! nx β 0 + β x (j) lnl = c (j) x (j) β x (j) e =! = 0 nx β 0 + β x (j) + e =..! lnl β n = c (j) x (j) n x (j) n e + e β 0 + β 0 + nx = β x (j) nx = β x (j)! = 0 Tema 7: Regresón Logístca p. 9/

10 Estmacón máxmo verosml de los parámetros No es posble obtener una fórmula cerrada para los estmadores de los parámetros Método de Newton-Raphson (técnca teratva): bβ nuevo = b β vejo + (X t WX) X t (c bp) X M(N, n) matrz cuyas flas son x (j), j =,..., N 0 p () ` p () p (2) ` p (2)... 0 W = p (N) ` p (N) C A bp M(N, ), con p (j) = e x (j) b β vejo x (j) b β vejo + e c M(N, ) vector de componentes c (j), j =,..., N Tema 7: Regresón Logístca p. 0/

11 Test de la razón de verosmltud Compara dos modelos de regresón logístca: el modelo completo frente al modelo reducdo submodelo del completo El test de la razón de verosmltud compara 2 veces el logartmo neperano de un cocente entre las verosmltudes del modelo completo y el modelo reducdo, con el percentl correspondente de una dstrbucón ch-cuadrado Hpótess nula: los parámetros de las varables que forman parte del modelo completo, pero no del modelo reducdo, valen cero Tema 7: Regresón Logístca p. /

12 Test de la razón de verosmltud Modelo : logt P (C = x) = α + β x + β 2 x 2 Modelo 2: logt P 2 (C = x) = α + β x + β 2 x 2 + β 3 x 3 Modelo 3: logt P 3 (C = x) = α + β x + β 2 x 2 + β 3 x 3 + β 4 x x 3 + β 5 x 2 x 3 Modelo modelo reducdo frente al Modelo 2 modelo completo Modelo 2 modelo reducdo frente al Modelo 3 modelo completo Tema 7: Regresón Logístca p. 2/

13 Test de la razón de verosmltud Modelo : logt P (C = x) = α + β x + β 2 x 2 Modelo 2: logt P 2 (C = x) = α + β x + β 2 x 2 + β 3 x 3 H 0 : β 3 = 0 frente a H : β 3 0 S X3 hace que el Modelo 2 se ajuste mucho mejor a los datos que el Modelo entonces c L 2 será mucho mayor que c L = c L cl 2 0 = ln c L cl 2 = 2ln c L cl 2 + Cuanto mayor sea el valor de 2ln c L cl 2 más en contra estaremos de la hpótess nula H 0 : β 3 = 0 2ln c L cl 2 sgue cuando N es sufcentemente grande bajo la hpótess nula H 0 una dstrbucón de probabldad χ 2 r, con r gual al número de parámetros que en el modelo completo deben gualarse a cero para que dcho modelo completo concda con el modelo reducdo Tema 7: Regresón Logístca p. 3/

14 El test de Wald Sólo puede ser usado para testar un únco parámetro: H 0 : β j = 0 frente a H A : β j 0 Váldo para testar el Modelo 2 frente al Modelo. No srve para testar el Modelo 3 frente al Modelo 2 Estadístco de Wald para la varable X j : β j Ŝ βj Se verfca que β j N (0, ) o lo que es equvalente, ( βj Ŝ βj ) 2 χ 2 Ŝ βj Tema 7: Regresón Logístca p. 4/

15 Modelzacón El test de la razón de verosmltud como el test de Wald son nstrumentos para la modelzacón S la enumeracón completa de todos los modelos posbles es costosa, se utlzan estrategas secuencales de modelzacón a) Seleccón haca adelante: en cada etapa se añade la mejor varable predctora aún no selecconada b) Elmnacón haca atrás: partendo del conjunto completo de varables predctoras, se va elmnando en cada etapa la peor varable predctora hasta que las varables que quedan en el modelo son todas ellas pertnentes c) Modelzacón paso a paso: se combnan las dos estrategas anterores Tema 7: Regresón Logístca p. 5/

Documentos relacionados

1 + e z. 1 + e. 1 + e = 1 0 2

1 + e z. 1 + e. 1 + e = 1 0 2 Tema 7. Regresón Logístca Pedro Larrañaga, Iñak Inza, Abdelmalk Moujahd Departamento de Cencas de la Computacón e Intelgenca Artfcal Unversdad del País Vasco Euskal Herrko Unbertstatea 7. Introduccón En