UNIVERSIDAD NACIONAL DE LA PLATA FACULTAD DE CIENCIAS AGRARIAS Y FORESTALES. CURSO: Modelos Lineales Generalizados Aplicados a las Ciencias Biológicas

Transcripción

1 UNIVERSIDAD NACIONAL DE LA PLATA FACULTAD DE CIENCIAS AGRARIAS Y FORESTALES CURSO: Modelos Lneales Generalzados Aplcados a las Cencas Bológcas MATERIAL DE APOYO Notas sobre Modelos Lneales Generalzados: Una Introduccón Prof.: Dra. María del Plar Díaz (Unversdad Naconal de Córdoba). PRESENTACIÓN: Durante muchos años el área de modelacón estuvo restrngda a la de los modelos normales cláscos, los cuales eran utlzados para descrbr la mayoría de los fenómenos aleatoros, aún en los casos en que era bastante razonable suponer dstrbucón no normal para el comportamento de la varable en estudo. En algunos de estos casos, y aún en la actualdad, se utlzan transformacones para ntentar lograr normaldad. Las transformacones deben garantzar tambén smultáneamente los otros supuestos asumdos en un modelo clásco, como constanca de la varanza y lnealdad (adtvdad) en los parámetros, lo cual ocurre raramente. Así, el uso de datos transformados como base del análss estadístco es adecuado sólo cuando la escala que hace que los supuestos requerdos se cumplan, tene sgnfcado en el área de estudo, dado que las conclusoes se aplcan a las poblacones transformadas (Mead et al, 1993). Nótese que mentras en supuesto de adtvdad concerne a la construccón del modelo, los otros dos, normaldad y homogenedad de varanzas se relaconan con la varacón aleatora y no hay garantía de que ambos requstos resulten de la msma transformacón (Mead et al, 1993; Box y Cox, 198). Una propuesta nteresante, basada en un concepto nnovador de modelacón, surgó en 197, con el artículo de Nelder y Wedderburn sobre 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

2 los modelos lneales generalzados (MLG). La dea básca consste en abrr el abanco de posbldades u opcones para la dstrbucón de la varable respuesta (esto es, relajar el supuesto de dstrbucón normal), sempre y cuando pertenezca a una famla más ampla de dstrbucones: la famla exponencal, así como permtr que la relacón entre el valor esperado (meda) de la varable y la combnacón lneal de los parámetros (parte sstemátca del modelo) no sea sempre la dentdad, sno cualquer funcón monótona. Por ejemplo, para datos de conteo, en vez de aplcar la transformacón y para lograr normaldad, podemos suponer que la dstrbucón para la varable es Posson (ya que es una varable dscreta) y que la relacón entre el valor esperado y la combnacón lneal en los parámetros es logµ η = β + β x + β x + L + β, la cual asegura que cualesquera = p 1xp 1 sean los valores de los parámetros sempre dará un valor postvo para µ (el conteo esperado). Podemos proceder de manera semejante en el caso de los datos sean proporcones y pensar que la dstrbucón Bnomal es una canddata razonable para descrbr el comportamento de la varable aleatora proporcón de éxtos. Una relacón funconal entre µ, la proporcón esperada de éxtos, y η, el predctor lneal, puede ser del tpo µ log, llamada funcón logístca. 1 µ Los MLG permten trabajar con varables de tpo contnuas, dscretas y categórcas, pertenecentes a la famla exponencal (funcones de densdad normal, gama, normal nversa, dstrbucones de probabldad Posson, Bnomal, Multnomal, entre otras). Por consguente, el supuesto de varanzas constantes puede ser relajado, ya que se permte usar funcones de varanza, por ejemplo, en una Bnomal, la varanza nµ(1-µ) es funcón de la meda µ. Por otra parte la adtvdad de los efectos sstemátcos puede ocurrr en la escala de una transformacón monótona de la meda. Es entonces clara la ventaja de los MLG frente a la transformacón de datos. Como muchas de estas relacones funconales pueden ser del tpo no lneal, Nelder y Wedderburn (197) propuseron la estmacón de los parámetros a través de un proceso teratvo, a la vez que presentaron una medda de bondad de ajuste (ya no una suma de cuadrados, como es en el caso de un modelo lneal normal), llamanda devance, que es utlzada en el 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

3 ajuste del modelo y en las etapas de dagnóstco. Como en rgor el método de estmacón se basa en el prncpo de máxma verosmltud, los estmadores que se obtenen tenen buenas propedades estadístcas. A partr de trabajo de Nelder y Wedderburn, en 197, fueron publcados nnumerables trabajos centífcos sobre MLG. Mas, fue a partr del desarrollo del prmer software para la estmacón de los msmos que este marco metodológco cobró mportanca, prncpalmente en el campo de las Cencas Bológcas. Ese sstema estadístco, llamado GLIM (Generalzed Lnear Interactve Models 1, (vde Atkn et al., 1989, Francs et al. 1994), fue desarrollado exclusvamente para el ajuste de MLG, y fue por mucho tempo, únca alteratva para el análss de datos. Hoy exsten otros sstemas, como el S-Plus, R 3, SAS 4, STATA 5, por ctar algunos. Esta teoría ha sdo vastamente extendda ya. Wedderburn (1974) proporconó la base teórca para los modelos de cuas-verosmltud, los cuales generalzan los MLG a stuacones más generales, ncluyendo datos correlaconados. Jørgensen (1983), con la construccón de los modelos de dspersón, ampla aún más uno de los aspectos centrales de la defncón de los MLG: la dstrbucón de la varable respuesta. En 1986, Lang y Zeger (1986) extenden los modelos de cuasverosmltud presentando las ecuacones generalzadas de estmacón (conocdas como GEE), las cuales permten el abordaje de estudo longtudnales (tempo o espaco) descrptos por varables aleatoras no normales correlaconadas. Por otro lado, Haste y Tbshran (1990) presentam los modelos adtvos generalzados (GAM), que suponen un predctor lneal que puede ser formado por funcones semparamétrcas, adecuadas para descrpcones de patrones no lneales que requeren de suavzados. Breslow y Clayton (1993) fueron los prmeros en construr el marco teórco para los modelos lneales generalzados mxtos (GLMM), en el sentdo de admtr la nclusón de efectos aleatóros (normales) en el predctor lneal. Muchos de esos resultados se dscuten en McCulloch y Searle (001). Actualmente las 1 ( ( 3 ( 4 ( 5 ( 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

4 aplcacones de los MLG pueden encontrarse en cas todas las dscplnas centífcas, sendo un lbro óptmo de referenca el McCullagh y Nelder (1989), que será abordado en este curso. ALGUNAS IDEAS Modelo lneal generalzado Sean Y,..., 1 Y n varables aleatoras (de respuestas) ndependentes, que orgnarán nuestro conjunto de observacones. Un MLG es un modelo que vncula característcas de estas respuestas (varables dependentes ) con otras varables explcatvas. Tenemos que consderar tres componentes: 1. La componente aleatora (la dstrbucón de las Y ). En general, se supone que las Y son ndependentes, con una dstrbucón que sea una famla exponencal lneal (unparamétrca).. La componente sstemátca o predctor lneal, que ndca la relacón entre las covarables (varables explcatvas). Este es un modelo lneal (es decr, los parámetros entran lnealmente al modelo). Por α+ βx + β x. ej., La funcón de enlace o lgamento, que es la que vncula los valores esperados de las Y con la componente sstemátca. Por ejemplo, g( µ ) = log( µ ) = α+ βx + β x. 1 1 Es sólo a través de la funcón de enlace aplcada al predctor lneal que las covarables ejercen efecto sobre la varable respuesta. El enlace canónco (una posbldad que se deduce desde la formulacón dentro de la famla exponencal) se torna una escala adecuada en la cual el valor esperado se puede descrbr medante una funcón lneal en los parámetros. McCullagh y Nelder (1989) plantean que la eleccón de la escala es un aspecto mportante en la seleccón del modelo. La escala adecuada para el análss clásco de regresón lneal, por ejemplo, es aquella que combna varanza constante, errores ndependentes dstrbudos aproxmadamente normales y adtvdad en los efectos sstemátcos. Sn embargo, con la ntroduccón de los MLG la normaldad y la varanza constante ya no son necesaras y la adtvdad de los efectos, aunque mportante, puede lograrse en otra escala. Lo que debe conocerse es la manera en que la varanza depende de la meda, esto es, la relacón entre la meda y la varanza establecda por el modelo probablístco selecconado, mentras 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

5 que la adtvdad se postula como propedad de una certa funcón de la esperanza de la varable respuesta. Algunos ejemplos de modelos lneales generalzados pueden ser: a. Y ( α+ βx + β x, σ ); 1 1 recordando que denotamos Y N(mu, sgnma), observamos que el valor esperado es exactamente una funcón lneal en los parámetros; b. Y Posson( µ ); log( µ ) = α+ τ, obsérvese que el valor esperado no es, como sucede en el caso a), una funcón monótona de una funcón lneal en los parámetros. π c. Y Bn( π, ); log = β0 + β1x, 1 π smlar al caso b), una funcón no lneal del valor esperado es gual a una funcón lneal de los parámetros.. Modelos más comunes:.1 Regresón logístca. Interpretacón. Para modelar datos bnaros (dos categorías) que provengan de varables aleatoras dstrbuídas según una dstrbucón bnomal, podemos consderar modelos que relaconen el parámetro π (que es la proporcón esperada de éxtos ) con la(s) varable(s) explcatvas (mal llamadas ndependentes ). El predctor lneal más smple sería π = α+ βx, el cual defne a la funcón de enlace como la dentdad. Este modelo que guala la probabldad de éxto a una funcón lneal (llamado algunas veces modelo de probabldad lneal) tene algunos problemas seros en su aplcabldad: los valores predchos no están acotados, dado que el térmno de la derecha puede tomar cualquer valor en los R, aunque es óbvo que deberían estar sempre entre 0 y 1. El modelo de regresón logístca usa como funcón de enlace el logt, lo que hace que los valores predchos queden sempre entre 0 y 1: π ( x ) exp( α+ βx ) log = α+ βx; π ( x ) =. 1 π ( x ) 1+ exp( α+ βx ) Observar que hemos puesto como componente sstemátca una regresón lneal smple, pero podríamos haber puesto cualquer otro modelo lneal. Por ejemplo, supongamos que los parámetros sean α = 4, β = 0.5. Luego, se tene el comportamento para el valor esperado como descrbe Fg Basada en la bblografía sugerda en la planfcacón del curso. 009

6 Cómo nterpretamos el coefcente de regresón β? tasa de ncremento: a medda que β crece, π ( ) camba más rápdamente a medda que x se ncrementa, x Ecuacón logístca p(x) x Fg.1 la pendente de la curva en cualquer punto es βπ (1 π ), y la pendente es máxma cuando π = 0.5. el valor de x cuando la pendente es máxma (tambén el punto de nflexón) es x= α (tambén se llama valor efectvo medano o β doss letal 50%, denotado comunmente por LD50), el valor exp( β ) representa el cocente de chances (odds-rato) cuando las x aumentan en una undad. La nterpretacón como cocente de chances es la que hace muy atractva esta funcón de enlace (que se prefere a otras como probt o complemento log-log). La propedad smétrca del cocente de chances nos permte usarlo tanto en estudos prospectvos como en retrospectvos, (caso-control, etc.), y por lo se torma muy útl en estudos de Epdemología, Socología, Ecología. La estmacón de los parámetros del modelo se realza por máxma verosmltud, de manera que para la nferenca podemos usar todas las propedades de los estmadores máxmo-verosímles. En general, las propedades son asntótcas, por lo que para que se cumplan, aproxmadamente, ben en una stuacón partcular necestaremos tamaños de muestra grandes. Computaconalmente, en los MLG, los estmadores se 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

7 obtenen usando el algortmo de Newton-Raphson (o algún refnamento de este algortmo).. Inferenca Para verfcar hpótess exsten tres métodos basados en la funcón de verosmltud: la prueba de Wald, la prueba del cocente de verosmltud y la prueba score (ya conocda drectamente como prueba escore). Asntótcamente las tres pruebas son equvalentes, pero para muestras no demasado grandes los resultados pueden ser bastante dferentes (p.ej., la prueba de Wald tende a ser más lberal). Para ver la dferenca entre los tres métodos, vamos a consderar el caso más smple posble: probar β = 0 en un GLM que tene ese únco parámetro (es decr, la funcón de verosmltud es funcón sólo de β). Para estmar el parámetro, maxmzamos la funcón de verosmltud, o su logartmo, L( β ). El estmador será denotado como ˆβ, y el valor máxmo de la logverosmltud es L( ˆ β ). Veamos cómo se formulan las tres pruebas: La prueba de Wald es basada en el estadístco χ Wald ˆ β = se.. ˆ β, es decr el valor estmado dvddo por su error estándar (asntótco). Este error estándar asntótco se calcula a partr de la curvatura de la funcón de log-verosmltud en su máxmo. Así, ntutvamente, s la curva es muy ampla o aberta, el error estándar es grande (la estmacón no es muy precsa), s la curva es muy cerrada, el error estándar es pequeño (la estmacón es precsa). Esta prueba trata de comprobar s la dferenca (en el eje horzontal) entre el valor estmado y el valor hpotetzado en la nula es sufcentemente pequeña. La prueba de verosmltud usa como estadístco a χlr ( L(0) L( ˆ β )) =, donde los L denotan a la funcón de verosmltud evaluada en su valor medo (valor nulo) y en el estmador que se propone como de máxma verosmltud ˆβ. Esta prueba observa s la dferenca (en el eje vertcal) entre el máxmo obtenble de la log-verosmltud y el valor de la log-verosmltud cuando la hpótess nula es certa es sufcentemente pequeña. 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

8 L '(0) El estadístco para la prueba del escore es χscore =. Esto es, sel.. '(0) evalúa s la dervada en el valor postulado es lo sufcentemente cercana a 0. Debemos recordar que para la mayoría de los modelos estudados, la funcón de verosmltud es cóncava (al menos cerca del máxmo), y que por lo tanto a medda que la dervada se acerca más a 0, sgnfca que la log-verosmltud, bajo la hpótess nula, está más cerca del máxmo. La prueba de Wald es la más smple computaconalmente, pero es la que menos se recomenda, ya que puede ser excesvamente lberal cuando los tamaños de muestra son pequeños y no es nvarante ante cambos de parametrzacón. Las otras dos pruebas, basados en los estadístcos escore y cocente de verosmltud, se usan frecuentemente. Por ejemplo, el χ de Pearson para ndependenca en tablas de contngenca es una prueba escore, mentras el conocdo estadístcog para la msma stuacón es una prueba del cocente de verosmltud. Para construr ntervalos de confanza para parámetros se puede usar el método de Wald o el método de verosmltud. El prmero es smplemente ˆ β ± z se.. ˆ β, mentras que el últmo consste en nvertr la prueba de α hpótess antes presentada. Para la seleccón de covarables, en un proceso de modelacón, es necesaro utlzar crteros de nclusón (o exclusón) basados en la funcón de verosmltud. Para defnr un crtero de nclusón de una varable se debe plantear un balance entre su mpacto en la descrpcón del valor esperado y la nformacón mportante que ese hecho necesta para el proceso de estmacón. Un estadístco apropado para estos casos, para comparar la bondad del ajuste del modelo y su grado de complejdad, es el crtero de nformacón de Akake (Akake, 1973), defndo: ~ AIC = Lˆ + p= S + p L, p ( p) p ( n) Donde ˆ ~ L( p ) y L ( n) son las log-verosmltudes evaluadas en ˆ β ( p ) y ~ β respectvamente y S p es la devance escalada (dvddo por el ( n) parámetro de escala estmado) para el modelo con p parámetros. S el modelo posee el parámetro de escala φ desconocdo, prevamente hay que estmarlo. Este crtero extende el crtero de cocente de máxma 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

9 verosmltud para la stuacón de ajuste de muchos modelos con dstnto número de parámetros, decdendo hasta cuándo se puede exclur o no térmnos. Un valor bajo de AIC p es consderado representatvo de un mejor ajuste y los modelos son selecconados procurando obtener un mínmo de AIC p. Consderando dos modelos encajadas M q y M p, con p>q, se tene que AIC AIC = S S ( p q), así, suponendo verdadero a M q, se p q 1 prueba que E( AIC AIC ) = p q+ O( n ). p p q q.3 Regresón de Posson Para modelar recuentos, la funcón de enlace dentdad no es muy práctca porque puede producr valores predchos negatvos. La funcón logarítmca, por otra parte, nos asegura que estos valores predchos van a ser postvos. Por ejemplo, ( ) log µ ( x ) = α+ β x ; µ ( x ) = exp( α+ βx ). Podemos nterpretar el efecto de la pendente β en térmnos multplcatvos: s x aumenta en 1 undad, el promedo se multplca por e β : ( ) α β β µ ( x+ 1) = e e e. Smlarmente, para varables regresoras cualtatvos, como es el caso de tener un modelo de análss de la varanza con un fctor de tratamentos, la dferenca entre los coefcentes asocados a dos tratamentos nos ndca por cuánto se multplca la meda al pasar de un tratamento al otro. Para log µ = α+ τ, al pasar, por ejemplo, del tratamento 1 al el modelo ( ) tratamento 3, el promedo camba: µ µ ( τ τ ) x = exp. Esto quere decr que s τ3 > τ1, entonces el factor es mayor que 1, y por lo tanto µ 3 > µ 1. El ajuste, la verfcacón del modelo y las pruebas de hpótess se realzan de la manera descrpta para regresón logístca. 3. Fenómeno de Superdspersón (varables dscretas) Dentro de la famla exponencal unparámetrca, tanto la dstrbucón bnomal como la Posson, poseen la propedad sguente: la varanza queda automátcamente defnda a partr de la meda. En efecto, en el caso Posson se tene que var( Y ) = µ. Sn embargo exsten stuacones reales en las que la varanza es más grande de lo que esperaríamos bajo el modelo. Es más, McCullagh & Nelder (1989) afrman que en la práctca esto es lo 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

10 común y la expresón nomnal, la excepcón. Este fenómeno se llama sobredspersón (superdspersón) y entre las causas más comunes tenemos la heterogenedad entre undades de medcón, o en el tempo como factor que ndexa las respuestas. Cuando esto se presenta, hay dos enfoques para la modelacón de los datos: Proponer otra dstrbucón más además de la elegda para la varable aleatora de respuesta, como s fuera una dstrbucón compuesta, de manera tal que el valor esperado sea consderado tambén como varable (ej. bnomal negatva o beta-bnomal, en el caso de varables bnomales, gama-posson, en el caso de conteos, etc.), Ajustar un modelo para la varanza medante un factor, φ, y estmarlo. Para estmar φ, es necesaro utlzar que la devance o el χ de Pearson se aproxman (en muchos casos) con una dstrbucón χ. Por lo tanto, s el modelo ajustara ben y no exstera sobredspersón, esperaríamos que tanto la devance como el χ de Pearson estén cerca de los grados de lbertad (que son el valor esperado de una dstrbucón χ ). Ahora, supongamos que el modelo sí ajusta ben (es decr, no hay falta de ajuste) pero hay sobredspersón. Podemos demostrar que, asntótcamente, el valor esperado de la devance o del χ de Pearson van a estar multplcados por φ. Esto hace que dos estmadores posbles de φ sean el cocente entre la devance y sus grados de lbertad, o el cocente entre el estadístco χ de Pearson y sus grados de lbertad. Hay que destacar que esto será váldo sólo s no hay falta de ajuste. Este enfoque permte trabajar por analogía con σ, el parámetro de dspersón en la dstrbucón normal. Para estmarlo usamos el cuadrado medo resdual (que es la devance dvdda por sus grados de lbertad), lo cual funconará ben sólo en el caso de que no haya falta de ajuste. Los estmadores del modelo se obtenen de la manera usual (como en la dstrbucón normal, los ˆβ no dependen de σ ) y la matrz de covaranza de los msmos se multplca por ˆ φ (recordemos que la covaranza de los ˆβ es σ ( X ' X) 1 ). Luego, con todo, las pruebas de hpótess (Wald, Máxma Verosmltud y Escore) quedan dvddas por ˆ φ (es decr, sean más conservadoras) y los errores estándar asntótcos quedan multplcados 1 Basada en la bblografía sugerda en la planfcacón del curso. 009

11 por ˆ φ. Por analogía al modelo clásco normal y el análss de la varanza de Fsher, se ha propuesto usar la dstrbucón F en vez de la χ, ya que φ es estmado. 4. Regresón Posson con offset Exsten muchas aplcacones en las que no nos nteresa modelar los recuentos propamente dchos sno una tasa, densdad, promedo, etc. Por ejemplo, supongamos que contamos, en 50 plantas tratadas y en 50 plantas consderadas como controles, la cantdad de nsectos (Y) y la cantdad de hojas (h), y nos nteresa modelar el promedo de nsectos por hoja. Un µ modelo que podemos usar es log = α+ τ,o logµ = loghj + α+ τ. El prmer h j térmno se llama offset. Las característcas del MLG no camban, es decr la estructura de predctor lneal, funcón de enlace y dstrbucón de la respuesta. Observemos que smplemente es como agregarle una nueva varable ndependente al modelo, cuyo coefcente de regresón es 1). 5. Regresón Bnomal Negatva S ben la dstrbucón bnomal negatva no es una famla exponencal para k desconocdo, la cantdad de comportamentos para datos bológcos que requeren de esta funcón de dstrbucón de probabldad hace que se hayan desarrollado métodos que permten usar las técncas de modelos lneales generalzados para datos bnomales negatvos. Esta dstrbucón es descrpta por la sguente expresón: Γ ( y+ 1 k) ( y ) ( 1 ) ( kµ ) ( k ) k P( y) = y= 0,1,,...; µ > 0; k > 0. y 1 Γ + 1 Γ k k 1+ µ + El parámetro k se refere comúnmente como el índce de agregacón. La µ funcón de varanza es Var( Y ) = µ +, con lo que vemos que ésta es una k dstrbucón alternatva para modelar sobredspersón en recuentos Posson. S k es conocdo, se puede modelar drectamente ya que es una famla exponencal. S k es desconocdo, la estratega es estmarlo conjuntamente con los parámetros del modelo medante máxma verosmltud (análogo a estmar σ junto con los otros parámetros en regresón normal). La funcón de enlace usada típcamente es la logarítmca. 1 Basada en la bblografía sugerda en la planfcacón del curso. 009