Algunos Problemas y Soluciones en el Análisis de Experimentos Ajustados con MLG s.

Transcripción

1 Algunos Problemas y Soluciones en el Análisis de Experimentos Ajustados con MLG s. Víctor Aguirre Torres Departamento de Estadística, ITAM. Seminario de Estadística, CIMAT. 5 de Nov 2007.

2 Créditos Trabajo conjunto con Román de la Vara (CIMAT). Financiamiento parcial de Asociación Mexicana de la Cultura, A. C. Actualmente de sabático en el CIMAT.

3 Introducción. Acerca de MLGs MLG se usa cuando la respuesta es no normal. Ejemplos: presencia ausencia de gelamiento (0-1), conteo de defectuosos (discreta), tiempo de vida (sesgo pronunciado), etc. Para el análisis se usan principalmente las propiedades asintóticas del estimador de máxima verosimilirud. La signi cancia de los efectos se juzga comparando las estimación con el error estándar asintótico. Se usa también la grá ca normal de efectos estandarizados.

4 Introducción. Problemas en Experimentos Factoriales Fraccionales Fase inicial. Los experimentos factoriales fraccionales usualmente tienen un número pequeño de corridas (n 16). Con "muestra pequeña" puede que el estimador ni siquiera pueda calcularse. Cuando las correlaciones entre los estimadores es grande la interpretación de la grá ca normal se torna insegura. El estimador de un efecto activo puede jalar al estimador de un efecto inactivo y viceversa.

5 Introducción. Una propuesta de solución donde Calcular la probabilidad de que un efecto sea activo dados los datos. p(m i jy ) = p(m i )f (yjm i ) P j = Mi :x j está presente p(m i jy). m p(m h )f (yjm h ) h=0 (selección Bayesiana de modelos) f (y jm h ) verosimilitud integrada re previa de los parámetros del modelo.

6 Introducción. Una propuesta de solución No depende de que el tamaño de muestra sea grande. No depende de la correlación entre los estimadores, se marginaliza. Depende de la elección de la previa para los parámetros. Box y Meyer (1986,1987,1993) trabajaron el modelo lineal normal.

7 Modelo Lineal Generalizado El Modelo y t = [y 1, y 2,..., y n ] un vector de observaciones independientes. Familia Exponencial f (y i jζ i, φ ) = exp fr(φ i )[y i ζ i b(ζ i )] + c(y i, φ i )g r(), b(), and c() son funciones que dependen de la distribución especí ca. ζ i = Parámetro natural de localización. φ i = Parámetro de dispersión.

8 Modelo Lineal Generalizado El Modelo Vector de medias [µ 1, µ 2,..., µ n ]. Parte sistemáticadel modelo, los factores e interacciones los representamos por x 1,...x k. Una parte clave del modelo es el predictor lineal η = β 0 + β 1 x β k x k. Función liga η i = g(µ i ). Estrictamente monótona y diferenciable. Liga canónica: η i = ζ i. Nótese que Var(y i ) es una función de µ i.

9 Modelo Lineal Generalizado Ejemplo: MLG Binomial Densidad f (y j ) = ( n j y j ) (p j ) y j (1-p j ) n j y j. El MLG aplica a y j /n j. ζ j = log( p j 1 p j ), b(ζ j ) = log(1 + ζ j ), r(φ j ) = 1, φ j = 1/n j, and c(y j, φ j ) = log ( n j y j ). Liga canónica: η j = log( p j 1 p j ) = x t j θ. Liga logística. θ = (β 0, β 1,..., β k ) f (y j jm, θ) = ( n j y j ) e y j x t θ nj j 1 1+e xt j θ Verosimilitud n j=1 f (y j jm, θ)

10 Instrumentación del Procedimiento Todos los Modelos Posibles Caso de experimento factorial 2 k Hay 2 k 1 = n 1 efectos Sea m = 2 n 1 1 Construimos 2 n 1 modelos denotados por M 0, M 1, M 2,..., M m M 0 es el model constante. Ningún efecto es signi cativo. El model i tiene como vector de parámetros θ i = (β i0, β i1,..., β iti ).

11 Instrumentación del Procedimiento Verosimilitud Integrada La distribución de y dado el modelo se denota por f (y jm i, θ i ). Verosimilitud. Densidad previa de θ i es f (θ i jm i ). Entonces la verosimilitud integrada de y dado el modelo M i, es: f (y jm i ) = R Θ i f (y jm i, θ i )f (θ i jm i )dθ i Se calcula por simulación, Monte Carlo Crudo o Sucesiones de Halton.

12 Instrumentación del Procedimiento Probabilidad Posterior de un Modelo Probabilidad previa del modelo M i : p(m i ) = α t i (1 α) n t i Donde α= probabilidad previa de que un efecto sea activo (0 < α < 0.4) Probabilidad Posterior del Modelo M i, dados los datos y p(m i jy ) = p(m i )f (yjm i ) m p(m h )f (yjm h ) h=0 Un diseño factorial fraccional con 15 efectos requiere 2 15 = verosimilitudes integradas.

13 Instrumentación del Procedimiento Cálculo Verorsimilitud Integrada, Monte Carlo f (y jm i ) = R Θ i f (y jm i, θ i )f (θ i jm i )dθ i Se simulan N valores de θ i con densidad f (θ i jm i ) f (y jm i ) = be [f (y jm i, θ i )] = 1 N N j=1 f (y jm i, θ ij ) Este enfoque requiere explícitamente f (θ i jm i ). Elegimos una densidad propia para que en general no haya problemas con determinación analítica de E [f (y jm i, θ i )].

14 Instrumentación del Procedimiento Especi cación de la densidad previa para el vector beta. Consideramos primero β 0. β 0 = g(µ 0 ). µ 0 = valor medio de la respuesta cuando ningumo de los efectos es signi cativo, µ 0 = si los factores son continuos, valor medio de la respuesta cuando todos los factores están en el valor central. Se requiere del experto que provea P(L µ < µ 0 < U µ ) = 1 δ.

15 Instrumentación del Procedimiento Especi cación de la densidad previa para el vector beta. Entonces P(g(L µ ) < β 0 < g(u µ )) = 1 δ. Suponemos una densidad normal para β 0, por lo tanto: µ β0 = g (L µ)+g (U µ ) 2 ; σ β0 = g (U µ) µ β0 z 1 (δ/2). z ξ es el ξ estandard. ésimo percentil de la distribución normal

16 Instrumentación del Procedimiento Especi cación de la densidad previa para el vector beta. Para el resto de los β i, 1 i k, suponemos una densidad N(0, γ 2 σ 2 β 0 ) con 1 γ para hacer menos informativa la densidad previa. La media de cero se introduce ya que de antemano no se supone información sobre el signo del factor. Se suponen los betas independientes entre sí. De lo contrario habría que especi car una matriz de var-cov para el vector. Esto haría impractico el enfoque, aunque en principio se podría incluir.

17 Respuesta Binomial Densidad previa para el vector beta. β 0 = log p0 1 p 0 = g(p 0 ). P(L p < p 0 < U p ) = 1 δ. µ β0 = Lp Up log( )+log( 1-Lp 1 Up ) Up log( 1 Up 2 ; σ β0 = ) µ β 0 z. 1 (δ/2) Verosimilitud Integrada " n f (y jm i ) = E e xt j θ yj i j=1 1 1+e xt j θ i nj # Cuando θ i ~N[(µ β0, 0,..., 0) T, σ 2 β 0 Diagf1, γ 2,..., γ 2 g].

18 Respuesta Binomial Ejemplo: Experimento Binomial Simulado. El experimento. Se tienen cinco factores. Factorial fractional 2 5 1, n = 16, n j = 10. Predictor lineal: η = 2A Fracción ABCDE = +1: 3B + 3C + 2BC. corr A B C D E Y corr A B C D E Y

19 Respuesta Binomial Ejemplo: Experimento Binomial Simulado. Análisis. El enfoque frecuentista "truena", el programa interconstruido en R es incapaz de ajustar un modelo. Análisis Bayesiano. Suponemos un intervalo para p 0, digamos 0.1 < p 0 < 0.9 con probabilidad de 99%. Hiperparámetros: µ β0 = 0; σ β0 = Prob Posteriori A B C D E AB AC AD AE BC BD BE CD Efectos

20 Observaciones Finales Conclusiones principales. El procedimiento se instrumentó también para el caso Poisson y gama. La respuesta gama requiere de un intervalo adicional para el CV. El cálculo de la verosimilitud integrada es la parte costosa del método. El procedimiento no requiere un tamaño de muestra grande. En ejemplos con muestras grandes produce resultados similares al análisis frecuentista. El enfoque se puede aplicar para obtener la densidad a posteriori del vector de parámetros y de una nueva observación.