SIMULACIÓN MCMC. Dr. Holger Capa Santos

Transcripción

1 SIMULACIÓN MCMC Dr. Holger Capa Santos Septiembre, 2009

2 CONTENIDO Integración Montecarlo Problema con la Integración Montecarlo Muestreo de Importancia Algoritmos de Metropolis y Metropolis-Hastings Muestreador de Gibbs Conclusiones y recomendaciones Referencias bibliográficas

3 Integración Montecarlo Integración Montecarlo Para comprender de una manera sencilla el objetivo de la simulación Montecarlo considérese el siguiente ejemplo: Supóngase que se desea encontrar una aproximación de la siguiente integral compleja: I a b h( x) dx Si h(x)=f(x)p(x), con p(x) una densidad sobre [a,b], entonces: I b f ( x) p( x) X f X a E ( ) ( ) p

4 Integración Montecarlo Si se generan varias observaciones de la variable aleatoria (va) X con densidad p(x): x 1,,x n, entonces: Observación 1: Si I 1 n i n f 1 I ( y) f y x ^ I 1 n n xi pxd x y y i 1 xi

5 Integración Montecarlo Es decir, se puede también utilizar la integración Montecarlo para calcular una densidad a posteriori, como se requiere en los modelos bayesianos. El error medio cuadrático estándar está dado por la expresión: n i y I xi y f n n y I S 1 ) ( ^ ) ( ^ 2

6 Integración Montecarlo Ejemplo Ilustrativo: Aproximar 1 0 X 2 dx Se puede considerar la densidad de la distribución uniforme en [0,1], cuya densidad es: I f ( x) { 1si0x1 0enotrocaso Entonces: X 2 1 I X 2 n i

7 Integración Montecarlo Se han simulado 100 observaciones de X. Se puede ver la evolución de la simulación:

8 Problema con la Integración Montecarlo Ejemplo 2: Un problema en riesgo operativo (Capa, Kratz). Basilea II y Solvencia 2: El riesgo operativo debe incorporar por lo menos a tres actores: empresa, mercado y expertos externos. El problema se lo puede tratar mejor desde el punto de vista bayesiano. a) Las pérdidas operacionales (datos internos) X=(Xi) de la institución en estudio, que tienen una distribución multidimensional que depende de un parámetro u, unidimensional o vectorial (o vector de parámetros) desconocido, sobre el cual se puede proponer una distribución a priori (π).

9 Problema con la Integración Montecarlo b) La opinión de expertos Y=Y(j), con una distribución multidimensional dado el conocimiento de datos internos y externos. c) La información sobre el perfil de riesgo de mercado (perfil) Z, con una distribución que depende de un parámetro que se estima a partir de datos de mercado externos. En el contexto bayesiano, utilizando pérdida cuadrática, la estimación óptima de u es la esperanza condicional de U, dados X, Y y Z, lo que lleva al cálculo de la distribución a posteriori de U: D(U X, Y, Z).

10 Problema con la Integración Problemas: Montecarlo Hay que trabajar con cuatro distribuciones de diversa naturaleza, las que deben tratar de reflejar situaciones reales en cada uno de los actores. Las distribuciones conjuntas y condicionales son de tipo multidimensional y no existe, en general, independencia entre las distribuciones marginales (punto anterior), por lo cual las expresiones son complejas y no obedecen a leyes conocidas. La solución en este caso y en casi todas los problemas de análisis bayesiano prácticos, requieren utilizar simulación.

11 Muestreo de Importancia Si p(x) es una aproximación de una densidad q(x), entonces: Observación 2:

12 Algoritmos de Metropolis y Metropolis Hastings Se considera una densidad p(θ)=f(θ)/k (f(θ) conocida; K puede ser desconocida y difícil de calcular). 1. Se parte con un valor inicial θ 0 tal que f(θ 0 )>0. 2. Con una distribución de salto q(θ 1,θ 2 ), probabilidad de ir en θ 2 habiendo estado en θ 1, se obtiene un valor candidato θ * tal que q(θ 1,θ 2 )= q(θ 2,θ 1 ). 3. Se calcula la tasa siguiente, entre el valor candidato θ * y el valor actual θ t-1 :

13 Algoritmos de Metropolis y Metropolis Hastings 4. Si α>1, se acepta el valor candidato; se pone θ t =θ * y se retorna a (2). Si α<1, se acepta con probabilidad α el punto candidato y se lo rechaza con probabilidad (1-α). Para garantizar este último paso hay que generar una observación de U, que tiene una distribución uniforme en [0,1]: Si el valor observado u<α se acepta el punto candidato; en caso contrario se lo rechaza. Observación 3: Se puede resumir el punto (4) así: Se acepta el punto candidato θ * con probabilidad

14 Algoritmos de Metropolis y Metropolis Hastings Observación 4: Finalmente, se deben eliminar les k primeros valores obtenidos para evitar los efectos del valor inicial. Se puede demostrar también que las observaciones generadas θ k+1,, θ k+n son observaciones de una cadena de Markov con distribución estacionaria p(θ). Observación 5: Hastings (1970) generalizó el algoritmo anterior utilizando una función de probabilidad de transición arbitraria q(θ 1,θ 2 ). La probabilidad de aceptación del punto candidato θ * en el punto (4) es: Se obtiene así el algoritmo de metrópolis-hastings.

15 Algoritmos de Metropolis y Metropolis Hastings Observación 6: Para elegir q(θ 1,θ 2 ) se pueden considerar las siguientes posibilidades: a) q con base en una marcha aleatoria: El nuevo valor y es igual al antiguo valor x más una variable aleatoria z: y = x + z En este caso: q(x,y)=g(y-x)=g(z), con g una densidad para z. Si g(z)=g(-z) para todo z, se puede utilizar el algoritmo de Metropolis.

16 Algoritmos de Metropolis y Metropolis Hastings b) q(x,y)=g(y): El salto a y es independiente del valor x (una distribución conocida puede utilizarse para generar y). En este caso debe utilizarse el algoritmo de Metropolis-Hastings. Observación 7: Antes de utilizar la cadena generada se deben realizar pruebas de hipótesis sobre la autocorrelación y la estacionariedad de la muestra.

17 Muestreador de Gibbs Muestreador de Gibbs (Geman y Geman, 1984) Este algoritmo es un caso particular de del algoritmo de Metropolis-Hastings, donde el valor candidato es siempre aceptado (α=1). La idea principal consiste en utilizar distribuciones condicionales univariantes (más fáciles de simular que la distribución conjunta).

18 Muestreador de Gibbs Considérese el caso bidimensional (x,y) con densidad conjunta p(x,y) y densidades condicionales p(x y) y p(y x). El procedimiento es el siguiente: Se parte con un valor inicial y 0 para y. Se obtiene x 0 generada con p(x y=y 0 ). Se obtiene un nuevo valor y 1, generado con p(y x=x 0 ). Etc.

19 Muestreador de Gibbs Es decir, x i ~p(x y=y i-1 ) y i ~p(y x=x i ) Si se repite k veces el procedimiento se obtiene finalmente una sucesión (x i,y i ), 1 i k, que pueden considerarse generadas por la distribución conjunta p(x,y).

20 Muestreador de Gibbs El método puede generalizarse para varias variables aleatorias; por ejemplo, para cuatro variable (w,x,y,z): w i ~ p(w x=x i-1, y=y i-1, z=z i-1 ) x i ~ p(x w=w i, y=y i-1, z=z i-1 ) y i ~ p(y w=w i, x=x i, z=z i-1 ) z i ~ p(z w=x i, x=x i, z=z i ) Observación 8: La sucesión de puntos converge a una distribución estacionaria (aquella que se desea simular), independientemente de los valores iniciales. El procedimiento también es bastante sencillo para trabajar en el contexto del análisis bayesiano.

21 Muestreador de Gibbs Programa WinBugs Observación 9: El programa WinBugs (libre) permite realizar análisis bayesiano con el procedimiento del muestreador de Gibbs. Por ejemplo, si se desea realizar una inferencia estadística sobre p en un modelo X~B(n,p), habiendo observado x=11, con n=25 y una distribución a priori π(p)~b e (1,1) (distribución beta, que representa casi incertidumbre), se debe escribir el siguiente código: MODEL { p~dbeta(1,1) x~dbin(p,n) } DATA list(a=1,b=1,x=11,n=25)

22 Muestreador de Gibbs Programa WinBugs ESTADÍSTICAS DESCRIPTIVAS DE LA DISTRIBUCIÓN A POSTERIORI node mean sd MC error 2.50% median 97.50% start sample p Evolución de la simulación p iteration Densidad estimada Dist. a Posteriori p sample:

23 Referencias bibliográficas Se ha elaborado este documento basado en las siguientes referencias bibliográficas: Casella G., Robert C., (2004), Monte Carlo Statistical Methods, Springer-Verlag. Walsh B., (2004), Markov Chain Monte Carlo and Gibbs Sampling, Lecture Notes for EEB 581, version 26 april AppendixBWinbugs.fm Page 305 Friday, August 27, :57 AM, Introduction to WinBUGS.