Generación de Números Aleatorios Uniformes

Transcripción

1 Capítulo 5 Generación de Números Aleatorios Uniformes Vimos en el capítulo sobre repaso de distribuciones de probabilidad, lo que es una distribución uniforme. Pero podemos encontrar un método o experimento que genere una secuencia de números con distribución uniforme? Supongamos que tiramos un dado regular y registramos el puntaje de la cara superior Este experimento tiene un espacio de resultados y una V.A discreta X tal que Ω = {1, 2, 3, 4, 5, 6} con P (X = x) = 1 6 (5.1) Podemos simular este experimento? Si recordamos la definición dada en el capítulo introductorio sobre simulación, si queremos por ejemplo tirar el dado 100 veces, con la ayuda de la computadora y los métodos matemáticos adecuados debiéramos poder hacerlo.pero que significa jugar al dado 100 veces? Si lo hiciésemos realmente al cabo de esas 100 realizaciones tendríamos 100 números que estad en el conjunto {1, 2, 3, 4, 5, 6}. Por lo tanto alcanza con encontrar una forma de generar los números naturales del 1 al 6 de manera que cada resultado tenga la misma probabilidad cada vez que simulamos el experimento.

2 5.1 Números Pseudo Aleatorios Números Pseudo Aleatorios Veamos lo siguiente: supongamos que la máquina es capaz de devolvernos un número que esta entre 0 y 1 y para asignarle unos de los posibles 6 caras del dado con la misma probabilidad hacemos la siguiente precisaón. Si r es el resultado devuelto por la máquina nos fijamos si 0 r 1 decimos que salaó el < r 2 decimos que salaó el < r 1 decimos que salaó el Cuadro 5.1: Asignación de los resultados del dado... Si la máquina fuera capaz de hacer eso seríamos capaces de simular un dado. El asunto es que cada vez que nos devuelva un número 1 entre 0 y 1 lo haga de manera que cada resultado sea equiprobable, o lo que es lo mismo tengamos la misma probabilidad de que el número esté en cada uno de los 6 intervalos. Tiene realmente la máquina un algoritmo que sea capaz de devolvernos números aleatorios uniformes? No, lo que realmente es capaz de generar la máquina son números pseudoaleatorios que son determinísticos pero se comportan como si fueran randómicos.vamos a tratar entender que es realmente lo que hace internamente la máquina y como es posible que aceptemos que algo que no es aleatorio digamos que que si los es. Antes de pasar a explicar las propiedades de estos tipos de podemos plantearnos que es mejor números Tirar efectivamente el dado Simular el experimento de tirar 1 Todavía no sabemos como lo hace pero probablemente tenga programada una serie de pasos que hace que nos devuelva un número con ciertas condiciones.esa serie de pasos es lo que llamamos algoritmo

3 5.2 Generadores de Números Pseudo Aleatorios 36 En realidad es mejor tirar el dado, ya que realmente estamos realizando el experimento, pero tiene el inconveniente de que no somos capaces de reproducir 2 secuencias exactamente iguales( es decir los mismo 100 números entre 1 y 6) En cambio cuando simulamos la tirada del dado podemos tener la misma secuencia cuantas veces querramos ya que tenemos control sobre la secuencia que se genera Generadores de Números Pseudo Aleatorios En general los métodos para generar números pseudoaleatorios son métodos recursivos que a partir de un valor dado inicial van generando una secuencia de números que podrían considerarse como aleatorios.este tipo de métodos estan basados en congruencias que a continuación presentaremos Generadores Congruenciales Lineales Comencemos por recordar la definición de congruencia de números enteros a y b son congruentes respecto de c si el resto de dividir a ambos por c es el mismo y tenemos a c b c donde c el,lo que llama módulo A partir de esta definición que tiene forma lineal 2 planteamos el siguiente algoritmo recursivo X 0 dado, X i+1 = (ax i + b) c ox i+1 = (ax i + b) mod(c) (5.2) a multiplicador 0 a c b incremento o b c c módulo c > 0 X 0 valor inicial o semilla 0 X 0 c 2 Introducido por Lehmer (1951)

4 5.2 Generadores de Números Pseudo Aleatorios 37 Esta algoritmo genera una secuencia de c números diferentes del (0,..., c 1),que se transforman en U i = X i (c 1) 1 que tienen sus valores en el intervalo (0, 1). Esta secuencia está totalmente determinada una vez que se conoce la semilla o valor inicial.cuando b vale 0 tenemos un Algoritmo Congruencial Multiplicativo Puro Ejemplo Tenemos el siguiente A.C.L 3.X 0 = 1, a = 5, b = 7, c = 16 La secuencia completa de los números pseudoaleatorios obtenidos con el algoritmo precedente es la que presentamos a continuación i X i U i i X i U i 0 1 0, , , , , , , , , , , , , , , , ,7500 Esta secuencia tiene un ciclo de largo 16 ; sin importar cual sea X 0 tenemos 16 valores distintos donde la secuencia es una permutación que depende de la semilla Ejemplo Si cambiamos los valores del algoritmo haciendo X 0 = 1, a = 11, b = 0, c = 16 tenemos la tabla que sigue i X i U i i X i U i 0 1 0, , , , , , , , , ,6875 vemos que la secuencia tiene un ciclo menor al módulo seleccionado 3 Algoritmo Congruencial Lineal

5 5.2 Generadores de Números Pseudo Aleatorios 38 Ejemplo Si usamos.x 0 = 1, a = 20, b = 7, c = 1024 i X i U i i X i U i 0 1 0, , , , , , , ,3154 Vemos que para este algoritmo a partir del 6 valor los números generados se repiten en forma permanente a pesar de que habíamos seleccionado un módulo bastante grande. Para eso en la sección que sigue veremos cuales son las restricciones que deben tener las parámetros del algoritmo de manera de tener una secuencia generada que no sea muy pequeña, antes de que comiencen a repetirse los valores Elección de los parámetros X 0, a, b, c Una serie de restricciones necesaria pero no suficiente para una buena secuencia es 1. Debe de tener un ciclo largo (con los ACL tenemos c números distintos de 0 a c 1) 2. Debe de estar desarrollado a partir de un módulo grande que permite obtener números con una cierta cantidad de decimales, por ejemplo c= El agoritmo debería ser poco sensible a la elección de X 0 Cuando b > 0 la secuencia es de largo máximo si el resto de los parámetros cumplen las siguientes restricciones: 4 b y c son primos entre si a 1 es múltiplo cada factor primo de c a 1 es múltiplo de 4 si c es múltiplo de 4 4 Estas restricciones surgen de las propiedades de los números primos que establecen las condiciones para tener secuencias de ciclo máximo.ver referencias

6 5.2 Generadores de Números Pseudo Aleatorios Propiedades de los Generadores Congruenciales Además de la propiedad de un ciclo lo suficientemente largo podemos estar interesados en el grado de dependencia 5 entre valores consecutivos de la secuencia, y que podemos medir a través de la función de autocorrelación [ 1 ρ 1 (U) a ± a ] recordando que la F.A.C de rezago =1 es c n 1 ρ 1 (U) = [U i M(U)] [U i+1 M(U)] / [ ns 2 (U) ] i=1 donde M(U) y S 2 (U) representan la media y varianza de los valores U i Existen formas alternativas de aproximar la FAC como vemos con el trabajo de Greenberger ρ 1 a 6b ( 1 b ) ± a ac c c (5.3) Vemos como queda esta aproximación deρ para 2 secuencias con el mismo tamaño de ciclo a b c ρ (i) ,25 (id) Otras características de la secuencia generada, como pueden ser forma y patrones (tendencias) se analizarán mas adelante en el capítulo Tests para números aleatorios 5 En realidad ya sabemos que dependen al provenir de un algoritmo determinśtico, es solo a los efectos de un comportamiento que pretendemos considerar como aleatorio

7 5.2 Generadores de Números Pseudo Aleatorios Generadores Congruenciales No Lineales Vimos en secciones precedentes que los ACL pueden tener propiedades no deseadas, como puede ser por ejemplo la correlación. Para eso existen alternativas desarrolladas en los últimos años, que tendrán asociadas mayor esfuerzo computacional a cambio de mejores resultados. Dentro de esta clase de generadores vamos a presentar los Generadores Congruenciales Inversos 6 Estos se basan en los conceptos de inversos multiplicativos y los resultados de la teoría numérica concerniente a los polinomios primitivos Sea Z i el conjunto de los enteros menores a n.si tenemos p 5, un número primo y z un entero; se define Inverso Multiplicativo. de z módulo p, un elementoz tal que: z.z 1(modp) (5.4) Vemos entonces que se trata de encontrar los elementos z tal que el resto de multiplicarlo por z nos da 1 Ejemplo Consideramos la serie de I.M. para el módulo p = 13 z z Si observamos la tabla anterior los z son los que verifican la ecuación 5.4. También es bueno observar que la secuencia de inversos multiplicativos de Z es una permutación de Z. Una secuencia congruencial inversa de elementos de Z p se define a través de la siguiente recursión:; X i ax i 1 + b(modp) U i = a i p a, b, X 0 números enteros; p número primo; a 0 (5.5) 6 Eichenauer-Hermann 1992

8 5.2 Generadores de Números Pseudo Aleatorios Otras Técnicas de Generación de Números Pseudo Aleatorios Uniformes Por último y sabiendo que quedan varios técnicas por mencionar pero cuyo desarrollo superan el alcance de este curso presentamos Feedback shift register 7, basado en los sistemas dinámicos caóticos. Para este método presentamos el algoritmo recursivo X i = k a j X i j (mod c) k > 0; i > k (5.6) j=1 Los a j (j = 1, 2,...k) son coeficientes no todos nulos; los a j (i = 1, 2,...k) son valores iniciales no todos nulos;c es un número primo Si usamos c = 2 tenemos una secuencia de números binarios (0, 1) que debidamente agrupados en grupo de s cifras binarias a j, generan la parte fraccionaria de números U i (0, 1) U i s 2 j a is+j s i > 0 (5.7) j=1 Otra técnica para generación de números pseudo aleatorios se basan en la utilizaciún de números trascendentes. Por ejemplo Dodge(1996) propone el uso de las cifras de π para simular números aleatorios del intervalo [0, 1,...,9].,que veremos a través de un ejemplo donde probaremos algunas propiedades en el capítulo sobre Tests para números aleatorios. 7 Tausworthe,1965

9 Bibliografía [1] M.Chiodi,Tecniche di Simulazione in Statistica, Dipartamento di Matematica e Statistica-Universita Federico II Napoli,Rce Edizioni,2000 [2] B.Morgan,Elements of Simulation, Chapman &Hall,London,1984 [3] R.Rubistein,Simulation and the Montecarlo Method, John Wiley &Sons,New York

10 Capítulo 6 Métodos Particulares para variables aleatorias No Uniformes En este capítulo presentaremos una forma de convertir VA Uniformes simuladas en VA con otras distribuciones, usando algunos resultados del capítulo 6 sobre Revisión de Algunas Variables Aleatorias Uso del Teorema Central del Límite Para eso usaremos los resultados asintóticos, que son la base de la teoría estadística, por lo cual trataremos de generar VA Normales. Supongamos entonces que sabemos y podemos generar n VA independientes U i U (0, 1) con U 1,U 2...U n Sea N = n i=1 U i. n, N V A Normal. Pero en la práctica que tan grande tiene que ser N para que este resultado asintótico tenga validez?.sabemos que si n = 2 N se distribuye triangular,pero a medida que n crece la densidad de la distribución generada se va transformando en una campana.si tomamos n=12, teniendo en cuenta que E(U i ) = 1 2 y V ar(u i ) = 1 12 llegamos a 43

11 6.2 Transformación de V.A. Uniformes N = U i 6 N(0, 1) (6.1) i=1 Este resultado tiene una gran ventaja que es la facilidad para la programación del algoritmo de generación. A continuación seguiremos con una serie de métodos para generar V.A. normales transformando VA uniforme y otros casos donde podremos simular Otras V.A. a partir de V.A. uniformes 6.2. Transformación de V.A. Uniformes Método de Box Müller Esste método es uno de los mas clásicos en el ámbito de la generación de números aleatorios y que permite crear VA normales standarizadas independientes. 1 Para eso comenzaremos por presentar el método de forma intuitiva, usando las propiedades geométricas de la VA Normal Bivariada;luego detallaremos una demostración mas formal usando (distribución de probabilidad de transformaciones de V.A.). 2 Supongamos que queremos simular un punto genérico P de coordenadas X p,y p de una normal bivariada Representamos P en un sistema de coordenadas polares, donde ρ p es el módulo de P y θ p el ángulo; en vez de generar X p,y p, generamos ρ p,θ p. ρ p,θ p son independientes por simetría radial de la V.A.N.B. con componentes independientes ρ 2 p = X 2 p + Y 2 p, por lo cual ρ p = 1 Box Müller, ver capítulo 5 sobre Repaso de Variables Aleatorias χ 2 2 (6.2)

12 6.2 Transformación de V.A. Uniformes 45 Sabemos como generar una χ 2 2,que es una V.A.Exponencial de parámetro λ = 1 2 ρ p = χ 2 2 = 2 log U 1 donde U 1 U(0, 1) (6.3) Para la generación de θ p,es suficiente constatar que, para V.A. Normales standarizadas independientes, la densidad del punto a lo largo de una circunferencia con centro en el origen es constante, razón por la que θ p U [0, 2π].Por eso para generar θ p hacemos la transformación θ p = 2πU 2 donde U 2 U(0, 1) (6.4) Ahora que logramos obtener ρ p,θ p, para obtener X p,y p deshacemos la transformación a coordenadas cartesianas X p = ρ p cos θ p Y p = ρ p sin θ p (6.5) X = 2 log U 1 cos(2πu 1 ) (6.6) Y p = 2 log U 2 sin(2πu 1 ) (6.7) Este resultado que puede resultar sorprendente, ya que logramos obtener exactamente a partir de 2 V.A. Uniformes U(0, 1)iid,2 V.A. Normales N(0, 1)iid. Como dijimos antes usando transformaciones tenemos que si N 1 (0, 1); N 2 (0, 1) ; iid, definen un punto en R 2 Tenemos una transformación de coordenadas cartesianas a polares que es biunívoca, en la que las derivadas parciales involucradas son continuas por lo que el jacobiano de la transformación para la densidad conjunta de ρ p,θ p : n 1 J 1 = = cos θ p ρ p sin θ p sin θ p cos θ p = ρ p n 1 ρ p θ p n 2 n 2 ρ p θ p Tenemos entonces que f ρp,θ p (ρ p, θ p ) = ρ p [ ] ρ p 2π exp ρ2 p 2 [ 2π exp 1 2 ( ) ] n n 2 2 = (6.8) para 0 θ 2π, 0 ρ p (6.9)

13 6.2 Transformación de V.A. Uniformes 46 Vemos a partir de la ecuación 6.8 que: f ρp,θ p (ρ p, θ p ) = f ρp (ρ p ).f θp (θ p ) [ ] donde f θp (ρ p ) U [0, 2π] y f ρp (ρ p ) = ρ p exp Exp( 1) 2 ρ2 p 2 Vamos a ver a continuación como generar 2 VA Normales N(0, 1)iid tambien a partir de un par de VA Uniformes U (0, 1)iid transformándolas usando funciones trigonométricas Método Polar de Marsaglia Este método es un método de rechazo ya que algunos de los valores simulados no nos servirán pero lo mas interesante es que usamos senos y cosenos de ángulos distribuidos uniformemente sin tener que simular los angulos. Sea U i U(0, 1) 2U i U(0, 2) = V i = 2U i 1 U( 1, 1) Si seleccionamos V 1 y V 2 2 V.A. iid con distribución U( 1, 1). tenemos un punto aleatorio en un cuadrado de lado 1 con coordenadas cartesianas (V 1, V 2 ) o lo que es lo mismo con coordenadas polares(r, Θ) R 2 = V V 2 2 ; tan Θ = V 2 V 1 (1) (6.10) Tenemos entonces sin Θ = V 2 R = V 2 (V1 2 + V2 2 ) 1/2 ; cos Θ = V 1 (V1 2 + V2 2 ) 1/2 (2) De esta manera un par de variables N 1 (0, 1); N 2 (0, 1) ; iid pueden ser generadas N 1 = ( 2 ln(r 2 )) 1/2 V 2 (V V 2 2 ) 1/2 N 2 = ( 2 ln(r 2 )) 1/2 V 1 (V V 2 2 ) 1/2

14 6.3 Transformación de V.A. Continuas No Uniformes 47 A su vez a partir de la ecuación 6.10 tenemos por ejemplo N 1 = ( 2 ln(v V 2 2 )) 1/2 V 2 (V V 2 2 ) 1/2 De esta manera resulta que 2 ln W N 1 = V 2 ( W )1/2 2 ln W ; N 2 = V 1 ( W )1/2 con W = V1 2 + V Transformación de V.A. Continuas No Uniformes En esta sección describiremos algunos formas de generar VA Continuas No uniformes cualesquieras a partir de otras que en principio nos resultan faciles de simular Simulación de Distribución Gamma y Ji cuadrado Una de las VA continuas mas fáciles de simular es la Exponencial ya que teniendo en cuenta su f.d.p f X (x) = e x para x 0 X = log(u) con U U(0, 1) Una VA Y = X/λ se distribuye λe λx para x 0 Vimos que si tenemos Y 1, Y 2, Y 3,... Y i con densidad λe λx entonces i=n G = Y i Γ(n, λ) (6.11) i=1 Usando la ecuación 6.11 podemos simular Γ(n, λ) G = 1 i=n log U i λ i=1 Esta ecuación para generar la VA Gamma usando propiedades de los logaritmos nos queda

15 6.3 Transformación de V.A. Continuas No Uniformes 48 ( G = 1 i=n ) λ log U i Si recordamos las propiedades de la VA Gamma una distribución χ 2 m es simplemente Γ(m/2, 1 2 ) con lo que tenemos resuelta la simulación de la χ2 m i=1 Algoritmo Simulación de una χ 2 m a partir de una Γ(m/2, 1 2 ) 1 Si m es par directamente generamos la χ 2 m con Γ(m/2, 1 2 ) 2 Si m es impar, obtenemos en primer lugar una Γ((m 1)/2, 1 2 ) para luego sumarle una N 2 donde N N(0, 1). Viendo esto último también podríamos haber generado una χ 2 m sumando m VA normales (0, 1) iid. Esto tiene el inconveniente de que dependemos en la eficiencia y precisión del método usado para simular las normales. En este caso tenemos que evaluar las m normales y luego sumarlas, mientras que dependiendo de la paridad de m solo hacemos la mitad de las operaciones si hacemos la convolución de exponenciales que se precisan para las Γ(m/2, 1 2 ) χ 2 m = Γ(m/2, 1 2 ) = 1 λ log i=m/2 U i Simulación de Distribución de Cauchy i=1 (6.12) Sea V i = 2U i 1 U( 1, 1) : si hacemos Z = V V 2 2 con la condición de que Z 1, V 1 V 2 de uniformes Cauchy, que es un caso particular del método de razón

16 6.3 Transformación de V.A. Continuas No Uniformes Simulación de Distribución de Beta Si tenemos la VA Beta con f.d.p f X (x) = (1 x)β 1 x α 1 B(α,β) X Beta(α, β) Podemos generar X = G 1 (G 1 +G 2 ) donde G 1,G 2 son VA gammas con parámetros n 1, n 2 y λ 1 = λ 2 = λ X Beta(n 1, n 2 ) Método de Johnk para distribuciones BETA Un método eficiente para simular VA Beta X Beta(α, β) es Sea U, V VA Uniformes U(0, 1) iid Y=U 1 α ; V 1 β y X = Y Y +Z Condicionados a Y +Z 1, X tiene una distribución Beta de parámetros α, β

17 Bibliografía [1] M.Chiodi,Tecniche di Simulazione in Statistica, Dipartamento di Matematica e Statistica-Universita Federico II Napoli,Rce Edizioni,2000 [2] B.Morgan,Elements of Simulation, Chapman &Hall,London,1984 [3] R.Rubistein,Simulation and the Montecarlo Method, John Wiley &Sons,New York