Análisis estadístico de datos simulados

Transcripción

1 Aálisis estadístico de datos simulados Ídice 1. Itroducció 1 2. Selecció de ua distribució de probabilidad Distribucioes cotiuas Distribucioes discretas La distribució empírica Aálisis de idepedecia de los datos Alguas medidas estadísticas Estimació de parámetros Propiedades de u bue estimador Estimadores de máxima verosimilitud Error cuadrático medio de u estimador La media muestral La variaza muestral Simulacioes Estimador por itervalos Estimador por itervalo de E(X) Estimador por itervalos de ua proporció Técica de Bootstrap para estimar el ECM U ejemplo

2 1. Itroducció Modelos y Simulació Para llevar adelate ua simulació de ua situació real, debemos coocer algo sobre las fuetes de aleatoriedad de esta situació. Cada fuete de aleatoriedad se correspoderá e algua medida a ua variable aleatoria co cierta distribució de probabilidad, y cuato mejor esté seleccioada esta distribució más adecuada será la simulació. E la tabla 1 se ilustra alguos ejemplos de sistemas a simular y sus correspodietes fuetes de aleatoriedad. Tipo de sistema Fuete de aleatoriedad Fabricació Defesa Comuicacioes Trasporte Tiempos de procesamieto. Tiempos de falla de ua máquia. Tiempos de reparació de máquias Tiempos de arribo y carga útil de avioes o misiles. Errores de lazamieto. Tiempos etre llegadas de mesajes. Logitudes de mesajes. Tiempo de embarque Tiempos etre arribos de pasajeros. Tabla 1: Sistemas y fuetes de aleatoriedad Así, para simular u sistema real es ecesario: Represetar cada fuete de aleatoriedad de acuerdo a ua distribució de probabilidad. Elegir adecuadamete la distribució, para o afectar los resultados de la simulació. 2. Selecció de ua distribució de probabilidad Para elegir ua distribució es ecesario trabajar co datos obteidos del sistema real a simular. Estos datos puede luego ser usados a) directamete, b) realizado el muestreo a partir de la distribució empírica de los datos o c) utilizado técicas de iferecia estadística. Si se utiliza los datos directamete, etoces sólo se podrá reproducir datos históricos y resulta ua iformació isuficiete para realizar bueas simulacioes del modelo. De todos modos, los datos so importates para validar el modelo existete co el modelo simulado. La distribució empírica permite reproducir datos itermedios a los datos observados, lo cual es algo deseable fudametalmete si se tiee datos de tipo cotiuo. Esta técica es recomedable e los 2

3 Modelos y Simulació casos e que o se pueda ajustar los datos a ua distribució teórica. Por otro lado, las técicas de iferecia estadística tiee varias vetajas co respecto al uso de la distribució empírica. Por u lado, esta última puede teer irregularidades si hay poca iformació mietras que las distribucioes teóricas tiee ua forma más suave. Además puede simularse datos aú fuera del rago de los datos observados. No es ecesario almacear los datos observados i las correspodietes probabilidades acumuladas. Por otra parte, e ciertos casos puede ser ecesario impoer u determiado tipo de distribució por la aturaleza misma del modelo, y e ese caso se puede modificar fácilmete los parámetros de la distribució elegida. Las desvetajas que puede teer la selecció de ua distribució teórica es que o se ecuetre ua distribució adecuada, y que se pueda geerar valores extremos o deseados. Detro de las distribucioes de probabilidad más utilizadas está las siguietes: Distribucioes cotiuas: a) Uiforme: Para catidades que varía aleatoriamete etre valores a y b, y que o se cooce más datos. b) Expoecial: Tiempos etre llegadas de clietes a u sistema, y que ocurre a ua tasa costate. Tiempos de falla de máquias. c) Gamma, Weibull: Tiempo de servicio, tiempos de reparació. d) Normal: Errores. Aplicació del Teorema cetral del límite. e) Otras distribucioes: Ver (Law & Kelto, cap. 6) Distribucioes discretas: a) Beroulli. b) Uiforme discreta. c) Geométrica: úmero de observacioes hasta detectar el primer error. d) Biomial egativa: úmero de observacioes hasta detectar el -ésimo error. e) Poisso: Número de evetos e u itervalo de tiempo, si ocurre a tasa costate. Para seleccioar ua distribució, se aaliza ciertos parámetros que idica la distribució particular detro de ua familia. Por ejemplo, si es ua distribució ormal se ecesita determiar µ y σ. Si es expoecial, se debe determiar λ. Los parámetros de ua distribució puede ser de posició, de escala o de forma, de acuerdo a qué características de la distribució determia. Presetamos u resume de las distribucioes más utilizadas. U aálisis más completo y detallado puede ecotrarse e [1], capítulo 6. 3

4 2.1 Distribucioes cotiuas Modelos y Simulació Distribucioes cotiuas E los siguietes casos se defie la fució de desidad sólo e el rago de la variable aleatoria. Distribució uiforme. U(a, b). Figura 1. Su fució de desidad está dada por Parámetros: f(x) = 1 b a, a < x < b. a: posició, b a: escala. Media: a+b 2. Variaza: (b a)2 2. Figura 1: Distribució uiforme. Fució de desidad. Distribució Gamma: Γ(α, β): Su fució de desidad está dada por: f(x) = 1 Γ(α) β α x α 1 e x β, x > 0. E la Figura 2 se muestra los gráficos de Γ(α, 1), para α = 0.5, 1, 2 y 3. Notar de la defiició de f que α = 1 correspode a la distribució expoecial E(1). Parámetros: α: forma, β: escala. Media: αβ. Variaza: αβ 2. Distribució Weibull(α, β). Su fució de desidad está dada por: f(x) = αβ α x α 1 e (x/β)α, x > 0. E la Figura 3 se muestra gráficos para β = 1 y α = 0.5, 1, 2 y 3. Parámetros: 4

5 2.1 Distribucioes cotiuas Modelos y Simulació Figura 2: Distribucioes Gamma α: forma, β: escala. Media: β ( ) 1 α Γ α Variaza: β2 α [ 2Γ ( ) 2 1 ( ( )) ] 1 2 Γ. α α α Figura 3: Distribució Weibull Distribució Normal N(µ, σ 2 ) Su fució de desidad está dada por: Parámetros: µ: posició, σ: escala. f(x) = 1 2πσ exp( (x µ) 2 /(2σ 2 )), < x <. 5

6 2.2 Distribucioes discretas Modelos y Simulació Media: µ. Variaza: σ 2. Figura 4: Distribució ormal Distribució Logormal LN(µ, σ 2 ) Su fució de desidad está dada por: Parámetros: σ: forma, µ: escala. Media: e µ+σ2 /2. f(x) = Variaza: e 2µ+σ (e σ2 1). 1 x 2πσ 2 e (log(x) µ)2 /(2σ2), x > Distribucioes discretas Todas las siguietes distribucioes toma valores e u subcojuto de Z. Distribució uiforme U[a, b]. Ocurrecia de u suceso aleatorio de u cojuto de evetos co igual probabilidad de éxito. Parámetros: p(i) = 1 b (a 1), a i b. 6

7 2.2 Distribucioes discretas Modelos y Simulació Figura 5: Distribució logormal a b. a: de posició. b a: de escala. Media: a+b 2. Variaza: (b a+1)2 6. Figura 6: Distribució discreta. U[2, 20] Distribució biomial B(, p) Número de éxitos e esayos idepedietes co probabilidad p de éxito. ( ) p(i) = p i (1 p) i, 0 i. i Parámetros:, p. Media: p. Variaza: p (1 p). 7

8 2.2 Distribucioes discretas Modelos y Simulació Figura 7: Distribució biomial. Bi(17, 0.3) Distribució geométrica Geom(p) Número de esayos e ua secuecia de evetos idepedietes co probabilidad p de éxito, hasta obteer el primer éxito. Parámetros: p. Media: 1 p. Variaza: 1 p p 2. p(i) = p (1 p) i, i 1. Figura 8: Distribució geométrica. p = 0.4 Distribució de Poisso P(λ) Número de evetos que ocurre e u itervalo de tiempo cuado los evetos ocurre a ua tasa costate. Parámetros: λ > 0. Media: λ. Variaza: λ. λ λi p(i) = e i!, i 0. 8

9 2.3 La distribució empírica Modelos y Simulació Figura 9: Distribució de Poisso. λ = La distribució empírica E el caso e que o se pueda hallar ua distribució teórica adecuada que ajuste a los datos observados, o simplemete porque se prefiere simular a partir de las observacioes, se suele utilizar la distribució empírica. Esto es, la distribució de los datos de acuerdo a la muestra que se ha observado. Si la distribució es cotiua, la distribució empírica puede defiirse a partir de las observacioes de la siguiete maera. Si se ha observado datos X 1, X 2,..., X, etoces e primer lugar se los ordea de forma creciete: X (1) < X (2) <..., < X () dode la otació X (i) es la observació que ocupa el i-ésimo lugar e el ordeamieto. Ua posibilidad es tomar como distribució empírica a la distribució discreta que da a cada valor observado ua probabilidad igual a la frecuecia observada. Por ejemplo, si los datos observados so X 1 = 3.2, X 2 = 4.3, X 3 = 2.0, X 4 = 1.6, X 5 = 0, etoces X (1) = 2.0, X (2) = 0, X (3) = 1.6, X (4) = 3.2 X (5) = 4.3, y 0 x < x < x < 1.6 F e (x) = x < x < x 4.3 9

10 2.3 La distribució empírica Modelos y Simulació La desvetaja es que a partir de esta distribució sólo se simulará datos iguales a los observados. Etoces otra posibilidad es suavizar esta distribució empírica y darle forma de ua curva lieal a trozos: 0 x < X (1) F el (x) = i x X (i) ( 1)(X (i+1) X (i) ) X (i) x X (i+1) 1 x X (). La Figura 10 ilustra ambas distribucioes empíricas para los datos del ejemplo. Así, será posible simular Figura 10: Distribucioes empiricas cualquier valor etre X (1) y X (), y se simulará co mayor frecuecia e los itervalos dode ha ocurrido más observacioes. Por último, si lo que se cooce es ua agrupació de los datos e distitos itervalos: [a 1, a 2 ), [a 2, a 3 ),..., [a k 1, a k ), es decir, u histograma de los datos, se puede hacer ua distribució empírica que aproxime a la frecuecia acumulada de las observacioes. Esto es, si j es la catidad de observacioes e el itervalo [a j, a j+1 ), etoces = k, y se defie la distribució empírica lieal G, dode G(a 1 ) = 0, G(a j ) = 1 ( j 1 ), 2 j k + 1 y 0 x < a 1 G(x) = G(a j ) + G(a j+1) G(a j ) a j+1 a j (x a j ) a j < x < a j+1, 1 j k. 1 x a k+1 10

11 Modelos y Simulació Figura 11: Distribució empírica a partir de datos agrupados Si e cambio se asume que la distribució es discreta y se cooce los datos observados X 1, X 2,..., X, la distribució empírica asiga ua fució de masa de probabilidad empírica a cada x dada por p(x) = #{i X i = x, 1 i }. Es decir, p(x) es la frecuecia relativa observada de x. 3. Aálisis de idepedecia de los datos Muchos de los test estadísticos se basa e la idepedecia de las observacioes X 1, X 2,..., X : estimacioes de máxima verosimilitud, test chi-cuadrado, Kolmogorov-Smirov, y otros. Por lo tato es importate aalizar este aspecto de los datos observados. Dos técicas que sirve para aalizar idepedecia, de u modo algo iformal, so las siguietes: Gráficos de correlació: ˆρ j. Diagramas de dispersió (scatterig): (X i, X i+1 ). E los gráficos de correlació, se grafica los valores de las correlacioes muestrales ˆρ j, dadas por ˆρ j = j Ĉj S 2 (), Ĉ j = (X i X())(X i+j X() j dode X() y S 2 () deota la media muestral y variaza muestral, cuya defiició veremos más adelate. Si los datos X i so idepedietes, etoces los valores de ˆρ j está próximos a cero. Por lo tato, si los valores de ˆρ j se aleja sigificativamete de 0 hay ua fuerte evidecia de que los datos está correlacioados, es decir, o so idepedietes. Los diagramas de scatterig o de dispersió so el gráfico de los pares de putos (X i, X i+1 ). Si los datos so idepedietes, estos pares de putos debería estar distribuidos aleatoriamete e algú 11

12 Modelos y Simulació sector del plao. Por ejemplo, si so valores positivos, estará distribuidos e el primer cuadrate. Por otra parte, si los pares de putos se agrupa sobre ua recta hay ua fuerte evidecia que los datos está correlacioados. 4. Alguas medidas estadísticas A la hora de seleccioar ua determiada distribució teórica de probabilidad para llevar adelate ua simulació, es importate coocer alguos valores estadísticos que tiee las distribucioes teóricas y compararlos co los que se obtiee a partir de ua muestra. Por ejemplo, es importate coocer el rago de la variable, su media, su variabilidad, su simetría o tedecia cetral, etre otras. Ahora bie, estos valores está bie defiidos para ua distribució teórica pero so descoocidos para ua distribució de la cual sólo se cooce ua muestra. Etoces, para estimar estos valores, se utiliza los estadísticos muestrales. Más específicamete, u estadístico muestral es ua variable aleatoria defiida a partir de los valores de ua muestra. Por ejemplo, la media muestral X() es el estadístico defiido por: X() = X 1 + X X, y que suele utilizarse para estimar la media o valor esperado de la distribució de los datos. La variaza muestral S 2 () es el estadístico defiido por S 2 () = 1 1 y es u estimador o sesgado para la variaza. (X i X()), Así, si se tiee ua muestra de datos y a partir de ella se calcula los valores: x = X(), s 2 = S 2 (), y se pretede aalizar su ajuste a ua distribució ormal, lo más razoable sería cosiderar la ormal N(µ, σ) co µ = x y σ = s 2. La Tabla 2 muestra alguas de los estimadores y medidas estadísticas que suele ser útiles para decidir la elecció de ua distribució teórica a partir de ua muestra de datos observados. E cada caso, se cosidera que la muestra es de tamaño, los valores observados so X 1, X 2,..., X y ordeados se deota X (1), X (2),..., X (). 12

13 Fució Estimador muestral Estima Mi, Max X (1), X () rago Modelos y Simulació Media µ X() Tedecia cetral X (+1)/2 Mediaa ˆm = Tedecia cetral. 1 2 (X /2 + X (/2+1) ) Variaza σ 2 S 2 () Variabilidad c.v.= σ µ τ cv() ˆ = ˆτ = S2 () X() Asimetría ν = E[(X µ)3 ] (σ 2 ) 3/2 ˆν() = S 2 () X() Variabilidad Variabilidad i (X i X()) 3 / [S 2 ()] 3/2 Simetría Tabla 2: Tabla de estimadores Por ejemplo, si ua distribució es simétrica, su media y su mediaa so iguales. Luego si la media y la mediaa muestral so muy diferetes, o se debería elegir ua distribució ormal para la simulació. Por otro lado, para la distribució es expoecial el coeficiete de variació es 1: c.v. = σ/µ = 1. Es decir, el coeficiete de variació estimado a partir de la muestra debería ser u valor próximo a 1 para decidirse por ua distribució expoecial. Los histogramas tambié so herramietas útiles para seleccioar ua distribució, y ciertos tests estadísticos como el test χ-cuadrado se basa justamete e la comparació del histograma de frecuecias observadas y esperadas para determiar cuá bue ajuste hay de la distribució teórica a la distribució de los datos. Para realizar u histograma, el rago de valores obteidos e los datos se divide e k itervalos adyacetes disjutos [a 1, a 2 ), [a 2, a 3 ),..., [a k, a k+1 ) de igual amplitud, se cosidera h j la proporció de datos que cae e el itervalo [a j, a j+1 ), y el histograma se defie por la fució 0 x < a 1 h(x) = h j a j x < a j+1. 1 x a k+1 Notemos que si f es la desidad real de los datos, etoces P (a j x < a j+1 ) = para algú y [a j, a j+1 ). aj+1 a j f(x) dx = f(y) Así, al ser los itervalos de igual amplitud, las áreas de los rectágulos o barras del histograma so proporcioales a la frecuecia relativa de los datos e el correspodiete itervalo. Luego tiee setido superpoer al histograma ormalizado la fució de desidad o de probabilidad de masa segú 13

14 Modelos y Simulació correspoda, y comparar ambos gráficos. El histograma ormalizado se obtiee dividiedo h j por para lograr u área total igual a 1. Otras herramietas estadísticas so los diagramas de caja y q-cuatiles, que permite hacer ua aálisis comparativo etre la muestra observada y la distribució teórica. Los diagramas de caja determia los cuartiles de la muestra, es decir, los valores dode se ubica el 25 %, 50 % y 75 % de los datos, co ua represetació gráfica e forma de caja que permite visualizar además la simetría o tedecia cetral de los datos. Los q-cuatiles expresa otros cuatiles. Por ejemplo, si q = 10, el q-cuatil determia el valor hasta el cual se acumula el 10 % de los datos. 5. Estimació de parámetros Supogamos que hemos obteido ua muestra de datos, y queremos iferir de qué distribució proviee y qué parámetros correspode a esa distribució. Por ejemplo, si cosideramos que proviee de ua distribució expoecial, cómo determiamos el parámetro λ? E la práctica, o será posible coocer estos parámetros co exactitud si lo que se cooce es sólo ua muestra. Pero existe ciertos métodos para estimar estos parámetros. Defiició 5.1. Dada ua muestra de datos observados, se llama estimador ˆθ del parámetro θ a cualquier fució de los datos observados. Por ejemplo, si se toma ua muestra de tamaño, X 1, X 2,..., X, los siguietes so estimadores: ˆθ 1 = X 1 + X 2, ˆθ2 = X 1 + X X. (1) Ahora bie, qué relació hay etre el estimador y el parámetro a estimar? Cuádo utilizar u estimador e particular para estimar u determiado parámetro? Esto tedrá que ver co las propiedades del estimador, ya sea e relació co el parámetro a estimar o e comparació co otros posibles estimadores Propiedades de u bue estimador U bue estimador debería cumplir co las siguietes propiedades. Isesgabilidad: se dice que el estimador es isesgado si E[ˆθ] = θ. Por ejemplo, si tomamos ua muestra de tamaño, los estimadores ˆθ 1 y ˆθ 2 de (1) so isesgados si lo que se quiere estimar es la media µ de la distribució, puesto que E(ˆθ 1 ) = E(X 1) + E(X ) 2 = µ, E(ˆθ 2 ) = E(X 1) + E(X 2 ) + + E(X ) = µ. 14

15 5.2 Estimadores de máxima verosimilitud Modelos y Simulació Cosistecia: si al aumetar la muestra, el estimador se aproxima al parámetro. Notemos que el estimador ˆθ 1 o es u estimador cosistete ya que sólo utiliza dos elemetos de la muestra, por lo cual o mejora la estimació icremetado el tamaño de esta muestra. E cambio por el Teorema Cetral del Límite, el estimador ˆθ 2 tiede a la media de la distribució. Eficiecia: se calcula comparado su variaza co la de otro estimador. Cuato meor es la variaza, se dice que el estimador es más eficiete. Por ejemplo, e (1), teemos que para i = 1, 2, Luego, V ar(ˆθ 1 ) = E((ˆθ 1 µ) 2 ) = E Var(ˆθ i ) = E[(ˆθ i E(ˆθ i )) 2 ] = E[(ˆθ i µ) 2 ]. [ (X1 µ E cambio, si se toma los elemetos de la muestra teemos que: 2 + X ) ] 2 µ 2 = Var(X 1) + Var(X 2 ) = Var(X). V ar(ˆθ 2 ) = 1 Var(X). Así, Var(ˆθ 2 ) < Var(ˆθ 1 ) para > 2, y por lo tato ˆθ 2 es más eficiete que ˆθ 1. Suficiecia: utiliza toda la iformació obteida de la muestra Estimadores de máxima verosimilitud Hemos visto qué propiedades debería teer u bue estimador. Veremos ahora cómo podemos costruir u estimador de u parámetro. Existe distitos métodos, y cada método hace algua suposició sobre los datos que se obtiee e la muestra. Veremos el caso de los estimadores de máxima verosimilitud (maximum likelihood estimators (MLE)). El estimador de máxima verosimilitud de u parámetro (o u cojuto de parámetros) θ, asume que la muestra obteida tiee máxima probabilidad de ocurrir etre todas las muestras posibles de tamaño, y que los datos X 1, X 2,..., X so idepedietes. Supogamos que se tiee la hipótesis de ua distribució discreta para los datos observados, y se descooce u parámetro θ. Sea p θ (x) la probabilidad de masa para dicha distribució. Etoces, dado que se ha observado datos X 1, X 2,..., X, se defie la fució de máxima verosimilitud L(θ) como sigue: L(θ) = p θ (X 1 ) p θ (X 2 ) p θ (X ). Si la distribució supuesta es cotiua, y f θ (x) es la desidad para dicha distribució, se defie de maera aáloga: 15

16 5.2 Estimadores de máxima verosimilitud Modelos y Simulació L(θ) = f θ (X 1 ) f θ (X 2 ) f θ (X ). E cualquiera de los casos, el estimador de máxima verosimilitud es el valor ˆθ que maximiza L(θ): L(ˆθ) L(θ), θ valor posible. El estimador de máxima verosimilitud tiee, e geeral, las siguietes propiedades: a) Es úico: L(ˆθ) > L(θ) para cualquier otro valor de θ. b) La distribució asitótica de ˆθ tiee media θ. c) Es ivariate: φ = h(θ), etoces ˆφ = h(ˆθ). d) Su distribució asitótica está ormalmete distribuida. e) Es fuertemete cosistete: lím ˆθ = θ. Ejemplo 5.1. Supogamos que se ha tomado ua muestra de tamaño, y se tiee suficietes razoes para supoer que tiee ua distribució expoecial. Esta distribució depede de u parámetro β, y este parámetro se estimará a partir de la muestra. Dado que la fució de desidad de ua variable X E(β) es f β (x) = 1 β e x/β, x > 0, el estimador ˆβ del parámetro β será aquel que maximice la fució L(β): ( ) ( ) ( ) ( 1 L(β) = β e X 1/β 1 β e X 2/β 1 β e X/β = β exp 1 β El máximo de L(β) se alcaza dode su derivada es 0, y este valor correspode a ˆβ = 1 X i = X(). ) X i Ejemplo 5.2. Cosideremos ahora el estimador ˆp de la probabilidad de éxito de ua distribució geométrica Geom(p). E este caso, el parámetro a estimar es θ = p (0 < p < 1) y la probabilidad de masa está dada por La fució a maximizar es: p θ (x) = θ(1 θ) x 1, x = 1, 2,.... L(θ) = θ(1 θ) (X1 1) θ(1 θ) (X2 1)... θ(1 θ) (X 1) = θ (1 θ) ( ) θ (Xi 1) = (1 θ) X i 1 θ 16

17 5.3 Error cuadrático medio de u estimador Modelos y Simulació Derivado L(θ) co respecto a θ e igualado a 0 obteemos la expresió ˆθ = ˆp e térmios de la muestra de tamaño que correspode al estimador de máxima verosimilitud: ( 1 ) 1 ˆp = Xi 5.3. Error cuadrático medio de u estimador Si ˆθ es u estimador del parámetro θ de ua distribució F, se defie el error cuadrático medio (ECM) de ˆθ co respecto al parámetro θ como ECM(ˆθ, θ) = E[(ˆθ θ) 2 ]. Así, el ECM es ua medida de dispersió del estimador co respecto al parámetro a estimar. Si el estimador es isesgado, es decir E(ˆθ) = θ, etoces el ECM coicide co la variaza del estimador. E geeral, se tiee: E[(ˆθ θ) 2 ] = E[(ˆθ E[ˆθ] + E[ˆθ] θ) 2 ] = E[(ˆθ E[ˆθ]) 2 ] + (E[ˆθ] θ) 2 = Var(ˆθ) + (E(ˆθ) θ) 2 El térmio E(ˆθ) θ) se deomia sesgo del estimador. Así, el error cuadrático medio de u estimador es igual a su variaza más el sesgo al cuadrado. Si el estimador es isesgado, su ECM es igual a la variaza La media muestral Dadas observacioes: X 1, X 2,..., X, co ua misma distribució, la media muestral es el estimador defiido por: X() = 1 (X 1 + X X ). Notemos que si E(X i ) = θ, 1 i, etoces [ ] X i E[X()] = E = E[X i ] = θ = θ. Por ello, la media muestral se utiliza como estimador de la media de ua distribució. Como estimador de la media de ua distribució F, su error cuadrático medio está dado por su variaza. Esto es: ECM(X()) = E[(X() θ) 2 ] = Var(X()) = 1 2 Var(X i ) = σ2 Así, cuato mayor sea el tamaño de la muestra, meor será el Error Cuadrático Medio de la media muestral como estimador de la media de la població. 17

18 5.5 La variaza muestral Modelos y Simulació La variaza muestral E el caso de la media muestral, el error cuadrático medio para la estimació de la media está acotado por σ2. Etoces, si se quiere que este error sea meor que, por ejemplo, 0.001, la muestra deberá teer u tamaño tal que σ 2 < Ahora bie, e geeral se descooce el valor de σ por lo cual la ecuació aterior da poca iformació y se hace ecesario teer u estimador para la variaza. Se deomia variaza muestral para muestras de tamaño al estimador S 2 () dado por: Notemos que: Además, S 2 () = 1 1 (X i X()) 2. (X i X()) 2 = Xi 2 X 2 () E[X 2 i ] = Var(X i ) + (E[X i ]) 2 = σ 2 + θ 2. E[X 2 ()] = σ2 + θ2. ( 1)E[S 2 ()] = E[X1] 2 E[X 2 ()] = (σ 2 + θ 2 ) ( σ2 + θ2 ) E[S 2 ()] = σ 2 Utilizaremos S() = S 2 () como estimador de la desviació estádar Simulacioes Si e ua simulació es posible geerar sucesivamete datos {X i }, idepedietes, y se desea estimar la media µ de los datos, es decir µ = E[X i ], etoces para u determiado se podrá tomar el valor X() como ua estimació de la media µ. Ahora bie, cuá aproximado es este valor a la media que se desea estimar? Sabemos por el Teorema Cetral del Límite, que la variable X() µ σ/ tiee ua distribució aproximadamete ormal estádar, y por lo tato P ( X() µ > c σ ) P ( Z > c) = 2(1 Φ(c)). 18

19 5.6 Simulacioes Modelos y Simulació Etoces, si queremos que la media muestral esté a ua distacia meor que h de la media, co ua probabilidad del 95 %, debemos cosiderar c = 1.96, y por lo tato debe satisfacer 1.96 σ < h. Así, h/c será ua cota aceptable de la desviació del estimador (σ/ ). Así, u procedimieto para determiar hasta qué valor de debe geerarse datos X es el siguiete: SIMULACIÓN 1 Elegir d como valor aceptable de σ/. 2 Geerar al meos 100 valores de X. 3 while S()/ > d 4 = Geerar X 6 retur X() E el algoritmo aterior, se debe calcular la media muestral al fial del algoritmo y la variaza muestral e cada iteració. Por ello, es coveiete teer u método iterativo que permita calcular X() y S 2 () e cada paso, si reutilizar todos los valores geerados previamete. Para el caso de la media muestral, la recursividad puede verse como sigue: ( +1 1 ) X( + 1) = X i = 1 X i + X = E el caso de la variaza muestral, resulta: ( ) X +1 X() X() + X+1 = X() S 2 ( + 1) = 1 +1 (X i X( + 1)) 2 S 2 () = 1 (X i X()) 2 1 S 2 ( + 1) ( 1)S 2 () = ( (Xi X( + 1)) 2 (X i X()) 2) + (X +1 X( + 1)) 2 = ( (X() X( + 1))(2Xi X( + 1) X()) ) + (X +1 X( + 1)) 2 = (X() X( + 1)) ( X() X( + 1) ) + (X +1 X( + 1)) 2 19

20 5.6 Simulacioes Modelos y Simulació El segudo térmio del miembro derecho de la última igualdad puede reemplazarse usado las idetidades para X() y X( + 1): ( + 1) ( X( + 1) X() ) = X +1 X() X( + 1) + X( + 1) X() = X +1 ( X( + 1) X() ) = X +1 X( + 1) Luego teemos: S 2 ( + 1) = ( 1 1 ) S 2 () + ( + 1) ( X( + 1) X() ) 2. Así, u algoritmo para la estimació de la media co ua variaza del estimador meor a d será como el siguiete: ESTIMACIÓN DE X() 1 Media = 0 2 Var = 0 3 j = 0 4 while Var j > d or j < j = j Geerar X; 7 MediaAt = Media 8 Media = Media + 1 j (X Media) 9 Var = (1 1 j 1 ) Var + j (Media MediaAt)2 10 retur Media Ejemplo 5.3. El estimador X() puede utilizarse tambié para estimar la proporció de casos e ua població. Por ejemplo, e ua simulació de llegada de clietes a u servidor que atiede etre las 8:00 y las 12:00, podría aalizarse la proporció de días que queda más de 2 clietes por ateder a la hora del cierre. E ese caso, el día i (simulació i), se cosidera ua variable aleatoria Beroulli X i que valdrá 1 si queda más de dos clietes y 0 e caso cotrario. Esto es: 1 probabilidad p X i = 0 probabilidad 1 p. El objetivo será etoces estimar la probabilidad p de éxito. Dado que p = E[X i ], el estimador de p será la media muestral: ˆp = X(), 20

21 Modelos y Simulació dode será el úmero total de simulacioes. Este úmero depederá de la precisió co que se quiera estimar p, e particular, del error cuadrático medio aceptable para el estimador. Ahora bie, e el caso de ua variable Beroulli, la variaza σ 2 es p(1 p), y por lo tato u estimador para la variaza es ˆσ 2 = X() (1 X()). Dado que la variaza y error cuadrático medio del estimador X() para la estimació de p es ECM(X(); p) = E[(X() p) 2 ] = Var(X()) = p(1 p), y siedo p descoocido, se estima la variaza del estimador X() por: Var(X()) = X()(1 X()). Así, si X 1, X 2,..., X, es ua sucesió de v.a. idepedietes, Beroulli, el algoritmo para la estimació de p = E(X i ) es el siguiete: ESTIMACIÓN DE p 1 p = 0 2 j = 0 3 while p(1 p) j > d or j < j = j Geerar X 6 p = p + 1 j (X p) 7 retur p 6. Estimador por itervalos Al utilizar u estimador putual para u parámetro, se elige u valor particular para el parámetro de acuerdo a la muestra obteida. Así por ejemplo, si se está estimado la media de ua distribució co ua muestra de tamaño 100, y resulta X(100) = 2.5, etoces se utilizará como parámetro exactamete ese valor. U estimador por itervalo de u parámetro es u itervalo para el que se predice que el parámetro está coteido e él. Es decir, e este caso se tiee u itervalo aleatorio co ua cierta probabilidad de coteer al parámetro buscado. La cofiaza que se da al itervalo es la probabilidad de que el itervalo cotega al parámetro. 21

22 6.1 Estimador por itervalo de E(X) Modelos y Simulació Estimador por itervalo de E(X) El estimador X() es u estimador putual de la media poblacioal. E particular, sabemos que si E(X) = θ y Var(X) = σ 2, etoces X() θ σ/ Z = N(0, 1). Recordemos que para 0 < α < 1, utilizamos la otació z α para idicar el úmero real tal que P (Z > z α ) = α. Luego, dado que la ormal estádar tiee ua distribució simétrica co respecto a x = 0, para suficietemete grade (> 100), teemos que ( ) P z α/2 < X() θ σ < z α/2 = 1 α. o equivaletemete ) σ σ P (X() z α/2 < θ < X() + z α/2 = 1 α. (2) La ecuació (2) determia u itervalo aleatorio que cotiee al parámetro θ co ua cofiaza de 1 α. Así por ejemplo, si se quiere u itervalo de cofiaza del 95 %, etoces α/2 = 0.025, y z α/2 = 1.96, y para u > 100 el itervalo será: (X() 1.96 σ, X() σ ) Aálogamete, los itervalos de cofiaza del 99 % y del 90 % para u determiado será: (X() 2.33 σ, X() σ ) y (X() 1.64 σ, X() σ ). es Si σ es descoocido, los itervalos ateriores se defie utilizado el estimador ˆσ = S 2 (). Notemos que si la muestra es de tamaño, la logitud del itervalo de cofiaza del 100(1 α) % l = 2 z α/2 σ, o l = 2 z α/2 S(), es decir que su logitud depede del valor de, y más específicamete, es iversamete proporcioal al valor de. Así, e ua simulació, si se quiere obteer u itervalo de cofiaza del 100(1 α) % y co ua logitud meor a cierto úmero L, se cotiuará geerado valores hasta que 2 z α/2 S() < L. 22

23 6.2 Estimador por itervalos de ua proporció Modelos y Simulació Estimador por itervalos de ua proporció E el caso de ua variable Beroulli, el estimador por itervalos del parámetro p tambié es el estimador por itervalos de la media poblacioal. E este caso, el estimador para la variaza es X()(1 X()), y para suficietemete grade se tiee que X() p X() (1 X()) = Z N(0, 1). Así, u itervalo de cofiaza del 100(1 α) % se obtiee a partir de la propiedad: P z α/2 < X() p < z α/2 = 1 α. X()(1 X()) o equivaletemete, el itervalo de cofiaza es: X() (1 X()) X() (1 X()) X() z α/2, X() + z α/2 7. Técica de Bootstrap para estimar el ECM E térmios geerales, ua técica bootstrap es aquella que recupera ua iformació a partir de los datos, si asumir igua hipótesis sobre ellos. U caso particular es el que veremos e esta secció. Hemos visto que la media muestral X() es u estimador isesgado de la media, y por ede su error cuadrático medio es S 2 ()/. Luego, idepedietemete de la distribució de los datos, existe ua fórmula explícita para calcular el error cuadrático medio. Ahora bie, supogamos el caso geeral e que se tiee u determiado estimador ˆθ = ˆθ(X 1, X 2,..., X ), que se utiliza para estimar u determiado parámetro θ. E el caso que se coozca la distribució F de los datos, se podrá calcular co mayor o meor complejidad el valor exacto del ECM: ECM(ˆθ, θ) = E F ((ˆθ θ) 2 ). Aquí el subídice F idica que el valor esperado se calcula e térmios de esa distribució. Por ejemplo, si se asume los datos co distribució ormal estadar, etoces se tedrá: ECM(ˆθ; θ) = (ˆθ(x 1, x 2,..., x ) θ) 2 1 ( 2π) e (x x2 )/(2σ2) dx 1 dx 2... dx. E cambio, si la distribució F de los datos es descoocida o es posible determiar de maera exacta este valor, y e tal caso ua posibilidad es utilizar la distribució empírica F e de los datos e lugar de la distribució real F. 23

24 Modelos y Simulació La distribució empírica F e utilizada e este caso es aquella que asiga a cada elemeto de la muestra ua probabilidad igual a la frecuecia relativa co que aparece. Por ejemplo, si la muestra tiee tamaño 4 y los datos so X 1 = 4.3, X 2 = X 3 = 1.8 y X 4 = 2.1, etoces la distribució empírica está dada por: 0 x < x < 1.8 F e (x) = x < x 4.3 o equivaletemete, asiga ua probabilidad de masa dada por p e (4.3) = p e ( 2.1) = 0.25 y p e (1.8) = 0.5. Para suficietemete grade, la distribució empírica F e coverge uiformemete a F, y por lo tato los correspodietes parámetros (media, variaza, mediaa, etc.) θ(f e ) coverge a θ(f ). Luego, el error cuadrático medio E F [(ˆθ θ) 2 ] puede aproximarse co el error cuadrático medio calculado co la distribució empírica: E Fe [(ˆθ θ(f e )) 2 ]. Así, si la muestra es de tamaño, y los datos obteidos so x 1, x 2,..., x, el error cuadrático medio se calculará de la siguiete maera: a) Calcular θ(f e ). Por ejemplo, si θ e es la variaza, etoces θ(f e ) = 1 (x i x), co x = 1 x i. b) Calcular el error cuadrático medio utilizado la distribució empírica: 1 i 1 =1 (ˆθ(x i1,..., x i ) θ(f e )) 2. (3) i =1 Notemos que la fórmula (3) es u promedio co térmios, dode se suma sobre todas las -uplas posibles utilizado los datos observados. Para u grade, este promedio puede estimarse por Mote Carlo seleccioado N térmios de maera aleatoria. Esto es, del cojuto {(x i1, x i2,..., x i ) x ij ua muestra de tamaño N: {x 1,..., x ), 1 j } de cardial, se toma (x (1) i 1, x (1) i 2,..., x (1) i ), (x (2) i 1, x (2) i 2,..., x (2) i ),, (x (N) i 1, x (N),..., x (N) i ), i 2 y se estima el error cuadrático medio empírico co Mote Carlo: 1 N N j (ˆθ(x (j) i 1, x (j) i 2,..., x (j) i ) θ(f e )) 2. 24

25 7.1 U ejemplo Modelos y Simulació U ejemplo Supogamos que se tiee datos de u sistema durate M días. Para cada día, se cooce el úmero de clietes que ha igresado al sistema, que llamamos 1, 2,..., M. A su vez, para el día j, se cooce el tiempo que cada cliete pasó e el sistema: T 1,j, T 2,j,..., T j,j, 1 j M. Ua preguta posible, es determiar cuál es el tiempo promedio que u cliete pasa e el sistema. Notemos que e u día e particular, los tiempos de permaecia de los clietes puede o ser variables aleatorias idepedietes, e icluso puede descoocerse su distribució. Si embargo, podemos asumir que los tiempos totales de permaecia e días distitos sí so variables que proviee de ua misma distribució, e idepedietes etre sí. Deotamos co D j la suma de los tiempos de permaecia de todos los clietes e el día j: D j = T 1,j + T 2,j +..., T j,j, 1 j. El parámetro que se desea estimar es el promedio de permaecia de u cliete e el sistema, que está dado por: D 1 + D D M θ = lím, M M dode el límite se toma cosiderado muestras de tamaño M de pares (D j, j ). Si se coociera la distribució de las variables D y, podría efectuarse ua simulació de estas muestras o estimar el límite que defie a θ. Notemos que por el Teorema Cetral del Límite, θ es el cociete etre los valores esperados de D y : θ = lím M D 1 +D 2 + +D M M M M = lím M D 1+D 2 + +D M M lím M M M Así, u estimador atural de θ es el cociete de las medias muestrales: = E[D] E[]. ˆθ = D. Para determiar el error cuadrático medio del estimador, se deberá coocer la distribució F de la variable (vector) aleatorio (D, ), y e base a esta iformació determiar: [ ) ] E[D] 2 ECM(ˆθ, θ) = E F (ˆθ(D, ). E[] Si e cambio se descooce las distribucioes de las variables D y, se puede aplicar la técica bootstrap utilizado la distribució empírica de los datos obteidos e ua determiada muestra. Así, asigamos la probabilidad: P Fe (D = D j, = j ) = 1 M, 1 j M, 25

26 REFERENCIAS Modelos y Simulació y el parámetro correspodiete a esta distribució está dado por: θ(f e ) = D 1 + D D M M. El objetivo es ahora determiar cuál es el error cuadrático medio del estimador. Para esto, cosideramos todas las M uplas posibles y calculamos: 1 M M (D i1, i1 ), (D i2, i2 ),..., (D im, im ), i 1,...,i M ( ) Di1 + D i2 + + D 2 im θ(f e ). i1 + i2 + + im Si el tamaño de la muestra M es grade, el cálculo aterior puede implicar ua suma de ua gra catidad de térmios. Por ejemplo, si M = 20, = E tal caso, se puede aplicar Mote Carlo para estimar el promedio co u úmero meor de térmios. Referecias [1] AVERILL M. LAW, W. DAVID KELTON, Simulatio Modelig ad Aalysis, 3ra. edició. Edit. Mc. Graw Hill [2] SHELDON ROSS, Simulatio, 3ra. edició, Edit. Academic Press