Ley de Grandes Números y Teorema Central del

Transcripción

1 Ley de Grades Números y Teorema Cetral del Límite 25 de mayo de 2017

2 2

3 Capítulo 1 Ley de grades úmeros y Teorema cetral del límite 1.1. Sucesioes i.i.d. E el capítulo aterior cosideramos variables X 1,...,X 100 que modelaba los resultados obteidos al tirar u dado 100 veces. E esa situació cada variable X i teía la misma distribució, y tomaba los valores del uo al seis co probabilidad 1 6 cada uo. Tambié, como sucede siempre e el muestreo co reposició, las variables X i era idepedietes etre sí. Es decir fijado cualquier secuecia de valores a 1,...,a 100 la probabilidad de que la sucesió tome esos valores se escribe como u producto P (X 1 = a 1,...,X 100 = a 100 )=P(X 1 = a 1 ) P(X 100 = a 100 ). Este tipo de sucesioes de variables aleatorias es muy comú e probabilidad y geeralmete se usa para modelar los resultados de repetir el mismo experimeto muchas veces. A los efectos de aalizar este tipo de situacioes si prefijar de atemao el úmero de repeticioes se suele icluir tambié sucesioes ifiitas de variables aleatorias. Esto os lleva a la siguiete defiició: Defiicio 1 (Sucesioes i.i.d.). Se dice que ua sucesió de variables aleatorias X 1,X 2,... so idepedietes e idéticamete distribuidas (i.i.d.) si todas las variables tiee la misma distribució y para toda sucesió fiita de itervalos I 1,...,I se cumple P(X 1 2 I 1,X 2 2 I 2,...,X 2 I )=P(X 1 2 I 1 ) P(X 2 I ) Ejemplo Si preocuparos por explicitar el espacio muestral y probabilidad subyacetes u modelo típico para ua sucesió de tiradas de dado es asumir que se 3

4 4CAPÍTULO 1. LEY DE GRANDES NÚMEROS Y TEOREMA CENTRAL DEL LÍMITE tiee ua sucesió ifiita X 1,X 2,... de variables aleatorias i.i.d. tal que P(X i = 1) = = P(X i = 6) = 1 6, para todo i. La vetaja de icluir ifiitas variables e el modelo es que se puede calcular probabilidades para cualquier úmero de tiradas que se elija. Otra vetaja, es que se puede cosiderar que ocurre e el caso límite cuado! +1 e iterpretar estos resultados (que muchas veces so más secillos de obteer y euciar que resultados para fijo) como lo que ocurre cuado el úmero de tiradas es muy grade Teorema cetral del límite U ejemplo E el capítulo aterior cosideramos X 1,...,X 100 i.i.d. que tomaba los valores del 1 al 6 co igual probabilidad. El problema que os plateamos fué calcular u rago de valores dode la suma X = X X 100 caerá co alta probabilidad. Ua primer solució fué realizar u cálculo de alta precisió (co la computadora) de P(X = k) para cada k etre 100 y 600. Co este método obtuvimos que la distacia etre X y su valor esperado (que es 350) será meor o igual a 44 co probabilidad mayor a 0,99. Otra solució, meos exacta pero que requirió mucho meos cuetas, fué calcular la variaza de X que es Var(X) = 100Var(X 1 ) 291. A partir de esto y la desigualdad de Chebyshev obtuvimos que la distacia etre X y su valor esperado será meor o igual a 180 co probabilidad mayor a 0,99. Propoemos ahora u tercer método. El método cosiste simplemete e asumir que X es ormal. Notemos que la esperaza de X es 350 y su variaza es 291 por lo cual su desviació estadard es meor a 18. Si X fuera ormal, la probabilidad de que X caiga a meos de 3 desvios estadard de su media sería aproximadamete 0,997. Por lo tato asumiedo que X es ormal obteemos que la distacia etre X y su valor medio será meor o igual a 54 co probabilidad mayor que 0,99. Notemos que el método de asumir que X es aproximadamete ormal dió u rago de valores mucho más exacto que el que obtuvimos co la desigualdad de Chebyshev. E otras palabras las variables ormales está más apretadas cerca de su valor medio que las variables de variaza fiita e geeral. Pero, Qué justificació teórica tiee el aproximar ua variable de variaza fiita por ua variable ormal co la misma esperaza y variaza?

5 1.2. TEOREMA CENTRAL DEL LÍMITE Teorema cetral del límite Supogamos que X 1,...,X,...es ua sucesió de variables aleatorias i.i.d. dode cada variable tiee esperaza µ y variaza 2. E esta situació se calcula E (X X )=µ y Var(X 1 + +X 100 )= 2. E particular el desvío estadard de la suma es p. El siguiete teorema, e ua primera aproximació, dice que ua suma de u gra úmero de variables i.i.d. es aproximadamete ormal. E particular la probabilidad de ecotrar ua suma de este tipo a meos de 3 desvíos estadard de su valor esperado se acerca a la probabilidad correspodiete para ua variable ormal (al meos e el caso límite cuado el úmero de sumados tiede a ifiito). Teorema 1 (Teorema cetral del límite). Si X 1,X 2,... es ua sucesió de variables aleatorias i.i.d. co esperaza µ y variaza 2 etoces para todo a<b se cumple cuado! +1. P p a apple X X µ apple p b! No demostraremos este teorema. Z b a 1 p 2 e 1 2 x2 dx Itepretació y uso del TCL Observemos que el teorema cetral del límite permite e pricipio calcular el límite de ua sucesió de probabilidades. E particular o da igua iformació sobre valores de u térmio idividual de la sucesió. Por ejemplo, si X 1,X 2,... es ua sucesió de variables aleatorias i.i.d. que modela tiradas de u dado justo y fijamos S = X X. El teorema cetral del límite os permite cocluir que la probabilidad de que S esté a más de 3 desvíos estadard de su valor medio será mayor a 0,99 evetualmete (i.e. a partir de cierto suficietemete grade). No os permite e pricipio estimar la diferecia etre el límite teórico y el valor de dicha probabilidad para = 100. Por lo tato, o justifica el tercer método que dimos para dar u rago de valores de alta probabilidad para S 100. Si embargo, e la práctica, se utiliza el teorema cetral para fijo (como por ejemplo = 100) asumiedo que el error cometido será pequeño. Existe versioes cuatitativas del teorema que da estimacioes del error cometido e este tipo de situacioes. Grosso modo da estimativas para el error proporcioales a C/ p (es decir el iverso de la raiz cuadrada del úmero de variables i.i.d. que se sumaro) dode la costate C depede de iformació adicioal sobre la distribució de las variables ivolucradas (e.g. e el teorema más comú aparece la catidad E(X 3 1 )).

6 6CAPÍTULO 1. LEY DE GRANDES NÚMEROS Y TEOREMA CENTRAL DEL LÍMITE 1.3. Ley de grades úmeros El siguiete teorema justifica la iterpretació de la esperaza de ua variable aleatoria como el resultado teórico de promediar muchas realizacioes idepedietes de la variable. Teorema 2 (Ley de Grades Números). Si X 1,X 2,... es ua sucesió de variables aleatorias i.i.d. y de esperaza fiita µ etoces se cumple las siguietes dos afirmacioes: 1. P X1+ +X µ <! 1 cuado! P X1+ +X! µ cuado! +1 =1. La primer coclusió del teorema suele llamarse la ley débil de grades úmeros mietras que la seguda se suele llamar la ley fuerte de grades úmeros (dejaremos la ley fuerte si demostrar e estas otas) Relació co el TCL Observemos que el teorema cetral del límite implica la ley débil de grades úmeros si se asume que la sucesió i.i.d. X 1,X 2,...además de teer esperaza fiita µ, tiee variaza fiita 2. Para esto otemos que podemos elegir C>0grade de forma que la probabilidad de que ua ormal estadard caiga e el itervalo [ C, C] sea arbitrariamete cercaa a 1. Ahora, dado > 0, observemos que evetualmete (para todo suficietemete grade) se cumplirá C p apple. E vista de esto obteemos X1 + + X P µ < P µ C p apple X X apple µ + C p para todo suficietemete grade. Como C se podía elegir de forma que el lado derecho estuviera arbitrariamete cerca de 1 obteemos la ley débil de los grades úmeros lím P X1 + + X µ < =1.! Demostració de la ley débil Demostraremos ahora la ley débil asumiedo que las variables X 1,X 2,... tiee esperaza fiita µ y variaza fiita 2, pero si utilizar el teorema cetral del límite. Defiamos S = X 1 + +X y otemos que E(S )=µ y Var(S )= p. La desigualdad de Chebyshev os da P S µ t p apple 1 t 2

7 1.3. LEY DE GRANDES NÚMEROS 7 para todo t>0ytodo. Dividiedo etre y tomado t = p obteemos 1 2 P S 1 µ p apple. Ahora, dado cualquier >0setedrá p 1 apple para todo suficietemete grade. Esto implica que 2 X1 + + X P µ < 1! 1 cuado! +1 como se buscaba Iterpretació frecuetista de la probabilidad y la esperaza La probabilidad es ua teoría que ace de la siguiete observació empírica: Para cierto tipo de experimetos (como tirar u dado), el resultado de cada realizació idividual del experimeto parece impredecible. Pero, al repetir el experimeto muchas veces la frecuecia co la que se da cada resultado posible se vuelve predecible. Ua iterpretació usual (la llamada itepretació frecuetista) de los modelos probabilísticos es que la probabilidad de u eveto A e u modelo debería correspoderse co la frecuecia co la que ocurre los resultados modelados por A al repetir el experimeto que se está modelado muchas veces. La ley fuerte de los grades úmeros os da ua justificació teórica de que esta iterpretació es adecuada. Para modelar el repetir u experimeto muchas veces mirado si ocurre cierto eveto utilizamos ua secuecia ifiita X 1,X 2,... de variables i.i.d. que toma el valor 1 co cierta probabilidad p y 0 co probaiblidad 1 p. La iterpretació de este modelo es que X i vale 1 si la i-ésima vez que se repitió el experimeto ocurrió uo de los resultados cuya frecuecia os iteresa. Etoces las variables F = X1+ +X represeta la frecuecia co la que ocurrió el cojuto de resultados de iterés e las primeras repeticióes del experimeto. La ley de grades úmeros os dice que F se acerca al valor E(X 1 )=p cuado! +1. Esto es coherete co la iterpetació frecuetista de la probabilidad p. El mismo razoamieto os da la itepretació frecuetista del valor esperado. Por ejemplo que la distribució usual usada para modelar ua tirada de dado tega valor esperado 3,5, se suele iterpretar como que el resultado de promediar u gra úmero de tiradas de u dado (balaceado) se acerca a 3,5 a medida que el úmero de tiradas aumeta. Más allá de estas verificacioes cualitativas, resultados como el teorema cetral del límite os permite hacer prediccioes cuatitativas respecto a la velocidad de covergecia, etc. Esto abre la puerta las umerosas aplicacioes de la teoría de probabilidad e el mudo real (i.e. a la estadística).

8 8CAPÍTULO 1. LEY DE GRANDES NÚMEROS Y TEOREMA CENTRAL DEL LÍMITE La ley de grades úmeros La ley débil de grades úmeros os dice que la probabilidad de que S se ecuetre etre 0,001 y0,001 se acerca a 1 cuado! +1. Y se obtiee la misma coclusió si se reemplaza 0,001 por cualquier otro úmero positivo. E otras palabras, el camiate geeralmete o llega muy lejos e relació al úmero de pasos que da. Para decir esto de otro modo podemos calcular la velocidad media del camiate luego de turos (e baldosas por turo) como V = S /. Notemos que V es ua variable aleatoria que toma valores etre 0 y 1 (el caso 1 se da cuado el camiate da todos los pasos e el mismo setido los primeros turos). La ley fuerte de grades úmeros os idica que co probabilidad 1 se tedrá lím V =0.!+1 El camiate tiee velocidad asitótica (o a largo plazo) ula El teorema cetral del límite U cálculo rápido muestra que E(S ) = 0 y Var(S )=Var(S 1 )=. E particular el desvío estadard de S es p. El teorema cetral del límite os idica que para grade la probabilidad de ecotrar al camiate etre 3 p y3 p será mayor a 0,99. Observado que 3 p << 0,001 para suficietemete grade, debería quedar más claro porque el teorema cetral de límite es u resultado más fio que la ley de grades úmeros. Más e geeral para cualquier t>0 el teorema cetral del límite os dice que la probabilidad de ecotrar al camiate etre t p y t p se acerca, cuado! +1, a la probabilidad de ecotrar ua variable ormal estadard etre t y t. Esto justifica la afirmació de que el desplazamieto esperable para ua camiata simple luego de pasos es de orde p Ley del logarithmo iterado U resultado aú más preciso que la ley de grades úmeros fué obteido por Alexadr Khichi e la década de Se llama la ley del logaritmo iterado debido a la aparició de la sucesió log(log()) (logaritmo del logaritmo de ) que es ua sucesió de crecimieto muy leto (por ejemplo log(log( )) 1,08). La afirmació es la siguiete: Co probabilidad 1, para todo suficietemete grade el cociete etre S y la sucesió p log(log()) caerá etre 2 y 2. E otras palabras, es posible garatizar que el camiate se ecotrará etre 2 p log(log()) y 2 p log(log()) para todo suficietemete grade.