Leyes de Grandes Números

Transcripción

1 Capítulo 2 Leyes de Grades Números 2.. Itroducció Sea (X, ) ua sucesió de variables aleatorias, defiimos S = X +X 2 + +X. Decimos que esta sucesió satisface ua ley de grades úmeros si existe sucesioes de úmeros reales (a, ) y (b, ) tales que S a b cuado dode los modos de covergecia de iterés so covergecia e probabilidad, que correspode a ua ley débil y covergecia c.p., que correspode a ua ley fuerte. E este capítulo estudiaremos este tipo de leyes para sucesioes de variables aleatorias idepedietes y e geeral el problema de covergecia de series de variables aleatorias. Comezamos por las leyes débiles Leyes Débiles de Grades Números Cosideremos ua sucesió de variables aleatorias o correlacioadas (X, ) co E(X i ) = µ i, Var(X i ) = σ 2 i. Sea X = S /, etoces E( X ) = µ i = µ, Var( X ) = 2 σi 2. i= El próximo resultado da codicioes bajo las cuales esta sucesió obedece ua ley débil co a = i= µ i y b =. Teorema 2. (LDGN) Si se satisface que etoces 2 i= σi 2 ( ) (2.) i= X µ = Demostració. Sea ε >, por la desigualdad de Chebychef teemos (X i µ i ) P. (2.2) i= P ( X µ > ε) ε 2 Var( X µ ) = ε 2 2 i= σ 2 i

2 3 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS y por (2.), como ε está fijo, esta expresió tiede a cuado. Corolario 2. (LDGN para variables iid) Sea (X, ) ua sucesió de v.a.i.i.d. co E(Xi 2) <. Etoces P X E(X ). Corolario 2.2 Sea (X, ) ua sucesió de v.a.i. co distribució de Beroulli de parámetro p (Ber(p)), etoces ˆp P X i p El Teorema de Aproximació de Weierstrass i= El teorema de aproximació de Weierstrass dice que cualquier fució cotiua f defiida e u itervalo cerrado [a, b] puede ser aproximada de maera uiforme por poliomios: Dado ε > existe u poliomio g tal que sup f(x) g(x) < ε. x [a,b] Serge Berstei dió ua demostració de este resultado usado la LDGN, que presetamos a cotiuació para fucioes defiidas e el itervalo [, ]. La extesió al caso geeral es secilla. Proposició 2. (Poliomios de Berstei) Sea f : [, ] R ua fució cotiua, etoces cuado. sup x [,] f(x) k= ( ) f ( k ) x k ( x) k k Demostració. Sea ε >. Como f es uiformemete cotiua, existe δ > tal que si x, y satisface x y < δ etoces se tiee f(x) f(y) < ε. Sea S, ua sucesió de variables co distribució biomial de parámetros y x y cosideramos la variable aleatorias f(s /) cuyo valor esperado es [ ( S )] E f = = f ( k ) P (S = k) ( ) f ( k ) x k ( x) k. k k= k= Recordemos que S = ξ i dode las ξ i so idepedietes de Beroulli co parámetro x, y por lo tato V ar(ξ i ) = x( x) /4 para x [, ]. Usado la desigualdad de Chebychef teemos ( S ) P x > δ δ 2 2 Var(S ) = δ 2 Var(ξ ) 4δ 2 Por lo tato, existe u etero que o depede de x, tal que, si ( S ) P x > δ < ε.

3 2.3. LEYES FUERTES DE GRANDES NÚMEROS 3 Usado la desigualdad triagular obteemos [ ( S )] ( ( k ) E f f(x) = f f(x) P (S = k) ) k= ( k f f(x) P (S = k) ) k= k x δ E cosecuecia, para todo, E y esto demuestra la proposició. ( k f ) f(x) P (S = k) + k x >δ εp (S = k) + 2 sup f(x) P (S = k) k x δ k x >δ x ( S ) ( = εp x S ) δ + 2 sup f(x) P x x > δ. [ f ( S )] f(x) ε + 2ε sup x f(x) ( f ( k ) + f(x) ) P (S = k) 2.3. Leyes Fuertes de Grades Números Demostramos a cotiuació la LFGN de Etemadi, para sucesioes de v.a. que so idepedietes a pares y tiee igual distribució. Teorema 2.2 (Etemadi) Sea (X, ) ua sucesió de v.a. idepedietes a pares co igual distribució y supogamos que E X <. Etoces X E(X ) c.p.. (2.3) Demostració. Recordemos que X = X + X y como supoemos que E X <, (X + ) es ua sucesió de v.a. idepedietes a pares co igual distribució que satisface E X + < y otro tato es cierto para la sucesió (X ). Teiedo e cueta que X = X i = X + i X i basta demostrar el teorema supoiedo que las variables so o-egativas. Ahora defiimos las variables trucadas Etoces = i= i= Y = X {X },. = i= P (X Y ) = P (X > ) = P (X > ) = = = P (X > t) dt P (X > t) dt = E(X ) <.

4 32 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS Por el lema de Borel-Catelli teemos que P (X Y i.v.) =, lo que quiere decir que, co probabilidad, X = Y para todos los ídices, excepto por ua catidad fiita de ellos. E cosecuecia basta demostrar que Ȳ = Y i E(X ) c.p. (2.4) ya que Observamos ahora que por el TCM y e cosecuecia i= (X i Y i ) c.p.. i= E(Y ) = E(X {X }) = E(X {X }) E(X ) E(Ȳ) = E(Y i ) E(X ) cuado. (2.5) i= Sea ahora α > y cosideremos la sucesió de eteros u k = [α k ]. Supogamos que podemos demostrar que c.s. E(X ) cuado k. (2.6) Ȳ uk Para cualquier existe k tal que u k < u k+. Como las variables Y so o-egativas, teemos u k i= Y i Ȳ = Y i y e cosecuecia u k Ȳu k Ȳ u k+ Ȳu k+ de dode obteemos que αȳu k Ȳ αȳu k+. Haciedo y usado (2.6) obteemos, co probabilidad, α E(X ) lím if i= u k+ i= Y i Ȳ lím sup Ȳ α E(X ). Como esta relació es cierta para todo α > obteemos que (2.4) vale. Ahora teemos que demostrar que (2.6) es cierta y para esto basta ver que Ȳ uk E(Ȳu k ) c.p. cuado k. (2.7) Usamos la desigualdad de Chebychef y la idepedecia a pares de las variables (Y, ). Para cualquier ε > P ( Ȳu k E(Ȳu k ) > ε) ε 2 Var(Ȳu k ) = ε 2 u 2 k ε 2 u 2 k u k i= u k i= Var(Y i ) E(Y 2 i ).

5 2.3. LEYES FUERTES DE GRANDES NÚMEROS 33 E cosecuecia P (Ȳu k E(Ȳu k ) > ε) ε 2 k= Ahora, como u k = [α k ] > α k para < α <, k= u 2 k:u k i k k:α k i = ε 2 u k u 2 k= k i= i= E(Y 2 i ) E(Y 2 i ) u 2 k:u k i k. (2.8) α (k )2 C i 2 (2.9) para algua costate C, < C <. Usamos este resultado e (2.8) y recordamos que las variables X i tiee igual distribució, P (Ȳu k E(Ȳu k ) > ε) C ε 2 i 2 E(Y i 2 ) = C ε 2 = C ε 2 = C ε 2 C ε 2 i= i= i 2 E(X2 { X i}) i i= j= j= i 2 E(X2 {j X j}) E(X 2 {j X j}) i=j i 2 E(jX {j X j})c 2 j = C C 2 ε 2 E(X ) <. (2.) Como esta serie es covergete para cualquier ε > obteemos, por el lema de Borel-Catelli, que (2.7) es cierto. Ates de demostrar la LFGN de Kolmogorov, presetamos el siguiete lema. Lema 2. Sea (X, ) ua sucesió de v.a.i.i.d. Las siguietes proposicioes so equivaletes: (a) E X <. (b) Para todo ε >, P ( X ε) <. (c) lím X = c.p.. Para su demostració recordamos el siguiete resultado: Sea X ua v.a. o-egativa, etoces E(X) = j= P (X > x) dx dode ambos lados de la ecuació coverge o diverge simultáeamete. Para demostrar esta relació, sea A > y sea F la f.d. de X. Itegrado por partes obteemos A xdf (x) = A( F (A) + = A(P (X > A) + A A ( F (x)) dx P (X > x) dx.

6 34 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS Si E(X) < etoces A( F (A)) A x df (x) cuado A, y e cosecuecia la itegral al lado derecho coverge. Por otro lado, si la itegral al lado derecho coverge, la itegral del lado izquierdo tambié, pues es más pequeña. Observamos que como P (X > x) y P (X x) difiere e ua catidad umerable de valores de x, E(X) = P (X > x) dx = P (X x) dx. (2.) Demostració del Lema 2.. Partimos de la relació (2.): y por lo tato es decir, E( X ) = = P ( X x) dx = = + P ( X x) dx P ( X + ) E( X ) P ( X ), E( X ) < Poemos ahora Y = X /ε y obteemos = P ( X ) <. = E( X ) < E( Y ) < P ( Y ) < = P ( X ε) <. = Esto demuestra que las dos primeras proposicioes so equivaletes. Para ver la otra equivalecia comezamos co (b): Dado ε > P ( X ε) = y por el lema de Borel-Catelli esto implica que es decir que co probabilidad, ( X ) P > ε i.v. =, lím sup X P ( X ε) < ε c.p.. (2.2) Como esto es válido para todo ε > y la sucesió X /, obteemos que (c) es cierto. El recíproco se demuestra de maera similar.

7 2.3. LEYES FUERTES DE GRANDES NÚMEROS 35 Teorema 2.3 (LFGN de Kolmogorov) Sea (X, ) ua sucesió de v.a.i.i.d. Existe c R tal que X = S c c.p. (2.3) si y solo si E( X ) <, y e este caso c = E(X ). Demostració. Si E( X ) < el teorema de Etemadi implica el resultado. Veamos el recíproco, supogamos que (2.3) es válida. Teemos X = S S = S ( ) S c c = c.p. y el lema 2. implica el resultado Aplicacioes Comezamos por el teorema de Gliveko-Catelli. Sea (X, ) ua sucesió de v.a.i.i.d. co distribució comú F. La fució de distribució empírica (f.d.e.) basada e las primeras variables de esta sucesió se deota F (x) y se defie para x R por F (x, ω) = (,x] (X i (ω)). i= Como vemos, la f.d.e. correspode a la medida uiforme sobre los putos {X (ω), X 2 (ω),..., X (ω)} y por lo tato F tiee saltos de altura / e los putos de este cojuto. Si hay valores repetidos, la altura de los saltos es / multiplicado por el úmero de repeticioes del valor. Para x fijo, F (x, ) es ua variable aleatoria acotada y es el estimador atural de la fució de distribució F (x). Podemos hallar su valor esperado E( F (x, ω)) = E( {Xj(ω) x}) = j= P (X j (ω) x) = F (x) j= de modo que, para cada x, F (x) es u estimador isesgado de F (x). Mas aú, por la Ley Fuerte de los Grades Números, para cada x existe u cojuto ulo A x tal que lím F (x, ω) = F (x) (2.4) siempre que ω / A x. El teorema de Gliveko-Catelli os dice que u resultado más fuerte es cierto. Nos dice que la covergecia e (2.4) es cierta simultáeamete para todo x co probabilidad y además que la covergecia es uiforme. Teorema 2.4 (Gliveko-Catelli) Sea X,..., X ua colecció de v.a.i. co distribució comú F y sea F (x) = F (x, ω) la fució de distribució empírica correspodiete. Etoces co probabilidad. sup F (x) F (x) x Ates de ver la demostració de este teorema itroducimos la fució de cuatiles asociada a la f.d. F. La fució de cuatiles (f.c.) Q es la iversa (geeralizada) de F : para cualquier u (, ) Q(u) = F (u) = íf{s : F (s) u}.

8 36 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS Propiedades. Q es creciete (e setido amplio) y cotiua por la izquierda. Supogamos u < v ambos e (, ), etoces Q(u) = íf{s : F (s) u} íf{s : F (s) v} = Q(v). Para ver que es cotiua por la izquierda supogamos que u (, ), u u pero Q(u ) Q(u ) < Q(u). Etoces existe δ > e y tales que para todo, Q(u ) < y < Q(u) δ La primera desigualdad y la defiició de Q dice que F (y) u para todo, y haciedo obteemos F (y) u, de dode, por la defiició de Q, obteemos y Q(u) pero y < Q(u) δ, lo cual es ua cotradicció. 2. F (Q(u)) u. Comezamos por ver que el cojuto A(u) = {s : F (s) u} es cerrado. Si s A(u) y s s etoces u F (s ) F (s), de modo que F (s) u y s A(u). Si s s y s A(u) etoces u F (s ) F (s ) F (s) y F (s) u, de modo que s A(u) de uevo y A(u) es cerrado. Como A(u) es cerrado, íf A(u) A(u), es decir, Q(u) A(u), lo que implica que F (Q(u)) u. 3. Q(u) t sii u F (t); Q(u) > t sii u > F (t). Esto es cosecuecia de la defiició de Q. 4. F (Q(u) ) u F (Q(u)). La seguda desigualdad es la propiedad 2. Para ver la primera tomamos t < Q(u), por la propiedad aterior esto equivale a F (t) < u. Haciedo t Q(u) obteemos la primera desigualdad. 5. Sea X F y defiamos Y = ax + b. La f.d. de Y es F Y (y) = P (Y y) = P (ax + b y) = P (X y b a ) = F X( y b a ) Ua trasformació de este tipo se cooce como u cambio de ubicació y escala; a es el parámetro de escala y b el de ubicació. La fució de cuatiles de Y es Q Y (u) = aq X (u) + b (Esto es fácil de ver si F X es cotiua y estrictamete creciete, de modo que Q X es la iversa de F X ). Por lo tato, ua trasformació lieal de la variable X, produce ua trasformació lieal del mismo tipo e la fució de cuatiles. 6. Sea ([, ], B, m) el espacio de Lebesgue y sea U ua v.a. co distribució uiforme (su f.d. es la fució idetidad e [, ]). Si F es ua f.d. y Q es la f.c. correspodiete, etoces Q(U( )) es ua variable aleatoria e [, ] co f.d. F: m(q(u) t) = m(u F (t)) = F (t). La fució de cuatiles empírica (f.c.e.) Q es la iversa geeralizada de F, es decir, es la fució defiida sobre (, ) co valores e R tal que, dado u, < u <, Q (u) es el meor valor a la izquierda del cual se ecuetra ua proporció u de los datos. Si llamamos X () X (2) X () a los estadísticos de orde de la muestra, etoces Q (u) = X (i) cuado i < u i.

9 2.3. LEYES FUERTES DE GRANDES NÚMEROS 37 Regresamos ahora a la demostració del teorema Demostració del teorema de Gliveko-Catelli. Al igual que e la demostració de (2.4) pero co los cojutos {X j (ω) < x} e lugar de {X j (ω) x}, la LFGN implica que lím F (x, ω) = F (x ) salvo e u cojuto B x de medida. Sea x m,k = Q(k/m), k m, m. Por la propiedad 4 de las fucioes de cuatil F (x m,k ) (k/m) F (x m,k ) y e cosecuecia Defiimos F (x m,k ) F (x m,k ) m, F (x m, ) m, F (x m,m) m. D (ω) = sup F (x, ω) F (x) x D m, (ω) = máx k m Si x m,k x < x m,k teemos { F (x m,k, ω) F (x m,k ), F (x m,k, ω) F (x m,k ) } F (x, ω) F (x m,k, ω) F (x m,k ) + D m,(ω) F (x) + m + D m,(ω) F (x, ω) F (x m,k, ω) F (x m,k ) D m, (ω) F (x) m D m,(ω) Es posible demostrar desigualdades similares para los casos x < x m, y x x m,m y a partir de todas estas desigualdades podemos cocluir que D (ω) D m, (ω) + m. (2.5) Si ω o está e el cojuto m,k (A xm,k B xm,k ), que tiee probabilidad, etoces lím D m, (ω) = y e cosecuecia lím D (ω) = por (2.6). La seguda aplicació de la LFGN es al método MoteCarlo, ivetado e la década de 94 por Staislav Ulam. Auque el método puede ser aplicado e muchos cotextos, vamos a presetarlo cosiderado el problema de aproximar ua itegral defiida. Para simplificar supogamos que f es ua fució acotada, defiida e el itervalo [a, b] y sea U ua v.a. co distribució uiforme e el mismo itervalo. La fució f(u) tambié es ua variable aleatoria cuyo valor esperado es E(f(U)) = b a f(x) df U (x) = b a f(x) b a dx ya que U tiee distribució uiforme. Por lo tato, si (U, ) es ua sucesió de v.a.i. co distribució uiforme e [a, b], la LFGN os dice que, co probabilidad, b a f(u i ) (b a) E(f(U)) = i= b a f(x) dx. El método MoteCarlo cosiste e simular las v.a. U y calcular la suma e la expresió aterior para aproximar el valor de la itegral. E geeral, si A es ua catidad que deseamos aproximar uméricamete y existe ua fució f y ua variable aleatoria X cuya distribució es fácil de simular e ua computadora y se satisface que A = E(f(X)) etoces podemos aplicar el método MoteCarlo para aproximar A.

10 38 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS Ejemplo 2. Supogamos que queremos hallar la probabilidad de que ua variable X co distribució ormal de parámetros µ = y σ 2 = 2 tome valores e el itervalo [, 2], esto es P (X [, 2]) = 2 4π exp{ x2 4 } dx Para esto geeramos variables uiformes e [, 2], evaluamos el itegrado e estos valores, calculamos su promedio y lo multiplicamos por 2. El código de R que sigue hace esto. <- x <- ruif()*2 y <- exp(-x 2/4)/(2*sqrt(pi)) prob <- 2*sum(y)/ Para teer ua idea de la precisió de la aproximació, comparamos co el valor que obteemos usado la fució porm, que calcula los valores de la fució de distribució ormal. La istrucció sería porm(2,sd=sqrt(2))-.5. La siguiete tabla preseta los resultados para diversos valores de Cuadro 2.: Ejemplo del método MoteCarlo para la aproximació de ua probabilidad Gaussiaa. La tabla preseta los valores de la aproximació para diferetes tamaños de la muestra y compara co el valor que se obtiee usado la fució porm e R. Valor Error , , , ,, Supogamos ahora, para simplificar, que la fució f está defiida e el itervalo [, ]. Teiedo e cueta que ( ) E f(u i ) = f(x) dx es atural cosiderar la variaza (o la desviació típica) del promedio como ua medida del error que cometemos e la aproximació: ( ) Var f(u i ) = ( 2 Var ) f(u i ) y teiedo e cueta la idepedecia de las variables ( ) Var f(u i ) = 2 Var(f(U i )) = Var(f(U )). Recordado que Var(X) = E(X 2 ) (E(X) 2 ), podemos estimar el valor de la variaza del promedio por ( ) 2 ] f [ 2 (U i ) f(u i ). i= Es usual tomar la desviació típica como medida del error y los resultados ateriores muestra que la desviació típica decrece como /. Por lo tato, para reducir el error e u orde de magitud, que equivale a dividir el error por, hay que icremetar el tamaño de la muestra dos órdees de magitud, que equivale a multiplicar el tamaño de la muestra por. i=

11 2.4. CONVERGENCIA C.S. DE SUMAS DE V.A.I Covergecia c.s. de Sumas de v.a.i. E esta secció o supodremos que las variables tiee igual distribució. Proposició 2.2 (Desigualdad de Skorohod) Sea {X, } ua sucesió de v.a.i. y sea α > fijo. Para defiimos S = i= X i y Supoemos tambié que c <, etoces Demostració. Defiimos c = sup P ( S N S j > α). j N P (sup S j > 2α) j N c P ( S N > α). J = if{j : S j > 2α}, co la coveció de que if =. Observamos que {sup S j > 2α} = {J N} = j N dode la uió es sobre cojutos disjutos. Teemos Para justificar el último paso supogamos que N {J = j}, j= P ( S N > α) P ( S N > α, J N) N = P ( S N > α, J = j) j= N P ( S N S j α, J = j). (2.6) j= S N (ω) S j (ω) α, y J(ω) = j de modo que S j (ω) > 2α. Si fuese el caso que S N (ω) α, etoces sería cierto que S N (ω) S j (ω) > α, lo cual es imposible, de modo que S N (ω) > α. Hemos verificado que lo que justifica (2.6), es decir, { S N S j α, J = j} { S N > α, J = j} P ( S N > α) N P ( S N S j α, J = j). j= Además y S N S j = N i=j+ X j σ(x j+,..., X N ) {J = j} = {sup S i 2α, S j > 2α} σ(x,..., X j ) i<j

12 4 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS y por lo tato estos evetos so idepedietes. E cosecuecia P ( S N > α) N P ( S N S j α)p (J = j) j= N ( c)p (J = j) j= = ( c)p (J N) = ( c)p (sup S j > 2α). j N Para la demostració del teorema de Lévy ecesitamos el siguiete resultado Lema 2.2 Sea (X, ) ua sucesió moótoa de v.a. Si X X e probabilidad etoces X X c.s. Demostració. Ver problema 2 de la lista. Teorema 2.5 (Lévy) Si {X, } es ua sucesió de v.a.i. etoces X coverge e probabilidad X coverge c.p.. Si S = i= X i el euciado aterior dice que las siguietes afirmacioes so equivaletes. (S ) es de Cauchy e probabilidad. 2. (S ) coverge e probabilidad. 3. (S ) coverge co probabilidad. 4. (S ) es de Cauchy co probabilidad. Demostració. Supogamos que (S ) coverge e probabilidad, de modo que es de Cauchy e probabilidad. Demostraremos que es de Cauchy c.s. y e cosecuecia coverge c.s. Para ver que es de Cauchy c.s. ecesitamos demostrar que ξ N = sup S m S c.s., m, N cuado N. Observamos que (ξ N, N ) es ua sucesió decreciete y por lo tato basta mostrar P que ξ N cuado N. Como basta probar que ξ N = sup S m S N + S N S sup S m S N + sup S S N m, N m N N = 2 sup N S S N = 2 sup S N+j S N, j sup S N+j S N P. (2.7) j Dados ε > y < δ < /2, la hipótesis de que (S ) es de Cauchy e probabilidad implica que existe N ε,δ tal que P ( S m S m > ε 2 ) δ (2.8)

13 2.4. CONVERGENCIA C.S. DE SUMAS DE V.A.I. 4 siempre que m, m N ε,δ, y etoces siempre que N N ε,δ. Teemos P ( S N+j S N > ε ) δ, j, (2.9) 2 P (sup S N+j S N > ε) = P ( lim [ sup S N+j S N > ε]) j N N j = lim P ( sup S N+j S N > ε). N N j Queremos ahora usar la desigualdad de Skorohod. Sea X i = X N+i y Co esta otació teemos S j = j X i = i= j X N+i = S N+j S N. i= P ( sup N j S N+j S N > ε) = P ( sup N j S j > ε) sup j N P ( S N S j > ε 2 )P ( S N > ε 2 ) δ δ 2δ teiedo e cueta la selecció de δ. Observamos ahora que usado (2.8) obteemos sup j N P ( S N S j > ε 2 ) = sup j N P ( S N+N S N+j > ε 2 ) δ. Como podemos escoger δ arbitrariamete pequeño, esto demuestra el resultado. Teorema 2.6 (Criterio de Covergecia de Kolmogorov) Supogamos que (X, ) es ua sucesió de v.a.i. Si Var(X ) <, etoces (X E(X )) coverge c.p.. Demostració. Si pérdida de geeralidad podemos supoer que E(X j ) =. Etoces la suma de las variazas es E X 2 <. Esto implica que (S ) es de Cauchy e L 2 porque para m < S S m 2 2 = Var(S S m ) = E Xj 2, j=m+ cuado m,. E cosecuecia (S ) tambié es de Cauchy e probabilidad porque P ( S S m ε) ε 2 Var(S S m ) = ε 2 j=m+ Var(X j ) cuado, m. Por el Teorema de Lévy (S ) es covergete c.p..

14 42 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS 2.5. Leyes Fuertes de Grades Números II Lema 2.3 (Kroecker) Sea x k y a k dos sucesioes de úmeros reales tales que < a k. Si k= x k a k coverge, etoces lim a k= x k =. Demostració. Sea r = k=+ x k/a k de modo que r cuado. Dado ε > existe N = N (ε) tal que si N teemos r ε. Además de modo que Etoces, para N, x k = k= x k a k = r k r k (r k r k )a k k= = (a j+ a j )r j + a r a r. j= x k ( N (a j+ a j ) r j + a a k= = Cost a j= + ε a = o() + ε(a a N ) + ε 2ε + o(). j=n (a j+ a j ) + r a ) (a j+ a j ) r j j=n + a r a + a r a y esto demuestra el resultado. El lema de Kroecker permite demostrar la siguiete ley fuerte. Corolario 2.3 Sea (X, ) ua sucesió de v.a.i. co E(X) 2 <. Supogamos que existe ua sucesió b tal que Var( X k ) <, b k etoces k S E(S ) b c.p.. Demostració. Como la suma de las variazas es fiita, por el criterio de covergecia de Kolmogorov teemos que X E(X ) coverge c.p.. b

15 2.5. LEYES FUERTES DE GRANDES NÚMEROS II 43 y por el lema de Kroecker co probabilidad. b k= (X k E(X k )) Ejemplo 2.2 Sea (X, ) ua sucesió i.i.d. co distribució comú cotiua F. Defiimos µ = {Xj es u record} = j= dode j = {Xj es u record}, de modo que µ es el úmero de records e las primeras N observacioes. Proposició 2.3 El úmero de records e ua sucesió i.i.d. crece logaritmicamete y se tiee co probabilidad µ lim log =. Para la demostració usaremos el siguiete resultado de Aálisis Real: j log c j= cuado dode c > es la costate de Euler. Demostració. Teemos que las j so idepedietes, E( j ) = P ( j = ) = j, j= j Usado esto obteemos j=2 Var( j ) = E( 2 j) (E j ) 2 = j j 2 = j j 2. Var ( j ) = log j j=2 (log j) 2 Var( j) = Por lo tato el criterio de covergecia de Kolmogorov implica que ( j E( j ) ) j /j = log j log j coverge y por el lema de Kroecker pero Por lo tato log j= j=2 log j=2 j=2 ( j ) c.p., j j= ( j ) ( = j j log j= µ log = µ j= j log j= j j 2 (log j) 2 < ) ( = µ j log j= j= + j log. log ). j

16 44 CAPÍTULO 2. LEYES DE GRANDES NÚMEROS 2.6. El Teorema de las Tres Series de Kolmogorov Teorema 2.7 (Teorema de la Tres Series) Sea {X, } ua sucesió de v.a. idepedietes. Para que X coverja co probabilidad es ecesario y suficiete que exista c > tal que (a) P ( X > c) <. (b) Var(X { X c}) <. (c) E(X { X c}) coverge. Demostració de la suficiecia. Supogamos que las tres series coverge y defiamos Por (a) X = X { X c}. P (X X ) = P ( X > c) <, de modo que (X ) y (X ) so asitóticamete equivaletes. Por lo tato X coverge c.s. si y sólo si X coverge c.s. Usado (b) teemos Var(X ) < y por el criterio de covergecia de Kolmogorov (X E(X )) coverge c.s. Por (c) teemos que E(X ) coverge y e cosecuecia X coverge. La demostració de la ecesidad puede verse e el libro de Resick, o e el de Chug. Corolario 2.4 Si (X ) so v.a.i. co E X =, y E ( X 2 { X } + X { X >}) < (2.2) etoces X coverge c.s. = Demostració. Ejercicio (Ver problema 22, lista de problemas 3). Corolario 2.5 (Loève) Si (X, ) so v.a.i. y para ciertas costates < α 2 se tiee que E X α <, co E(X ) = cuado α 2, etoces X coverge c.s. Demostració. Podemos cosiderar por separado los casos α 2, y < α <,. E el primer caso X 2 { X } + X { X >} X α, de dode se obtiee (2.2). E el segudo E(X 2 + X ) { X } 2 E X α <,

17 2.6. EL TEOREMA DE LAS TRES SERIES DE KOLMOGOROV 45 y e ambos casos P ( X ) E X α <, de modo que las tres series del teorema 2.7 coverge. Ejemplo 2.3 Sea {X, } ua sucesió de v.a.i.i.d. co y cosideremos la serie P (X = ) = 2 = P (X = ) X, (2.2) que es la serie armóica co sigos aleatorios. La preguta que os hacemos es si esta serie es covergete c.s. Podemos usar el Teorema de las Tres Series co c = y todos los térmios de las series (a) y (c) vale cero, de modo que estas coverge trivialmete. Por otro lado Var(X /) = 2 de modo que la serie (b) tambié coverge y e cosecuecia (2.2) coverge c.s. Fialmete, euciamos si demostració u resultado coocido como la LFGN de Marcikiewicz- Zygmud. La demostració se puede ver e el libro de Chow & Teicher. Teorema 2.8 Si (X, ) es ua sucesió i.i.d. y S = X i etoces para cualquier p (, 2) S c /p c.p. para algua costate c si y sólo si E X p < y e este caso c = E(X ) si p < 2 mietras que c es arbitraria (y la podemos tomar igual a ) para < p <.