Tema 5. Sucesiones de Variables Aleatorias

Transcripción

1 CSA. Sucesioes de VA Tema 5. Sucesioes de Variables Aleatorias. CONCEPTO E muchos problemas de procesado de señal o image, cotrol digital y comuicacioes dispoemos de datos muestreados e u determiado orde temporal; estos datos puede modelarse como observacioes de ua VA que va cambiado de distribució a lo largo del tiempo. E otras ocasioes o dispodremos de muestras, sio de los valores verdaderos de la variable e distitos istates de tiempo (piésese, por ejemplo, e el valor de u registro e u ordeador, o e algo ta simple como el lazamieto repetido de ua moeda). Estos problemas se solucioa utilizado u modelo probabilístico más geeral que el estudiado hasta ahora: las secuecias aleatorias. E este tema estudiaremos el cocepto y las pricipales propiedades de estos modelos. Como veremos las secuecias estocásticas se puede pesar como u vector aleatorio ifiito-dimesioal. Si la dimesió del vector es umerable hablaremos de procesos e tiempo discreto y e otro caso hablaremos de procesos e tiempo cotiuo, que será tratados e el próximo tema. Formalmete, diremos que ua sucesió de VA o proceso estocástico e tiempo discreto es ua familia umerable de variables aleatorias {X,, X, } tal que cualquier subfamilia fiita de ella es ua VA -dimesioal. La represetaremos por: X = o X[] = Para u valor cocreto de cada VA tedremos ua sucesió de úmeros reales llamada realizació o trayectoria del proceso. E muchas ocasioes es iteresate estudiar las propiedades asitóticas de las secuecias aleatorias, propiedades que, ievitablemete vedrá ligadas a coceptos como límite o covergecia. Al trabajar co variables aleatorias, tedremos que defiir ua medida de covergecia para las sucesioes. A cotiuació defiimos los criterios de covergecia más utilizados habitualmete: Covergecia putual: Es la covergecia de ua trayectoria pesada como ua sucesió de úmeros reales. Se utiliza poco, pues ada os asegura que el límite sea ua VA. Covergecia e probabilidad o débil: X P X lim P{ω/ X (ω)-x(ω) < ε} = Å ε > Covergecia casi segura o fuerte: X cs X P{ω/ lim X (ω) = X(ω)} = Covergecia e distribució:

2 2 Departameto de Teoría de la Señal y Comuicacioes. Uiversidad de Vigo X D X lim F (x) = F(x) para todo puto de cotiuidad de F Covergecia e media cuadrática: X mc X lim E{ X -X 2 } = Los distitos tipos de covergecia está relacioados etre ellos: Las covergecias casi segura y e media cuadrática implica covergecia e probabilidad, mietras que ésta implica covergecia e distribució. El siguiete esquema ilustra la situació e u espacio de sucesioes de VA. P D cs mc 2. LEYES DE LOS GRANDES NÚMEROS E muchas situacioes os iteresará estudiar el límite de algua fució de la sucesió tal como la suma o el promedio. E los temas ateriores hemos visto alguas propiedades de la suma fiita de variables aleatorias: - La esperaza de la suma es la suma de las esperazas - Si las variables so icorreladas, la variaza de la suma es la suma de las variazas - Si las variables so idepedietes, la fdp de la suma es el producto de covolució de las fdp (caso cotiuo) y la fució característica de la suma es el producto de las fucioes características. A cotiuació euciaremos alguos resultados relativos a la covergecia de promedios de variables aleatorias: las leyes de los grades úmeros. Leyes débiles de los grades úmeros Teorema de Markov : Sea {X } ua sucesió de VA tales que todas las VA tega esperaza y variaza fiita, sea icorreladas dos a dos y verifique la codició: Etoces se verifica: 2 k= X k k= Var(X k ) - E(X k ) k= P Obs: U caso particular de este teorema es aquel e el que las variables de la sucesió so

3 CSA. Sucesioes de VA 3 idéticamete distribuidas, es decir, todas tiee la misma distribució co los mismos parámetros, por lo que tiee la misma media y variaza; e este caso el teorema de Markov os diría que el promedio de las VAcoverge a la media de la distribució. Leyes fuertes de los grades úmeros Teorema: Dada ua sucesió de VAmutuamete idepedietes, idéticamete distribuidas y co esperaza fiita µ, etoces el promedio de VA coverge casi seguro a la media de la distribució. X k k= c.s µ Esta es ua versió del teorema de Markov co hipótesis más duras, pero tambié se obtiee ua covergecia fuerte. Obs: La importacia práctica de las leyes de los grades úmeros radica e que os garatiza que promediado ua catidad suficietemete grade de valores observados de ua V.A. obteemos ua buea estimació de la media. Como corolario de las leyes de los grades úmeros se puede cocluir el coocido como teorema de Beroulli que os dice lo siguiete: Dado u espacio de probabilidad (Ω, F, P) y u suceso A de F tal que P(A) = p, etoces: f r (A) cs p = P(A) La demostració es muy secilla. Plateemos la repetició sucesiva e idepedietemete del experimeto y e la realizació -ésima defiimos la VA X que toma valor si ocurre el suceso Ay valor e otro caso. Evidetemete: P(X = ) = p; P(X = ) = -p; E{X } = p y las VA X so idepedietes e idéticamete distribuidas. Por las leyes de los grades úmeros: cs Xk.. p teorema. k= Dado que el promedio de las VA coicide co la frecuecia relativa del suceso A, se verifica el Co este resultado cerramos u camio que habíamos iiciado e el primer tema, cuado hablábamos de las posibles defiicioes de probabilidad. E aquel mometo dimos ua defiició frecuecial, pero optamos por utilizar ua defiició axiomática. A lo largo de los temas ateriores hemos ido realizado distitas iterpretacioes frecueciales de diferetes coceptos. Gracias al teorema de Beroulli, vemos que las dos defiicioes coicide, por lo que todas las iterpretacioes que hemos hecho deja de ser simplemete u puto de vista complemetario para pasar a ser ua realidad. 3. EL TEOREMA CENTRAL DEL LÍMITE

4 4 Departameto de Teoría de la Señal y Comuicacioes. Uiversidad de Vigo Setémoos delate de u ordeador y procedamos a obteer valores como suma de úmeros geerados aleatoriamete de acuerdo a ua ley uiforme. Si represetamos gráficamete e u histograma ua catidad suficietemete grade de los valores obteidos, observaremos que el histograma se parece a ua campaa de Gauss. Si e lugar de partir de ua distribució uiforme lo hacemos desde ua expoecial, ua Rayleigh, ua Cauchy o cualquier otra distribució observaremos que el resultado es el mismo. Ello es debido al teorema cetral del límite. El gra uso que la distribució ormal tiee e la ciecia y e la igeiería es debido, e parte, al hecho de que el error de medida o el ruido e sistemas de comuicació so debidos, a meudo, a la suma de muchos térmios aleatorios, idepedietes etre sí, co poca importacia si cosideramos cada uo de ellos por separado, pero que sumados produce ua desviació apreciable sobre la medida o la señal. E estas codicioes la distribució resultate de la suma de todos estos térmios se aproxima a ua distribució ormal. La bodad de esta aproximació depede de distitos elemetos, como el tipo de distribució de los sumados y su úmero. E geeral, la aproximació es mejor e toro a la media de la distribució, de ahí la iclusió del térmio cetral e la deomiació del teorema que describe este feómeo. Formalmete, el teorema cetral del límite (e ua de sus múltiples versioes) os dice que si teemos ua sucesió de VA cotiuas idepedietes e idéticamete distribuidas, co esperaza y variaza fiitas, etoces su suma es asitóticamete ormal; es decir: X() -E(X()) Si X() = X + +X, etoces D N(,) Var(X()) o, llamado µ y σ a la media y desviació típica de ua cualquiera de las VA: X() - µ D N(,) σ Existe distitas versioes de este teorema, por ejemplo la hipótesis de que las variables sea idéticamete distribuidas puede sustituirse por la de uiformemete acotadas (es decir, existe u valor que acota todos los posibles valores de todas las VA, ie. existe u úmero M/ X < M para todo valor de ). El teorema cetral del límite puede pesarse como ua propiedad de la covolució de fucioes positivas.

5 CSA. Sucesioes de VA 5 Ejemplo: La suma de uiformes coverge muy rápidamete a ua ormal (las distribucioes represetadas ha sido previamete estadarizadas)..4 TCL (uiforme).4 TCL (suma de 2 uiformes) TCL (suma de 4 uiformes) TCL (suma de 8 uiformes) Ejemplo 5.: Dispoiedo de u geerador uiforme de úmeros aleatorios, cómo simularías de modo eficiete ua N(,)?

6 6 Departameto de Teoría de la Señal y Comuicacioes. Uiversidad de Vigo Existe ua versió del teorema para variables discretas que puede euciarse como sigue: Si teemos ua sucesió de VAidepedietes; bajo las mismas hipótesis del caso cotiuo, si X= X + +X, E(X) = µ y Var(X) = σ 2 ; para ua valor de suficietemete grade se verifica que: (k-µ) 2 P(X=k) σ 2π e- 2σ 2 Es decir, f(x) tiede a ua sucesió de impulsos cuya evolvete es ua ormal Figura: Represetació de ua evolvete ormal para ua VA discreta Si aplicamos esta versió del teorema a ua sucesió de VA idepedietes co distribució de Beroulli (cuya suma es exactamete ua distribució biomial), tedremos el teorema de DeMoivre- Laplace que os asegura que ua distribució biomial X de parámetros y p se puede aproximar, para valores de suficietemete grades, por ua ormal de media p y variaza p(-p). Es decir: ( k p) PX k k p k p k p( p) ( = ) = ( ) e 2 2πp( p) Este resultado es especialmete útil para calcular probabilidades acumuladas e ua biomial cuado el parámetro es suficietemete grade. Ejemplo 5.2: A través de ua líea telefóica se trasmite ua serie de bits (ceros o uos co igual probabilidad). Aproxima la probabilidad de que el úmero de uos o difiera de 5 e más de cuatro. 2

7 CSA. Sucesioes de VA 7 EJERCICIOS PROPUESTOS: TCL. Stark. Ejemplo Pag. 27. Promedio de VA. Stark. Problema Pag 222. Problema Pag 222 Teorema de DeMoivre-Laplace. Papoulis. 2ª Ed.: Ej Pag. 96. El mismo problema está e Papoulis 3ª Ed.: Ej Pag 26. Nota: Las referecias idicadas para los problemas so válidas para la 2ª edició del Stark. LECTURAS RECOMENDADAS: Covergecia y teoremas límite. Papoulis. Secció 8.4 (3ª Ed.) o Seccioes 8.4 y 8.5 (2ª Ed.) Distribució gaussiaa y teorema cetral del límite. Li. Secció 3.5 INFORMACIÓN Y DOCUMENTACIÓN ADICIONAL: La documetació de este tema se complemeta co u boletí de problemas. E clases de laboratorio se realizará ua práctica de ordeador (práctica #7). Esta práctica dispoe de u euciado que es recomedable leer ates de asistir al laboratorio. Todo el material de la asigatura está dispoible e la fotocopiadora y e la direcció: