SEÑALES Y SISTEMAS Clase 5

Transcripción

1 SEÑALES Y SISTEMAS Clase 5 Carlos H. Muravchik 15 de Marzo de / 43 Habíamos visto: Repaso Probabilidades (sobrevuelo) Veremos: 1. Repaso Probabilidades 2. Repaso Variables aleatorias. Distribuciones. Propiedades. 3. Repaso Esperanza. Propiedades. 4. Repaso Algunas distribuciones y densidades continuas y discretas. 5. Repaso Función de variable aleatoria. 6. Repaso Momentos, función característica. 7. Distribución y densidad conjunta. Luego: Distribución Condicional. Procesos Estocásticos. Introducción, realizaciones Ejemplos. 3 / 43

2 Repaso de probabilidades 1 Ω: conjunto universal o colección de los resultados del experimento aleatorio (salidas ω i Ω). A, B o A k, k = 0, 1, 2...: eventos o colecciones de salidas de interés. A: colección de todos los posibles eventos A k A. A es una sigma-álgebra: mínimo conjunto que contiene todos los posibles eventos formables por unión, intersección o complemento una cantidad denumerable de veces. Axiomas: 1. 0 P{A} 1 2. P{Ω} = 1 (y P{ } = 0) 3. A, B disjuntos (A B = ) entonces P{A B} = P{A} + P{B}. Se extiende a un número infinito (contable) de eventos (versión 3b del axioma). 5 / 43 Repaso de probabilidades 2 Probabilidad condicional: P{A/B} = P{A B} P{B}, cuando P{B} 0. Interpretación de frecuencia. Independencia: A, B independientes cuando P{A B} = P{A}P{B} ó P{A/B} = P{A} 6 / 43

3 Repaso de probabilidades 3 Teorema de Bayes: P{B i /A} = P{A/B i }P{B i } P{A} conjuntos mutuamente excluyentes: Ω = n i=1 B i y B i B j ; i j, 1 (i, j) n Probabilidad Total: P{A} = n k=1 P{A/B k}p{b k } 7 / 43 Variable Aleatoria 1 Conexión directa de Ω con el mundo físico: dar valores cuantitativos a las salidas de un experimento aleatorio y a los eventos. Una variable aleatoria X es una función (!) X : Ω R. Requisito importante: una función X puede ser una VA (real) si los puntos del intervalo (, x] corresponden a un evento de Ω, para cualquier x R. 9 / 43

4 Variable Aleatoria 2 Notar que X denota una variable aleatoria; pero x denota un número real. Definiendo A = {ω Ω : X(ω) x} permite hablar de la Probab{X x} asignándole el valor P{A}. Para abreviar, hablamos directamente de P{X x} y cuando haga falta, escribiremos los ω cuidadosamente. 10 / 43 Variable Aleatoria 3 VA discreta: el rango de X es denumerable (toma un número finito o infinito contable de posibles valores). Ejemplos: moneda, ruleta, existencia de errores de transmisión en una comunicación, número de errores de. transmisión en un paquete de datos VA continua: el rango de X es infinito no denumerable. Ejemplos: ruleta continua o rueda de la fortuna, altura de una población, valor de resistencia de resistores, duración de una llamada telefónica. VA mixta: mezcla continua-discreta. Ejemplo: tiempo de espera de un auto en una esquina. 11 / 43

5 Probabilidad con VA discretas X toma valores {x k, k Z}. Uno o varios ω i originan a través de X la posibilidad de que se dé el valor X = x k. Luego P{A k } = p k = P{X = x k } con A k = i ω i. Cómo calcular P{X x}? Aprovechar que A k son disjuntos: P{X x} = x i x P{X = x i} = x i x p i. Y en general, para cualquier conjunto A R, P{A} se puede calcular: 1) encontrando todos los ω k tales que X(ω k ) = x k A; con esas salidas se forma A = ω k. 2) como las salidas son conjuntos elementales disjuntos, la probabilidad de su unión se calcula fácil P{A} = x k A p k 12 / 43 Distribución Acumulativa 1 para VA continuas el método anterior, falla: las uniones de salidas son no-numerables. La DA se define para manejar las probabilidades de que una VA tome ciertos valores. Esencialmente para VA continuas, pero también para discretas. F X (x) P{ω Ω : X(ω) x} = P{X x}. Para abreviar, hablamos directamente de P{X x} y cuando haga falta, escribiremos los ω cuidadosamente. 13 / 43

6 Distribución Acumulativa 2 Pero hay otros conjuntos de interés Se pueden fabricar por uniones, intersecciones y complementos (recordar el Axioma 3). Ejemplo: Si x 2 < x 1, considerar: (, x 1 ] (, x 2 ], lím n (x 2 1/n, x 2 ], etc. Hay un mínimo conjunto que contiene a todos los conjuntos que resultan por uniones, intersecciones y complementos (denumerables) de conjuntos elementales (, x]: se llama Boreliano B. Se puede asignar probabilidades a cualquier subconjunto de B. 14 / 43 Distribución Acumulativa 3 Propiedades 1. F X ( ) = 0 2. F X ( ) = F X (x) 1 4. F X (x) es una función creciente, continua por derecha 15 / 43

7 Densidad de probabilidad Motivación: Para VA continuas, P{X = x k }=0... Cómo calcular P{A}? Definición: Densidad de probabilidad Luego f X (x) = F X (x) x P{A} = A = x F X (x) f X (x)dx Notar: La fdp f X (x) NO es una probabilidad En todo caso f X (x) dx P{x < X x + dx} 16 / 43 Densidad de probabilidad 2 P{A} = A f X (x)dx Propiedades: f X (x) 0; x R F X (x) = x f X (λ)dλ f X (λ)dλ = F X ( ) F X ( ) = 1 P{x 1 < X x 2 } = F X (x 2 ) F X (x 1 ) = x 2 x 1 f X (λ)dλ 17 / 43

8 Esperanza matemática 1 Motivación: promedio ponderado de la VA Definición: para VA discretas E {X} k= x k P{X = x k } Definición: para VA continuas E {X} λf X (λ)dλ 19 / 43 Esperanza matemática 2 Sumas de Riemann: λf X (λ)dλ i x i f X (x i )(x i+1 x i ) ver que la ponderación de cada x i es f X (x i )(x i+1 x i ) P{x i < X x i+1 }. 20 / 43

9 Esperanza matemática 3 Propiedades E {X} = µ X se suele llamar media estadística o media. Si c R es una constante, E {c} = c. Si a, b R son constantes, E {ax + b} = ae {X} + b. Si X > 0, E {X} > 0. Valor cuadrático medio: E {X 2 }; media estadística de la (VA al cuadrado). Varianza: Var {X} E {(X E {X}) 2 } = E {X 2 } (E {X}) 2 = E {X 2 } µ 2 X. 21 / 43 Normal o Gaussiana X N (µ, σ 2 ) cuando la fdp es f X (x) = 1 2πσ e 1 2 ((x µ)/σ)2 Dos parámetros: media µ y varianza σ 2 Teorema del límite central: (versión simple) La suma de muchas VA, no importa cual sea su distribución pero que tengan media y varianza finitas, tiende a ser una VA gaussiana. Permite argumentar físicamente para postular una distribución. Ejemplos: ruido electrónico (térmico), ruido de fondo espacial (expansión del universo). 23 / 43

10 Uniforme, Exponencial X U(a, b) cuando la fdp es f X (x) = 1 (u(x a) u(x b)) b a Los parámetros a, b definen la fdp. Ejemplo: fase al origen del oscilador senoidal. X E(λ) cuando la fdp es f X (x) = λe λx u(x) Un único parámetro: λ > 0. Describe tiempo entre arribos bajo ciertas hipótesis (las de Poisson con parámetro λ). Ejemplo: intervalo entre demandas de servicio a una central telefónica. Distribución desmemoriada : si s, t R +, P{X > s + t/x > s} = P{X>s+t} P{X>s} = = e λt. 24 / 43 Otras distribuciones de VA continuas: Doble exponencial (Laplace), Cauchy, Rayleigh, χ 2, Gamma, etc 25 / 43

11 Bernouilli, Geométrica Bernouilli: X B(p) X = { 1 con probabilidad p 0 con probabilidad q = 1 p Paradigma: éxitos ocurren con probabilidad p, fallas con q Geométrica: X G(p) P{X = x} = q x p Paradigma: intentos Bernouilli indep tes; número de fallos (X) hasta el primer éxito. F X (x) Distribución Acumulativa Geométrica{p=0.1} A veces se usa Y = X + 1: número de intentos hasta tener el primer éxito x 27 / 43 Binomial Binomial: X Bi(p, n) P{X = x} = ( ) n p x q n x x Paradigma: número de éxitos (x) en n intentos independientes P{X=x} Binomial{p=1e 5; n=5e5} x Ejemplos: número de errores de transmisión en un paquete de n bits 28 / 43

12 Poisson Cuenta el número de arribos ó éxitos en un lapso t. X P(λ t) con x Z λ t (λ t)x x P{X = x} = e ; P{X x} = e λ t (λ t) k x! k! k=1 Notar: frecuentemente se supone t = 1 y el parámetro es λ Poisson {λ=10} 1 Poisson {λ=10} P{X=x} F X (x) x x 29 / 43 Poisson Paradigma: Las hipótesis para que X P(λ t) son: 1. P{X = 1} λ t cuando t los arribos son independientes entre sí. 3. no ocurren 2 arribos en forma simultánea. Ejemplos: número de paquetes de información que llegan a un servidor; número de fotones que arriban a un fotodiodo, etc 30 / 43

13 Función de una VA - Intro Motivación: A menudo interesa una función de la VA cuya distribución se conoce. Ejemplo: se conoce que una amplitud X F X (x), pero interesa la distribución F Y (y) de la potencia instantánea Y = X 2. Supongamos que Y = g(x) con g : R R Técnica básica: (en la serie de problemas) F Y (y) = P{Y y} = P{g(X) y} = = P{ω Ω : g(x(ω)) y} = P{g(X) y} = = P{X g 1 (A y )} donde A y = {y R : y y } P{X g 1 (A y )} se puede calcular usando sólo F X (x) g 1 (A y ) denota la imagen inversa por g del conjunto A y : el conjunto de valores de X que satisfacen g(x) y Nota: g 1 (y) no es la función inversa de g( ), que podría no existir. 32 / 43 Función de una VA - 2 La técnica anterior es válida para VA discretas o continuas F Y (y) = P{X g 1 (A y )} Si la VA es continua se puede calcular f Y (y) = F Y (y) y. Note que A y es función de y 33 / 43

14 Función de una VA - 3 Ejemplo: Y = X 2 a) Si y < 0, F Y (y) = P{X } b) Si y = 0, F Y (y) = P{X = 0} c) Si y > 0, F Y (y) = P{(x 1 X x 2 )} = F X (x 2 ) F X (x 1 ) + P{X = x 1 } con x 1 = y; x 2 = y f Y (y) = df Y (y) dy = f X ( 1 y) 2 y + f X ( 1 y) 2 y 34 / 43 Función de una VA - 4 Observación: Aún si g es continua y X una VA continua, Y = g(x) puede resultar una VA discreta, mixta o continua. Ejemplo: Considere los 3 casos siguientes con X U(a, b) Y discreta Y mixta Y continua 35 / 43

15 Resultado Una de las consecuencias más importantes para Y = g(x) es que: µ Y = E {Y } = con f Y (y) obtenida como antes, y y f Y (y) dy µ g = E {g(x)} = g(x) f X (x) dx son iguales, o sea µ Y = µ g. µ Y = E {Y } = µ g = E {g(x)} Esto no es trivial como parece, es un profundo resultado de la teoría de la medida en análisis Escriba el equivalente para VA discretas 36 / 43 Función característica Definición: Φ X (u) = E {e jux } = e jux f X (x) dx Como veremos Φ X (u) = F{f X (x)}( u/2π) Entre sus usos, es otro método para obtener densidades de funciones de VA: Si Y = g(x) y podemos calcular Φ g (u) = E {e j u g(x) } entonces, la antitransformada de Fourier de Φ g (u) define f Y (y) (bajo ciertas hipótesis técnicas). 38 / 43

16 Función característica VA discreta Definición: Φ X (u) = E {e jux } = k= e jux k p k con p k = P{X = x k } Similar a VA continua, pero cambiando lo obvio. Como veremos Φ X (u) es la transformada de Fourier de tiempo discreto (TFTD) de la secuencia de los p k, cuando x k = k x (x k equiespaciados). Entre sus usos: otro método para obtener distribuciones de funciones de VA. 39 / 43 Momentos Definición: momento (no central) de orden r-simo m r = E {X r } = x r f X (x) dx r Z Definición: momento central de orden r-simo, con r Z µ r = E {(X E {X}) r } = E {(X µ X ) r } = (x µ X ) r f X (x) dx con µ X = m 1 Al ver Transformada de Fourier veremos la relación entre densidades, momentos y funciones características. Anticipo: {conocer la densidad} {conocer la función característica} {conocer todos los momentos y que converja la serie de McLaurin de la Φ(u)}. La media µ X es m 1, el valor cuadrático medio m 2 y la varianza µ / 43

17 Momentos VA discretas Definición: momento (no central) de orden r-simo m r = E {X r } = k= x r k p k r Z Definición: momento central de orden r-simo, con r Z µ r = E {(X E {X}) r } = E {(X µ X ) r } = k= (x k µ X ) r p k con p k = P{X = x k } y µ X = m 1. Al ver TFTD comentaremos la relación entre densidades, momentos y funciones características para x k equiespaciados. La media µ X es m 1, el valor cuadrático medio m 2 y la varianza µ / 43 Próxima Clase Distribuciones conjuntas y condicionales Procesos estocásticos Clases de procesos. Distribución, densidad. Independencia. Secuencias iid, ruido blanco. Media estadística. Y después, Funciones de correlación y covarianza. Otros momentos. Correlación de señales determinísticas (de energía y potencia). Correlación: concepto; notación: orden, conjugada y desplazamiento de las variables, propiedades autocorrelación e intercorrelación. 43 / 43