Detección y Estimación Maestría en Ing. Electrónica Capitulo I Probabilidad, Variables y Procesos Aleatorios

Transcripción

1 Detección y Estimación Maestría en Ing. Electrónica Capitulo I Probabilidad, Variables y Procesos Aleatorios D.U. Campos-Delgado Facultad de Ciencias UASLP Agosto-Diciembre/2017 1

2 CONTENIDO Espacio muestral y Eventos Axiomas y Propiedades de la Probabilidad Probabilidad Condicional e Independencia Variables Aleatorias Discretas y Continuas Densidad Probabiĺıstica y Distribuciones Variables Aleatorias con Distribución Conjunta Valores Esperados, Covarianza y Correlación Procesos Aleatorios Discretos y Continuos 2

3 Espacio muestral y Eventos DEFINICIÓN: un experimento es cualquier acción o proceso cuyo resultado está sujeto a incertidumbre. DEFINICIÓN: el espacio muestral de un experimento, denotado por S, es el conjunto de los posibles resultados de ese experimento. DEFINICIÓN: un evento es cualquier colección (subconjunto) de resultados contenida en el espacio muestral S. Se dice que un evento es simple si consiste de un solo resultado, y compuesto si consta de más de uno. Ejemplo: considerar el tirar un dado, cuál sería el espacio muestral?, como se podrían definir eventos simples y compuestos? 3

4 Axiomas y Propiedades Dados un experimento y un espacio muestral S, el objetivo de la probabilidad es asignar a cada evento A un número P(A), denominado probabilidad del evento A, que dará una medida más precisa de la posibilidad de su ocurrencia. Ya que un evento se puede asociar a un subconjunto dentro del espacio muestral, la probabilidad se puede definir como una medida para ese subconjunto dentro del espacio de probabilidad. AXIOMAS: Para cualquier evento A S, P(A) 0 y P(S) = 1. Si A 1,...,A n es una colección finita de eventos mutuamente excluyentes en S P(A 1... A n ) = n i=1 P(A i ). 4

5 U PROPIEDADES: Para cualquier evento A, P(A ) = 1 P(A). Si A y B son mutuamente excluyentes P(A B) = 0. Para dos eventos A y B P(A B) = P(A)+P(B) P(A B). Si E i son eventos simples y A = {E 1,...,E m } P(A) = ip(e i ). S S S A B A B A B P(A UB) P(A) P(B)-P(A B) Ejemplo: considerar que se lanzan dos dados por separado, cual es el espacio muestral? Sin ningún dado está cargado cada evento es equiprobable, cual es su prob.? Definir el evento A = { suma de los dos números = 7}, definir este conjunto y calcular su probabilidad. 5

6 Probabilidad Condicional e Indep. DEFINICIÓN: para dos eventos A y B con P(B) > 0, la probabilidad condicional de A dado que ocurrió B se define como: P(A B) P(A B). P(B) Considerar los eventos A 1,...,A n los cuales son excluyentes y exhaustivos (partición para S), entonces para cualquier otro evento B Ley de la Probabilidad Total: P(B) = P(B A 1 )P(A 1 )+...+P(B A n )P(A n ) Tma. de Bayes: si P(A i ) > 0 y P(B) > 0 P(A j B) = P(A j B) P(B) para j = 1,...,n. = P(B A j)p(a j ) ni=1 P(B A i )P(A i ) 6

7 Ejemplo: considerar un rara enfermedad, donde solo 1 de 1000 adultos la padecen. Para esta enfermedad se tiene una prueba farmacéutica, donde al tomarla un individuo que tiene la enfermedad tiene un resultado positivo el 99% de las veces, en tanto que un individuo sin la enfermedad presenta un resultado positivo solo un 2%. Se aplica la prueba a un individuo al azar, cuál es la probabilidad de que tenga la enfermedad si la prueba es positiva? DEFINICIÓN: dos eventos A y B son independientes si P(A B) = P(A), de los contrario son dependientes. Dos eventos mutuamente excluyentes son independientes? Además para dos eventos independientes P(A B) = P(A) P(B), y en general si A 1,...,A n son mutuamente independientes, se cumple. P i I A i = i I P(A i ) I {1,...,n} 7

8 Variables Aleatorias Discretas DEFINICIÓN: para un espacio muestral S de algún experimento, una variable aleatoria (VA) es una regla que asigna un número con cada resultado en S VA : S R. S DEFINICIÓN: cualquier VA cuyos posibles valores sean solo 0 y 1 se llama variable aleatoria de Bernoulli. DEFINICIÓN: una VA discreta es una variable cuyos posibles valores constituyen un conjunto finito, y una VA continua si su subconjunto de valores consiste en un intervalo completo de la recta real. Por lo general, las VA s se denotan por letras mayúsculas y los valores que toman por letras minúsculas. 8

9 DEFINICIÓN: la función masa de densidad probabiĺıstica (FMDP) p(x) de una VA discreta se define para todo número x mediante p(x) = P(X = x) = P( s S : X(s) = x) p(x) 0 y x R(X) p(x) = 1.0. Ejemplo 1: considerar las ventas de computadoras en una tienda de artículos de oficina que se dieron en 1 semana. Se define una VA por { 1 Compra de una Laptop X = 0 Compra de una Desktop Si el 20% eligió una Laptop, definir la función de densidad y graficarla. DEFINICIÓN: la función de distribución acumulada (FDA) F(x) de una VA con función de densidad p(x) se define como F(x) = P(X x) = y xp(y) F(x) representan la probabilidad de que el valor observado de X sea a lo sumo x. 9

10 Ejemplo 2: considerar que una compañía produjo 6 lotes de componentes, donde cada lote tuvo un cierto número de componentes defectuosos Lote # de Defectos Se elige un lote al azar para enviarlo a un cliente, y definir la variable aleatoria X que especifica el # de componentes defectuosos. Calcular las funciones de densidad y distribución acumulada de X, y graficarlas. PROPIEDAD: a,b con a b P(a X b) = F(b) F(a ) en particular, si a,b Z P(a X b) = F(b) F(a 1). 10

11 DEFINICIÓN: sea X una VA discreta con un conjunto D de valores posibles (rango) y función de densidad p(x) el valor esperado de X se denota por E(x) o µ X E(X) x p(x) x D Además si se define una función h(x), entonces su valor esperado será E[h(X)] x D h(x) p(x). PROPIEDAD: Si a,b R E(aX +b) = ae(x)+b. DEFINICIÓN: la varianza de X, denotada por V(X) ó σ 2 X, es V(X) E[(X µ X ) 2 ] y la desviación estándar (DE) de X es σ X. V(X) = 11

12 PROPIEDADES: V(X) = E(X 2 ) [E(X)] 2 = E(X 2 ) µ 2 X, Si a,b R V(aX +b) = a 2 V(X) = a 2 σ 2 X. DISTRIBUCIONES IMPORTANTES: Bernoulli: X = {0,1} y tomar 0 p 1 p(x) = { p x (1 p) 1 x x = {0,1} 0 cualquier otro caso Binomial: la VA se define como X = # de éxitos entre los n ensayos p(x) = { n! (n x)!x! px (1 p) n x x = 0,1,2,...,n 0 cualquier otro caso E(X) = np y V(X) = np(1 p). 12

13 Ejemplo 3: supóngase que 20% de las copias de un determinado libro de texto no pasan cierta prueba de calidad. Sea X el número entre 15 copias elegidas al azar que no pasan la prueba. Entonces X tiene una distribución binomial, definir sus parámetros y calcular (a). La probabilidad de que a lo sumo 8 o que exactamente 8 no pasen la prueba, (b). La probabilidad de que entre 4 y 7, inclusive, no pasen la prueba. Ejemplo 4: considerar el experimento de lanzar un dado en 10 ocasiones. Cuál es la probabilidad de obtener 6 en dos ocasiones?. Ejemplo 5: un receptor recibe una cadena de 0 s y 1 s, trasmitidos por una fuente. Para tomar una decisión acerca del dato transmitido, si el receptor recibe 3 símbolos y de esos 2 o 3 símbolos son cero, entonces decide que esos símbolos representan la transmisión de 0. 13

14 Si el receptor realiza una decisión correcta el 80% de las ocasiones. Cuál es la probabilidad de tomar una decisión adecuada, si las propiedades de enviar 0 y 1 son iguales? Geométrica: la VA se define como X = la primera ocurrencia de un evento A en el k-ésimo ensayo { (1 p) p(x) = x 1 p x = 1,2,... 0 cualquier otro caso E(X) = 1 p y V(X) = 1 p p 2. Poisson: con parámetro λ > 0 p(x) = e λ λ x x! E(X) = V(X) = λ. x = 0,1,2,... Distribución Binomial Distribución de Poisson, si n y p 0 en la Binomial y np λ. 14

15 Variables Aleatorias Continuas DEFINICIÓN: sea X una VA continua, entonces una función de densidad probabiĺıstica (FDP) de X es una función f(x), tal que a,b R con a b, P(a X b) = b a f(x)dx f(x) P(a<X<b) x 0 a b c R se cumple P(X = c) = 0, y a,b R con a < b se cumple P(a X b) = P(a < X < b). DEFINICIÓN: la función de distribución acumulada (FDA) F(x) para una VA continua X está definida por F(x) = P(X x) = x f(y)dy 15

16 PROPIEDADES: a R se cumple P(X > a) = 1 F(a). a,b R con a < b, P(a X b) = F(b) F(a). F (x) = f(x). DEFINICIÓN: el valor esperado o promedio de una VA continua X con FDP f(x) es la varianza µ X = E(X) = σ 2 X = V(X) = x f(x)dx, (x µ X) 2 f(x)dx y la desviación estándar (DE) es σ X = V(X). V(X) = E[(X µ X ) 2 ] = E(X 2 ) [E(X)] 2. y E[h(X)] = h(x) f(x)dx. 16

17 Densidad y Distribuciones DISTRIBUCIONES IMPORTANTES: Uniforme: considerar un intervalo [A, B] entonces la FDP está dada por f(x) = { 1 B A A x B 0 en otro caso Normal: definir los parámetros µ y σ donde < µ < y σ > 0, la FDP es f(x) = 1 e (x µ)2 2σ 2 2πσ < x < σ=0.25 σ= σ=1 σ=2 f(x) x 17

18 Normal Estándar: es una FDP normal con µ = 0 y σ = 1. Gamma: es una FDP de una VA continua X definida por f(x) = { 1 β α Γ(α) xα 1 e x/β x 0 0 en otro caso donde α,β son reales positivos y Γ( ) define la función gamma. Gamma Estándar: es una FDP gamma con β = α= f(x) α=1.0 α=2 α= x 18

19 Exponencial: se define en base a un parámetro λ > 0, y se expresa por f(x) = { λe λx x 0 0 en otro caso Ji-Cuadrada: (Chi-Square) sea ν un entero positivo, la FDP se expresa como f(x) = 1 2 ν/2 Γ(ν/2) xν/2 1 e x/2 x 0 0 x < 0 Rayleigh: considerar un parámetro σ > 0, la FDP se define como f(x) = x2 x σ2e 2σ 2 x 0 0 x < 0 Si se consideran 2 VA s continuas X 1 y X 2 con FDP normal la nueva VA Y = X1 2 +X2 2 tendrá una FDP Rayleigh. 19

20 2.5 2 σ= f(x) σ= σ=1.0 σ= x Lognormal: tomar una VA no negativa X, esta distribución se define en función de los parámetros µ y σ: f(x) = 1 e (ln(x) µ)2 2σ 2 x 0 2πxσ 0 x < 0 Si X es una VA con distribución normal Y = ln(x) tendrá distribución lognormal. 20

21 µ=1,σ= f(x) µ=3,σ= µ=3,σ= x Ejemplo 1: calcular las FDA de las distribuciones: (A) uniforme, (B) normal, (C) Exponencial, y (D) Rayleigh. Ejemplo 2: obtener el valor esperado y la varianza de las distribuciones: (A) uniforme, (B) normal, (C) gamma, (D) exponencial, y (E) Rayleigh. 21

22 Ejemplo 3: según un estudio el tiempo de reacción para una respuesta en tráfico a una señal de frenado de las luces de freno normales, se puede modelar como una distribución normal que tiene valor medio 1.25 s y desviación estándar 0.46 s Cuál es la probabilidad de que el tiempo de reacción esté entre 1.0 s y 1.75 s? y cuál es la probabilidad de que el tiempo de reacción exceda 2 s? Tma. del Limite Central: considerar una secuencia de VA s X 1,...,X n independientes e idénticamente distribuidas (i.i.d.); esto es, las correspondientes FDP s f Xi (x) con i = 1,...,n con iguales. Tomar a S n = n i=1 X i como la suma de las n VA s, con promedio finito m = m m n y varianza finita σ 2 = σ σ2 n, donde m i = E(X i ) y σ 2 i = V(X i ) para i = 1,...,n. La FDP de S n dada por f Sn (x) = f X1 (x)... f Xn (x) se acerca a una distribución normal si n, esto significa f Sn (x) 1 e (x m)2 2σ 2 2π 22

23 En relación a la FDA de una distribución normal, se pueden definir 2 funciones importantes en probabilidad Función de Error erf(x) erf(x) 2 π x 0 e u2 du erf( x) = erf(x) (impar). Función de Error Complementaria erfc(x) erf(x) 2 π x e u2 du erfc(x) = 1 erf(x) erfc(x) Función de Error erf(x) x 23

24 Distribuciones Conjuntas DEFINICIÓN: Considerar un espacio muestral S de un experimento, y asumir que sobre él se definen dos VA s discretas X y Y, p(x,y) es la función masa de probabilidad conjunta (FMPC) si para cualquier par ordenado (x,y) se cumple p(x,y) = P(X = x Y = y) Sea A cualquier conjunto que consiste de pares ordenados (x, y) la probabilidad de pertenencia a ese conjunto A es P [(X,Y) A] = (x,y) A p(x,y) DEFINICIÓN: la función masa de probabilidad marginal (FMPM) de X y Y, se denota por p X (x) y p Y (y) respectivamente, y están dadas por p X (x) = y p(x,y) p Y (y) = x p(x, y) 24

25 DEFINICIÓN: Considerar un espacio muestral S, y asumir que sobre él se definen dos VA s continuas X y Y, f(x,y) es la función de densidad probabiĺıstica conjunta (FDPC) si para cualquier conjunto A R 2 se cumple P [(X,Y) A] = A f(x,y)dx dy En particular, si A se define por un rectángulo, es decir A = {(x,y) : a x b,c y d} P [a X b,c Y d] = b a d c f(x,y)dx dy DEFINICIÓN: la función de densidad probabiĺıstica marginal (FDPM) de X y Y, se denota por f X (x) y f Y (y) respectivamente, y están dadas por f X (x) = f Y (y) = f(x,y)dy < x < f(x,y)dx < y < 25

26 DEF.: se dice que dos VA s X y Y son independientes, si para cada par de valores (x,y) o bien p(x,y) = p X (x) p Y (y) VA s discretas f(x,y) = f X (x) f Y (y) VA s continuas Si no se satisfacen estas condiciones para todo par (x,y) X y Y son dependientes. Esta definición se puede generalizar, las VA s X 1,...,X n son independientes si para todo subconjunto de las VA s, la FMPC o FDPC del subconjunto es igual al producto de las FMP s o FDP s marginales. Ejemplo 1: si X 1,...,X n representan los tiempos de vida de n componentes de un sistema, los componentes operan de forma independiente entre sí y cada tiempo de vida tiene una distribución exponencial con parámetro λ. Calcular las FDPC f(x 1,...,x n ). Si uno de estos n componentes falla, entonces el sistema no puede operar calcular la prob. de 26

27 de que el sistema opere pasando el tiempo t P(X 1 > t,...,x n > t) y la prob. de que el tiempo de vida del sistema sea menor o igual a t.

28 DEFINICIÓN: sean X y Y dos VA s continuas con FDP conjunta f(x,y) y FDP de X marginal f X (x) para cualquier valor x de X para el cual f X (x) > 0, la función de densidad de probabilidad condicional de Y dado que X = x es f Y X (y x) = f(x,y) f X (x) < y < Si X y Y son VA s discretas, la función masa de probabilidad condicional Y cuando X = x es p Y X (y x) = p(x,y) p X (x) 27

29 Ejemplo 2: un banco cuenta con una ventanilla para atender clientes en su automóvil y otra para clientes a pie. En un día elegido al azar, sea X = parte del tiempo que está en uso la ventanilla para atender los clientes en automóvil, y Y = parte del tiempo que está en uso la ventanilla para clientes a pie. Entonces el conjunto de posibles valores para (X,Y) es D = {(x,y) : 0 x 1,0 y 1}. Suponer que la FDP conjunta es f(x,y) = { 65 (x+y 2 ) (x,y) D 0 otro caso Comprobar que D f(x,y)dx dy = 1, Calcular las FDP s marginales para X y Y, Calcular la FDPC de Y dado que X = 0.8, Calcular la prob. de que la ventanilla de atención a clientes a pie esté ocupada a lo sumo la mitad del tiempo dado que X =

30 Covarianza y Correlación Sean X y Y dos VA s con FMP p(x,y) o FDP f(x,y) según las variables sean discretas o continuas el valor esperado de una función h(x,y), denotado por E[h(X,Y)], es E[h(X,Y)] = { y h(x,y) p(x,y) VA s discretas h(x,y) f(x,y)dx dy VA s continuas. x DEFINICIÓN: la covarianza entre dos VA s X y Y es Cov(X,Y) = E[(X µ X )(Y µ Y )] donde µ X = E(X) y µ Y = E(Y). Cov(X,Y) = E(X Y) µ X µ Y. 29

31 DEFINICIÓN: el coeficiente de correlación de X y Y, representado por Corr(X,Y) ρ X,Y, se define por ρ X,Y = Cov(X,Y) σ X σ Y PROPIEDADES: a,b,c,d R y a 0,c 0 Corr(aX +b,cy +d) = Corr(X,Y) Para dos VA s X y Y 1 Corr(X,Y) 1. Si X y Y son independientes ρ X,Y = 0, pero ρ X,Y = 0 no implica independencia. ρ X,Y = 1 o 1 Y = ax + b a,b R y a 0. Dos VA s se definen como ortogonales X Y si E[XY] = 0. 30

32 Ejemplo: una compañía vende latas de nueces mixtas que contienen almendras, castañas y maní. Suponga que el peso neto es exactamente de 1 lb, pero la contribución al peso de cada tipo nuez es aleatorio. Debido a que los 3 pesos suman 1 lb, un modelo probabiĺıstico conjunto para 2 tipos de nueces da la información necesaria acerca del peso del tercer tipo. Sea X = peso de las almendras en una lata seleccionada, y Y = peso de las castañas. Entonces la región de densidad positiva es D = {(x,y) : 0 x 1,0 y 1,x+y 1} 1.0 y D 0.5 x Definir la FDP conjunta por f(x,y) = { 24xy (x,y) D 0 otro caso 31

33 6 5 4 f(x,y) y x Verificar que D f(x,y)dx dy = 1, Calcular la FDP marginales para X y Y, Calcular los valores esperados y varianzas de X y Y, Encontrar la covarianza y correlación entre X y Y. 32

34 VA s Vectoriales Un vector aleatorio X es un vector X = [ X 1...X n ] donde X i son VA s que tienen asociadas cada una un espacio muestral S i S = S 1... S n. La probabilidad de que X este en una región D S es donde P[X D] = D f(x)dx x = [x 1... x n ] f(x) = f(x 1,...,x n ) = n F(x 1,...,x n ) x 1... x n es la densidad multivariable conjunta y F(x) = F(x 1,...,x n ) = P[X 1 x 1,...,X n x n ] es la distribución acumulada multivariable. 33

35 DEFINICIÓN: las VA s X 1,...,X n se denotan mutuamente independientes si los eventos {X i x i } i = 1,...,n son independientes entre si, es decir F(x 1,...,x n ) = F(x 1 ) F(x n ) f(x 1,...,x n ) = f(x 1 ) f(x n ). PROPIEDADES: Linealidad del Valor esperado E[h(X)] = h(x 1,...,x n )f(x 1,...,x n )dx 1...dx n E[α 1 h 1 (X)+...+α n h n (X)] = α 1 E[h 1 (X)]+...+α n E[h n (X)] donde α i R. Covarianza C ij Cov(X i,x j ) = E[(X i µ i )(X j µ j )] = E(X i X j ) µ i µ j donde µ i = E(X i ) y µ j = E(X j ). Coeficiente de Correlación ρ ij C ij σ i σ j donde σ 2 i = V(X i) y σ 2 j = V(X j). 34

36 Ejemplo considerar que se tiene n mediciones de una variable de valor φ con diferentes instrumentos, las cuales pueden ser modeladas como n VA s definidas por X i = φ+v i E(V i ) = 0 E(V 2 i ) = σ2 i donde V i representa el ruido en la medición y considerar que es i.i.d. Se busca encontrar una estimación lineal de φ, la cual se no polarizada y de varianza mínima, es decir se buscan encontrar las constantes α i para todo i = 1,...,n tal que la suma ˆΦ = α 1 X α n X n sea una VA con valor esperado E(ˆΦ) = α 1 E(X 1 )+...+α n E(X n ) = φ iα i = 1, y su varianza sea mínima. V = α 2 1 σ α2 nσ 2 n 35

37 Procesos Aleatorios DEFINICIÓN: un proceso aleatorio (PA) se define como un mapeo de elementos de un espacio muestral s S a funciones definidas en el tiempo X(t,s). x 1 (t) S 0 x 2 (t) t 0 t x n (t) 0 t=t o t Asociando a cada elemento del espacio muestral una función del tiempo se obtiene un familia del funciones ensamble. Cuando se fija el tiempo t a un instante t o, el PA X(t) se convierte en una VA X(t o ), y x(t o ) será una muestra de la VA. 36

38 TIPOS DE PA s: Proceso Aleatorio Continuos (PAC): X(t) y t tiene rangos continuos de valores. Proceso Aleatorio Discreto (PAD): X(t) toma solamente valores discretos, mientras que el tiempo t es una variable continua. Secuencia Aleatoria Continuos (SAC): X[n] = X n toma un rango continuo de valores, mientras que el tiempo se definen em base a un índice n entero. Secuencia Aleatoria Discreta (SAD): X n es una variable discretas y n es un índice entero. 37

39 X(t) PAC 0 t X(t) PAD 0 t X[n] SAC n X[n] SAD 1 n

40 Ejemplo 1: considerar un proceso aleatorio X(t) definido por X(t,s) = R(s)cos(ω o t+θ(s)) donde R y Θ son VA s con distribución uniforme { 1 f(θ) = 2π π θ π 0 otro caso f(r) = { 1 0 r 1 0 otro caso s S le corresponde una función X(t,s). 39

41 Para un tiempo específico t, X(t) es una VA con FDA F(x,t) = P[X(t) x] distribución de primer orden. Su derivada con respecto de x f(x,t) = F(x,t) x se define como densidad de primer orden de X(t). La distribución de segundo orden de X(t) es una distribución conjunta dada por F(x 1,x 2 ;t 1,t 2 ) = P[X(t 1 ) x 1,X(t 2 ) x 2 ] de las VA s X(t 1 ) y X(t 2 ) y las correspondiente densidad igual a f(x 1,x 2 ;t 1,t 2 ) = 2 F(x 1,x 2 ;t 1,t 2 ) x 1 x 2 En general, la distribución de n-orden para X(t) es la distribución conjunta F(x 1,...,x n ;t 1,...,t n ) para las VA s X(t 1 ),...,X(t n ). 40

42 Para conocer las propiedades estadísticas de X(t) se necesita el conocimiento de la distribución de n-orden para todo x i, t i y n. En ocasiones es suficiente conocer los valores esperados de X(t) y X 2 (t) Promedio: η X (t) E[X(t)] = x f(x,t)dx Autocorrelación: R XX (t 1,t 2 ) E[X(t 1 )X(t 2 )] = x 1 x 2 f(x 1,x 2 ;t 1,t 2 )dx 1 dx 2 para t 1 = t 2 = t se obtiene la energía promedio de X(t) R XX (t,t) = E[X 2 (t)] Autocovarianza C XX (t 1,t 2 ) R XX (t 1,t 2 ) η X (t 1 )η X (t 2 ) y su valor C XX (t,t) para t 1 = t 2 = t se define como la varianza de X(t). 41

43 PROPIEDADES: (a) Simetría: R XX (t 1,t 2 ) = R XX (t 2,t 1 ). (b) Positividad: R XX (t 1,t 1 ) = E[ X(t 1 ) 2 ] 0. (c) Desigualdad de Schwarz: R XX (t 1,t 2 ) 2 E [ X(t 1 ) 2] E [ X(t 2 ) 2] 42

44 DEFINICIÓN: un proceso estrictamente estacionario es aquel cuya distribución de probabilidad en un instante de tiempo fijo es la misma para todos los instantes de tiempo parámetros tales como la media y la varianza, si existen, no varían a lo largo del tiempo. DEFINICIÓN: cuando la autocorrelación R XX (t 1,t 2 ) de una proceso aleatorio X(t) varia solamente con respecto a la diferencia t 1 t 2, y su promedio η X es constante, X(t) se define como estacionario de sentido amplio R XX (t+τ,t) = R XX (τ). Un proceso aleatorio estacionario en sentido amplio solo requieren que el primer y segundo momento no varíen con respecto al tiempo. 43

45 Ejemplo 2: considerar nuevamente el proceso aleatorio X(t) definido por X(t) = Rcos(ω o t+θ) donde R y Θ son VA s independientes. Θ tiene distribución uniforme en [ π,π] y R en [0,1]. Calcular R XX (t,t+τ), X(t) es un proceso estacionario de sentido amplio?. Ejemplo 3: asumir que X(t) es un PA estacionario de sentido amplio con autocorrelación R XX (t,t+τ) = Ae α τ donde A,α R. Calcular E[(X(8) X(5)) 2 ]. Ejemplo 4: considerar el PA X(t) = Acosωt+Bsenωt Establecer condiciones en las VA s A y B tal que X(t) sea estacionario de sentido amplio. 44

46 Considerar dos PA s X(t) y Y(t): Correlación cruzada: R XY (t 1,t 2 ) E[X(t 1 )Y(t 2 )] Covarianza cruzada: C XY (t 1,t 2 ) E[{X(t 1 ) µ X (t 1 )}{Y(t 2 ) µ Y (t 2 )}] Si estos dos procesos X(t) y Y(t) son reales y estacionarios de sentido amplio, se cumple: R XX ( τ) = R XX (τ). R XX (0) = E [ X(t) 2] = µ 2 X +σ2 X 0. R XX (τ) R XX (0). ĺım τ R XX (τ) = µ X 2. R XY (τ) 2 R XX (0) R YY (0). R XY (τ) R XX(0)+R YY (0) 2. 45

47 Si dos PA s X(t) y Y(t) se definen como conjuntamente estacionarios de sentido amplio por separado deben poseer esta propiedad y R XY depende solo de τ = t 1 t 2 E[X(t+τ)Y(t)] = R XY (τ) DEFINICIÓN: dos PA s X(t) y Y(t) son ortogonales si R XY (t 1,t 2 ) = 0 t 1,t 2 y se definen como sin correlación C XY (t 1,t 2 ) = 0 t 1,t 2. DEFINICIÓN: un PA W(t) se conoce como ruido blanco si t i,t j con t i t j sus muestras W(t i ) y W(t j ) no tiene correlación. En general, también se asume E[W(t)] = W(t) t (seg) 46

48 DEFINICIÓN: si los procesos aleatorios X(t) y Y(t) son independientes cumplen que las VA s X(t 1 ),...,X(t n ) y Y(t 1 ),...,Y(t n ) son mutuamente independientes. DEFINICIÓN: un proceso X(t) se denomina como normal, si las VA s X(t 1 ),...,X(t n ) son normal conjuntamente para todo n y t 1,...,t n. Un proceso aleatorio normal puede ser definido completamente en base a su media η(t) y su autocovarianza C(t 1,t 2 ). Ejemplo 5: considerar un proceso normal X(t) definido por η(t) = 3 C(t 1,t 2 ) = 4e 0.2 t 1 t 2 t 1,t 2. (A) Encontrar la probabilidad de que X(5) 2. (B) Encontrar la probabilidad de que X(8) X(5) 1. 47

49 Dado un PA X(t), se puede asignar una función que a cada muestra X(s i,t) le asigne Y(s i,t) define otro PA. Y(t) = T [X(t)] Si T es determinístico si para dos muestras X(s 1,t) y X(s 2,t) de la entrada que son idénticas en t Y(s 1,t) y Y(s 2,t) son también idénticas en t. Si T es probabiĺıstico existen dos eventos s 1 y s 2 tal que X(s 1,t) = X(s 2,t) en t, pero Y(s 1,t) Y(s 2,t). Si un sistema se define en término de relaciones físicas o ecuaciones, entonces será determinístico (probabiĺıstico) si sus elementos o coeficientes son determinísticos (probabiĺısticos). 48

50 T es un operador sin memoria: E[Y(t)] = E[Y(t 1 )Y(t 2 )] = T(x)f(x,t)dx T(x 1 )T(x 2 )f(x 1,x 2,t 1,t 2 )dx 1 dx 2 T es un operador lineal invariante en el tiempo definido por la convolución: Y(t) = X(t) h(t) = X(t τ)h(τ)dτ donde h(t) representa la respuesta al impulso de T. Si X(t) es una PA normal, entonces Y(t) también lo será. Si X(t) es un PA estrictamente estacionario, entonces Y(t) también lo es. Si X(t) es un PA estrictamente estacionario en sentido amplio, entonces X(t) y Y(t) poseen esta propiedad de forma conjunta. 49

51 PROPIEDADES: E[T{X(t)}] = T {E[X(t)]} E[Y(t)] = η X (t) h(t) donde η X (t) = E[X(t)] R XY (t 1,t 2 ) = R XX (t 1,t 2 ) h(t 2 ) = T [R XX (t 1,t 2 )](t 2 ) R YY (t 1,t 2 ) = h(t 1 ) R XY (t 1,t 2 ) = T [R XY (t 1,t 2 )](t 1 ) Ejemplo 6: un proceso estacionario V(t) con autocorrelación R VV (τ) = qδ(τ) q > 0 (ruido blanco) se aplica en t = 0 a un sistema lineal definido por h(t) = e ct 1(t) donde c R + y 1(t) representa la función escalón unitario. Calcular la autocorrelación de la salida R YY (t 1,t 2 ) para 0 < t 1 < t 2, y la energía promedio de salida E[Y(t) 2 ]. 50

52 DEFINICIÓN: el espectro de potencia de un PA estacionario de sentido amplio X(t), real o complejo, es la transformada de Fourier S XX (ω) de su autocorrelación R XX (τ) = E[X(t+τ)X (t)] S XX (ω) = R XX(τ)e jωτ dτ. Como R XX ( τ) = R XX (τ) S XX (ω) es una función real de ω. DEFINICIÓN: el espectro de potencia cruzado de 2 PA s X(t) y Y(t) es la transformada de Fourier S XY (ω) de su correlación cruzada R XY (τ) = E[X(t+τ)Y (t)]: S XY (ω) = R XY(τ)e jωτ dτ. Como R XY ( τ) = E[X(t τ)y (t)] = RYX (τ) S XY (ω) = SYX (ω) es una función compleja par de ω. 51

53 Ejemplo 7: considerar un PA X(t) = acos(ω o t+ Θ), donde a,ω o > 0 y Θ es una VA uniformemente distribuida en el intervalo [0, 2π]. Determinar el espectro de potencia S XX (ω). Ejemplo 8: considerar un PA Y(t) = X(t T) donde X es estacionario de sentido amplio con autocorrelación R XX (τ) y espectro de potencia S XX (ω). T es una constante. Expresar el espectro de potencia cruzado S XY (ω) en función de S XX (ω). Si Y(t) = T [X(t)], T es un operador lineal invariante en el tiempo y X(t) es estacionario de sentido amplio se cumple R XY (τ) = R XX (τ) h( τ) S XY (ω) = S XX (ω)h (ω) donde H(ω) = F{h(t)}. R YY (τ) = R XY (τ) h(τ) S YY (ω) = S XY (ω)h(ω) = S XX (ω) H(ω) 2 52

54 Ejemplo 9: considerar que X(t) es ruido blanco con potencia promedio q, es decir R XX (τ) = qδ(τ). Considerar que Y = X(t) h(t), calcular S YY (ω). DEFINICIÓN: un PA X(t) es ergódico si todas sus propiedades estadísticas pueden ser determinadas a partir de una función muestra del proceso. Conjunto de Todos los PA's Estrictamente Estacionarios Ergódicos Estacionarios de Sentido Amplio 53

55 Dos conceptos más débiles: Ergódico en el promedio: si el promedio en tiempo de una muestra x(t) es igual al función promedio del ensamble E[X(t)] = ĺım T 1 2T T T x(t)dt Ergódico en la autocorrelación: si se cumple R XX (τ) = ĺım T 1 2T T T x(t+τ)x(t)dt Ejemplo 10: considerar un PA X(t) = acos(ω o t+ Θ), donde a,ω o > 0 y Θ es una VA uniformemente distribuida en el intervalo [0, 2π]. Demostrar que X(t) es ergódico en su promedio y autcorrelación. 54

56 Tarea # 1 Presentación electrónica y reporte acera de los siguientes PA s: Proceso de Poisson Proceso de Markov Random Walk Proceso Wiener Movimiento Browniano 55