TEORÍA DE LA COMUNICACIÓN TEMA 2 RUIDO EN LOS SISTEMA DE COMUNICACIONES. Variable aleatoria (Real)

Transcripción

1 TEORÍA DE LA COMUNICACIÓN TEMA 2 RUIDO EN LOS SISTEMA DE COMUNICACIONES Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria / 26 Variable aleatoria (Real) Función que asigna un valor numérico (real) a la salida de un experimento aleatorio Ω IR ω Ω X(ω) IR Ω ω ω 2 ω ω 3 4 X(ω 2 ) X(ω ) X(ω 3 ) X(ω 4 ) Rango de X: Rango X = {x IR ω Ω, X(ω) =x} Va discreta Va continua IR Descripción (probabilística): Función de distribución: F X (x) Función densidad de probabilidad: f x (x) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 2 / 26

2 Función de distribución Definición F X (x) =P(X x) Interpretación frecuencial (probabilística) n x F X (x) =P(X x) = lim n n n x : Número de resultados en las n realizaciones con X x Valores de la va X (a) Discreta!5 5 Valores de la va X (b) Continua Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 3 / 26 Estima de la función de distribución 4 3 2!!2! Teórica Estimada! Realizaciones de la va X (a) Realizaciones!3!2! 2 3 Valores de la va X (b) Estima de F X (x) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 4 / 26

3 Propiedades de la función de distribución F X (x) 2 x < x 2 F X (x ) F X (x 2 ) (F X (x) es no decreciente) 3 F X () = y F X ( ) = ( lim x F X(x) =, lim x F X(x) =) 4 F X (x + )=F X (x) (F X (x) es continua por la derecha) 5 F X (b) F X (a) =P(a < X b) 6 P(X = a) =F X (a) F X (a ) 7 P(X > x) = F X (x) P(a X b) =F X (b) F X (a ) P(a < X < b) =F X (b ) F X (a) P(a X < b) =F X (b ) F X (a ) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 5 / 26 Función densidad de probabilidad Definición f X (x) = d dx F X(x) Va discreta: Puntos de masa {p i } = P(X = x i ) Notación va discreta: p X (x i )=p i Interpretación frecuencial (probabilística) P(x X x + x) f X (x) = lim x x { f X (x) = lim x x lim n } n x n Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 6 / 26

4 Estima de la fdp 4 3 2!!2!3! Realizaciones de la va X (a) Realizaciones !5 5 Valores de la va X (b) Estima de f X (x) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 7 / 26 Propiedades de f X (x) f X (x) 2 3 b + f X (x) dx = f X (x) dx = P(a < X b) a + 4 En general, P(X A) = f X (x) dx 5 F X (x) = x + f X (u) du A Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 8 / 26

5 Variable aleatoria de Bernouilli Variable aleatoria discreta con Rango X = {, } Parámetro: p = P(X = ) p, x = f X (x) = p, x =, en otro caso Ejemplos de aplicación en comunicaciones Generador de datos binario Modelo de errores Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 9 / 26 Variable aleatoria Binomial Número de s en n experimentos de Bernouilli (indep) Parámetros: n, p Rango X = {,,, n} ( n ) f X (x) ={ x px ( p) n x, x n y x Z, en otro caso Ejemplo de aplicación en comunicaciones Número total de bits recibidos con error Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria / 26

6 Variable aleatoria uniforme f X (x) = Variable aleatoria continua de parámetros a y b { b a, a < x < b, en otro caso f X (x) b a a b x Ejemplo aplicación en comunicaciones Fase aleatoria en una sinusoide: va uniforme entre y 2π Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria / 26 Variable aleatoria gausiana (normal) Parámetros: media (µ), y varianza (σ 2 ) f X (x) = e (x µ)2 2σ 2 2πσ f X (x) 2πσ Ejemplo de aplicación en comunicaciones Modelado del ruido térmico µ x Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 2 / 26

7 Ejemplo: Variable aleatoria uniforme Ruido Uniforme Muestras %$" %""!$"!"" $" "!!!"#$ " "#$! &'()*+,-/&+&!""""&/23)*-)&4$"&5--)6# Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 3 / 26 Ejemplo: Variable aleatoria gausiana 3 ("" Ruido Gausiano Muestras '""!"" &"" %"" $"" #"" "!! "! )*+,-/2)34)#"""")256,-,)7!")8,9: Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 4 / 26

8 Función Q(x) Función tabulada (calculada numéricamente) Permite integrar distribuciones gausianas Función de distribución de una va gausiana (µ =, σ 2 = ) Φ(x) =P(X x) = x 2π e t2 2 dt Función Q(x) = Φ(x) =P(X > x) para µ =, σ 2 = Q( x) = Q(x) Q() = 2 Q( ) = Distribución (µ, σ 2 ) ( ) x µ P(X > x) =Q σ Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 5 / 26 Momentos estadísticos Valor esperado (media, o esperanza matemática) m X = E[X] = x f X (x) dx Valor esperado de una función de X (g(x)) E[g(X)] = g(x) f X (x) dx Momento de orden n m n X = x n f X (x) dx Varianza σ 2 X = E [ (x m X ) 2] = NOTA: σ 2 X = E h (x m X ) 2i = E[X 2 ] (E[X]) 2 = E[X 2 ] (m X ) 2 (x m X ) 2 f X (x) dx Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 6 / 26

9 Propiedades de los momentos E[X + Y] =E[X]+E[Y] =m X + m Y (Operador lineal) E[c] =c (para cualquier constante c) E[c X] =c E[X] E[X + c] =E[X]+c Var(c) = Var(c X) =c 2 Var(X) Var(X + c) =Var(X) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 7 / 26 Variables aleatorias multidimensionales Se puede trabajar de forma conjunta con dos variables aleatorias definidas sobre el mismo espacio muestral Ω Modelado probabilístico conjunto Función de distribución conjunta F X,Y (x, y) =P(X x, Y y) Función densidad de probabilidad conjunta f X,Y (x, y) = 2 x y F X,Y(x, y) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 8 / 26

10 Propiedades de F X,Y (x, y) y f X,Y (x, y) F X (x) =F X,Y (x, ) F Y (y) =F X,Y (, y) f X (x) = f Y (y) = f X,Y (x, y) dy f X,Y (x, y) dx f X,Y (x, y) dx dy = P((X, Y) A) = F X,Y (x, y) = x y (x,y) A f X,Y (x, y) dx dy f X,Y (u, v) du dv Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 9 / 26 Función densidad de probabilidad condicionada Conocimiento del valor de una variable modifica las probabilidades de la otra f Y X (y x) = { fx,y (x,y) f X, (x) f X (x), en otro caso Definición de independencia estadística: f Y X (y x) =f Y (y) Implicación: para variables aleatorias independientes f X,Y (x, y) =f X (x) f Y (y) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 2 / 26

11 Momentos estadísticos Valor esperado de una función g(x, Y) E[g(X, Y)] = Casos particulares g(x, y) f X,Y (x, y) dx dy Correlación: g(x, Y) =X Y Covarianza: g(x, Y) =(X m X ) (Y m Y ) Implicación de independencia: si g(x, Y) =g (X) g 2 (Y) E [g (X) g 2 (Y)] = E [g (X)] E [g 2 (Y)] NOTA: Sólo bajo independencia!!!! Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 2 / 26 Incorrelación Coeficiente de correlación ρ X,Y = Cov(X, Y) σ X σ Y, ρ X,Y Si ρ X,Y = : va s incorreladas Independencia implica incorrelación Incorrelación no implica independencia Si ρ X,Y = ±: Y = ax + b ρ X,Y =+ a > ; ρ X,Y = a < Incorrelación sólo implica independencia para variables aleatorias conjuntamente gausianas NOTA: Salvo este caso, en general, incorrelación no implica independencia!!! Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 22 / 26

12 Variables aleatorias conjuntamente gausianas Dos variables: caracterizadas por una fdp conjunta f X,Y (x, y) = p 2πσ X σ e ( ρ (x µ X) 2 (y µ Y ) 2 ρ(x µ x)(y µ Y ) ) 2σX 2 + 2σY 2 A σ X σ Y Y ρ 2 Para n variables aleatorias X = X, X 2,, X n f X (x, x 2,, x n )= (2π) n det(c) e 2 (x µ)c (x µ) T Vector de medias: µ =[µ,µ 2,,µ n ] T Matriz de covarianzas: C, dada por C i,j = Cov(X i, X j )=ρ i,j σ i σ j Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 23 / 26 Propiedades de va s conjuntamente gausianas Completamente caracterizadas por µ y C (estadísticos de 2 o orden) Si n variables aleatorias son conjuntamente gausianas, cualquier subconjunto también está distribuido de forma conjuntamente gausiana En particular, todas las variables individuales son gausianas Cualquier subconjunto de va conjuntamente gausianas, condicionadas a otro subconjunto de las mismas va conjuntamente gausianas originales, tiene una distribución conjuntamente gausiana Cualquier conjunto de combinaciones lineales de (X, X 2,, X n ) es conjuntamente gausiano En particular, individualmente cualquier combinación lineal Y i es gausiana Dos variables incorreladas son independientes GradoSi Ing las Telemática variables (UC3M) están incorreladas, Teoría de Comunicación ρ i,j = i j, CVariable es una Aleatoria matriz 24 / 26 diagonal

13 Suma de variables aleatorias Ley de los grandes números (débil): Si (X, X 2,, X n ) están incorreladas y todas tienen la misma media m X y varianza σx 2 <, independientemente de su distribución, para cualquier ε >, si Y = n X i, lim n P( Y m X > ε) = n i= Teorema del límite central: Si (X, X 2,, X n ) son independientes con medias m, m 2,, m n, y varianzas σ 2, σ2 2,, σ2 n, entonces la distribución de Y = n n i= X i m i σ i converge a una distribución gausiana de media y varianza, N (, ) Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 25 / 26 Suma de variables aleatorias (II) Caso particular: variables independientes e idénticamente distribuidas (iid), es decir, que todas tengan la misma distribución con la misma media m y la misma varianza σ 2 ; el promedio Y = n X i, n converge a una distribución N (m, σ2 ) Esto es así aunque la n distribución original no sea gausiana Recordatorio: condiciones a satisfacer Ley de los grandes números (débil): incorrelación Teorema del límite central: independencia i= Grado Ing Telemática (UC3M) Teoría de la Comunicación Variable Aleatoria 26 / 26