Tema 6: Distribuciones Multivariantes

Transcripción

1 Tema : Distribuciones Multivariantes. Distribución conjunta de un vector aleatorio. Distribución conjunta de un vector aleatorio. Distribuciones marginales condicionadas.3 Independencia entre variables aleatorias En el tema anterior estudiamos distribuciones de probabilidad para una variable aleatoria. Sin embargo, a menudo nos interesa estudiar más de una variable en un eperimento aleatorio. Por ejemplo, en la clasificación de señales emitidas recibidas, cada señal se clasifica como de baja, media o alta calidad. Podemos definir número de señales de baja calidad recibida, e número de señales de alta calidad.4 Características de un vector aleatorio Esperanza Varianza, Covarianza, Correlación En general, si e son dos variables aleatorias la distribución de probabilidad que define simultáneamente su comportamiento se llama distribución de probabilidad conjunta. Distribución Normal multivariante. Distribución conjunta de un vector aleatorio Variables discretas Dadas dos v.a. discretas,, definimos su función distribución de probabilidad mediante la función de probabilidad conjunta: p(, ) Pr(, ) Como en el caso unidimensional está función debe verificar: p (, ) 0 p (, ). Distribución conjunta de un vector aleatorio Se transmiten 4 bits se definen las siguientes v.a.: Número de bits aceptables Número de bits sospechosos La función de distribución conjunta: F(, ) Pr(, ) Pr(, )

2 . Distribución conjunta de un vector aleatorio. Distribución conjunta de un vector aleatorio Se transmiten 4 bits se definen las siguientes v.a.: Se transmiten 4 bits se definen las siguientes v.a.: p (, ) 0 p (, ) Pr(, ) Distribución conjunta de un vector aleatorio Distribución Multinomial Un eperimento se repite n veces de forma independiente:. El eperimento tiene k posibles resultados. La probabilidad de cada resultado, p, p, K pk se mantiene constante. Distribución conjunta de un vector aleatorio Las probabilidades de que cierta lámpara de un modelo de proector dure menos de 40 horas, entre horas, más de 80 horas de uso son 0.3 ; respectivamente. Calcular la probabilidad de que entre 8 de tales lámparas, duren menos de 40 horas; cinco duren entre horas, una dure más de 80 horas. i La variable el número de veces que ocurre el resultado i-ésimo,, K k siguen una distribución multinomial con función de probabilidad conjunta: n! Pr(,, K, ) k k k p p Kpk!! K! K+ n p + p + K+ p k k k Ha 3 resultados posibles: dura< 40 p 0.3 dura40 80 p 0.5 dura > 80 p !!5!! 5 Pr(, 5, 3 )

3 . Distribución conjunta de un vector aleatorio Variables continuas Dadas dos v.a. continuas,, definimos su función distribución de probabilidad mediante la función de densidad conjunta: f (, ). Distribución conjunta de un vector aleatorio Variables continuas La probabilidad ahora se calcula como un volumen: Pr( a b d b, c d ) f (, ) dd a c Como en el caso unidimensional está función debe verificar: f(, ) f(, ) dd La función de distribución conjunta: f(, ) d F (, ) dd Pr(,.5.5) 0 0 ( 0, 0) Pr( 0, 0) (, ) F f dd 9 0. Distribución conjunta de un vector aleatorio Variables continuas La probabilidad ahora se calcula como un volumen: Pr( a b d b, c d ) f (, ) dd a c. Distribución conjunta de un vector aleatorio Sea la variable aleatoria que representa el tiempo hasta que un servidor se conectar con tu ordenador (en milisegundos) e el tiempo hasta que el servidor te autoriza como usuario. La función de densidad conjunta viene dada por: f (, ) 0 ep( ) 0 < < Pr(,.5.5) Pr( < 000, < 000)?

4 . Distribución conjunta de un vector aleatorio. Distribución conjunta de un vector aleatorio f (, ) 0 ep( ) 0 < < f (, ) 0 ep( ) 0 < < Pr( < 000, < 000)? Pr( < 000, < 000)? Recinto donde la función de densidad no es Recinto de integración para el cálculo de esa probabilidad Distribución conjunta de un vector aleatorio. Distribución conjunta de un vector aleatorio f (, ) 0 ep( ) 0 < < f (, ) 0 ep( ) 0 < < Pr( < 000, < 000) f (, ) dd Pr( < 000, < 000) f (, ) dd+ f(, ) dd

5 Tema : Distribuciones Multivariantes. Distribuciones marginales. Distribución conjunta de un vector aleatorio. Distribuciones marginales condicionadas Si se definen más de una v.a. en un eperimento, es importante distinguir entre la distribución de probabilidad conjunta la distribución de probabilidad de cada variable individualmente. A la distribución de cada variable se le denomina distribución marginal..3 Independencia entre variables aleatorias.4 Características de un vector aleatorio Esperanza Varianza, Covarianza, Correlación Variables Discretas Dadas dos v.a. discretas,, con función de probabilidad conjunta p(, ) las funciones de probabilidad marginales de ambas variables son: p ( ) Pr( ) Pr(, ) p ( ) Pr( ) Pr(, ) Son funciones de probabilidad Se puede calcular su esperanza, varianza, etc.. Distribución Normal multivariante 7 8. Distribuciones marginales. Distribuciones marginales Se transmiten 4 bits se definen las siguientes v.a.: La función de probabilidad marginales se obtendrían sumando en ambas direcciones Número de bits aceptables Número de bits sospechosos Se transmiten 4 bits se definen las siguientes v.a.: La función de probabilidad marginales se obtendrían sumando en ambas direcciones Número de bits aceptables Número de bits sospechosos

6 . Distribuciones marginales. Distribuciones marginales Se transmiten 4 bits se definen las siguientes v.a.: La función de probabilidad marginales se obtendrían sumando en ambas direcciones Número de bits aceptables Número de bits sospechosos Se transmiten 4 bits se definen las siguientes v.a.: La función de probabilidad marginales se obtendrían sumando en ambas direcciones Número de bits aceptables Número de bits sospechosos Distribuciones marginales. Distribuciones marginales Variables Continuas Dadas dos v.a. continuas,, con función de densidad conjunta f (, ) las funciones de densidad marginales de ambas variables son: f ( ) f(, ) d f ( ) f(, ) d + + Son funciones de densidad Se puede calcular su esperanza, varianza, etc. 0.4 Sea la variable aleatoria que representa el tiempo hasta que un servidor se conectar con tu ordenador (en milisegundos) e el tiempo hasta que el servidor te autoriza como usuario. La función de densidad conjunta viene dada por f (, ) 0 ep( ) 0 < < 0.3 Pr( > 000)? f()

7 . Distribuciones marginales f (, ) 0 ep( ) 0 < < Pr( > 000)? Podemos resolverlo de dos formas: Integrar la función de densidad conjunta en el recinto adecuado Calcular la función de densidad marginal de calcular esa probabilidad Distribuciones marginales f (, ) 0 ep( ) 0 < < Pr( > 000)? Podemos resolverlo de dos formas: Integrar la función de densidad conjunta en el recinto adecuado + Pr( > 000) f (, ) dd Distribuciones marginales. Distribuciones marginales f (, ) 0 ep( ) 0 < < f (, ) 0 ep( ) 0 < < Pr( > 000)? Podemos resolverlo de dos formas: Pr( > 000)? Podemos resolverlo de dos formas: 3000 Calcular la función de densidad marginal de calcular esa probabilidad 3000 Calcular la función de densidad marginal de calcular esa probabilidad ( ) (, ) 0 ( ) > 0 0 f f d e e Pr( > 000) f ( ) d

8 . Distribuciones condicionadas Cuando se definen más de una v.a. en un eperimento, el conocimiento de una de las variables puede afectar las probabilidades que se asocian con los valores de la otra variable. Distribuciones condicionadas Cuando se definen más de una v.a. en un eperimento, el conocimiento de una de las variables puede afectar las probabilidades que se asocian con los valores de la otra variable Recordamos del Tema 3 (Probabilidad): Pr ( B A) Pr Pr ( A I B) ( A) Mide el tamaño de uno con respecto al otro Variables Discretas Dadas dos v.a. discretas,, con función de probabilidad conjunta p(, ) la funcion de probabilidad de condicionada a 0 : A B A p (, 0) Pr(, 0) p ( 0 ) p ( 0) > 0 p ( ) Pr( ) Para un valor genérico de p(, ) Pr(, ) p ( ) p ( ) Pr( ) Podemos calcular su esperanza, varianza, etc. p(, ) p( ) p ( ) 30. Distribuciones condicionadas Se transmiten 4 bits se definen las siguientes v.a.: Número de bits aceptables Número de bits sospechosos Como sólo se transmiten 4 bits, si 4, necesariamente 0 si 3, 0 ó M Saber lo que vale cambia la probabilidad asociada con los valores de 3. Distribuciones condicionadas Se transmiten 4 bits se definen las siguientes v.a.: Número de bits aceptables Número de bits sospechosos Como sólo se transmiten 4 bits, si 3, 0 ó Pr( 0, 3) Pr( 0 3) 0. Pr( 3) 0.9 Pr(, 3) Pr( 3) 0.8 Pr( 3) 0.9 Pr( 0 3) + Pr( 3) E [ 3] Número esperado de bits sospechosos cuando en número de aceptables es 3 3

9 . Distribuciones condicionadas Variables Continuas Dadas dos v.a. continuas,, con función de densidad conjunta f (, ) la función de densidad de condicionada a f( ) f (, ) f ( ) Es función de densidad Se puede calcular su esperanza, varianza, etc. f (, ) f( ) f ( ). Distribuciones condicionadas Sea la variable aleatoria que representa el tiempo hasta que un servidor se conectar con tu ordenador (en milisegundos) e el tiempo hasta que el servidor te autoriza como usuario. La función de densidad conjunta viene dada por f (, ) 0 ep( ) 0 < < Cuál será la probabilidad de que el tiempo hasta que el servidor te autoriza como usuario sea más de 000 milisegundos si el tiempo que ha tardado el servidor en conectarse ha sido 500 milisegundos? Pr( > )? Distribuciones condicionadas. Distribuciones condicionadas f (, ) 0 ep( ) 0 < < f (, ) 0 ep( ) 0 < < Pr( > )? f( ) + f f d e f (, ) f ( ) ( ) (, ) > ( ) 0.00 f e 0 < < Pr( > )? ( ) 0.00 f e 0 < < Pr( > ) f( 500) d e d 3

10 Tema : Distribuciones Multivariantes.3 Independencia entre variables aleatorias. Distribución conjunta de un vector aleatorio. Distribuciones marginales condicionadas En algunos eperimentos, el conocimiento de una de las variables puede no afectar ninguna de las probabilidades que se asocian con los valores de la otra variable.3 Independencia entre variables aleatorias.4 Características de un vector aleatorio Recordamos del Tema 3 (Probabilidad): Esperanza Varianza, Covarianza, Correlación Pr ( AI B) Pr( A) Pr( B) Pr( A B) Pr( A) Pr( B A) Pr( B). Distribución Normal multivariante Independencia entre variables aleatorias.3 Independencia entre variables aleatorias Variables Discretas Variables Continua Diremos que dos variables, son independientes si: Diremos que dos variables, son independientes si: p ( ) p( ) p ( ) p( ) f( ) f ( ) f ( ) f ( ) p (, ) p ( ) p ( ) p ( ) p ( ), f (, ) f( ) f ( ) f ( ) f ( ), 39 40

11 .3 Independencia entre variables aleatorias Sea la variable aleatoria que representa el tiempo hasta que un servidor se conectar con tu ordenador (en milisegundos) e el tiempo hasta que el servidor te autoriza como usuario. La función de densidad conjunta viene dada por f (, ) 0 ep( ) 0 < < Tema : Distribuciones Multivariantes. Distribución conjunta de un vector aleatorio. Distribuciones marginales condicionadas.3 Independencia entre variables aleatorias.4 Características de un vector aleatorio ( ) 0.00 f e 0 < < Esperanza Varianza, Covarianza, Correlación Para todos los valores de f e e ( ) 0 ( ) > 0 4. Distribución Normal multivariante 4.4 Características de un vector aleatorio.4 Características de un vector aleatorio Dadas n v.a.,, K, n definimos el vector n-dimensional Esperanza M n La función de probabilidad/densidad del vector es la función de probabilidad/densidad conjunta de los componentes del vector. Se define el vector de medias como el vector cuas componentes son las medias o esperanzas de cada componente. μ [ ] [ ] [ ] E E M E E [ ] n 43 Covarianza Primero comenzamos por definir la covarianza entre dos variables: Es una medida de la relación lineal entre dos variables ( [ ])( [ ]) [ ] [ ] [ ] Cov(, ) E E E E E E Propiedades Si, son independientes Cov(, ) 0 a que E [ ] E [ ] E [ ] Si Cov(, ) 0, sean independientes Z a + b Si hacemos un cambio de origen escala: Cov( Z, W ) abcov(, ) W c + d 44

12 .4 Características de un vector aleatorio.4 Características de un vector aleatorio Covarianza ( [ ])( [ ]) [ ] [ ] [ ] Cov(, ) E E E E E E Cómo lo calculamos? Necesitamos calcular la esperanza de una función de dos variables aleatorias: E[ h(, )] + + hp (, ) (, ) h (, ) f( dd, ) Covarianza positiva Covarianza cero Ha relación pero no lineal 45 Estadística. Profesora: Covarianza María Durbán negativa Covarianza cero 4.4 Características de un vector aleatorio.4 Características de un vector aleatorio Correlación Se transmiten 4 bits se definen las siguientes v.a.: Número de bits aceptables Número de bits sospechosos La correlación entre dos variables también es una medida de la relación linear entre dos variables ρ (, ) Cov(, ) [ ] [ ] Var Var Es la covarianza entre e positiva o negativa? Si, son independientes ρ(, ) 0 a que Cov(, ) 0 Sabemos que + 4 cuando se acerca a 4, se acerca a 0 Por lo tanto la covarianza el negativa ρ(, ) Si a + b ρ(, ) 47 48

13 .4 Características de un vector aleatorio Tema : Distribuciones Multivariantes Matriz de Varianzas Covarianzas. Distribución conjunta de un vector aleatorio Dadas n v.a.,, K, n llamamos matriz de varianzas covarianzas del vector a la matriz cuadrada de orden n:. Distribuciones marginales condicionadas [ ] [, ] L [, n ] [, ] [ ] M M Var Cov Cov Cov Var M E ( -μ)( -μ) M M O M Cov[, n] Var [ n] L L Propiedades.3 Independencia entre variables aleatorias.4 Características de un vector aleatorio Esperanza Varianza, Covarianza, Correlación Simétrica Semidefinida positiva 49. Distribución Normal multivariante 50 Al igual que en el caso univariante, ha ocasiones en que es necesario calcular la distribución de probabilidad de una función de dos o más v.a. Dado un vector aleatorio con función de densidad conjunta f ( ) lo transformamos en otro vector aleatorio de la misma dimensión mediante una función g g(, K, n ) Eisten las g(, K, n ) transformaciones M inversas n gn(, K, n) d d L f( ) f( g ( )) d d dn d M M d d dn dn L d d n 5 Si tiene menor dimensión que, completamos con elementos de hasta completar la misma dimensión. f 4 0 <, < (, ) 0 en el resto Calcular la función de densidad de. Definimos. Buscamos la distribución conjunta de (, ) 3. Calculamos la marginal de + 5

14 f f 4 0 <, < (, ) 0 en el resto Buscamos la distribución conjunta de (, ) f g d ( ) ( ( )) d (0,) 0 <, < + ( 0, 0) ( 0 + 0, 0) ( 0, ) ( + 0, ) (, 0) ( + 0, 0) (, ) ( +, ) (,) (,) (,) g( ) ( +, { ) g ( ) (, ) 443 d d 0 f ( ) 4( ) f( g ( )) 4( ) En qué recinto está definida? 53 (0,0) (,0) (0,0) (,0) 54 0 <, < + 0 Calculamos las 4 rectas que delimitan el recinto: 0 0 < < 0 < < < < - < < 0 f( ) 4( ) 0< < 0< < < < -< < 55 Calculamos la marginal de f 0 ( ) 3 3 4( ) 0 < < ( ) + 4 < < 3 5

15 Convolución de Si son variables aleatorias independientes con funciones de densidad f ( ) f ( ), la función de densidad de + es + f ( ) f ( ) f ( ) Se utiliza en casos como la transformada de Fourier 57 Un caso que merece mención especial es el cálculo de esperanzas varianzas de transformaciones lineales: m Am nn m n [ ] [ ] + [ ] Var [ ] [ ] ( ) E E E [ ] AE[ ] [ ] M E Var A A + ( ) Cov(, ) Var Var + Var + Cov [ ] [ ] (, ) Cov(, ) Var [ ] 58 Un caso que merece mención especial es el cálculo de esperanzas varianzas de transformaciones lineales: m Am nn m n [ ] AE[ ] [ ] M E Var A A Un caso que merece mención especial es el cálculo de esperanzas varianzas de transformaciones lineales: m Am nn m n [ ] AE[ ] [ ] M E Var A A [ ] [ ] [ ] Var [ ] [ ] ( ) E E E ( ) Cov(, ) Var Var Var Cov [ ] [ ] (, ) Cov(, ) Var + [ ] 59 Caso particular: Distribución Normal ( ) ~ N μ, σ i, K, n independientes i i i a + a + K+ a n [ ] iμi [ ] iσ i E a Var a i i n n n Normal 0

16 Una pieza en forma de U está formada por tres partes, A, B C. La longitud de A sigue una distribución Normal con media 0mm desviación típica 0.mm. El grosor de las partes B C se distribue normalmente con media mm desviación típica 0.05mm. Suponiendo que las dimensiones de las partes son independientes:. Determinar la media desviación típica de la distribución del hueco D.. En esa pieza ha de encajar otra de 7.9 mm, cuál es la probabilidad de que una pieza de esta forma sea inservible?. Determinar la media desviación típica de la distribución del hueco D. D A B C [ ] [ ] [ ] E D 0 Var D + + DT. D 0. A~ N(0,0.) B~ N(,0.05) C ~ N(,0.05) B D C B D C A A Tema : Distribuciones Multivariantes. En esa pieza ha de encajar otra de 7.9 mm, cuál es la probabilidad de que una pieza de esa forma sea inservible?. Distribución conjunta de un vector aleatorio. Distribuciones marginales condicionadas D~ N(,0.05) 5.9 Pr( D< 5.9) Pr Z < 0. Pr( Z < 0.8) Pr( Z 0.8).3 Independencia entre variables aleatorias.4 Características de un vector aleatorio El 0% de las piezas fabricadas es inservible B D A C 3 Esperanza Varianza, Covarianza, Correlación. Distribución Normal multivariante 4

17 . Distribución Normal multivariante Si vector aleatorio sigue una distribución Normal bivariante μ con vector de medias μ matriz de varianzas-covarianzas σ ρσ σ ρσ σ Σ σ tiene función de densidad: μ f. Distribución Normal multivariante ( ) σ ρσ σ ep ( μ)' Σ ( μ) / ( π ) Σ ρσ σ σ Σ σ ( ρ ) ρ σσ ρ σσ σ σ σ ( ρ ) f ( ) ep ( μ)' Σ ( μ) / ( π ) Σ f μ μ μ μ, ep + ρ ( ) ( π) σ ( ) σ ( ρ ) ρ σ σ σ σ 5 The Bivariate Normal Distribution σ σ f(,) σ σ σ σ. Distribución Normal multivariante μ ρ 0 ρ 0.90 Contour Plots of the Bivariate Normal Distribution σ σ ρ 0 σ σ σ σ Función ρ de 0.9 densidad ρ 0.9 μ μ μ Diagrama de dispersión μ μ Scatter Plots of data from the Bivariate Normal Distribution σ σ ρ 0 σ σ ρ 0.9 σ σ ρ 0.9 ρ 0.90 μ μ μ Propiedades σ ρσ σ ρσ σ Σ σ ρ 0, independientes ( μ σ ) N( μ σ ) ~ N, ~, son normales μ μ μ μ μ μ 8

18 . Distribución Normal multivariante En el proceso de fabricación de lámparas electroluminiscentes (luz negra), se depositan capas de tinta en una base de plástico. El grosor de esas capas es determinarte a la hora de satisfacer las especificaciones relativas al color e intensidad de la luz. Sean e el grosor de dos capas de tinta, se sabe que ambas siguen una distribución Normal, con medias 0.mm 0.3mm desviaciones típicas mm mm respectivamente. La correlación entre ambas es 0. Las especificaciones de grosor son las siguientes: Cuál es la probabilidad de que una lámpara elegida al azar satisfaga las especificaciones? 9. Distribución Normal multivariante Cuál es la probabilidad de que una lámpara elegida al azar satisfaga las especificaciones? ~ N(0., ) ~ N(0.3, ) Pr( , ) ( Pr( Z.5) )( Pr( Z ) ) ρ 0 independientes Pr( ) Pr( ) Pr(.5 Z.5) Pr( Z ) Distribución Normal multivariante Cuál es la probabilidad de que una lámpara elegida al azar satisfaga las especificaciones? ~ N(0., ) ~ N(0.3, ) Pr( , ) ρ 0 independientes Pr( ) Pr( ) Pr(.5 Z.5) Pr( Z ) ( Pr( Z.5) )( Pr( Z ) )