Maestría en Bioinformática Probabilidad y Estadística: Clase 1

Transcripción

1 Maestría en Bioinformática Probabilidad y Estadística: Clase 1 Gustavo Guerberoff gguerber@fing.edu.uy Facultad de Ingeniería Universidad de la República Abril de 2010

2 Contenidos 1 Introducción 2 Teoría de Probabilidad Definiciones Propiedades de la Probabilidad 3 Probabilidad Condicional Definición Fórmula de la Probabilidad Total Fórmula de Bayes

3 El curso trata sobre aspectos probabilísticos y estadísticos de una clase de procesos aleatorios (las Cadenas de Markov) y de sus aplicaciones a la Bioinformática. Es un curso teórico práctico que se aprueba con un examen escrito y una defensa oral. Requisitos: Conocimientos básicos de Álgebra Lineal y de Probabilidad.

4 Bibliografía Markov Chains: P. Brémaud. Springer (1999). Statistical Methods in Bioinformatics: W. Ewens y G. Grant. Spinger (2001). Biological Sequence Analysis: R. Durbin, S. Eddy, A. Krogh y G. Mitchison. Cambridge (2006). Problems and Solutions in Biological Sequence Analysis: M. Borodovsky y S. Ekisheva. Cambridge (2006). Hidden Markov Models for Bioinformatics: T. Koski. Kluwer (2001). Notas de cursos.

5 Conceptos básicos de Probabilidad La Teoría de la Probabilidad es una teoría matemática construida para modelar situaciones en las que hay incertidumbre. En un contexto de incertidumbre, la probabilidad es una medida del grado de factibilidad de un acontecimiento (interpretación objetiva) o de la confianza que uno tiene en que ocurra ese acontecimiento (interpretación subjetiva). A un acontecimiento con máxima factibilidad se le asigna probabilidad 1, a uno con mínima factibilidad se le asigna probabilidad 0, y en cualquier otro caso la probabilidad es un número entre 0 y 1.

6 Definiciones Condideremos un experimento aleatorio (como tirar un dado, observar un nucleótido en una cadena de ADN, etc). Espacio Muestral: Conjunto de todos los resultados posibles. Ejemplos: Tiramos un dado: Ω = {1, 2, 3, 4, 5, 6} Observamos un nucleótido en una cadena de ADN: Ω = {a, c, g, t} Tiramos dos dados:

7 Ω = (1, 1) (1, 2) (1, 3) (1, 4) (1, 5) (1, 6) (2, 1) (2, 2) (2, 3) (2, 4) (2, 5) (2, 6) (3, 1) (3, 2) (3, 3) (3, 4) (3, 5) (3, 6) (4, 1) (4, 2) (4, 3) (4, 4) (4, 5) (4, 6) (5, 1) (5, 2) (5, 3) (5, 4) (5, 5) (5, 6) (6, 1) (6, 2) (6, 3) (6, 4) (6, 5) (6, 6) Observamos una secuencia de ADN de 140 nucleótidos: Ω = = 1, Tiramos un dardo contra un blanco circular de radio 1: Ω = {(x, y) : x 2 + y 2 1}.

8 Definiciones Suceso o Evento: Subconjunto de Ω, que corresponde a la realización de un conjunto de resultados del experimento aleatorio. Ejemplos: Se tiran dos dados: A = {la suma de los dados es 7}. Se observa un nucleótido en una cadena de ADN: A = {el nucleótido es una purina} = {a, g}. Observaciones: Cada resultado ω Ω define un suceso (suceso elemental). Ω es un suceso (suceso cierto o seguro). es un suceso (suceso imposible). Si A y B son sucesos entonces A B, A B, A c, A B c, etc.. son sucesos.

9 Definición: Decimos que dos sucesos, A y B, son incompatibles o mutuamente excluyentes si A B =. De manera formal, con cada experimento aleatorio asociamos una familia de sucesos, F, que cumple las siguientes condiciones: i) Ω F. ii) Si A F entonces A c F. iii) Si A 1, A 2, A 3,... F entonces i=1 A i F.

10 Definiciones Probabilidad: Una medida de probabilidad sobre Ω es una función P : F [0, 1] que cumple: i) P(Ω) = 1. ii) Si A 1, A 2, A 3,... F es una familia de sucesos mutuamente excluyentes entonces: P( i=1 A i) = i=1 P(A i). Un modelo probabilístico queda caracterizado por (Ω, F, P).

11 Ejemplos de medidas de probabilidad Equiprobabilidad: Si Ω es finito y todos los resultados son igualmente probables, entonces usamos la medida de probabilidad definida por: P(A) = A Ω casos favorables al suceso A =. casos posibles Generalización: Si Ω es finito y para cada resultado ω Ω tenemos asignada una probabilidad p(ω), de manera que 0 p(ω) 1 y ω Ω p(ω) = 1, entonces P(A) = ω A p(ω), definida para cada suceso A, es una medida de probabilidad sobre Ω.

12 Propiedades de la probabilidad A partir de la definición, se prueban las siguientes propiedades: P( ) = 0. P(A B) = P(A) + P(B) P(A B). Si A y B son sucesos incompatibles entonces P(A B) = P(A) + P(B). P(A c ) = 1 P(A).

13 Probabilidad condicional Consideremos dos sucesos, A y B, con P(B) > 0. Definición: La probabilidad de A dado el suceso B (o probabilidad de A condicionada a la ocurrencia de B) es: P(A B) = P(A B). P(B) Decimos que los sucesos A y B son independientes si P(A B) = P(A) (o, de manera equivalente, si P(A B) = P(A)P(B)). Observaciones: P(A Ω) = P(A). En general P(A B) P(B A). P(. B), con B fijo, es una medida de probabilidad sobre Ω.

14 Definición: Una partición de Ω es una familia de sucesos {B 1, B 2,..., B r } mutuamente excluyentes tales que r i=1 B i = Ω. Teorema (Fórmula de la Probabilidad Total) Consideremos una partición de Ω, {B 1, B 2,..., B r }, y un suceso A. Se cumple: P(A) = P(A B 1 )P(B 1 ) + P(A B 2 )P(B 2 ) P(A B r )P(B r ). Demostración: Está claro que: A = (A B 1 ) (A B 2 )... (A B r ), donde la unión es una unión de sucesos disjuntos. Por lo tanto: P(A) = P(A B 1 ) + P(A B 2 ) P(A B r ).

15 Usando la definición de probabilidad condicional escribimos P(A B i ) = P(A B i )P(B i ), para cada i = 1, 2,..., r, y esto nos da la Fórmula de la Probabilidad Total. Teorema (Fórmula de Bayes) Consideremos dos sucesos, A y B. Se cumple: Demostración: P(B A) = P(B A) = P(A B)P(B) P(A B)P(B) + P(A B c )P(B c ). P(B A) P(A) = P(A B)P(B). P(A) Por otra parte, considerando la partición {B, B c } y usando la Fórmula de la Probabilidad Total, se tiene que: P(A) = P(A B)P(B) + P(A B c )P(B c ), lo que da la Fórmula de Bayes.

16 Teorema (Fórmula de Bayes general) Consideremos un suceso, A y una partición {B 1, B 2,..., B r }. Se cumple: P(B j A) = P(A B j )P(B j ) P(A B 1 )P(B 1 ) + P(A B 2 )P(B 2 ) P(A B r )P(B r ), para cada j = 1, 2,..., r.