Cadenas de Markov Ocultas

Transcripción

1 Nicolás Carrère Análisis Inteligente de Datos Departamento de Informática Universidad Técnica Federico Santa María Valparaíso, 24 de Noviembre de 2005

2

3 Temario Las cadenas de Markov pueden ser representadas como una gramática regular estocástica. Estocástica en el sentido que las transiciones entre un estado y otro no son deterministas sino que están dadas por una probabilidad.

4 Gramática Regular Temario Supongamos el siguiente vocabulario; {Bueno, Regular, Malo} (almuerzos en el comedor de la universidad). Como abreviación se usara B=Bueno, R=Regular y M=Malo. Cualquier combinación de Bs,Rs y Ms es reconocida si usamos la siguiente gramática: Figura: Gramática Regular

5 Gramática Regular - Extensión Estocástica Consideremos la misma gramática anterior, pero ahora las transiciones entre estados tienen una probabilidad. Para reflejar estas transiciones se utiliza una matriz, en este caso la matriz de transición A: 0,2 0,3 0,5 A = 0,3 0,4 0,3 (1) 0,5 0,1 0,4

6 Resultados (1/3) Temario Dado el modelo de Markov anterior, una de las preguntas que podemos hacer es la siguiente: Dado que el lunes el almuerzo fue malo, cual es la probabilidad de ver la siguiente cadena esta semana; MMRBBB? Esta probabilidad se evalúa y expresa de la siguiente manera: P(O Modelo) =P(S 1,S 1,S 2,S 3,S 3,S 3 Modelo) P[S 1 ] P[S 1 S 1 ] P[S 2 S 1 ] P[S 3 S 2 ] P[S 3 S 3 ] P[S 3 S 3 ] =π 1 a 11 a 12 a 23 a 33 a 33 =1 0,2 0,3 0,3 0,4 0,4 =2, (2)

7 Resultados (2/3) Temario Otra interesante pregunta es: Dado un estado inicial, cual es la probabilidad de que siga en ese estado exactamente d días? Esta probabilidad se puede calcular verificando la probabilidad de la siguiente observación: Usando el modelo: O = {S i 1,S i 2,S i 3,...,S i, S j S i } (3) d d+1 P(O Modelo) = (a ii ) d 1 (1 a ii ) = p i (d) (4) Que es la función de densidad de probabilidad de la cantidad de días en el estado i.

8 Resultados (3/3) Temario Finalmente seria interesante calcular cuantos días se puede esperar que las observaciones permanezcan en un mismo estado. La respuesta a esta pregunta esta dada por: d i = = d=1 d=1 dp i (d) d(a ii ) d 1 (1 a ii ) = 1 1 a ii (5) Usando el modelo: M = 1/(0.8) = 1.25 ; R = 1/(0.6) = 1.67 ;B = 1/(0.6) = 1.67

9 El modelo de Markov anterior considera que cada estado corresponde a un evento físicamente observable. Ahora en cada estado existe un probabilidad de que suceda una observación. Lo que se tiene ahora es un modelo doblemente estocástico en el cual hay un proceso subyacente que esta oculto. Este proceso solo puede ser visto a través de las observaciones. Esto es un Modelo de Markov Oculto (HMM).

10 Ejemplo del Cocinero Temario Consideremos el siguiente escenario, el modelo de Markov anteriormente descrito. El cocinero tiene dos estados de animo; Feliz y Enojado. El problema es que nosotros nunca vemos al cocinero, por lo que no sabemos su estado de animo. La única manifestación de su estado son nuestras observaciones que serian si el almuerzo esta; Malo, Regular o Bueno.

11 Elementos en un HMM 1 N, numero de estados 2 M, numero de observaciones distintas en cada estado (alfabeto). 3 A, matriz de probabilidad de transición entre estados. 4 B, matriz de probabilidad de emisión de una observación para un estado dado. 5 π, matriz de distribución de estados iniciales. Para caracterizar un HMM se necesita de dos parámetros N y M, y de tres medidas de probabilidad A, B, pi. Por conveniencia se ocupara la notación: λ = (A,B,π) (6)

12 El Modelo del Cocinero Figura: HMM Cocinero

13 Interrogantes que se debe atender 1 Dada una observación O y un modelo λ, como calculamos de forma eficiente la probabilidad de dicha observación, P(O λ), dado el modelo? 2 Dada una observación O y un modelo λ, como escogemos una secuencia de estados Q que explique de forma óptima la observación? 3 Como ajustamos los parámetros del modelo λ = (A,B,π) para maximizar P(O λ)?

14 Solución a la Interrogante 1 Por motivos de eficiencia se utiliza el algoritmo Forward-Backward ; que define la variable forward como α t (i) = P(O 1,O 2...O t,q t = S i λ) (7) Luego se tiene que P(O λ) = N i=1 α T (i) (8)

15 variable Backward Temario β t (i) = P(O t+1,o t+2...o T q T = S i,λ) (9) β T (i) =1 β t (i) = N j=1 a ij b j (O t+1 β t+1 ) (10)

16 Solución a la Interrogante 2 Esta interrogante no tiene solución exacta como la anterior, ya que depende de lo que definamos como explicación óptima. Una posible solución es la que maximiza la probabilidad de estados(individuales) correctos. Esta solución se puede expresar en términos de las variables forward-backward. γ t (i) =P(q t = S i O,λ) = α t(i)β t (i) P(O λ) = α t(i)β t (i) N i=1 α t (i)β t (i) (11) Otro manera eficiente es usar el algoritmo de Viterbi.

17 Solución a la Interrogante 3 Para esta pregunta no existe solución analítica hasta el momento. El ajuste de los parámetros es hecho con varios métodos como EM (expectation-modification) Técnicas de Gradiente Método de Baum-Welch

18 Método de Baum-Welch Este método se basa en calcular dos medidas 1 El numero esperado de transiciones desde S i 2 El numero esperado de transiciones desde S i a S j Luego el algoritmo postula que una estimación razonable de los parámetros π,a,b son: π i =frecuencia esperada un el estado S i en el tiempo 1 = γ 1 (i) a ii = numero esperado de transiciones desde S i a S j numero esperado de transiciones desde S i numero esperado de veces en el estado i observando k b i (k) = numero esperado de veces en el estado i (12)

19 ADN Temario Las cadenas de ADN están formadas por millones de nucleotidos. Para los científicos es de interés detectar las secuencias de codones. Luego es detectar las secuencias de codones que codifican un gen. Los HMM ayudan a detectar nuevos genes, así como a detectar genes falsos positivos.

20 Reconocimiento de Voz. Natural language processing. Reconocimiento de Caracteres. Clasificación. Reconocimiento de imágenes.

21 Preguntas Temario Gracias NTC/L A T E X 2ε