Reconocimiento Automático de Voz basado en Modelos Ocultos de Markov

Transcripción

1 Reconocmeno Auomáco de Voz basado en Modelos Oculos de Markov Auor: Dr. Juan Carlos Gómez. Presenacón basada en las sguenes Referencas: [] Rabner, L. & Juang, B-H.. Fundamenals of Speech Recognon, Prence Hall,.J., 993. [2] Rabner, L.. A Tuoral on Hdden Markov Models and Seleced Applcaons n Speech Recognon, Proceedngs of he IEEE, Vol. 77, o. 2, pp: , 989. [3]Rabner, L. & Juang, B.. An Inroducon o Hdden Markov Models, IEEE Acousc, Speech and Sgnal Processng Magazne, Vol. 3, o., pp: 4-6, 986. Cadenas de de Markov Procesos de Markov Dscreos Todas las varables aleaoras y evenos esán defndos en un espaco de probabldad Ω, con una σ-álgebra F, y una probabldad P. Consderamos ssemas que en un nsane deermnado esán en uno de enre un conuno de esados dsnos: S, S 2,..., S. A empos dscreos regularmene espacados el ssema realza un cambo de esado (o vuelve al msmo esado permanece en el esado) de acuerdo a un conuno de probabldades asocadas con el esado. ProDVoz RAV basado en HMM 2

2 Denoamos Insanes de empo asocados con los cambos de esados, 2,... Esado en el empo : q Una descrpcón probablísca complea del ssema requerría especfcar el esado acual (en el empo ) y odos los esados precedenes. Una secuenca de esados S, S 2,... es una Cadena de Markov (MC: Markov Chan), s posee la propedad de Markov P ( q S q S, q 2 S k, L) P( q S q S ) ProDVoz RAV basado en HMM 3 Una cadena de Markov se denomna homogénea s P ( q S q S ) no depende del nsane. En ese caso quedan defndos un conuno de probabldades de ranscón n de esados a de la forma a P q S q S ), ( con las (obvas) propedades a 0 ProDVoz RAV basado en HMM 4 a

3 Fgura represena una MC con 4 esados. La salda del proceso es el conuno de esados en cada nsane de empo, donde cada esado corresponde a un eveno observable. El proceso de Markov se denomna enonces observable. Fgura : Cadena de Markov con 4 esados. ProDVoz RAV basado en HMM 5 Eemplo: Modelo del esado del empo con una MC de 3 esados. Una vez por día (por eemplo al medoda) se observa el esado del empo y ése puede ser uno de los sguenes Esado S : : lluvoso Esado S 2 : 2 : nublado Esado S 3 : 3 : soleado Fgura 2: Modelo del esado del empo con una MC de res esados. ProDVoz RAV basado en HMM 6

4 Se posula que en el día, el esado del empo puede esar en uno sólo de esos esados y que la marz A de probabldades de ranscón de esados es A { } a Suponendo que el esado en el día () es soleado (esado S 3 ), queremos calcular la probabldad de que la sucesón de esados en los próxmos 5 días sea: soleado-soleado-nublado-lluvoso-nublado ProDVoz RAV basado en HMM 7 Más formalmene, podemos defnr una secuenca de observacón O { S, S, S, S S } 3 3 2, correspondene a los empos,2,3,4,5, respecvamene, y queremos calcular la probabldad de la secuenca dado el modelo. Asumendo que el modelo posee la propedad Markovana, esa probabldad puede calcularse como P ( O modelo) P( S3, S3, S2, S, S2 modelo) P( S ) P( S S ) P( S S ) P( S S ) P( S S ) π a donde hemos usado la noacón a 32 a 3 2 a (0.8).(0.).(0.2).(0.3) ProDVoz RAV basado en HMM 8

5 π ( q ) P S para denoar las probabldades de esado ncal. Oro problema neresane es: Dado el modelo en un esado conocdo, deermnar la probabldad de que permanezca en ese esado durane exacamene d días. Es decr, deermnar la probabldad de la secuenca de observacón dado el modelo, que es P S, S, S, L, S, S S O 2 3 d d + d ( q S ) ( a ) O modelo, ( a ) p ( d ) ProDVoz RAV basado en HMM 9 La candad p (d) es la funcón n de densdad de probabldad (dscrea) de duracón d en el esado. Esa densdad de probabldad de duracón de po exponencal es caracerísca de la duracón de esado en MCs. Basados en p (d), podemos calcular el valor esperado del núme- ro de observacones (duracón) de un esado, condconado a comenzar en ese esado, como S d d d da dp d ( d ) ( a ) a ProDVoz RAV basado en HMM 0

6 Es decr, de acuerdo al modelo endríamos: úmero esperado de días soleados consecuvos úmero esperado de días lluvosos consecuvos úmero esperado de días nublados consecuvos ProDVoz RAV basado en HMM Modelos Oculos de de Markov (HMM: Hdden Markov Models) MC Modelos de Markov en los cuales cada esado corresponde a un eveno observable Modelos demasado resrcvos para ser aplcados a muchos problemas de nerés. HMMs exensón de MCs donde la observacón es una funcón probablísca del esado proceso doblemene esocásco, donde hay un proceso esocásco subyacene que no es obser- vable (es decr, es oculo), y sólo puede ser observado a ravés de oro conuno de procesos esocáscos que producen la secuenca de observacón. ProDVoz RAV basado en HMM 2

7 Eemplo : Trada de Monedas Escenaro: Habacón con una corna. De un lado de la corna hay una persona (ocula) que eecua el expermeno de rar una (o varas) monedas. Sólo nos comunca el resulado del expermeno sn decrnos como lo realza. La secuenca de observacón conssrá por eemplo de O O O 2 O 3... O T C S C...S donde C: cara S: seca Problema de Inerés: Consrur un HMM para explcar la secuenca de observacón. Debemos decdr a qué corresponden los esados del modelo y cuános esados son necesaros. ProDVoz RAV basado en HMM 3 Modelo con dos esados observables Una únca moneda (posblemene "cargada") es arroada. Hay sólo dos esados, y cada esado corresponde a un lado de la moneda. El modelo de Markov es observable (es decr es una MC y no un HMM) y para que quede compleamene especfcado se debe selecconar el "meor" valor de, por eemplo, P(C). (sólo parámero desconocdo) O C C S S C S CL S L Fgura 3: Modelo de Markov con 2 esados observables ProDVoz RAV basado en HMM 4

8 HMM con dos esados Hay dos esados en el modelo, donde cada esado corresponde a una moneda ( posblemene cargada") dferene que es arroada. Cada esado esá caracerzado por una dsrbucón de probabldades de Caras y Secas, y las ranscones enre esados esán caracerzadas por una marz de ranscón de esados. El mecansmo físco que explca cómo las ranscones enre esados son realzadas puede ser una rada ndependene de monedas o cualquer oro eveno probablísco. Vemos que aquí hay 4 parámeros desconocdos, que deben esmarse para que el modelo quede compleamene especfcado. ProDVoz RAV basado en HMM 5 O C C S S C S C CL S L Fgura 4: HMM con 2 esados oculos ProDVoz RAV basado en HMM 6

9 HMM con res esados Hay res esados en el modelo, donde cada esado corresponde a una moneda ( posblemene cargada") dferene que es arroada. La eleccón del esado esá gobernada por algún eveno probablísco. El HMM ene 9 parámeros desconocdos, que deben esmarse para que el modelo quede compleamene especfcado. P( C) P( S) P P 2 P2 P2 3 P3 P3 O C C S S C S C CL S L Fgura 5: HMM con 3 esados ProDVoz RAV basado en HMM 7 Eemplo 2: Bolllero con bolllas de colores Hay bollleros en una habacón, cada uno conenendo un gran número de bolllas de colores. Asummos que hay M colores dsnos de bolllas. Proceso de obencón de las observacones. Por algún proceso aleaoro, alguen que esá en la habacón seleccona un bolllero ncal. De ese bolllero es exraída aleaoramene una bollla, y su color es regsrado como una observacón. La bollla es devuela al bolllero del cual fue exraída. Un nuevo bolllero es enonces elegdo de acuerdo al proceso aleaoro de seleccón asocado al presene bolllero, y el proceso de seleccón de la bollla es repedo. ProDVoz RAV basado en HMM 8

10 Ese proceso genera una secuenca fna de observacón de colores que quséramos modelar como la salda observable de un HMM. El HMM más smple corresponde a uno en el cual cada esado corresponde a un bolllero específco, y por el cual esán defndas probabldades de color (bolllas) para cada esado. La eleccón de los bollleros esá deermnada por la marz de probabldades de ranscón de esado del HMM. ProDVoz RAV basado en HMM 9 Fgura 6: Modelo de Bollleros con Bolllas con un HMM con esados P(roo) b () P(azul) b (2) P(verde) b (3) M P(blanco) b ( M ) ProDVoz RAV basado en HMM 20

11 Elemenos de un HMM : número de esados del modelo. Los esados (oculos) enen (usualmene) asocados algún sgnfcado físco. Denoamos los esados ndvduales como { S, S2, } S, L M: número de símbolos de observacón dsnos por esado,.e. dmensón del alfabeo dscreo. Denoamos los símbolos ndvduales como S { V, V, 2 } V, L V M Marz de dsrbucón de probabldades de ranscón de esados A { } a ProDVoz RAV basado en HMM 2 ( q S q S ) a + P, Dsrbucón de probabldad del símbolo de observacón en el esado donde b B { b (k)} ( k) P( V en q S ),, k M k Dsrbucón de probabldad del esado ncal π { } donde ( q S ), π P π ProDVoz RAV basado en HMM 22

12 Para que el HMM quede compleamene especfcado deben especfcarse los parámeros M y, los símbolos de observacón V, y las res meddas de probabldad A, B, y π. Al HMM generalmene se lo denoa ( A, B ) λ,π Dado un HMM, ése puede usarse para generar una secuenca de observacón O O O L 2 donde cada observacón O es uno de los símbolos en V, y T es el número de observacones en la secuenca. O T ProDVoz RAV basado en HMM 23 Generacón de una secuenca de observacón. Selecconar un esado ncal q S de acuerdo a la dsrbucón de esado ncal π. 2. Far. 3. Selecconar O V k de acuerdo a la dsrbucón de probabldad de símbolo en el esado S, es decr, b (k). 4. Transconar al nuevo esado q + S de acuerdo a la dsrbucón de probabldad de ranscón del esado S, es decr, a. 5. Far + y volver al paso 3. s < T, en caso conraro, fnalzar. ProDVoz RAV basado en HMM 24

13 Los res problemas báscos en HMMs Problema : Dada una secuenca de observacón OO O 2... O T, y un modelo λ (A, B, π ), como compuar efcenemene la probabldad de que la secuenca de observacón haya sdo generada por el modelo P(O λ ). La solucón de ese problema perme selecconar de enre un conuno de modelos, el que meor se ausa a la secuenca de observacón. La solucón del problema es provsa por el Algormo Forward-Backward (debdo a Baum y colaboradores). Problema 2: Dada la secuenca de observacón OO O 2... O T, y un modelo HMM, λ (A, B, π ), como selecconamos la secuenca de esados Qq q 2... q T correspondene que meor explque la secuenca de observacón. (Deermnacón del esado oculo del modelo). La solucón a ese problema es provsa por el Algormo de Verb. ProDVoz RAV basado en HMM 25 Problema 3: Como ausamos los parámeros del modelo HMM λ (A, B, π ), de manera de maxmzar la probabldad de que la observacón haya sdo generada por el modelo P(O λ ). La solucón de ese problema es provsa por el Algormo de Baum-Welch Welch, equvalene al Algormo EM (Expecaon( Expecaon-Maxmzaon). Problema de de enrenameno ProDVoz RAV basado en HMM 26

14 Problema : Dada una secuenca de observacón OO O 2... O T, y un modelo λ (A, B, π ), se desea compuar efcenemene la probabldad de que la secuenca de observacón haya sdo generada por el modelo P(O λ ). La forma más dreca de realzar eso sería enumerando odas las posbles secuencas de esados de longud T (gual al número de observacones), y calculando la probabldad conuna de la secuenca de observacón O y la secuenca de esado Q, dado el modelo, es decr P(O, Q λ), para odas las posbles secuencas de esado de longud T, y luego calcular P(O λ ) como P ( O λ ) P( O, Q λ) Q ProDVoz RAV basado en HMM 27 Ese cálculo dreco nvolucra del orden de 2 T T operacones, sendo el número de esados del modelo HMM. Ese número de operacones es compuaconalmene prohbvo aún para el caso de y T pequeños. Por eemplo para 5 (esados) y T00 (observacones), resula 2 T T 2 x00 x Claramene es necesaro un procedmeno más efcene. Ese procedmeno exse y es el denomnado Algormo Forward- Backward, propueso por Baum y colaboradores. Algormo Forward-Backward Se defne la varable forward como () ( O O LO, q S λ) α P 2 ProDVoz RAV basado en HMM 28

15 Es decr, la probabldad de la secuenca de observacón parcal O, O 2,..., O, hasa el nsane, sendo el esado en gual a S, dado el modelo λ. La varable α () puede calcularse en forma recursva con el sguene algormo (por nduccón).. Incalzacón 2. Recursón (nduccón) α 3. Termnacón () b ( O ) α π + α + ( ) ( ) a b ( O ) P ( O λ) α ( ) T ProDVoz RAV basado en HMM 29 T S a S 2 S S a + α () α + () Fgura 7: Cálculo de la varable forward ProDVoz RAV basado en HMM 30

16 El algormo requere en el orden de 2 T operacones, en lugar de las 2 T T requerdas por el algormo dreco. Para el caso de 5 (esados) y T00 (observacones), resulan 2500 operacones, frene a las 0 72 operacones requerdas por el algormo dreco (69 órdenes de magnud menos). En forma smlar puede defnrse la varable backward. () ( O O O, q S λ) β P L T Es decr, la probabldad de la secuenca de observacón parcal desde el nsane + hasa el fnal (T), dado el esado S en, y el modelo λ. ProDVoz RAV basado en HMM 3 S ben esa varable no es necesara para la resolucón del Problema, la nroducmos aquí ya que es necesara para la solucón de los Problemas 2 y 3. La varable backward puede calcularse en forma recursva como sgue.. Incalzacón β 2. Recursón (nduccón) β T () + + () a b ( O ) β ( ) T, T 2, L, ProDVoz RAV basado en HMM 32

17 Fgura 8: Cálculo de la varable backward (recursón) ProDVoz RAV basado en HMM 33 Problema 2: Dada la secuenca de observacón OO O 2... O T, y un modelo HMM, λ (A, B, π ), como selecconamos la secuenca de esados Qq q 2... q T correspondene que meor explque la secuenca de observacón. (Deermnacón del esado oculo del modelo). A dferenca del Problema, para el que puede enconrarse una solucón exaca, no exse una únca solucón para el Problema 2, ya que la secuenca ópma de esados va a depender del crero de opmaldad que se adope. Por eemplo, un posble crero de opmaldad es selecconar los esados q que ndvdualmene sean los más probables. Ese crero, enonces maxmzaría el número esperado de esados ndvduales correcos. Eso, sn embargo, puede ocasonar problemas con la secuenca de esados resulane, sobre odo en los casos de HMM en los que la marz de probabldades de ranscón ene elemenos nulos (ranscones no permdas), ya que la secuenca resulane podría no ser n squera una secuenca válda. ProDVoz RAV basado en HMM 34

18 Eso es debdo al hecho de que la solucón deermna smplemene el esado más probable en cada nsane, sn ener en cuena la probabldad de ocurrenca de secuencas de esados. Una alernava a eso, que es la que ha sdo más amplamene adopada, es enconrar la únca meor secuenca de esados (o camno), dada las observacones y el modelo,.e., la secuenca que maxmza P(Q O, λ ), que es equvalene a maxmzar P(Q,O λ ). Una écnca formal para enconrar esa únca meor secuenca de esados exse, basada en méodos de programacón dnámca, y es el denomnado Algormo de Verb. ProDVoz RAV basado en HMM 35 Algormo de Verb Para enconrar la únca meor secuenca de esados Qq q 2... q T para una dada secuenca de observacón OO O 2... O T, es necesaro defnr la candad () P( q q Lq S, O O LO λ) δ max 2 2 q, q2, L, q () que es la más ala probabldad a lo largo de un smple camno, que ene en cuena las observacones parcales hasa el empo alcanzando el esado S en ese empo. Por nduccón se ene que δ [ ] a b ( O ) ( ) δ ( ) max + + (2) ProDVoz RAV basado en HMM 36

19 Para recuperar la secuenca de esados es necesaro manener un regsro del argumeno que maxmza la probabldad en (2), para cada y para cada. Eso puede hacerse con la varable auxlar (arreglo) ( ). El procedmeno compleo es el sguene. ψ. Incalzacón δ ψ () π b ( O ) () 0 2. Recursón (nduccón) δ ( ) δ ( ) max [ a ] b ( O ) 2 T ProDVoz RAV basado en HMM 37 ψ [ a ] ( ) δ ( ) argmax 2 T 3. Termnacón [ δ ( ) ] [ δ () ] 4. Backrackng de la secuenca de esados q p q T max T argmax T ( q ) T, T 2,, ψ + + L ProDVoz RAV basado en HMM 38

20 Problema 3: Como ausamos los parámeros del modelo HMM λ (A, B, π ), de manera de maxmzar la probabldad de que la observacón haya sdo generada por el modelo P(O λ ). La solucón de ese problema es provsa por el Algormo de Baum-Welch Welch, equvalene al Algormo EM (Expecaon( Expecaon-Maxmzaon) Para descrbr el algormo de esmacón de Baum-Welsh denoemos con ξ (, ) a la probabldad de esar en el esado S en el empo, y en el esado S en el empo +, dado el modelo y la secuenca de observacón, es decr: (, ) P( q S, q S O ) ξ,λ + ProDVoz RAV basado en HMM 39 Esa probabldad puede escrbrse en funcón de las varables backward y forward de la sguene forma ξ (, ) α () ab ( O + ) β+ ( ) P( O λ) α () a b ( O ) β ( ) α + () a b ( O ) β ( ) ( q S, q S, λ) P O + Donde el numerador es normalzacón por el facor P(O λ ) se realza para que sea una medda de probabldad., y la ( ) ξ, ProDVoz RAV basado en HMM 40

21 Fgura 9: Algormo de Baum-Welch. ProDVoz RAV basado en HMM 4 Defnamos la varable γ () P( q S O,λ) Es decr, la probabldad de esar en el esado S en el empo, dada la secuenca de observacón y el modelo. Esa probabldad puede expresarse en funcón de las varables forward y backward, como γ () ( ) β ( ) ( O λ) α α P α ProDVoz RAV basado en HMM 42 () β ( ) () β () El facor de normalzacón P(O λ ) hace que γ () sea una medda de probabldad, es decr se verfca γ ()

22 La varable γ () se puede relaconar con la varable ξ (,) según γ () ξ (, ) Sumando γ () sobre se obene el valor esperado del número de veces que el esado S es vsado, o lo que es equvalene, el número de ranscones desde el esado S. T γ () valor esperado nro. de ranscones desde S En forma smlar, sumando ξ (,) sobre, se obene el valor esperado del número de ranscones desde el esado S hasa el esado S T ξ (, ) valor esperado nro. de ranscones desde S a S ProDVoz RAV basado en HMM 43 Basándose en esas expresones se pueden obener las sguenes fórmulas recursvas de esmacón de los parámeros de un HMM. π valor esperado nro. veces en esado en ( ) γ S () a () () γ 23 (3) T T ( ) γ ξ, s.. O v b ( ) T k T (2) ( ) ( ) γ 4243 (4) k ProDVoz RAV basado en HMM 44

23 Donde () Valor esperado del nro. de ranscones desde el esado S al S (2) Valor esperado del nro. de ranscones desde el esado S (3) Valor esperado del nro. de veces en el esado S y observando el símbolo v k (4) Valor esperado del nro. de veces en el esado S Parendo de un modelo ncal λ (A, B, π), las expresones anerores permen reesmar el modelo obenendo un nuevo modelo λ A, B,π, de manera que, o ben ( ) ) el modelo ncal λ defne un puno críco de la funcón de verosmlud, en cuyo caso, o λ λ ProDVoz RAV basado en HMM 45 λ 2) El modelo es más probable que el modelo λ en el sendo que P O λ > P O λ ( ) ( ) Es decr, se ha enconrado un nuevo modelo, que es más probable que haya producdo la secuenca de observacones. Basado en ese procedmeno, s eravamene se usa en lugar de λ y se repe el proceso de re-esmacón, se ncremena la probabldad de que las observacones hayan sdo generadas por el modelo, hasa que se alcanza un puno líme. El valor fnal de las probabldades que defnen el HMM se denomna esma de máxm x- ma verosmlud del HMM. Cabe aclarar que el procedmeno descrpo conduce a máxmos locales y que en general la superfce de opmzacón es muy complea presenando múlples máxmos locales. ProDVoz RAV basado en HMM 46 λ λ

24 Esmas ncales de los parámeros del HMM Las ecuacones de re-esmacón conducen a máxmos locales de la funcón de verosmlud. Una preguna que surge es cómo elegr las esmas ncales de manera que los algormos de opmzacón conduzcan al máxmo global de la funcón de verosmlud. Lamenablemene, no exse una respuesa smple o dreca a esa preguna. La experenca ndca que esmas ncales aleaoras (sueas a las resrccones esocáscas y de no nuldad) o unformes de π y A son adecuadas en la mayoría de los casos. Sn embargo, para los parámeros B es ndspensable ener una buena esma ncal. Esas esmas ncales se pueden obener con dversas écncas de segmenacón de la secuenca de observacones (ver [2]). ProDVoz RAV basado en HMM 47 Tpos de HMMs HMM ergódcos: Cada esado del modelo puede ser alcanzado en un sólo paso desde cualquer oro esado del modelo. Tambén se los denomna HMM oalmene conecados. La marz de probabldades de ranscón de esados es una marz llena con odos sus elemenos posvos. Fg 0: HMM ergódco de 4 esados. ProDVoz RAV basado en HMM 48

25 HMM Izquerda-a-derecha: derecha: La secuenca de esado asocada con el modelo ene la propedad de que a medda que el empo avanza el índce ndcando el esado se ncremena (o permanece el msmo),.e., el esado procede de zquerda a derecha. Esos modelos son apos para modelar señales cuyas propedades varían con el empo, como las señales de voz. Fg : HMM Izquerda-a-Derecha de 4 esados. ProDVoz RAV basado en HMM 49 Tenen la propedad que los coefcenes de la marz de probabldades de ranscón de esados verfcan a 0 < Es decr, no esán permdas las ranscones a esados cuyos índces son menores que el del esado presene. Además, las probabldades de esado ncal verfcan π 0,, ya que la secuenca de esados debe comenzar en el esado (y fnalzar en el esado ). ProDVoz RAV basado en HMM 50

26 A menudo se suelen mponer resrccones adconales en las probabldades de ranscón de esados para asegurar que no se producen cambos grandes en los índces en las ranscones. Por eemplo se suele mponer una resrccón de la forma a 0 > + En parcular, para el caso de Fgura es 2, es decr, no se permen salos de más de dos esados. Resula claro que para el úlmo esado en el modelo zquerda-aderecha se verfca a a 0, < ProDVoz RAV basado en HMM 5 Densdades de probabldad de observacón connuas en HMMs En lo desarrollado hasa el presene se asumó que las observacones esaban caracerzadas por símbolos dscreos denro de un alfabeo fno, por lo que se podían usar densdades de probabl-dad dscreas denro de cada esado del modelo. El problema con ese enfoque es que para la mayoría de las aplcacones (y en parcular para reconocmeno de palabra) las observacones son señales (vecores) connuos. S ben se pueden cuanzar usando un lbro de códgos (Vecor Quanzaon) eso rae apareada una sera degradacón de la performance de los dsposvos de reconocmeno. Un enfoque muy usado, es represenar la funcón de densdad de probabldad connua como una combnacón lneal de dsrbucones Gaussanas (mezclas Gaussanas) de la forma ProDVoz RAV basado en HMM 52

27 b M ( O) c ( O, µ, U ) m m m m Donde O es el vecor de observacón, c m, m,..., M son los coefcenes de la mezcla de M Gaussanas en el esado, y (O, µ m, U m ) es una dsrbucón Gaussana con meda µ m y marz de covaranza U m correspondene a la m-ésma componene de la mezcla en el esado. Los coefcenes c m deben sasfacer la resrccón esocásca c M m m c m 0,,, m M ProDVoz RAV basado en HMM 53 de manera que resule b ( x) dx, Esa represenacón puede ser usada para aproxmar, con una precsón arbrara, cualquer funcón de densdad de probabldad connua fna. Se han desarrollado fórmulas de reesmacón para los parámeros µ m, U m y c m de las mezclas Gaussanas (ver [2]). ProDVoz RAV basado en HMM 54

28 Reconocmeno de palabra aslada usando HMM Para cada palabra de un vocabularo de V palabras se quere dseñar un modelo HMM con esados. Para cada palabra en el vocabularo se ene un conuno de enrenameno con K nsancas de la palabra hablada por uno o más locuores. Cada ocurrenca de la palabra consuye una secuenca de observacón. Las observacones son alguna represenacón especral (cepsral) o emporal de la señal de voz. En general, la señal correspondene a cada palabra se represena con una secuenca emporal de vecores especrales codfcados. Se asume que la codfcacón se realza con un lbro de códgo con M palabras códgo. Cada observacón resula enonces gual al índce del vecor en el lbro de códgo que esá más cerca del vecor especral correspondene a la señal de voz. ProDVoz RAV basado en HMM 55 El algormo de reconocmeno puede resumrse como:. Para cada palabra v en el vocabularo V se debe consrur un HMM λ v, es decr se deben esmar los parámeros del modelo (A v, B v, π v ) que opmzan la probabldad del conuno de vecores de enrenameno asocados a la v-ésma palabra. 2. Para cada palabra desconocda que se quere reconocer, se debe obener la secuenca de vecores de observacón O. Luego calcular la probabldades de que esa secuenca haya sdo generada por cada uno de los modelos posbles P(O λ v ), con v V y luego selecconar la palabra cuyo modelo enga la más ala probabldad,.e. v * argmax v V [ P( O λ )] v ProDVoz RAV basado en HMM 56

29 Dg Uerance FROT-ED PROCESSOR Observaon Sequence O λ 0 LIKELIHOOD COMPUTATIO λ LIKELIHOOD COMPUTATIO λ 9 LIKELIHOOD COMPUTATIO HMM for Dg 0 P( O λ 0 ) HMM for Dg P( O λ ) HMM for Dg 9 P( O λ 9 ) Recognzed Dg MAXIMUM SELECTOR [ P( O λ )] Fg. 2: Dagrama de bloques de un reconocedor de dígos aslados. v * argmax v V v ProDVoz RAV basado en HMM 57