Los MŽtodos Sint cticos

Transcripción

1 2 Los MŽtodos Sint tios 2.1 Introdui n Entre los mžtodos estruturles de reonoimiento de forms destn los mžtodos englodos en lo que se onoe omo reonoimiento sint tio de forms. Estos mžtodos intentn provehr ls tžnis desrrollds por l teor de lengujes formles [Aho,73] [Eilemerg,74] [Hrrison,78], ls ules proveen de un representi n (ls grm tis) y de un menismo de interpreti n ("prsing" o n lisis sint tio) pr quells forms uyos ojetos se pueden desriir omo dens de suojetos [Gonzlez,78] [Fu,82] [Milet,86]. En su utilizi n en reonoimiento de forms, l teor de lengujes tropez desde un prinipio on un prolem inherente este dominio de plii n: l representi n impreis de los ojetos. Pr solventr est difiultd se he neesrio reurrir mžtodos de n lisis sint tio tolerntes dens "ruidoss" o plgds de errores. Los m s desrrolldos de estos mžtodos son el n lisis sint tio orretor de errores y el n lisis sint tio esto stio, que utilizdos simult nemente permiten onstruir nlizdores sint tios orretores de errores esto stios. 2.2 Los lengujes y sus grm tis Ddo un onjunto de s molos o lfeto V, el onjunto de tods dens posiles sore ese lfeto es V * (el monoide lire sore V medinte el operdor onteni n) y V + ser el mismo onjunto sin l den v. Un lenguje sore el lfeto V es un suonjunto de V *. Existen un

2 Cp tulo 2: Los MŽtodos Sint tios nœmero no enumerle de lengujes, todos ellos representles medinte grm tis. Un grm ti se define omo l u drupl G=(N,V,P,S), donde V es el lfeto de G y N es un onjunto finito de s molos no terminles, VÇN=. Se onoe W=V N omo el voulrio de G, un frse zîw * es un den de s molos de W. P W * NW * W* es un onjunto de regls de produi n o reesritur, que trnsformn un frse (en l que por lo menos hy un no terminl) en otr frse del mismo voulrio. Ests regls se denotn omo z 1 Az 2 z 3, donde z 1,z 2,z 3 ÎW * y AÎN. Finlmente, SÎN es el s molo no terminl iniil o xiom de G. Medinte l plii n suesiv de regls de G se puede trnsformr un frse z1 del voulrio en otr z n. Esriiremos esto omo z 1 ÊÞ * z n ; z 1,z n ÎW* ; y si D(zn )=(z 1,z 2,z 3,...,z n ), z i ÎW *, es l seueni de frses que hn llevdo de z 1 z n, diremos que D es un derivi n de z n desde z 1. Se define entones el lenguje generdo por G omo el onjunto de tods ls dens del lfeto que se pueden derivr del xiom de G: L(G)={ : ÎV *, SÊÞ * }. Al proeso de otener un derivi n de un den prtir del xiom de un grm ti y plindo regls de Žst, se le denomin n lisis sint tio. Se die que un grm ti es migu si pr lgun den del lenguje existe m s de un posile derivi n pr generrl. Chomsky dividi ls grm tis (y por lo tnto los lengujes) en un jerrqu que v del tipo 0 3, en orden dereiente de omplejidd, y en se l form de sus regls: Tipo 0: Tipo 1: Tipo 2: Tipo 3: Grm tis sin restriiones en ls regls. Grm tis sensiles l ontexto, on regls de l form z 1 Az 2 z 1 z 2. Es deir, el no terminl A se sustituye por l frse del voulrio en el ontexto z 1 z 2 (z 1,z 2 ÎW *, ÎW + ). Grm tis de independientes del ontexto, en ls que A independientemente del ontexto. Grm tis regulres, uys regls son de l form A B o A ; ÎV; A,BÎN. L grm tis de tipo 0 y 1 son ls que proporionn el myor poder desriptivo, unque son ls grm tis del tipo 2 y 3 ls m s utilizds en pliiones pr tis omo el reonoimiento de forms, priniplmente deido su muho menor omplejidd. Tods ells son ls llmds grm tis formles. 24

3 Cp tulo 2: Los MŽtodos Sint tios 2.3 Reonoedores de lengujes Segœn se h definido en el prtdo nterior, pr d lenguje existe un grm ti generdor del mismo. Similrmente, existe un reonoedor pz de deidir si un den pertenee o no diho lenguje. Pr los lengujes regulres el reonoedor es un ut mt finito. Se demuestr que pr todo ut mt finito existe un grm ti regulr que gener el lenguje eptdo por el ut mt y vievers [Aho,73]. Un ut mt finito se define omo un qu ntupl A=(V,Q,d,q o,f), donde V es un onjunto finito de s molos y Q un onjunto finito de estdos. q o es el estdo iniil y F Q el onjunto de estdos finles. d un funi n de trnsii n entre estdos: d:(q V) P(Q). El funionmiento de un ut mt se inii en q o pr ir psndo, medinte l funi n de trnsii n, de un estdo l estdo siguiente segœn indiquen los suesivos s molos de l den reonoer. Si despužs del œltimo s molo de l den se h llegdo un estdo finl, l den pertenee l lenguje del ut mt (figur 2.1). Formlmente, el lenguje de dens de V * eptdo por el ut mt A se define omo L(A)={ ÎV * Ù D(q o,) F¹ }, donde D:(Q V * ) P(Q) es l funi n de trnsii n d extendid dens de s molos (l es l den v ): D(q,l)={q}; D(q,)= ÊÊd(q',); ÎV * ; ÎV; qîq; q'îd(q,) Cd un de ls posiles seuenis de estdos reorridos por el ut mt pr reonoer un den, equivle un seueni de regls de l grm ti (regulr) equivlente, y por lo tnto, represent un derivi n de l den. N tese que en generl, el funionmiento de un ut mt impli el seguir simult nemente vrios posiles minos trvžs del mismo (y posilemente llegr vrios estdos finles), puesto que, segœn l definii n de d, ddo un s molo y un estdo son vrios los estdos siguientes (el ut mt es no determinist). Pr reorrer en prlelo vrios minos se suelen utilizr lgoritmos sdos en tžnis de progrmi n din mi (lgoritmo de Viteri, ver p tulo 4) [Bellmn,57] [Forney,73]. Si l definii n de d se restringe d:(q V) Q entones el ut mt es determinist. Se demuestr que ddo un ut mt no determinist siempre existe uno determinist que reonoe el mismo lenguje (pero puede tener 2 Q estdos) y vievers (figur 2.2) [Aho,73]. 25

4 Cp tulo 2: Los MŽtodos Sint tios Se el Lenguje: Tods ls dens que empiezn on '', seguid de un númer o indeter mindo de '', y que ter minn on '' o '' Su Grmáti: G=(V,N,P,S); V={'',''}; N={S,X,Y} P={ S X (xiom) X X (un ule) X Z G es NO determinist X Y Y Z Z S } T es el estdo 'finl' S es el estdo 'iniil' Reonoimiento de dens: '' y '' 1) Seueni de estdos: : SXXXZT, reonoid. : SXX, NO reonoid. Su tómt soido: 2) Seueni orrespondiente de regls: : S X, X X, X X, X X, X Z, Z T : S X, X X, X??? X Z Y T Figur 2.1 Un ejemplo de Lenguje regulr, on su Grm ti y su Aut mt soido. An lisis sint tio de 2 dens. S L M T N Figur 2.2 Aut mt determinist equivlente l no determinist de l figur nterior. N tese que reonoe el mismo lenguje, pero NO represent l mism grm ti (unque s un equivlente). Pr los lengujes de ontexto lire los reonoedores orrespondientes son los ut mts pil [Fu,82], pr los lengujes dependientes del ontexto se emplen los ut mts lineles otdos, y finlmente, pr los lengujes de tipo 0 ls m quins de Turing [Fu,82]. L definii n de los reonoedores de lengujes ondue inmeditmente un posile mner de utilizr los mžtodos sint tios en reonoimiento de forms. Pr ello, y siempre que los ojetos sen representles medinte dens de s molos, st onstruir un lsifidor en el que se define un grm ti por lse o form. El orrespondiente 26

5 Cp tulo 2: Los MŽtodos Sint tios reonoedor (p.e., un ut mt si l grm ti es regulr) determinr si l den pertenee o no l lenguje de l grm ti (l onjunto de dens que Žste represent) y por lo tnto, l form. L onstrui n o infereni de los reonoedores soidos d lse, o equivlentemente de sus grm tis, se puede llevr o mnulmente o medinte mžtodos de infereni grmtil (ver p tulo siguiente). 2.4 El prolem de l impreisi n Es muy usul en reonoimiento de forms el que los ojetos reonoer, e inluso los ejemplos de prendizje, vengn distorsiondos y emrolldos por ruidos de divers proedeni (medio miente, l nes de trnsmisi n en ml estdo, mnh en l foto,...) (figur 2.3). Sonidos o Se les Im genes Plr / UNO / en el dominio del tiempo. Diujo de un sill / U / / N / / O / Plr / UNO / (on ruido) en el dominio del tiempo. Diujo de un sill (on ruido) / U / / N / / O / Figur 2.3 Forms "limpis" y distorsionds por ruido. En el so del reonoimiento sint tio de forms, ello quiere deir que ls dens presentds l reonoedor pueden no ser orrets, es deir, pueden presentr s molos equivodos y s molos de m s o de menos. Esto su vez onllev el que ls grm tis, que menudo son onstru ds (utom ti o mnulmente) prtir de un suonjunto representtivo de dens de l form, puedn ser inexts. Est impreisi n, que fet tnto en l desripi n estruturl de los ojetos omo en l de ls forms, no puede desherse medinte los proedimientos usules de n lisis 27

6 Cp tulo 2: Los MŽtodos Sint tios sint tio, por lo que se hn desrrolldo soluiones lterntivs, ls ules se enmrn en dos proximiones ien diferenids: Aquells en ls que l interpreti n se llev o medinte el uso de mžtodos derivdos de l teor de l deisi n, definiendo un distni entre dens, prtir de informi n estd sti reltiv los distintos errores deidos l ruido u otrs uss [Aho,72] [Aho,73] [Thomson,74] [Bhl,75] [Tnk,86] [Tnl,87]. Ls tžnis orrespondientes se englon en el llmdo n lisis sint tio orretor de errores. Aquells que soin l informi n estruturl un informi n proil sti, sore l freueni de uso/prii n de ls distints prtes de l estrutur. Este suplemento de informi n flexiiliz notlemente l pidd de representi n del modelo, y h onduido l extensi n de los lengujes formles on el fin de inluir en ellos los llmdos lengujes esto stios. Estos lengujes se representn medinte grm tis esto stis, on ls que se llev o un n lisis sint tio esto stio [Gonzlez,78] [Fu,82] An lisis sint tio orretor de errores L ide si del n lisis sint tio orretor de errores reside en l estimi n de un distni o medid de similitud entre un den distorsiond y su originl perteneiente un grm ti dd. L distni entre dos dens se define prtir del "nœmero m nimo" de trnsformiones de error neesris pr psr de un den l otr. Se onsidern tres tipos posiles de error: orrdo, inseri n o sustitui n de un s molo, pudižndose psr de un den otr ulquier simplemente medinte omini n de estos errores [Thomson,74] [Fu,82]. Formlmente, se definen tres trnsformiones: T orrdo: ; inseri n: sustitui n: T i T s ; T,T i,t s : V * V * ; ÊÊÊÊ,ÎV * ;ÊÊÊÊ,ÎV;ÊÊÊÊʹ; prtir de ls ules se define l distni de Levenshtein d L (,) entre dos dens,îv * omo el m nimo nœmero de trnsformiones neesris pr onvertir en (figur 2.4). Es deir, si C es ulquier seueni de 28

7 Cp tulo 2: Los MŽtodos Sint tios trnsformiones que onviert en y SC, BC, IC son respetivmente el nœmero de sustituiones, orrdos e inseriones en C: d L (,)=min C { SC +BC +IC } h h h d d d t h h x d d d Sus tituión Bor rdo Inser ión Inser ión 4 Errores: Distni=4 Figur 2.4 Distni de Lenvenshtein entre dos dens. Si es neesrio, es posile extender est definii n dndo m s o menos importni un tipo de error frente otro, otenižndose entones l distni de Levenshtein ponderd: d LP (,)=min C { w s SC +w BC +w i IC } donde w s,w i,w son respetivmente los pesos (ostes) de sustitui n, orrdo e inseri n. Inluso e introduir un dependeni segœn el s molo que se orr (se insert o sustituye) (distni de Fu ponderd) [Fu,82]. Un vez definid l distni, un lgoritmo nlizdor sint tio orretor de errores es un lgoritmo que us un den perteneiente l lenguje de l grm ti G tl que l distni (d) entre y l den nlizr se m nim: = rgmin { d(,w) } wîl(g) l distni que proporion el m nimo se l puede onsiderr omo l distni entre l den y el lenguje L(G): D(,L(G)) = d(,) = min { d(,w) } wîl(g) Generlmente, los lgoritmos de n lisis sint tio on orrei n de errores se sudividen en dos etps: Construi n de l grm ti expndid G e de l grm ti G originl, diendo d regl de G sus orrespondientes regls de error. Existir un regl de error soid d posile trnsformi n de error (figur 2.5). 29

8 Cp tulo 2: Los MŽtodos Sint tios Conretmente, ls regls de error dir un grm ti regulr G=(N,V,P,S) pr onstruir su grm ti expndid ser n, xîv, (e es el s molo nulo nil): Inseri n (de x): A xa (A B)ÎP Sustitui n (de por x): A xb (A B)ÎP; A x (A )ÎP Borrdo (de ) 1 : A B (A B)ÎP; A e (A )ÎP G={ V,N,P,S }; V={ '','','' }; N={ X, Y, Z }; P={ S Y, S Z } S Y Z S e e Y Z Regls dids: S Y S Y S ey (sustitui n y orrdo) S S S S S S (inseri n) S Z S Z S ez (sustitui n y orrdo) Figur 2.5 Aut mt expndido: trnsiiones que se den l her l expnsi n de dos trnsiiones proedentes del mismo estdo. OsŽrvese l redundni de trnsiiones de inseri n. Anlizr sint timente l den desonoid on G e y luego, de entre tods ls deriviones otenids (G e es siempre migu), usr quell uys regls (trnsformiones) de error produzn l distni m nim. Est derivi n 2 proporion no s lo l den que m s se semej l muestr, sino tmižn l distni l mism. T pimente, los lgoritmos que se emplen pr est œsqued y minimizi n son los mismos que los utilizdos pr grm tis no determinists, por lo que se sn tmižn en ls tžnis de 1 Segœn l definii n m s orriente, ests regls NO SON REGULARES. Esto se disute on detlle en el Cp tulo 5. 2 L derivi n ptim puede no ser œni. 30

9 Cp tulo 2: Los MŽtodos Sint tios progrmi n din mi. Sin emrgo, l prtiulr form de ls regls de orrdo olig utilizr lgoritmos espeiles, lgunos de los ules se proponen en el p tulo Grm tis esto stis Un grm ti esto sti se form diendo proiliddes ls regls de un grm ti no esto sti (l grm ti rter sti de l grm ti esto sti). El lenguje esto stio generdo por tl grm ti est formdo no s lo por ls dens del lenguje, sino tmižn por su proilidd de produi n, que se otiene medinte el produto de ls proiliddes de ls regls utilizds. L teor de ls grm tis esto stis est perfetmente sentd, on un teor mtem ti que omplement l de los lengujes formles. Por ejemplo, un grm ti esto sti regulr es equivlente (o se puede modelizr omo) un generdor de Mrkov [Csuert,90], el ul dest por ser uno de los proesos esto stios m s trtles y mejor omprendidos [Riner,89] Definiiones Un grm ti ponderd es un quintupl G s =(N,V,P,S,D). Donde G=(N,V,P,S) es l grm ti rter sti de l grm ti ponderd y D es el onjunto de pesos soido ls regls de P. Pr d regl z 1i A i z 2i z ij el peso se esrie p ij (i=1,é,k; j=1,é,n i ; K es el nœmero de prtes izquierds distints y n i el nœmero de regls on l prte izquierd i). Se die que G s es esto sti si los pesos se omportn omo proiliddes, es deir, si p ij Í]0,1] y l sum de ls proiliddes de tods ls regls on l mism prte izquierd es igul l unidd: ni z 1i A i z 2i ÎW * NW * : z 1i A i z 2i z ij, j=1,é,n i, åêp ij = 1 i=1 L tipolog 0,1,2,3 s omo otros oneptos que dependen de ls forms de ls produiones (form norml de Greinh, et...) se extienden por similitud on ls no esto stis. Un grm ti esto sti es no-restringid si l proilidd de un regl no depende de l seueni de regls nteriormente plid. En un grm ti no-restringid (y no migu), l proilidd de generi n de un den = m ; 1, 2,..., m ÎV, prtir del xiom S, plindo l 31

10 Cp tulo 2: Los MŽtodos Sint tios seueni de regls r 1,r 2,r 3,...,r m, viene dd por p()=p(r 1 ) p(r 2 ) É p(r m ), * donde p(r i ) es l proilidd de l regl r i. Esriiremos esto S ÊÞ. p() En un grm ti migu, existir n n seuenis de regls (deriviones) pr generr l mism den, d un on su respetiv proilidd p i (), i=1,...,n. En este so l proilidd de generi n de se puede definir de dos posiles mners: sum de l proilidd de un nœmero finito de eventos exluyentes (proximi n ditiv): n p() = åêp i () i=1 m xim verosimilitud (proximi n mximl): p() = mx i=1,..,n p i () Un grm ti esto sti G s gener un lenguje ponderdo, es deir, un lenguje en el que d den llev soid un peso p() y que se define omo (utilizndo l proximi n ditiv): L(G s ) = { [,p()] ÎV * *, S ÊÞ pi () si l grm ti es migu. Si no lo es: n, i=1,...,n, p() = åêp i () } 1=i L(G s )={ [,p()] ÎV * *, S ÊÞ } p() Pr poder onsiderr L(G s ) omo un espio muestrl, en el que un sueso es l ourreni de un den on proilidd dd por l grm ti G s, es neesrio que l sum de ls proiliddes de tods ls dens que pued generr l grm ti se igul l unidd [Gonzlez,78]: åêp()=1 ÊÊxÎL(G s ) A un lenguje que umple est propiedd se le denomin un lenguje esto stio, y un grm ti que gener un lenguje esto stio es un grm ti onsistente : G s es onsistente Û L(G s ) es esto stio 32

11 Cp tulo 2: Los MŽtodos Sint tios Ls ondiiones de onsisteni pr grm tis de ontexto lire se pueden onsultr en [Fu,82] [Wetherell,90]. Pr que un grm ti regulr (de tipo 3) se onsistente st on que se propi (es deir, que no existn s molos inœtiles, ver [Fu,74] y [Milet,86]) Aut mts esto stios Del mismo modo en que se extienden ls grm tis pr otener grm tis esto stis, se pueden extender los reonoedores pr otener reonoedores esto stios. En onreto, pr ls grm tis esto stis de tipo 3 o regulres, los reonoedores designdos ser n los ut mts finitos esto stios, que se derivn de los ut mts finitos diendo proiliddes ls trnsiiones. Un ut mt finito esto stio (AFE) es un qu ntupl A s (Q,V,d,I,F), donde Q es un onjunto finito de estdos y V el onjunto de s molos terminles. d:q E Q 0,1] es un funi n pril que sign ls proiliddes tods ls posiles trnsiiones. I:Q [0,1], F:Q {0,1} definen pr d estdo su proilidd de ser iniil y su pertenei o no l onjunto de estdos finles, respetivmente. Pr segurr l estostiidd, l sum de proiliddes de ls trnsiiones que slen de un mismo estdo dee ser igul l unidd: qîq; åêd(q,,q i )=1 Ù åêi(q)=1 qiîq,îv qîq Se pueden dr tod un serie de definiiones similres ls formulds pr grm tis esto stis: Si el AFE es no-restringido (l proilidd de un trnsii n es independiente de ls de ls dem s trnsiiones) l proilidd de eptr un den = n siguiendo l seueni de estdos q o,q 1,...,q n se esrie omo: I(q o ) d(q o, 1,q 1 )... d(q n-1, n, n ) F(q n ) Ddo que pr un determind den pueden her vrios minos trvžs del ut mt que lleguen l estdo finl, d uno on su proilidd p (), l proilidd de generi n de un den se puede definir tmižn medinte l proxim on ditiv o l mximl: p() = åêp () (ditiv) o ien p() = mx { p () } (mximl) 33

12 Cp tulo 2: Los MŽtodos Sint tios Al igul que en ls grm tis, el lenguje eptdo por un AFE est formdo por ls dens que prtir del estdo iniil llevn un estdo finl, junto on su proilidd de epti n. Se die que dos AFE son equivlentes si eptn el mismo lenguje ponderdo (misms dens y misms proiliddes). Dd un grm ti esto sti regulr, existe un AFE que ept un lenguje idžntio l generdo por l grm ti (pero lo ontrrio no es ierto) [Gonz lez,78] (figur 2.6). Aut mts Finitos Esto stios Grm tis Regulres Esto stis Lengujes Ponderdos Lengujes Esto stios Figur 2.6 Reli n de inlusi n entre los lengujes ponderdos (P), los esto stios (E), los generdos por grm tis regulres esto stis (GRE) y los ut mts finitos esto stios (AFE). Como se reordr, en el so generl de los ut mts finitos no determinists, l llevr o el n lisis sint tio es neesrio utilizr mžtodos que permitn evlur en prlelo vrios minos en el ut mt. Cundo se trt de ut mts esto stios ello se ompli deido l preseni de ls proiliddes, y si ien el lgoritmo de Viteri sigue siendo v lido undo se trj on l proximi n mximl, es neesrio empler el lgoritmo "Forwrd" pr el so de l proximi n ditiv [Riner,89]. Amos lgoritmos son de omplejidd similr (ver p tulo 4) Aprendizje de grm tis esto stis En el prendizje de grm tis esto stis, no s lo se dee de tener en uent l estrutur de los ejemplos, sino tmižn l freueni de prii n de los mismos. Pr ello, el mžtodo generlmente empledo se s en l dquisii n independiente del modelo estruturl (de l grm ti no esto sti), dižndose on posterioridd ls proiliddes de ls regls medinte un n lisis estd stio de los ejemplos y de sus deriviones por l grm ti [Mrynski,77] [Chndhuri,86]. M s rrmente, es el propio 34

13 Cp tulo 2: Los MŽtodos Sint tios proeso de infereni de ls regls (estrutur) el que se ve guido por el omportmiento estd stio de los ejemplos [Thomson,86]. Considerremos qu œnimente el proeso de inferir ls proiliddes de ls regls de un grm ti rter sti G=(V,N,P,S) y onoid. Diho de otro modo, se trt de inferir el onjunto de proiliddes D de l grm ti esto sti G s orrespondiente G, prtir de un onjunto de m ejemplos X={ 1,..., m } on freuenis respetivs de prii n f 1,...,f m. Entones, y siempre que G no se migÿ, l proilidd por m xim verosimilitud p ij de l regl z 1i A i z 2i z ij se puede estimr en se : Ù pij = n ij ; åên ij j n ij = åêf k N ij ( k ) k ÎX donde N ij ( k ) represent el nœmero de vees que l regl se utiliz pr nlizr k, y por lo tnto n ij simoliz l freueni de utilizi n de l regl por prte de tods ls dens de X. Pr grm tis independientes del ontexto, se puede demostrr que est estimi n p^ij se proxim p ij undo el nœmero m de ejemplos tiende infinito, siempre que simult nemente X se proxime L(G) y f k en X se proxime p( k ) [Mrynski,77]. Est estimi n dem s grntiz que l grm ti se onsistente [Fu,74]. OsŽrvese que el proedimiento de estimi n desrito no es v lido en el so de grm tis migus, pues no se h definido ningœn mžtodo pr "distriuir" ls proiliddes undo hy m s de un derivi n. En el so onreto de ls grm tis esto stis migÿs regulres existen mžtodos deudos, entre los que e destr, por su uso generlizdo, el lgoritmo de ÇBum-WelhÈ y el de reestimi n por Viteri [Levinson,83] [Riner,89] An lisis sint tio orretor de errores esto stio A l hor de efetur el n lisis sint tio de dens muestrs deformds, es posile ominr en un solo proeso ls dos estrtegis presentds en los prtdos nteriores, otenižndose entones l metodolog onoid omo eln lisis sint tio orretor de errores esto stio. L ide de este mžtodo onsiste simplemente en plir ls grm tis esto stis el mismo proedimiento de orrei n de errores que se utiliz pr ls grm tis no esto stis; pr lo ul, un grm ti esto sti se le dir el modelo de orrei n de errores (ls regls de error) [Thomson,75]. Como l grm ti expndid resultnte deer ser esto sti tmižn, es neesrio omplementr d trnsformi n de error, no s lo on un peso omo en l distni de Levenshtein y l de Fu, 35

14 Cp tulo 2: Los MŽtodos Sint tios sino on un proilidd. En ests ondiiones, l similitud entre dens no se mide medinte un distni entre ells, sino por l proilidd de que un se trnsforme en otr. El n lisis sint tio orretor de errores no minimizr un distni, sino que mximizr un proilidd. Utilizndo un modelo de error similr 3 l utilizdo omo ejemplo en el prtdo 2.4.1, ls trnsformiones de error posiles ser n: inseri n de un s molo '' (ntes de otro '',,ÎV), orrdo del mismo (sustitui n de por e, el s molo nil), y sustitui n de '' por otro s molo ''. A d uno de estos errores se le soi un proilidd, respetivmente p i ( ), p (e ) y p s ( ). Denotremos p s ( ) l proilidd de sustituir '' por s mismo, es deir, l proilidd de que NO se produz error en '' (proilidd de no error). Nos referiremos un ulquier de estsproiliddes de deformi n, omo pd. A prtir de ests definiiones, y por extensi n, pueden definirse l proilidd de trnsformr un s molo en un den y, œn on m s generlidd, l de un den en otr den : p( ) [Fu,82]. Un nlizdor sint tio orretor de errores esto stio usr l den del lenguje de l grm ti G que mximize l vez l proilidd de que l den (que no pertenee diho lenguje) se pued trnsformr en y l proilidd de que se del lenguje: = rgmx wîl(g e {p( w) p(w)} ) donde el que w pertenez l lenguje de l grm ti expndid equivle deir que se pruen tods ls deformiones permitids de. Los lgoritmos utilizdos pr onstruir estos nlizdores son similres los utilizdos en los ut mts nlizdores sint tios orretores de errores no esto stios. L proilidd que mximiz l expresi n nterior: p e () = mx wîl(g e {p( w) p(w)} ) se puede onsiderr omo l proilidd de que se un den deformd del lenguje de G, o diho de otro modo, l proilidd de que pertenez L(G e ). TmiŽn en este so es neesrio segurr l onsisteni de l grm ti, es deir, segurrse de que su lenguje es esto stio: 3 En este so, el oste de inseri n depende del s molo ntes del ul se reliz l inseri n. 36

15 Cp tulo 2: Los MŽtodos Sint tios åêp e ()Ê = 1 ÎL(G e ) Con el modelo de error que se est utilizndo, es posile demostrr que ello ser ierto siempre que ls proiliddes de deformi n sen onsistentes [Fu,82], es deir: åêp s ( )Ê + p (e ) + åêp i ( )Ê= 1; ÎV ÎV ÎV En el so de un grm ti regulr, en que se utilize un modelo de error en el que l proilidd de inseri n no depende del s molo siguiente (ejemplo del prtdo 2.4.1), l ondii n de onsisteni es diferente y se estudi on detlle en el p tulo Grm tis SANSAT En los restntes p tulos de este trjo se trtr exlusivmente on grm tis regulres (y en su myor esto stis). En prtiulr, en ls implementiones pr tis se h reurrido un sulse de ls grm tis de tipo 3: ls grm tis SANSAT ("SAme Non-terminl, then SAme Terminl"), de ls ules el utor no h enontrdo en l litertur ningun meni n expl it. Un grm ti G=(N,V,P,S) ser un SANSAT, si umple l ondii n de que tods ls regls que tienen el mismo no terminl l dereh tienen tmižn el mismo terminl: si (B C) ÎP Ù (A C) ÎP Þ =; A,B,CÎN,,ÎV Tl omo se verifi ontinui n, tod grm ti regulr tiene un grm ti SANSAT equivlente, y un ut mt de estdos etiquetdos (o ut mt LAS: "LAelled Stte utomt") igulmente equivlente Grm ti SANSAT equivlente un grm ti. Dd un grm ti regulr G=(N,V,P,S), un grm ti SANSAT equivlente ell, G t =(N t,v,p t,s), se onstruye de l siguiente mner (ver figur 2.7): Se gener un no terminl por d prte dereh de regl diferente: N t ={ X A : si (B A)ÎP, ÎV, A,BÎN } 37

16 Cp tulo 2: Los MŽtodos Sint tios Pr d no terminl X A, y d no terminl X B que orresponde un regl r de G que tiene A omo prte izquierd r=(a B), se gener un regl que reesrie X A omo X B preedido del terminl de l regl r, es deir X A X B : P t ={ X A X B : si (A B)ÎP } { X A : si (A )ÎP } { S X B : si (S B)ÎP } G=(N,V,P,S) N={B,C,D,E} V={,,} L(G)={ *,, *,, *,, *,, } P = { S B, S C, B D, B E, B, B B, D E, D, E, C, } Autóm t S B D C E Grmáti SANSA T equivlente Nt = { (B),(C),(B),(E),(D) } Pt = { S (B), S (C), (B) (B), (B) (E), (B) (D), (B), (B) (B), (B) (E), (B) (D), (B), (D) (E), (D), (E), (C) } Autóm t de Es tdos Etiquetdos (LAS) B S B C E D Figur 2.7 Un grm ti regulr G y su ut mt equivlente. L grm ti SANSAT equivlente G, y su LAS (ut mt de estdos etiquetdos) orrespondiente (no se muestrn ls etiquets de los estdos). Es inmedito ompror que ms grm tis son equivlentes, o lo que es lo mismo que L(G)=L(G t ). Pr ello, st tener en uent que tod derivi n por G de un den 1 2,É n ÎL(G) se puede reesriir medinte regls de G t (y por lo tnto pertenee l lenguje de Žst) y vievers. En efeto: D=r 1 r 2,Ér n = (S 1 A 1 )(A 1 2 A 2 )É(A n-1 n )= (S 1 X 1A1 )(X 1A1 2 X 2A2 )É( n-1 X n-1an-1 n ) 38

17 Cp tulo 2: Los MŽtodos Sint tios Aut mt de estdos etiquetdos (LAS) Un ut mt de estdos etiquetdos LAS=(V t,q,d,q o,f,e), es un ut mt equivlente un grm ti SANSAT G=(N t,v,p t,s), onstru do de mner similr l seguid usulmente pr otener el ut mt equivlente un grm ti, pero: Se de un funi n de etiquetdo E:Q V que sign d estdo el s molo terminl soido tods ls regls on ese no terminl l dereh. Por ompletitud de E, se etiquet ritrrimente el estdo iniil on el s molo "~", (s molo iniil) que se de l onjunto de terminles. Se olig que hy tntos estdos finles omo s molos terminles puedn terminr un den del lenguje. Todo lo ul qued expresdo formlmente omo sigue: V t =V {~}; ~ÏV Q={ q A : X A ÎN t } F; F={ q : ÎV, (X A )ÎP t }; q o =S; d:q V Q; d={ (q A,, q B ) : si (X A X B )ÎP t } { (q o,, q A ) : si (S A)ÎP }; E:Q V; E(q o )=~; E(q B )=; E(q )=; En un LAS, los terminles soidos ls trnsiiones son siempre igules l etiquet el estdo destino de l trnsii n. Esto permitir definir ls trnsiiones sin etiquets (terminles soidos), l ser Žsts redundntes, pero se ls h onservdo pr permitir que un LAS sig siendo un ut mt en el sentido l sio. Por otr prte, gris est propiedd, un LAS puede ser representdo esquem timente de idžnti mner que un ut mt l sio, pero etiquetndo los estdos en lugr de ls trnsiiones (ver figur 2.8). TmiŽn provehndo est propiedd es posile dr un definii n lterntiv del lenguje del LAS: un den es reonoid por un LAS (y por lo tnto pertenee su lenguje) si existe un mino en el LAS que prtiendo del estdo iniil llegue uno finl, tl que l seueni de etiquets de estdos se orrespond on l seueni de s molos de l den: 1 2 É n es reonoid por LAS Û q o,q 1,.. q n E(q i )= i ; i=1..n; q i ÎQ ; q n ÎF 39

18 Cp tulo 2: Los MŽtodos Sint tios ~ Figur 2.8 LAS de l figur nterior, representdo on etiquets en los estdos en vez de en ls trnsiiones. Un grm ti SANSAT G t =(N t,v,p t,s) (y por lo tnto su LAS) tiene generlmente m s estdos que su equivlente onvenionl G=(N,V,P,S). Del proedimiento de onstrui n de l grm ti SANSAT se oserv que puede llegr tener N t = N V no terminles y P t = P V regls 4 (ver figur 2.9). De ello se dedue que l omplejidd espil de l representi n de un lenguje medinte un grm ti SANSAT (o su LAS) puede llegr ser V vees myor que su equivlente onvenionl, lo ul es espeilmente signifitivo si el nœmero de terminles es muy superior l de no terminles. P = { S A, S A, S A, N = { A } V = {,, } A A, A A, A A, A, A, A } S A ~ Figur 2.9 Cso extremo de inremento de trnsiiones y estdos l psr de un ut mt un ut mt de estdos etiquetdos (LAS) LAS y Modelos Oultos de Mrkov (HMM) Es extremdmente interesnte notr mo, prtir de l equivleni entre un grm ti regulr y un ut mt de s molos etiquetdos, es inmedito relionr ls grm tis on losmodelos Oultos de Mrkov 4 Bst notr que, en relidd, lo que se est hiendo es desdolr los no terminles (estdos) en tntos omo se neesrio pr que d uno de ellos llegue siempre el mismo terminl. 40

19 Cp tulo 2: Los MŽtodos Sint tios (Hidden Mrkov Model: HMM [Riner,89]) on estdos finles. En efeto, si se define un ut mt esto stio de estdos etiquetdos, omo un LAS, on: Proiliddes de trnsii n p(q q') (l proilidd de un trnsii n no depende del s molo). Un funi n de etiquetdo E(q,):Q V [0..1] proil sti (proilidd de que l etiquet de qîq se ÎV). de form que: åêp(q q')=1 y åêe(q )=1 q se tiene un definii n equivlente l de un Modelo Oulto de Mrkov on estdos finles, en el que l distriui n iniil de proilidd de los estdos P o (q o ), P o (q 1 )..P o (q Q ) es [1,0,..,0] (s lo hy un estdo iniil). 41

20 42 Cp tulo 2: Los MŽtodos Sint tios