Inferencia Gramatical

Transcripción

1 3 Inferenci Grmticl 3.1 Introducci n L utilizci n en l pr ctic de los mžtodos sint cticos de reconocimiento de forms viene condiciond, no s lo por l necesidd de tener resuelt l etp de representci n, que en l suposici n de que los ojetos se presten un descripci n en tžrminos de suojetos, se resume en disponer de un mžtodo stisfctorio de selecci n y/o extrcci n de los mismos, sino tmižn por l oligtoriedd de conocer l descripcci n estructurl de todos los posiles ojetos que tomn prte de l form. Es decir, es necesrio conocer l grm tic. Como generlmente ello no es posile priori, se hce necesrio construirl u otenerl medinte lgœn mžtodo de prendizje; y ddo que en l myor de los prolems de reconocimiento de forms l œnic informci n de que se dispone (o se es cpz de trnsmitir) sore l form se hll resumid en un conjunto de ejemplos, se recurre usulmente mžtodos de prendizje inductivo, que en el cso de los mžtodos sint cticos se englon en lo que se conoce como inferenci grmticl (IG) [Fu,75] [Miclet,90]. Al igul que culquier otro prolem de inferenci Inductiv, l inferenci grmticl se especific medinte l definici n de [Grc,88]: ) Un dominio de forms inferir. ) Un espcio de hip tesis o representciones. c) Un mžtodo de presentci n de ejemplos. d) Un mžtodo de inferenci. e) Un criterio de Žxito. Usulmente ls plicciones pr ctics descrtn, por su intrtilidd, l utilizci n de los mžtodos enumertivos de inferenci grmticl, centr ndose en mžtodos constructivos, los cules utilizn normlmente s lo muestrs positivs. L grn myor de los mžtodos de inferenci

2 Cp tulo 3: Inferenci Grmticl grmticl existentes en l ctulidd son mžtodosheur sticos (no crcterizles) e infieren grm tics regulres. 3.2 Especificci n del prolem de IG Dominio de forms inferir Pr l inferenci grmticl el dominio de forms es culquier suconjunto de los lengujes formles. M s concretmente, se le restringe culquier suconjunto de los lengujes recursivos. (los lengujes recursivos son quellos lengujes formles L V * sore el lfeto V, pr los cules es decidile si un cden ÎV * pertenece o no dicho lenguje) Espcio de hip tesis o representciones El espcio de ls hip tesis depende del dominio de forms que dee de inferir el sistem y de l representci n utilizd. Como œnic condici n, dee de estr compuesto de por lo menos un representci n (descripci n de un hip tesis) pr cd form (en nuestro cso, lenguje) del dominio. En prticulr, en el cso de que se trte de inferir un lenguje de l suclse de los lengujes regulres sore un lfeto V, el espcio de ls hip tesis lo formn ls grm tics regulres sore V, unque tmižn lo podr n serlo los ut mts finitos sore V MŽtodo de presentci n de ejemplos En generl en inferenci inductiv se utilizn dos mžtodos de presentci n de ejemplos [Gold,67]: Presentci n positiv del lenguje L: es un sucesi n de elementos de L (muestrs positivs). Presentci n complet del lenguje L: es un sucesi n de elementos de L y de su complementrio (muestrs positivs y muestrs negtivs), mrcdos pr indicr su pertenenci o no L. Tods ls cdens de V * precen en l secuenci. Amos mžtodos son utilizdos en inferenci grmticl, unque sicmente se emplee l presentci n positiv por ls rzones que se expondr n m s delnte. 44

3 Cp tulo 3: Inferenci Grmticl MŽtodo de inferenci Que consiste en un lgoritmo que cd nuevo ejemplo proporcion un form (su representci n, l hip tesis) v lid (o no) pr los ejemplos presentdos hst ese momento. Expresdo formlmente, un mžtodo de inferenci M,G es un funci n M,G :2 Q H, donde 2 Q es el conjunto de todos los suconjuntos finitos del espcio de ojetos Q (de cdens de V * pr l IG), el dominio y H el espcio de ls hip tesis. G es el criterio de preferenci que utiliz el mžtodo pr escoger l siguiente hip tesis H t ÎH, v lid pr el conjunto de ejemplos { 1,..., t }, cundo le lleg el ejemplo t en el instnte t (ver figur 3.1). Lengujes Recursivos Lengujes Regulres (L.R.) Método de Infer enci M,F Grm tics Regulres (o AEF) DOMINIO (L.R.) ESPACIO DE HIPOTESIS OBJETOS (Ejemplos) Figur 3.1 Dominio y Espcio de ls Hip tesis en Inferenci Grmticl de Lengujes Regulres. Es desele que un mžtodo de inferenci se Consistente, es decir, que cepte todos los ejemplos positivos le dos hst ese momento y rechce los negtivos si los hy; y Conservtivo, es decir, que s lo cmi de hip tesis si un nuevo ejemplo es incomptile con l hip tesis presente. Existen dos tipos sicos de mžtodos de inferenci, los: Constructivos, que vn construyendo un nuev hip tesis con cd nuevo ejemplo. Enumertivos, que sumen que es posile enumerr ls hip tesis. A cd nuevo ejemplo, un mžtodo enumertivo uscr secuencil y exhustivmente en l list de hip tesis l primer que se comptile con todos los ejemplos presentdos. 45

4 Cp tulo 3: Inferenci Grmticl En inferenci grmticl, como en csi todos los csos pr cticos de reconocimiento de forms, se emplen mžtodos constructivos que usulmente son conservtivos y consistentes Criterio de Žxito Si un proceso de inferenci se consider infinito, se puede determinr su Žxito estudindo su comportmiento en el l mite. El criterio de Žxito m s fuerte que se puede exigir es que el mžtodo dž con l soluci n correct, es decir, que prtir de cierto momento (de cierto ejemplo) no cmie de hip tesis y que l hip tesis que tiene en ese momento se l uen (lo que no quiere decir que el mžtodo sep detenerse en ese punto). Este es el criterio de identificci n en el l mite.: M identific en el l mite L Û $t o (t>t o Þ (H t =H to ) & L(H t )=L) Desde luego, existen mžtodos menos exigentes (Concordnci en el l mite, proximci n y proximci n fuerte, e-identificci n en el l mite,...) [Grc,88]. Se dice que un conjunto de lengujes recursivos es identificle prtir de presentci n complet si pr culquier lenguje L del conjunto y culquier secuenci infinit de cdens de L, existe un lgoritmo que identific L en el l mite. 3.3 MŽtodos enumertivos Un mžtodo de inferenci es m s potente que otro, si ddo un criterio de Žxito y un mžtodo de presentci n, el conjunto de lengujes que es cpz de inferir (su lcnce) es m s mplio. Puesto que los mžtodos enumertivos se sn en un œsqued exhustiv del espcio de ls hip tesis, es evidente que pueden inferir culquier clse de lengujes, y que por lo tnto son de un potenci insuperle. Tod limitci n en l potenci de los mžtodos enumertivos ser pues v lid tmižn los otros mžtodos de inferenci, lo que permite limitr el estudio te rico los enumertivos, m s sencillos conceptulmente. El tiempo de convergenci de un mžtodo de inferenci se define como el punto (nœmero del ejemplo) prtir del cul se se h conseguido l identificci n en el l mite. Un mžtodo es uniformemente m s r pido que otro cundo, se cul se l presentci n, su tiempo de convergenci es menor en por lo menos uno de los lengujes inferir (y no es myor pr ningœn otro de estos lengujes). Un teorem de Gold [Gold,67], estlece 46

5 Cp tulo 3: Inferenci Grmticl que, pr un determindo lenguje y un determind presentci n, no existe un lgoritmo uniformemente m s r pido que el correspondiente mžtodo enumertivo. Desgrcidmente, es muy dif cil implementr en l pr ctic un mžtodo enumertivo: l complejidd de l œsqued exhustiv que implicn crece exponencilmente con l tll del espcio de ls hip tesis. A pesr de ello, lguns vrintes de los mžtodos enumertivos hn sido estudids. Estos lgoritmos, que se sn en estructurr el espcio de ls hip tesis con lgun relci n m s complej que l simple enumerci n, consiguen disminuir dr sticmente l complejidd de l œsqued en lgunos csos concretos (Pod, Bœsqued en un ret culo,...) [Grc,88]. 3.4 Presentci n positiv Dos teorems sicos, tmižn deidos Gold, delimitn dr sticmente lo que posile prender medinte culquier mžtodo de inferenci [Gold,67]: Culquier clse de lengujes recursivos primitivos es identificle en el l mite prtir de presentci n complet. Si un clse de lengujes recursivos contiene todos los lengujes finitos y l menos uno infinito (se dice que es superfinit), entonces no es identificle medinte presentci n positiv. Estos teorems no hcen m s que sentr formlmente un rzonmiento intuitivo elementl: si no se dispone de muestrs negtivs es imposile limitr l generlizci n efectud por el mžtodo de inferenci: culquier hip tesis cuyo lenguje se un superconjunto del uscdo ser comptile con los dtos. Con todo, un corolrio inmedito evidenci que l clse de los lengujes regulres no es identificle en el l mite prtir de presentci n positiv. A pesr de lo nterior, l myor de los sistems de inferenci grmticl s lo utilizn muestrs positivs, principlmente deido que los mžtodos enumertivos no son lo suficientemente r pidos, y los mžtodos constructivos existentes no permiten l utilizci n de muestrs negtivs. Otr rz n, de no menos peso en l pr ctic, reside en el hecho de que, prescindiendo de considerciones te rics, no es necesrio identificr perfectmente un lenguje pr poder construir un sistem reconocedor que funcione. En un clsificdor, por ejemplo, st con que el lenguje inferido conteng l de un clse y no se intersecte con los de ls otrs clses. Por otr prte, no es necesrio empe rse en inferir lengujes superfinitos: existen clses de lengujes identificles en el l mite prtir de presentci n positiv. Por ejemplo, cundo los lengujes de un clse son todos finitos, 47

6 Cp tulo 3: Inferenci Grmticl Žst es identificle con s lo ir construyendo el ut mt cn nico (si el lenguje es finito, es regulr) (figur 3,2). L={,,, } Figur 3.2 Aut mt Cn nico de un Lenguje Finito L. De hecho, es posile crcterizr los lengujes inferiles prtir de presentci n positiv. Pr que un fmili de lengujes recursivos ={L 1,L 2,...} se identificle en el l mite prtir de dtos positivos, es necesrio y suficiente el que exist un mžtodo que, pr culquier lenguje L i Î, permit enumerr un conjunto finito de frses F i L i, tl que si F i L j pr todo j³1, L j no es un suconjunto propio de L i [Angluin,80]. 3.5 MŽtodos Heur sticos y MŽtodos Crcterizles Generlmente, en un proceso de inferenci prtir de ejemplos l soluci n no es œnic, deižndose en l pr ctic escoger, de entre un conjunto de soluciones posiles, l soluci n que mejor se dpte l plicci n en prticulr. Est elecci n presupone l introducci n en el proceso de inferenci de un conocimiento dicionl, que se puede portr de dos mners, correspondientes dos clses de mžtodos de inferenci [Angluin,83] [Grci,90]: MŽtodos heur sticos, en los que el conocimiento est inclu do en el heur stico que define el procedimiento de generci n de l siguiente hip tesis. Lo idel es que se emplee un heur stico lo m s ce ido posile l cmpo de plicci n, pr s evitr hip tesis inconsistentes con dicho cmpo. En este tipo de mžtodos no suele ser posile definir formlmente el dominio de lengujes que infieren. 48

7 Cp tulo 3: Inferenci Grmticl MŽtodos crcterizles, en los que l hip tesis siguiente se escoge siempre dentro de un clse de lengujes conocid y ien definid (que generlmente formr prte de los "inferiles medinte presentci n positiv" segœn el teorem de Angluin). Aqu, el conocimiento del prolem se introduce escogiendo l clse de lengujes cuys propieddes sen propids pr l plicci n concret. En l pr ctic, y dd l escsez existente de mžtodos crcterizles cuyos lengujes sen utilizles en plicciones reles, los dise dores cn escogiendo lgœn mžtodo heur stico conocido, procediendo dptrlo su prolem concreto. A esto se de l dificultd de que l myor de los mžtodos heur sticos disponiles ctulmente se hn dise do de mner de provechr cierts propieddes generles de los lengujes regulres (lem de l estrell, equivlenci de los uenos finles,...), con lo que resultn poco plicles en l pr ctic. Por otro ldo, recientemente se h propuesto un nuev metodolog que permite desrrollr nuevos mžtodos de inferenci grmticl, en los que el conocimiento priori se incorpor con ciert fcilidd en se ls propieddes requerids pr el lenguje uscdo [Grc,88]. 3.6 MŽtodos constructivos de IG Por rzones como ls expuests en prtdos nteriores, l grn myor, por no decir todos, los mžtodos pr cticos de inferenci grmticl son constructivos y utilizn œnicmente presentci n positiv. A su vez, de entre todos ellos, l grn myor est orientd l inferenci de lengujes regulres, siendo escsos los que infieren grm tics de contexto lire o superiores [Grc,88]. De entre los mžtodos de inferenci de grm tics regulres (ut mts) cen destcr los que se sn en distintos mžtodos de grupr losêestdos del ut mt rol ceptor de prefijos (ver figur 3.3) de ls muestrs positivs. Este ut mt proporcion un espcio de œsqued muy decudo, siempre que l muestr se estructurlmente complet (se h utilizdo pr generrl tods ls regls de l grm tic inferir). Ejemplos de este tipo ser n (ver [Grc,88] pr un reve explicci n de cd uno): mžtodo de ls k-cols, que se s en l "equivlenci de los uenos finles" [Biermnn,72]; lgoritmo k-ri, que infiere lengujes regulres de l suclse de los "k-reversiles" [Angluin,82]; inferenci de lengujes k-contextules [Muggleton,84], que produce resultdos similres l nterior; y otros dos tmižn sdos en los "uenos finles": mžtodo de Levine [Levine,82] y mžtodo de comprci n de finles [Miclet,80]. 49

8 Cp tulo 3: Inferenci Grmticl PREFIJOS de L V*: ( es l conctenci n cden-cden/s molo) Pr(L)={ uîv*: u vîl, vîv* } L={,,,,,, } Pr(L)={,,,,,,,,,,,, } ACEPTOR de PREFIJOS de L finito: (V,Q,d,q o,f) Q=Pr(L); q o =l (cden vc ) F=L d(u,)=u Figur 3.3 Arol (ut mt) ceptor de prefijos. Otros mžtodos de inferenci de ut mts regulres, que no se sn en simplificr el rol ceptor de prefijos, uscn estructurs repetitivs en los ejemplos (mžtodo uv i w [Miclet,79]), o nlizn l prici n de s molos consecutivos (mžtodo del sucesor y mžtodo del ntecesor-sucesor [Richetin,84]). Finlmente, mžtodos como el presentdo en este trjo (ECGI) y otros expuestos en el cp tulo 7 [Chirthmjree,80] [Thomson,86] [Flschi,90], utilizn l correcci n de errores pr construir incrementlmente grm tics, diendo cd nuev muestr œnicmente ls regls necesris pr que se ceptd. 50