Enju. A fast, accurate, and deep parser for English

Transcripción

1 Enju A fast, accurate, and deep parser for English

2 Introducción Enju es un parser para el inglés Desarrollado en la Universidad de Tokio Basado en una gramática HPSG Output de estructuras sintácticas y semánticas Estructura de frases Estructura de predicado-argumentos

3 Introducción Amplio cubrimiento del idioma inglés También tienen una adaptación para textos biomédicos Alta performance 90% de precisión en textos de noticias y biomédicos El parsing tarda en general menos de 500ms

4 Introducción Dado el texto de entrada, Enju realiza un parsing HPSG y obtiene la siguiente información: -Estructura de frases. (más orientado a la sintaxis) -Estructura de predicado-argumentos. (más orientado a la semántica)

5 Introducción Ejemplo: Análisis de Dogs eat bones. -Estructura de frases: (S (NP dogs) (VP eat (NP bones))) -Estructura de predicado-argumentos. < eat, arg1, dogs > < eat, arg2, bones >

6 Introducción Por defecto Enju se ejecuta para que devuelva solo la estructura de predicado-argumentos. Pero esto no nos da toda la información que queremos. El formato de salida XML provee toda la información sobre ambas estructuras.

7 Introducción La salida no estáen el formato HPSG que vemos en el curso. Pero podríamos inferir los rasgos que utiliza la gramática a partir de los ejemplos de salida. Aún asíhay diferencias. Por ejemplo: son válidas las oraciones que violan la concordancia de número o persona.

8 Formato de salida <sentence id="s0" parse_status="success" fom=" "> <cons id="c0" cat="s" xcat="" head="c3" sem_head="c3" schema="subj_head"> <cons id="c1" cat="np" xcat="" head="c2" sem_head="c2" schema="empty_spec_head"> <cons id="c2" cat="nx" xcat="" head="t0" sem_head="t0"> <tok id="t0" cat="n" pos="nns" base="dog" lexentry="[d<n.3sg>]-plural_noun_rule" pred="noun_arg0">dogs</tok> </cons> </cons> <cons id="c3" cat="vp" xcat="" head="c4" sem_head="c4" schema="head_comp"> <cons id="c4" cat="vx" xcat="" head="t1" sem_head="t1"> <tok id="t1" cat="v" pos="vbp" base="eat" lexentry="[np.nom<v.bse>np.acc]-no_singular3rd_verb_rule" pred="verb_arg12" tense="present" aspect="none" type="none" voice="active" aux="minus" arg1="c1" arg2="c5">eat</tok> </cons> <cons id="c5" cat="np" xcat="" head="c6" sem_head="c6" schema="empty_spec_head"> <cons id="c6" cat="nx" xcat="" head="t2" sem_head="t2"> <tok id="t2" cat="n" pos="nns" base="bone" lexentry="[d<n.3sg>]-plural_noun_rule" pred="noun_arg0">bones</tok> </cons> </cons> </cons> </cons>. </sentence>

9 Formato de salida

10 Formato de salida <sentence> Raíz de la estructura. Atributos: id: identificador único. parse_status: success, o por qué falló. fom: valor numérico que indica el nivel de confianza del parsing.

11 Formato de salida <tok> Denota las hojas del árbol (terminales o tokens). Atributos: id: identificador único. cat: categoría sintáctica. pos: Part of Speech estilo Penn Treebank. base: lema del cual viene el terminal.

12 Formato de salida <cons> Denota los constituyentes, por ejemplo los sintagmas. Atributos: id: identificador único. cat: categoría sintáctica. xcat: otros rasgos de la categoría sintáctica. head: id del hijo que actúa como núcleo sintáctico. sem_head: id del hijo que actúa como núcleo semántico.

13 Formato de salida En los <tok> el atributo cat tiene siempre categorías simples de POS: V, D, N, Sin embargo en los <cons> el atributo se compone por un POS y un sufijo que indica si es un sintagma saturado (P) o insaturado (X). <cons cat="vx"> <tok cat="v">buys</tok> </cons>

14 Formato de salida Para denotar la estructura predicado-argumentos, se agregan los siguientes atributos a <tok>: pred: describe el tipo de relación que establece el predicado (por ejemplo verb_arg123 representa un verbo con sujeto y dos complementos) arg1, arg2, arg3, arg4: ids en la estructura de los argumentos correspondientes. mod: modificador de un verbo.

15 Formato de salida Se agregan otros atributos específicos para representar aspectos de HSPG: A cons se le agrega: schema: describe el esquema (o tipo de relación) utilizado para el constituyente. A tok se le agrega: tense, aspect, voice, aux, type: atributos de los verbos. lexentry: lema y reglas aplicadas al lema para generar la palabra (morfología).

16 Construcción Para construir una gramática HPSG se necesita: -Reglas de la gramática -Entradas léxicas para las palabras Cómo construyeron la gramática de amplio cubrimiento de Enju?

17 Construcción Si tuviéramos un corpus con muchas oraciones [1] parseadas (treebank), sería sencillo obtener las entradas léxicas HEAD noun SPEC <> COMPS <> John HEAD verb SPEC <> COMPS <> HEAD verb SPEC <[1]> COMPS<[2]> buys HEAD verb SPEC <[1]> COMPS<> [3] [2] HEAD det SPEC <> COMPS<> the HEAD noun SPEC <> COMPS<> HEAD noun SPEC <[3]> COMPS<> apples

18 Construcción - Reglas de la gramática Tienen que ser desarrolladas a mano (lingüistas) - Entradas léxicas para las palabras Teniendo las reglas, humanos realizan el parsing a mano de muchos ejemplos A partir de estos ejemplos extraemos la información léxica Problemas?

19 Construcción Sería mucho más eficiente si no tuviéramos que parsear a mano el corpus Podemos echar mano de algún corpus parseado ya existente: Penn Treebank

20 Penn Treebank 1989 (última versión de 1995) inglés americano palabras material escrito y oral anotado (POS tags + información sintáctica + extensiones) muy utilizado para entrenar analizadores sintácticos disponible pagando licencia contiene: artículos científicos noticias capítulos de obras literarias oraciones de manuales de computación el corpus Brown completo re-etiquetado

21 Construcción El problema es que el Penn Treebank está anotado según su propio esquema. Utiliza GLC en vez de HPSG. S NP VP John buys NP the apples

22 Construcción Mediante reglas, se transforma los árboles del Penn Treebank en estructuras tipo HPSG Las reglas de la gramática HPSG nos ayudan a construir árboles correctos HEAD verb SPEC <> COMPS <> NP John S buys VP NP [1] HEAD noun SPEC <> COMPS <> John HEAD verb SPEC <[1]> COMPS<[2]> HEAD verb SPEC <[1]> COMPS<> [2] HEAD noun SPEC <> COMPS<> the apples buys [3] HEAD det SPEC <> COMPS<> HEAD noun SPEC <[3]> COMPS<> the apples

23 Construcción A partir de los árboles se pueden obtener las entradas léxicas HEAD verb SPEC <> COMPS <> NP John S buys VP NP [1] HEAD noun SPEC <> COMPS <> John HEAD verb SPEC <[1]> COMPS<[2]> HEAD verb SPEC <[1]> COMPS<> [2] HEAD noun SPEC <> COMPS<> the apples buys [3] HEAD det SPEC <> COMPS<> HEAD noun SPEC <[3]> COMPS<> the apples

24 Construcción Se extraen reglas de transformación morfológica para las entradas léxicas buys buy

25 Construcción Se extraen los mappings entre argumentos sintácticos y argumentos semánticos [1] [2] [1] [2] buy

26 Construcción Se transformaron oraciones del Penn Treebank Se extrajeron palabras Agrupadas en tipos de entradas léxicas Promedio de entradas léxicas por palabra: 1.33 Se calculó el cubrimiento obtenido: Cubrimiento léxico: 99.30% Cubrimiento de oraciones: 87.1%

27 Ejemplos

28 Referencias Enju Documentation The University of Tokyo, Deparment of Computer Science, Tsujii Laboratory - Acquiring a wide-coverage lexicalized grammar from Penn Treebank Yusuke Miyao, University of Tokyo Corpus-Oriented Grammar Development for Acquiring a Head-Driven Phrase Structure Grammar from the Penn Treebank Yusuke Miyao, Takashi Ninomiya, Jun ichi Tsujii