SET: SISTEMA DE EXTRACCIÓN DE TÉRMINOS EN EL DOMINIO DE LA INFORMÁTICA.

Transcripción

1 SET: SISTEMA DE EXTRACCIÓN DE TÉRMINOS EN EL DOMINIO DE LA INFORMÁTICA. Yusney Marrero García 1, Lilibeth M. González Ruiz 1 1 Universidad Agraria de la Habana (CUBA) yusneym@unah.edu.cu, lilibeth@unah.edu.cu 1 Resumen Debido al elevado crecimiento en los últimos años de la documentación digital existente, la tarea de extraer manualmente la información deseada se hace demasiado engorrosa. La extracción automática de terminologías en documentos de especialidad ha sido explorada ampliamente en diversos idiomas como el inglés, el francés y el alemán, pero no lo ha sido tanto en el español. Este trabajo presenta SET, Sistema de Extracción de Términos en el dominio de la informática para el idioma español, un sistema híbrido el cual trabaja con métodos lingüísticos y estadísticos. 2 Introducción En la actualidad existe un gran volumen de textos en formato digital dispersos por todo el mundo electrónico que nos rodea debido a los avances científico técnicos que tienen lugar en disímiles esferas y ramas de las ciencias, lo que provoca un gran interés por parte del personal académico, investigadores, científicos y comunidades virtuales en general. De hecho, el volumen es tan grande que sobrepasa la capacidad de una persona para obtener información útil, en pos de sus intereses ya sean de un tipo u otro, haciendo cada vez más compleja la labor de recuperación de información. La importancia de manejar estos datos con rapidez y eficiencia, hacen notable la urgencia de producir un software al efecto, por lo que la calidad y el tiempo con que se realicen resultan un factor indispensable, de aquí la necesidad de implementar mecanismos que realicen este procedimiento de forma óptima y eficiente, cumpliendo así las expectativas de los clientes. En el presente trabajo se propone un Sistema de extracción de términos (SET) en el dominio de la informática, que dado un documento en formato.txt, es capaz de extraer los términos perteneciente a dicho dominio.

2 Dentro del Procesamiento del Lenguaje Natural (PLN) existe una disciplina conocida como la extracción de información, que supone un cambio tecnológico en el ámbito de la recuperación de información, la cual pretende mejorar la obtención de la información útil por parte de los usuarios. Por esto la utilización de técnicas para el PLN y el uso de conocimiento relacionado con el dominio en que se está trabajando en la extracción de información son de vital importancia para la construcción de un sistema de extracción de información (SEI). La filosofía de trabajo de los SEI se basa en la aplicación de un conjunto de reglas construidas, tanto manual como automáticamente, para identificar las referencias a la información que nos interesa dentro de una serie de textos y proporcionar una representación simbólica de la misma. Estas reglas están basadas en aspectos del vocabulario, de la semántica y del estilo de escritura propios de cada dominio [Figuerola, 2000]. Sin embargo, un sistema no solo debe realizar una adecuada extracción de la información, cualquier sistema debe tener en cuenta la extracción de los términos que caracterizan un documento, lo cual es una tarea de vital importancia en el desarrollo de sistemas de recuperación y extracción de información. De esta manera, los sistemas que realizan una extracción automática de conceptos o términos, pueden ser aplicados para la construcción de diccionarios especializados, mecanismos de traducción, indexación de libros, bibliotecas digitales, categorización de textos, entre otras. 3 Desarrollo 3.1 Procesamiento del Lenguaje Natural. El Procesamiento del Lenguaje Natural (PLN), es una sub disciplina de la Inteligencia Artificial y la rama ingenieril de la lingüística computacional. El PLN se ocupa de la formulación e investigación de mecanismos eficaces computacionalmente para la comunicación entre personas o entre personas y máquinas por medio de los lenguajes naturales. El PLN no trata de la comunicación por medio de lenguajes naturales de una forma abstracta, sino de diseñar mecanismos para comunicarse que sean eficaces computacionalmente, que se puedan realizar por medio de programas que ejecuten o simulen la comunicación. Los modelos aplicados se enfocan no sólo a la comprensión del lenguaje de por sí, sino a aspectos generales cognitivos humanos y a la organización de la memoria. El lenguaje natural sirve sólo de medio para estudiar estos fenómenos [Carbonell, 1992]. 3.2 Dificultad en el PLN: Ambigüedad Lingüística.

3 En la actualidad coexisten múltiples lenguajes cuya función general radica en la comunicación de cierta información, más o menos estructurada, ejemplo de ello tenemos el lenguaje de la lógica de predicados con el cual se describen una amplia gama de teoremas, definiciones, axiomas, lemas, en fin, toda la teoría matemática. El lenguaje mímico gesticular, el no verbal y verbal, etc., siendo este último conocido como lenguaje natural y el que utilizan las personas para comunicarse de manera convencional [Vallez, Pedraza, 2007]. La ambigüedad es el opuesto directo de la sinonimia. Una palabra ambigua se refiere a varios referentes o al menos a más de uno. La mayoría de las palabras en cualquier lengua tiene más de un referente, ellas pueden ser entendidas en más de un sentido [Vallez, Pedraza, 2007]. El lenguaje natural es inherentemente ambiguo a diferentes niveles [Rivera, 2006]: A nivel léxico, a nivel referencial, a nivel estructural y a nivel pragmático. 3.3 Extracción de Información. La extracción de información (EI) es una disciplina dentro del PLN que supone una revolución tecnológica en el ámbito de la recuperación de información y que pretende agilizar la obtención de la información útil por parte de los usuarios [Aragón, 2007]. Tradicionalmente, los usuarios recuperan una gran cantidad de información y después, manualmente, deben extraer la información de estos documentos tras el análisis de los resultados recuperados. Aplicando la tecnología existente en el desarrollo de la extracción de información automática se pretende filtrar automáticamente los resultados haciendo la labor descrita anteriormente mucho menos laboriosa para los usuarios [Aragón, 2007]. Los sistemas de extracción de información (SEI) realizan la tarea de buscar información muy concreta en colecciones de documentos, detectar la información relevante, extraerla y presentarla en un formato susceptible a ser tratado automáticamente más tarde [Aragón, 2007]. La EI es un término que ha comenzado a utilizarse para la actividad de extraer automáticamente tipos de información previas especificadas de los textos de lenguaje natural. Sus objetivos son extraer conocimiento estructurado, dependiente del contexto, de la información existente, generalmente texto no estructurado, con el fin de mejorar el uso y la reutilización de esta información. La EI también puede verse como la actividad de poblar una fuente estructurada de información o base de datos desde una fuente de información no estructurada o de texto libre. Esta fuente estructurada de información o base de datos se usa entonces para otros propósitos: para la búsqueda o el análisis

4 usando consultas convencionales de bases de datos o técnicas de minería de datos para generar un resumen y para construir índices en los textos fuente [Zhixiong, 2006]. 3.4 Sistemas de Extracción de Términos Los términos son representaciones lingüísticas de los conceptos de un área en particular, pueden estar formados por una sola palabra, llamados así términos simples o también pueden estar formados por dos o más palabras, llamados así términos complejos [Frantzi, 1997]. Los sistemas de extracción automática se basan en distintas estrategias metodológicas para realizar la extracción de terminología. Las dos estrategias principales son la lingüística y la estadística, aunque también se ha empezado a trabajar con la híbrida, que consiste en una combinación de las ya citadas con el fin de superar las limitaciones con las que éstas cuentan. A continuación se comentan las estrategias metodológicas y se nombran algunos programas basados en ellas [Vivaldi, Rodríguez, 2001]: Lingüística: la extracción se basa, sobre todo, en patrones sintácticos (TERMS, TÉRMINO, FASTR o LEXTER). Estadística: bajo este enfoque se enmarcan programas que abarcan desde aquellos programas que se centran en un recuento de frecuencia de uso de palabras hasta aquéllos en que combinan estadísticas que miden, por ejemplo, la colocación de las unidades (ANA). Híbrida: en ésta se intentan integrar las anteriores estrategias, en mayor o menor medida, tomando las características que más interesen en cada caso (ACABIT o TRUCKS). Actualmente la mayoría de estos sistemas extraen los términos a partir de un conocimiento previo, de lo que se puede deducir que la mayoría de los sistemas de extracción de términos utilizan aprendizaje automático. 3.5 Descripción detallada del Funcionamiento del Sistema. Después de haber realizado el análisis de las diversas técnicas para la extracción automática de términos, se hace una propuesta de un sistema híbrido que utiliza patrones en la parte lingüística y propone una evaluación de una serie de características estadísticas a la hora de seleccionar los términos pertenecientes al dominio de la informática, además se proponen utilizar la herramientas de extracción de información Freeling para el análisis morfológico de los textos,

5 donde se obtiene la categoría gramatical de cada palabra en dichos textos, se ha utilizado Weka como herramientas de aprendizaje automático supervisado Sistema de Extracción de Términos. A continuación se presenta la propuesta para el sistema de extracción de términos en el dominio de la Informática. El mismo se ha dividido en dos partes, la primera nombrada Proceso de Entrenamiento y la segunda Funcionamiento General. Figura 1. Proceso de Entrenamiento. El proceso de entrenamiento consiste en: 1. Seleccionar documentos en formato.txt para el corpus de entrenamiento. 2. Anotar los términos que pertenecen al dominio de la informática dentro del corpus de entrenamiento. 3. Realizar el análisis morfológico del texto utilizando la herramienta Freeling, obteniendo la categoría gramatical de cada palabra en el texto. 4. Obtener un conjunto de características para cada uno de los términos anotados en el corpus.

6 5. Una vez obtenidas las características de los términos anotados en el documento, se almacenan en la base de datos los términos con todas las características extraídas. 6. Se realiza el entrenamiento del sistema a través de la herramienta Weka y se almacena la base de conocimientos en un fichero (formato.arff o.csv). A continuación se presentan las características extraídas para cada uno de los términos a las que se hace referencia en el paso 4, las cuales van a permitir anotar cada término candidato para posteriormente determinar si es o no un término perteneciente al dominio, algunas de las cuales son de tipo lingüísticas y otras estadísticas los que ha permitido darle un adecuado tratamiento al tema de la ambigüedad lingüística. Frecuencia de aparición del término. Rangos de frecuencia de aparición del término. Patrón utilizado para seleccionarlo como término candidato. Después de un estudio realizado con un corpus perteneciente al dominio de la informática se obtuvieron como patrones que siguen los términos del dominio de la informática fueron: - Sustantivo (Sust) - Sustantivo + Adjetivo (Sust+Adj) - Sustantivo+Preposición+Sustantivo (Sust+Prep+Sust) - Verbo (Verb) Longitud del patrón utilizado para seleccionarlo como término candidato. Rangos de longitud del patrón utilizado para seleccionarlo como término candidato. Frecuencia de aparición del patrón utilizado para seleccionarlo como término candidato. Rangos de frecuencia de aparición del patrón utilizado para seleccionarlo como término candidato. Número de sustantivos en el patrón. Número de adjetivos en el patrón. Número de preposiciones en el patrón.

7 Número de verbos en el patrón. Palabra anterior que no sea stopword (nombre, adjetivo, verbo o adverbio). Palabra posterior que no sea stopword (nombre, adjetivo, verbo o adverbio). Ventana de 10 palabras por delante de cada término [Vivaldi, Rodríguez, 2001]. Ventana de 10 palabras por detrás de cada término [Vivaldi, Rodríguez, 2001]. Información Mutua El concepto de Información Mutua es un derivado de la Teoría de la Información. Representa la cantidad de información que nos da un evento X acerca de la ocurrencia de un evento Y [Church, Hanks, 1991]. Información Mutua Cúbica Beatriz Daille (1994) reporta buenos resultados de esta variante, la Información Mutua al cubo, para la extracción de bígamas potencialmente terminológicos de baja frecuencia de aparición, y consiste simplemente en elevar al cubo el numerador: [Birrell, Mcjones, Lang, Goatley, 1995]. Coeficiente Loglike El coeficiente Loglike fue presentado por [Dunning, 1993]. Es una de las medidas estadísticas existentes en el que la detección de términos complejos se realiza mediante la aplicación de la razón de verosimilitud. Loglike(( x, y)) = 2 * (log l( p1,k1,n1) +logl( p2,k2,n2) - logl( p,k1,n1) -logl(p,k2,n2)) Donde: Logl (P, K, M) = K*ln (P) + (M - K) * ln (1- P) k1= f (x, y) k2= f (x)-k1 n1= f (y) n2 = N - n1 p1=k1 / n1 p2= K2 / n2

8 p= (k1+k2) / N f(x, y): frecuencia absoluta de aparición en el texto del término compuesto (x, y), donde la primera parte es (x) y la segundo es (y). f(x): frecuencia absoluta de aparición en el texto de la parte (x) del término compuesto. f(y): frecuencia absoluta de aparición en el texto de la parte (y) del término compuesto. N: número de palabras en el texto. M: número de palabras que forman el término compuesto (x, y). Una vez entrenado el sistema, se puede llevar a cabo el proceso de extracción de términos de un documento, proceso que se detalla a continuación. Figura 2. Funcionamiento general. El proceso de extracción de términos consiste en: 1. Dado un documento en formato.txt, se le realiza el análisis morfológico, obteniendo la categoría gramatical de cada palabra en el texto.

9 2. Se mapea el texto con el listado de patrones pertenecientes al dominio de la informática, los cuales fueron definidos en la HEC, con el fin de obtener los términos candidatos del documento analizado. 3. Se le extraen las características a los términos candidatos. 4. Se realiza la validación de los mismos a través de la herramienta de aprendizaje automático Weka, utilizando el algoritmo de clasificación BayesNet. (ver sub epígrafe Error! No se encuentra el origen de la referencia.) 5. Finalmente se obtienen los términos extraídos por el SET. 4 Conclusiones y Trabajo Futuro Se utilizó un corpus de 50 documentos en formato.txt para el entrenamiento de la herramienta de aprendizaje automático, donde a través de un modelo de evaluación aplicado a nuevos documentos se obtuvieron los términos pertenecientes al dominio de la informática con unos valores de % de cobertura y % precisión con un umbral de similitud de 70, aplicando todas las características. La aplicación, de un enfoque híbrido, ha implicado el uso de técnicas lingüísticas y estadísticas para la futura extracción de términos, siendo este tipo de sistemas los que mejores resultados devuelven hoy en día. Para futuras investigaciones se pretende incrementar los formatos de entrada de los documentos de texto que serán procesados por el SET, de.txt a.doc y.pdf. Incrementar nuevas características al SET para el procesamiento de nuevos documentos y definir la combinación más efectiva de estas para el procesamiento de los documentos con el objetivo de mejorar los valores de cobertura y precisión obtenidos. Obtener las relaciones existentes entre los términos extraídos con el fin de crear una ontología de dominio que pueda ser utilizada para la clasificación de documentos. Definir un proceso de generalización del sistema a otros dominios con el objetivo de clasificar no solo los documentos pertenecientes al dominio de la informática, sino pueda utilizarse en cualquier dominio. 5 Bibliografía [Aragón, 2007] Aragón, J. Recuperación y Organización de la información, [Birrell, Mcjones, Lang, Goatley, 1995] Birrell, A.; Mcjones, P.; Lang, R. y Goatley, H. Pstotext - extract ASCII text from a PostScript or PDF file, 1995.

10 [Carbonell, 1992] Carbonell, J. El procesamiento del lenguaje natural, tecnología en transición. Jaime. Congreso de la Lengua Española, Sevilla, [Church, Hanks, 1991] Church, K.; Hanks, P. Word Association Norms, Mutual Information and Lexicography.Computational Linguistics, Vol 16:1, [Dunning, 1993] In Accurate Methods for the Statistic of Surprise and Coincidence. Association for Computational Linguistics, 19(1): 61-76, [Figuerola, 2000] Figuerola. C. G. La investigación sobre recuperación de información en español. En: C.Gonzalo García y V. García Yedra, editores, Documentación, Terminología y Traducción, pages Síntesis, Madrid, 2000 [Frantzi, 1997] Frantzi, S. Automatic Term Recognition using Contextual Cues. Third DELOS Workshop. Cross- Language Information Retrieval. Zurich, Suisse, [Ian, 2005] Ian H. Practical Machine Learning Tools and Techniques with Java Implementations, [Puchol, 2007] Puchol, M. Aprendizaje automático para el reconocimiento temporal multilingüe basado en TiMBL*, Procesamiento del Lenguaje Natura, [Rivera, 2006] Rivera, Y. Procesamiento del Lenguaje Natural y el Reconocimiento del Habla, [Vallez, Pedraza, 2007] Vallez, M.; Pedraza, R. El Procesamiento del Lenguaje Natural en la Recuperación de Información Textual y áreas afines, [Vivaldi, Rodríguez, 2001] Vivaldi, Jorge y Horacio Rodríguez. Improving term extraction by commbining differents techniques en Terminology 7:1, John Benjamins Publishing Company, [Zhixiong, 2006] Zhixiong. Hacia la construcción de un sistema de Extracción de Información chino como soporte de innovación en los servicios bibliotecarios. Biblioteca de la Academia de las Ciencias China Pekín China. 97 Information Technology with Audiovisual and Multimedia and National Libraries, 2006.