DETECTOR DE INSULTOS Y CATEGORIZADOR

Transcripción

1 DETECTOR DE INSULTOS Y CATEGORIZADOR Jaime Larrubia Arranz, Ramiro Gómez de la Cruz, Rubén García Magaz 5º Ingeniería Superior de Informática Universidad Europea de Madrid Villaviciosa de Odón (Madrid) {jlarrubia, ramirogomez, rgmagaz}@terra.es Resumén El detector de insultos es un sistema muy completo y útil en nuestros días. Se va a encargar de chequear que un texto no tenga ningún tipo de palabra malsonante, así como de categorizar el mismo. Va a ser creado y utilizado en la herramienta de gestión que se esta programando para el periódico El Universitario Europeo, dentro de su sección de Anuncios Clasificados. De tal manera que cuando un usuario quiera introducir un anuncio este será comprobado por el detector. Este avisará si ha existido algún conflicto, es decir, si alguna palabra no ha pasado por su filtro, así como alertará si no ha sido introducido en la categoría correcta. Para su realización utilizaremos la herramienta de categorización de textos Weka, y dos listas de parada como filtros, una de palabras soeces y otra con las raíces de estas palabras.. 1. Introducción Es fundamental para un periódico una sección de anuncios clasificados en el que cualquier usuario de dicho periódico pueda introducir en él un anuncio de algo que oferte o que demande. Para ello la dirección del periódico El Universitario Europeo pensó de que manera se podría automatizar esto lo máximo posible de tal manera que se le ahorrase gran parte de esfuerzo a los periodistas. El sistema debería ser lo suficientemente bueno como para que cualquier mínima sospecha de que el anuncio esta incorrecto o tiene lenguaje dañino, sea eliminado o mandado para ser revisado por un periodista. Una vez que el usuario haya introducido un anuncio y una categoría a la que pertenezca este será chequeado por el sistema. El sistema en primer lugar eliminará todos los posible signos de puntuación que pueda haber entre cada palabra y a su vez dentro de cada una de ellas. Se busca que aunque se introduzca una palabra soez con guiones bajos entre medias o cualquier otro signo de puntuación, el sistema siga detectándolo (e_jem_plo). Una vez obtenida todas las palabras del anuncio procederá a comprobar si alguna de ellas está contenida en la lista de parada del sistema. En el caso de que alguna presente algún tipo de conflicto se marcará en el propio texto dicha palabra, así como cualquier otra que encuentre. Se tendrá también una lista con las raíces de las palabras de la anterior lista. Se chequeará cada palabra que componga el anuncio, de tal manera que si hay alguna coincidencia, el sistema expresará que ha habido algún conflicto en alguna palabra. Una vez hecha esta comprobación se procederá a la correcta categorización del texto. Cada categoría tendrá unos términos que tengan mucho más peso que los demás, y dichos términos tendrán, evidentemente, mucho que ver con el tipo de categoría. Así, por ejemplo, en la categoría de Inmobiliaria palabras como piso, chalet, etc. tendrán mucho más peso que cualquier otra. Se hará un previo entrenamiento con la herramienta Weka en la que se considerarán las palabras más significativas de cada categoría. Está será la filosofía a la hora de categorizar el anuncio. Se comprobará si algunas de las palabras de mayor peso de la categoría elegida coinciden con las que contiene el anuncio. Si es así, estará bien categorizado, en caso contrario el sistema informará de que ha existido conflicto con la categoría elegida, así como comprobar con las otras palabras de mayor peso de las otras

2 categorías para sugerir en cual de ellas debería contenerse dicho anuncio. Tras estas tres comprobaciones, se le mostrará al periodista todos los anuncios introducidos en ese día separados los que han tenido algún tipo de conflicto de los que no. En los que haya habido problemas se mostrará en que comprobación ha surgido dicho conflicto. Si ha sido alguna palabra, esta será señalada, y si ha sido en la categoría se hará una sugerencia de a cual debería pertenecer. Se considera que es necesario que todos los anuncios tengan una rápida y última comprobación por parte de los periodistas, ya que el sistema no entiende de contextos, y por lo tanto, sin utilizar palabras soeces se podría conseguir expresiones soeces. Con este sistema se va a conseguir facilitar mucho el trabajo a los periodistas en esta sección del periódico, porque aunque se tenga que hacer una última comprobación por su parte, los errores que pueda haber se van a ver más claro y más rápido, de la misma manera que la comprobación a los que son correctos va a ser una comprobación también más rápida. 2. Problema En nuestro días los sitios web están siendo construidos para que tenga la mayor participación posible por parte de los usuarios. Así en la red son muy frecuentes estos sitios, tales como foros, portales de compra-venta, portales de alquileres, etc. Desgraciadamente no se puede dar la oportunidad al usuario de introducir lo que se quiera, porque, como hay usuarios que solo buscan el beneficio sin faltar al respeto, existen otros que solo buscan dañar y perjudicar al prójimo. Por esto, es necesario la utilización de herramientas o sistemas de Procesamiento del Lenguaje Natural para sitios web en los que el usuario es el gran participante. Ya que de esta forma se tendrá un control sobre lo que escribe cada usuario permitiendo una comunicación más fluída y respetable entre dichos usuarios y el sitio web que les ofrece el servicio. La programación de estas herramientas es de gran complejidad, puesto que me diante el lenguaje natural, un usuario puede engañar fácilmente a un sistema. Puede incluso inventarse palabras que no existan, y aún así dar un significado grosero y perjudicial a esas palabras. Por lo tanto se ha de acotar y revisar en la medida de lo posible la información introducida por el usuario. Se tienen que tener en cuenta que encadene palabras mediante signos de puntuación, mediante espacios en blanco, etc. El sistema debe estar dispuesto a localizar cualquier intentó de engaño por parte del usuario. De esta manera se tomará la filosofía de ser bastante restrictivo con las palabras, ya que, sin embargo, el sistema no puede localizar un engaño que se haya descrito mediante el contexto sin haber utilizado palabras soeces. Aunque sea demasiado exigente, se prefiere que el sistema salte a la mínima sospecha, a que algún anuncio que sea perjudicial le deje pasar. 3. Enfoque El sistema consta de dos partes diferenciadas como se ha ido comentando anteriormente, la primera de ellas es el detector de insultos y la segunda es el categorizador. Pasemos a explicar con detalle cada una de ellas: Detector: Es el sistema que se va a encargar de avisar si en el anuncio existe alguna palabra mal sonante. Utiliza las siguientes clases: Ficheros.java: en esta clase están implementadas todas las operaciones necesarias correspondientes a los ficheros. Entre ellas tenemos las siguientes: - Ficheros (String param): constructor de la clase Ficheros. Crea un fichero con el nombre que se le pase como parámetro. - abrilectura(file param): método utilizado para abrir un fichero que se le pase como parámetro. - grabarstring (String param): método que escribe en el fichero el String que se le pasa como parámetro. Lo escribirá y hará a su vez un salto de línea en el fichero. - newline(): método que inserta un salto de línea en el fichero. - leer (String param, int param) : método que lee una línea completa del fichero y devuelve un Vector que contiene en cada posición los elementos que en el fichero están separados por un espacio en blanco. El parámetro de tipo String es la

3 línea leída y el parámetro int son los argumentos a leer. - leerlinea(): método que lee una línea completa del fichero y devuelve un String que es la propia línea. - cerrarfichero(): método utilizado para cerrar el fichero. StemmerCastellano.java: clase en la que esta implementado el algoritmo de Stemmer para palabras en castellano. Este algoritmo nos da la raíz en un String de una palabra que se le pase como parámetro. Limpiador.java : clase utilizada para quitar de cada palabra del anuncio cualquier signo de puntuación que puede llevar entre medias, de tal forma que no se tan fácil engañar al detector. Deja cada palabra tal cual es. Veámos los métodos que utiliza: - Limpiador (String param): constructor de la clase Limpiador. Tiene como parámetro un String que va a ser la cadena de caracteres o palabra a la que se le va a pasar el filtro. - creartabla(): se ha decidido utilizar una tabla Hash para el almacenamiento de los signos de puntuación a ser comparados con cada uno de los caracteres de la palabra que se quiera limpiar. Este método crea esa tabla con todos los signos. - essimbolo(char param): método utilizado para comprobar si un carácter que se le introduce como parámetro está contenido dentro de la tabla definida anteriormente. Tiene como salida un boolean, es decir, si dicho carácter está en la tabla devolverá verdadero y si no es así devolverá falso. - Separador(String param): método que se va a encargar de comprobar cada carácter de un String que se le pase como parámetro con la tabla de signos de puntuación. Devuelve un Vector con las palabra ya limpiadas en cada una de sus posiciones. Separará el String de entrada en palabras mirando los espacios en blanco, una vez que va cogiendo las palabras va comparando cada carácter de cada palabra con la tabla de signos de puntuación, los que no se encuentre se irán concatenando hasta formar la palabra sin ningún signo. Si se encuentra el carácter en la tabla simplemente no lo concatena. DetectorFichero.java: clase que es el sistema detector en si. Utiliza las clases explicadas anteriormente para su funcionamiento. Tiene como método su constructor que recibe el nombre de un fichero y un String. El fichero corresponde con un fichero de texto en el que se encuentra una lista completa de insultos y sus posibles derivaciones y el String se corresponde con la cadena que se quiere comprobar si existe algún insulto en ella. Dentro del programa principal de la clase DetectorFichero es donde está todo el proceso de detección de insultos. La ejecución es la siguiente: En primer lugar pasamos el fichero stoptacos.txt que es donde se encuentra la lista de insultos. El fichero esta construido de tal forma que hay una palabra en cada línea. Se calcula la longitud del fichero y se recorre, insertando en cada posición de un vector llamado insultos cada palabra leída. Una vez construido este vector, a la cadena que se requiere comprobar si tiene algún insulto o no se le pasa el método separador de la clase Limpiador.java. De esta manera conseguimos tener la cadena de entrada sin ningún tipo de signo de puntuación que pudiera confundir al detector. Cada palabra de esta cadena ya limpia de signos es insertada en un vector llamado caracteres. Una vez que tenemos tanto el vector insultos con todos los insultos uno en cada posición y las palabras de la cadena a comprobar ya limpias de signos de puntuación también una en cada una de las posiciones del vector caracteres solo nos queda ir recorriendo cada una de las posiciones del vector caracteres y comprobarlas con cada una de las posiciones del vector insultos. En el caso de que haya alguna coincidencia el sistema avisará del posible insulto que contiene la cadena de entrada, es decir, el anuncio que se requiere insertar.

4 Pero el sistema no para aquí, hace una segunda comprobación. Puede darse el caso de que el insulto que esté en el texto del anuncio sea una derivación que no se haya contemplado en el archivo stoptacos.txt, debido a que haya sido inventado o por cualquier otro motivo. Entonces si en la primera pasada no se encuentra nada lo que hace el sistema es lo siguiente: Se ha construido otro segundo archivo llamado stopraíces.txt en el que se encuentran todas las raíces de los insultos contenidos en stoptacos.txt. De la misma manera que con este archivo, el archivo stopraices.txt se recorre y se meten todas las raíces del archivo una en cada posición de una vector llamado stopraices. Como en el vector caracteres tenemos todas las palabras del texto del anuncio metidas una en cada posición se va a proceder a pasarle el algoritmo de Stemmer, el cual saca la raíz de cada palabra que se le pase como parámetro. Por lo tanto se irán pasando cada palabra del vector caracteres en la que están todas las palabras del anuncio por el algoritmo de Stemmer de tal manera que cada raíz de dichas palabras se irán insertando cada una en una posición del vector raicescad. Una vez que tenemos el vector stopraices de todas las raíces del archivo stopraices.txt y el vector raicescad con todas las raíces de las palabras que componen el anuncio solo queda ir recorriendo cada posición de este último e ir comparándola con cada posición del vector stopraices. En el caso de que haya alguna coincidencia el sistema dará el aviso del posible insulto que se encuentra en el texto del anuncio. Categorizador: Una vez pasado el filtro del detector de insultos se ha de proceder a la categorización automática del mismo. Para ello hay que hacer unos cuantos pasos previos antes de meterse a codificar dicho sistema. Nuestro cliente decidió que quería en sus anuncios las siguientes categorías en su tablón de anuncios: motor, trabajo, inmobiliaria, deportista, estudiante, negocios, internauta, viajero, intercambio y variado. Para proceder a una categorización automática de un anuncio el sistema previamente ha de tener algún conocimiento de cada una de las categorías. Para ello se ha utilizado el programa Weka para el entrenamiento del sistema. Este se ha realizado de la siguiente manera. Se han cogido de Internet 80 ejemplos de anuncios de cada una de las categorías. Para que Weka conozca conocimiento de todos estos anuncios se han de pasar primero a formato *.arff que es lo que conoce Weka. El categorizador se va a encargar de categorizar el anuncio dentro de las categorías definidas por nuestro cliente. Veamos las clases que utiliza: Ficheros.java: es la misma clase que utiliza el detector. Utilidad.java: clase utilizada para grabar en un fichero el número de anuncios que tiene cada categoría así como el identificador de la categoría. Tiene el siguiente método: - archivo(): método que se encarga de recorrer los directorios en los que se encuentran los archivos construyendo a su vez un archivo en el que aparecen los nombres de todos los archivos seguidos de su categoría. Para esto se han de tener cada uno de los anuncios en sus carpetas correspondientes, es decir, en la carpeta motor todos los anuncios de motor, en la carpeta trabajo todos los anuncios sobre trabajo y así respectivamente. El archivo resultante será de la siguiente manera: motor1.txt;m motor2.txt;m.. trabajo1.txt;t trabajo2.txt;t Cada una de las categorías tiene un identificador, así de motor será m, de trabajo será t, de inmobiliaria será i, de deportista será d, de estudiante será e, de negocios será n, de internauta será na, de viajero será vi, de intercambio será in y de variado será va. Sentiment.java: clase que se utilizará para a partir de un archivo que va a crear, el sentiment.clasification y la información de cada anuncio crear un archivo en formato *.arff para el entrenamiento con Weka. Contiene los siguientes métodos: - createfileforclasification(): ya hemos dicho que los anuncios están cada uno en su carpeta correspondiente a cada una de sus categorías. A partir de esto irá

5 recorriendo cada carpeta y formando un archivo llamado sentiment.clasification en el que estarán cada uno de los nombres de los archivos y su correspondiente categoría. Este archivo quedará de la siguiente manera: motor1.txt,motor motor2.txt,motor.. trabajo1.txt,trabajo trabajo2.txt,trabajo Y así sucesivamente con todas las categorías. - createhash(): método que simplemente recorre el archivo sentiment.clasification e inserta cada línea del archivo en un tabla Hash. En el programa principal de esta última clase es donde se va a efectuar la construcción del archivo *.arff para el entrenamiento de Weka. Se utilizará la clase InvertedIndex que se encuentra en el Ir-Mooney. El archivo resultante se llamará sentiment1.arff. Este archivo contendrá todos los atributos que se han sacado de todos los anuncios que se cogieron para el entrenamiento así como los datos de entrenamiento para ellos. Para agilizar el entrenamiento se ha decidido crear otro archivo de tipo Arff, el sentiment2.arff. Con la herramienta Weka se han seleccionado una serie de atributos. Esto se ha realizado mediante el evaluador de atributos InfoGain y el método de búsqueda Ranker. A este proceso se le ha insertado un umbral igual a cero de tal manera que solo los atributos por encima de ese umbral serán los elegidos. Una vez construido este archivo ya solo nos queda lanzar el Weka con este archivo. Lo haremos en mediante línea de comandos dentro del Weka, es decir, tendremos que elegir la opción SimpleCLI. Dentro de la consola ejecutaremos la siguiente línea de comandos: java weka.classifiers.naivebayes t sentiment2.arff d modelo Se utilizaran distintos clasificadores para comprobar con cual de ellos se obtiene mejor resultado. A cada clasificador se le pasará el archivo construido con anterioridad sentiment2.arff, en el que tenemos todos los atributos de los archivos en los que tenemos los anuncios así como los datos de entrenamiento. Weka se encargará de entrenarlo y crear a su vez el archivo modelo. Una vez que tengamos este archivo se ha procedido a programar la clase Categorizador. Esta clase se encarga de categorizar en si el documento que se le pase como parámetro. Para ello utilizará el archivo arff y el modelo que se haya construido de cada clasificador. Creará un objeto de tipo Instances en el que contendrá todos los atributos del archivo arff. A partir de este creará otro objeto de tipo Instance con los atributos contenidos en el objeto de tipo Instances. A partir del objeto Instance y del vector de palabras formado por las palabras del documento se irán comparando y viendo que palabras coinciden y cuantas veces aparecen. Con esa información y con el archivo del modelo, el programa dará como resultado la categoría a la que debe pertenecer el documento o anuncio. En la aplicación el usuario que quiere dar de alta un anuncio tendrá que insertar como datos sus datos personales, el texto del anuncio y la categoría a la que pertenece. El texto del anuncio pasará por el filtro del detector de insultos y por la categorización. En el caso de que haya algún conflicto con las palabras, el anuncio pasará a una base de datos de anuncios conflictivos para ser revisados por algún periodista. De igual manera ocurrirá si la categoría insertada por el usuario no coincide con la categoría que ha salido resultante del categorizador. 4. Experimentos Antes de acoplar este sistema al proyecto se han realizado diversas pruebas para comprobar su correcto funcionamiento. Al detector se le han insertado varios tipos de cadenas para ver el resultado que nos da. Esto es lo resultante para las siguientes cadenas: Prueba 1: Cadena de entrada-> Vendo un pu_?t o ordenador con impresora. Insulto: puto Prueba 2: Cadena de entrada -> Bus...co trabajo pa??ra algu((n gil,,ip_ol??las mal- nac ido. Insulto: gilipollas

6 Insulto: malnacido Prueba 3: Cadena de entrada -> Ven...do pe.. rro f+++iel y un poco a**gil!!!ip_ol??_la,,,do por mó., dico pre-- //cio Insulto: perro Insulto: agilipollado Prueba 4: Cadena de entrada -> Ve++++ndo mas co!!!ta c///an ina q.u.e se pa**re--ce a al??gún f am,i,liar tu.,.,?yo [Ven, mascot, canin, q, s, parec,, alg, famil, tuy] Raiz Insulto: Prueba 5: cadena de entrada -> Of e+*rta tr***abajo pa/ra m#ujeres que sep{a}n arr#o dil]larse mejor que n.-ad/ie [Ofert, trabaj, par, mujer, q, sep, arrodill, mej, q, nad] Raiz Insulto: Con respecto al se han tenido problemas a la hora de las pruebas. En principio no categorizaba bien, es decir, la categoría resultante no era la que debía ser. Tras muchos experimentos con distintos modelos y tras mucha investigación con la herramienta Weka se llegó a la conclusión de que no era el categorizador lo que daba el error, si no que el conjunto de entrenamiento no era el correcto. Se tenía el problema de overiftting, es decir, los atributos no han sido seleccionados adecuadamente. Se tenían atributos que, por decirlo de alguna manera despistaban al categorizador ya que se le daban valores muy altos a esos atributos cuando no eran los más adecuados para una categoría. Debido a este error hay que darse cuenta de lo importante que es la recogida de datos y su posterior colección,es decir, la minería de datos ya que, como en este caso, teniendo los programas correctos se puede llegar a un mal resultado. Para ellos se deben de seguir los siguentes pasos a partir de los datos: Una selección, un preprocesamiento, una transformación y una interpretación y evaluación para llegar a un buen conocimiento. Una vez encontrado el error se ha procedido a efectuar otro entrenamiento eliminando los atributos que daban esa incosistencia. Con el nuevo entrenamiento se consiguieron lo resultados esperados. Prueba 6: Texto mensaje-> Vendo ordenador con impresora. Message classified as : internauta Prueba 7: Texto mensaje-> Vendo equipo completo de snow. Message classified as : deportista Prueba 8: Texto mensaje-> Busco libros de 5º Informática por la UNED. Message classified as : estudiante Prueba 9: Texto mensaje-> Vendo rifle de competición, seminuevo. Message classified as : deportista Prueba 10: Texto mensaje-> Vendo piso totalmente reformado. Message classified as : inmobiliaria 4.1. Evaluación de las pruebas Resultados Evaluación Prueba 1: localizado el insulto que se encuentra en dicha cadena de prueba, habiendo limpiado previamente de manera correcta dicha cadena. Evaluación Prueba 2: localizado el insulto que se encuentra en dicha cadena de prueba, habiendo limpiado previamente de manera correcta dicha cadena. Evaluación Prueba 3: localizado el insulto que se encuentra en dicha cadena de prueba, habiendo limpiado previamente de manera correcta dicha cadena. Evaluación Prueba 4: Resultado insatisfactorio. El sistema no ha podido localizar que por contexto el texto resulta dañino para cualquiera que lo lea. El

7 limpiador ha funcionado correctamente pero el detector daría como no conflictivo este texto. Al aparecer el vector de raíces y las palabras Raiz Insulto nos indica que ha realizado los dos chequeos, el de los tacos y el de las raíces. Por estos tipos de textos es por lo que se necesita una última comprobación por parte de los periodistas. Evaluación Prueba 5: Resultado insatisfactorio. El sistema no ha podido localizar que por contexto el texto resulta dañino para cualquiera que lo lea. El limpiador ha funcionado correctamente pero el detector daría como no conflictivo este texto. Al aparecer el vector de raíces y las palabras Raiz Insulto nos indica que ha realizado los dos chequeos, el de los tacos y el de las raíces. Evaluación Prueba 6: claves o palabras por las que ha decidido elegir esta categoría son las siguientes: ordenador e impresora. Evaluación Prueba 7: clave o palabra por las que ha decidido elegir esta categoría es las siguientes: snow. Evaluación Prueba 8: clave o palabra por las que ha decidido elegir esta categoría es las siguientes: libros. Evaluación Prueba 9: clave o palabra por las que ha decidido elegir esta categoría son las siguientes: rifle. Evaluación Prueba 10: claves o palabras por las que ha decidido elegir esta categoría son las siguientes: piso y reformado. 5. Trabajo Relacionado El campo del Procesamiento del Lenguaje Natural y de la Inteligencia Artificial es aún muy joven pero tiene muy buenas expectativas de cara al futuro. Cada vez se investiga mas y mas con el fin, a corto plazo, de automatizar tareas que puedan resultar engorrosas para el humano. En nuestro días todo periódico que se precie tiene un gestor de anuncios clasificados, lo que conlleva el chequeo de los anuncios insertados y su categorización dentro de las categorías que tenga definidas dicho periódico. Se ha realizado un sondeo por Internet para comprobar que tecnología utilizan realmente los sitios web orientados a anuncios en la red, o por lo menos aquellos también que tuviesen una sección de anuncios. El equipo de desarrollo envió un mail a diversos sitios de los mencionados anteriormente, explicándoles, brevemente, el sistema programado para la gestión de los anuncios de la herramienta. A su vez se pedía información acerca del estado actual de la gestión de los anuncios por su parte. Desgraciadamente no han contestado todos a los que se les envió la petición. Para aquellos que si lo hicieron estas fueron sus respuestas: Anuncios On line : No tienen ninguna herramienta que les gestione o automatice los anuncios. Cada anuncio que es introducido por un usuario es insertado en una base de datos. De esta base de datos se van cogiendo los anuncios y se van comprobando manualmente. Existe prioridad por fecha y hora a la hora de ir recogiendo de la base de datos los anuncios insertados. Tablón de Anuncios : En la actualidad lo que ellos llaman depuración y control de la calidad de los contenidos del Tablón se realiza manualmente. Los anuncios se colocan directamente por el usuario en la web sin que pasen ningún filtro. Su problema no es tanto la colocación de anuncios con lenguaje obsceno o malsonante, como la inserción de anuncios en secciones que no son las apropiadas o repetidos. El proceso que siguen para estos anuncios es el siguiente: 1.- Los anuncios que realmente no anuncian nada ni tienen cabida en el tablón se borran directamente, comunicando dicha circunstancia al usuario vía . Si el usuario insiste se le prohíbe la inserción de anuncios.

8 2.- Cuando un usuario pone su anuncio repetido o en secciones inadecuadas, se borra el anuncio y se le envía un diciéndole qué anuncio se ha borrado y por qué, e indicándole el lugar adecuado para que vuelva a insertarlo. En algunas ocasiones somos nosotros mismos los que recolocamos los anuncios, informando siempre al usuario. Si el usuario insiste en colocar los anuncios inadecuadamente, se bloquea su participación impidiéndole la inserción de más anuncios. Según su información no es demasiado frecuente que los usuarios hagan un uso abusivo del tablón. Sin embargo, ciertos usuarios como aquellos ofreciendo el ganar dinero desde casa o los relativos a dietas tienen cierta tendencia a incumplir las normas de buen uso del tablón. Central de Anuncios : En este sitio web ocurre como en el primero, todo lo hacen manualmente. No tienen ningún tipo de filtrado ni de categorización, cada anuncio que es insertado es revisado por su personal. Por lo que se ha podido investigar el procedimiento de automatizar la gestión de anuncios en un sitio web es un procedimiento que no se le da mucha importancia. No debido a que carezca de ella, pero se le da mas importancia a la hora de crear un portal a otras aplicaciones, ya sean correos electrónicos, mensajes SMS, buscadores, etc. Pero no se dan cuenta del trabajo que les ahorraría. Es cierto que existe mucha cantidad de gente que se dedica a probar con introducir insultos o cualquier expresión coloquial que por algún motivo les resulta jocosa. Pero también hay mucha cantidad de gente, bastante más que la anterior, que simplemente buscan el fin de dar de alta su anuncio y así poder conseguir su oferta o bien su demanda. Si tenemos en cuenta todos los anuncios bien introducidos el trabajo a la hora de corregirlos sería infinitamente menor que el se requiere en la mayoría de los portales web actualmente. Esto, evidentemente, lleva asociado un coste mucho menor de mantenimiento de una sección de anuncios ya que no se necesitaría tanta gente para comprobar si los anuncios llevan palabras mal sonantes o no, o si tienen alguna expresión contextual soez. Alguna de las empresas a las que se les ha mandado la petición de información se han entusiasmado gratamente y les ha parecido extraordinariamente interesante el sistema y han pedido más información acerca de él. 6. Conclusiones y Futuro Trabajo Según se ha comprobado en sitios web que tienen una sección de anuncios clasificados, en muy pocos de ellos tienen algún sistema parecido a este. Ni siquiera algo menos completa, un simple detector de palabras mal sonantes o algo parecido. En la mayoría de ellos esto se realiza a mano, trabajo que debe resultar costoso y pesado debido a la gran cantidad de anuncios que se exponen en estos sitios web. No se dan cuenta del esfuerzo que les quitaría un sistema de este tipo. Alguno de ellos ha comentado que le parece muy interesante el sistema y que les gustaría trabajar más sobre ello e incluso ya lo habían pensado, pero, por desgracia se sinceran al contar que tienen otras preferencias más importantes antes de implantar y de pagar un sistema de este tipo. Quizás sea porque no se han visto resultados todavía suficientemente buenos en el campo del Procesamiento del Lenguaje Natural debido a la gran ambigüedad que tiene cada lengua en todo su gramática. Pero poco a poco se van haciendo muchísimos avances, solo es cuestión de saber venderlos mejor. El sistema creado por el equipo de desarrollo de este proyecto es bastante completo en este campo. Como se ha comentado no es infalible, por contexto y sin palabras mal sonantes se pueden crear expresiones dañinas, por ello los anuncios necesitan de un último vistazo por parte de los periodistas. Pero con solo el hecho de tenerlos separados en conflictivos y no conflictivos facilitan suficientemente la labor de la persona que se deba encargar de comprobarlos, o por lo menos no se le haría un trabajo tan pesado. En el futuro el campo del Procesamiento del Lenguaje Natural y de la Inteligencia Artificial se irán ampliando hasta tener resultados mucho más reconocidos, no por parte de los que trabajan con ello, que ya pensamos que existen buenos resultados, si no para los incrédulos que no saben y que no creen

9 hasta donde se es capaz de llegar en este campo. 7. Bibliografía Estos son los sitios web más interesantes en esta investigación: aje/ tml ripcion.html m Herramientas para el lenguaje natural Proyectos o_del_lenguaj_esp.html 79/docs/lenguaje.html