SISTEMAS EXPERTOS: MYCIN

Transcripción

1 Ainhoa Sesmero Fernández Estudiante Ing. Telecomunicación Universidad Carlos III de Madrid Avda. De la Universidad, , Leganés (Madrid-España) SISTEMAS EXPERTOS: MYCIN Sandra Pinero Sánchez Estudiante Ing. Telecomunicación Universidad Carlos III de Madrid Avda. De la Universidad, , Leganés (Madrid-España) RESUMEN En este documento se explica lo que es un sistema experto, sus principales usos y en concreto hablaremos del sistema MYCIN. Uno de los primeros sistemas expertos para la detección y tratamiento de enfermedades de la sangre. Categorias y Descriptores de Temas [Inteligencia artificial]: Sistemas expertos (SE) y aplicaciones en medicina. Terminos Generales Algoritmos, medidas, documentación, diseño, factores humanos y teoría. lo general, los expertos solucionan los problemnas de su especialización basándose en la experiencia. Muy sucintamente, esta experiencia consta de conocimientos de hechos y de soluciones de problemas. Con el desarrollo de los Sistemas Expertos se pretende estructurar este conocimiento de hechos y soluciones de problemas de tal forma, que sean almacenados en un ordenador y procesables por un programa. Por lo tanto, los Sistemas Expertos son programas para ordenador, en los que se han reflejado conocimientos humanos. Pero ya que el conocimiento humano es extremadamente complejo, tenemos que limitarnos, en estas imitaciones técnicas a campos especializados muy delimitados. 1 Se puede dividir los componenetes de un sistema experto en tres subsistemas direfentes: base de conocimientos, motor de inferencias e interfase. (ver figura 1) Palabras clave Sistema expertos, MAYCIN, medicina, organismos, conocimiento. 1. INTRODUCCIÓN Los sistemas expertos son programas que emulan el comportamiento de un experto, como su propio nombre indica. Están desarrollados en un entorno de tal forma que son capaces de gestionar la propia base de datos de conocimiento, resolver un problema específico, producir nuevos conocimientos y explicar su razonamiento. MYCIN fue el primer sistema experto que llego a funcionar con la misma calidad que un experto humano. Muchos de los sistemas posteriores utilizaron MYCIN para comparar lo que era un sistema experto. MYCIN era un sistema estrictamente para investigación, fue desarrollado para ayudar a los médicos en el diagnóstico y tratamiento de meningitis y enfermedades bacterianas como explicaremos a lo largo de este documento. 2. SISTEMAS EXPERTOS Por tener más definiciones de sistemas expertos, unida a la anterior podemos decir de forma más rigurosa: Los Sistemas Expertos son programas que simulan el comportamiento de los sistemas expertos humanos a la hora de resolver problemaas. Por Figura 1 Existen tres tipos de sistemas expertos principalmente. Están los llamados basados en reglas, los basados en casos y los basados en redes bayesianas. En el conjunto de sistemas expertos basados en reglas nos encontramos con MYCIN del que hablaremos más adelante, pero también nos encontramos con DENDRAL que fue el primer sistema experto utilizado para propósitos reales y la inspiración de MYCIN. 2.1 Base del Conocimiento En ella se representan todos los conocimientos acerca de un dominio concreto. Puesto que el ordenador no posee dichos 1 NEBENDAHL, D.,Sistemas Expertos, Vol. 2, Marcombo. Barna., p. 1.

2 conocimientos es necesario que sean introducidos por un experto humano en el tema en cuestión. Ya que como su nombre indica es la base, es necesario que las reglas establecidas sean lo más clara posibles para evitar ambigüedad, eficiencia, que se facilite la deducción a la maquina por inferencia, y fuerza de expresión para definir de forma adecuada y completa todos los elementos del universo del tema elegido. Como vemos por lo descrito anteriormente, es complicado traducir a un lenguaje todos los conocimientos de un experto humano de forma que pueda entenderlo y reflexionar sobre ellos como si del humano mismo se tratara y para el cual muchos de sus actos son de forma intuitiva. Qué se le pide o que se le podría pedir a un experto humano? - Habilidad para llegar a una solución de la forma más rápida posible y a poder ser de forma certera. Para que sea de una forma rápida y certera obligamos al experto, no solo a que sepa en que campo se mueve si no, que tenga experiencia en el. - Habilidad para explicar a las personas que no cuentan con ese conocimiento o esa experiencia los resultados obtenidos. - Habilidad de poder reestructurar el conocimiento para que se adapte a las circunstancias. - Habilidad para poder aprender de las experiencias. Los expertos deben aprender de sus experiencias propias, pero además también de las de los demás. Esto implica que un experto debe estar al día en cuanto a sus conocimientos Tipos de Conocimiento Existen tres tipos de conocimiento para construir un sistema experto: Reglas Declaraciones estructuradas en forma de oraciones condicionales. Estructuras Contienen jerarquía de componentes y de atributos objeto que pueden ser asignados heredados de otras estructuras a través de diversos procedimientos. Lógica Son expresiones con predicados, valores y átomos para evaluar hechos del mundo real. 2.2 Motor de Inferencias El motor de inferencia lo que hace es decidir, interpretar y aplicar el conocimiento que se ha obtenido de la base del conocimiento a la base de los hechos para poder así obtener la solución adecuada, o dicho de otra forma, es el encargado de hacer uso de los hechos y las reglas que el experto ha integrado en la base del conocimiento y controla de forma estratégica la el sistema de conocimiento. Además de utilizar la base del conocimiento el motor de inferencias también hace de controlador de la consulta del usuario y decide el orden en el que se hacen las inferencias. 2.3 Interfase Se encarga de proporcionar el usuario una interfaz lo mas amigable posible para poder interactuar con el sistema experto de una forma fácil y sencilla. Recordemos que lo que hacemos es solucionar problemas como lo solucionaría un experto, con esto se ayuda a las personas y usuarios del sistema, no queremos que le sea más difícil y complicada su utilización. Esta interfase se encargara de gestionar las entradas y salidas al sistema experto. 2.4 Ventajas y desventajas de los SE Ventajas de los SE Los sistemas expertos tienen multitud de ventajas, entre ellas podemos ver: - Un sistema experto puede replicarse tantas veces queramos. Una vez que un SE ha sido creado podemos replicarlo y usarlo por donde queramos. - Por causa de su replica su coste a largo plazo es bajo. Aun que inicialmente crearlo puede ser caro, al poder ser replicado su coste a largo plazo es bajo. - Los SE no se ven afectados por la edad, o el entorno que les rodea como los seres humanos por lo que también es una ventaja a considerar Limitaciones de los SE En cuanto a sus limitaciones podemos hablar de: - El lenguaje es algo problemático. Con un humano podemos conversar y explicarnos mejor, con un SE lo que hay esta en sus reglas y no podemos usar explicaciones, aclaraciones, gestos - Es difícil que un SE aprenda de sus errores. Para un ser humano la experiencia, los errores y los aciertos hace que vaya mejorando, en un SE esto es difícil de conseguir. - Perspectiva global. Un experto humano es capaz de separar los datos realmente relevantes de los irrelevantes, un SE no. Y a estos podemos añadirle que no están abiertos a nueva fuente de datos para ver como se puede resolver un problema ya que sus datos están programados. - Elevado coste y tiempo.

3 2.5 Aplicaciones En el siguiente cuadro podemos observar algunas de las áreas en las que los sistemas expertos tienen aplicación. Primero es necesario concluir si el paciente tiene una infección significativa. A continuación hay que establecer al o los posibles organismos involucrados. Después escoger el conjunto de antibióticos que puedan ser necesarios. Por último elegir el antibiótico. Sin embargo dicho proceso no es nada fácil. Esto se debe a que el cuerpo humano está normalmente poblado por bacterias. Se toma del paciente las muestras necesarias realizándole un cultivo. Por lo que el diagnóstico inicial se base en criterio clínico, fiebre y dolor. Los resultados de las pruebas pueden tomar de 24 a 48 horas o más. Una vez que el médico dispone de los resultados debe elegir el tratamiento basándose en: Veamos algunos ejemplos: - En el campo de la medicina tenemos varios como DENDRAL, MYCIN o PUFF. De entre ellos el más famoso es MYCIN del que hablaremos en el siguiente apartado. - En el campo de la programación tenemos sistemas como EURISKO, sistema que es capaz de aprender a medida que funciona y crear circuitos microelectrónicos tridimensionales. - Sistemas militares tenemos TWIRL, que simula guerras completas y guía de mejores accionas para realizar en casi todas las situaciones. - En la industria podemos ver RI, Programa utilizado para el descubrimiento de yacimientos petrolíferos bajo aguas marinas. - En el ámbito económico tenemos el TRADING, una serie de reglas matemáticas bien estructuradas en las que se basan las operaciones en bolsa. - En la geología encontramos el PROSPECTOR, utilizado para hallar yacimientos de minerales. 3. MYCIN Es un sistema experto desarrollado por Edgar ShortLiffe en la Universidad de Stanford a principios de los años 70. Su objetivo es el diagnóstico de enfermedades infecciosas de la sangre. Incluso es capaz de razonar el proceso seguido para llegar a los diagnósticos y de recetar medicaciones personalizadas a cada paciente. Posibles identidades del organismo. La probabilidad efectiva del agente antimicrobiano contra este rango de posibilidades. Una vez que el médico dispone de los resultados del cultivo debe de decir que tratamiento hay que aplicar al paciente. Sin embargo, este tratamiento puede tener diferentes síntomas o efectos en cada paciente con lo que es necesario cambiarle el tratamiento. Por otra parte, es evidente que el médico necesite ayuda con la selección antimicrobiana. Con lo que el problema se continúa aunque haya habido intentos para educar a los médicos; pocos parecen ir a través del proceso metódico de decisión. La sobre-prescripción en EEUU durante los años 70 fue estimado con un factor de 10 a 20, con lo que el coste anual para pacientes y hospitales es monumental. Asimismo, la sobre-prescripción puede resultar en el desarrollo de cepas bacterianas resistentes. El objetivo de MYCIN es asistir al doctor, el cual no tiene por qué ser experto en el área de los antibióticos con el diagnóstico y tratamiento de infecciones sanguíneas. Este sistema experto consta fundamentalmente de tres componentes: 1) Un sistema de consulta entre el programa y el doctor. Este sistema consiste en realizar una serie de preguntas, entrega de conclusiones y dar consejos. 2) Un sistema de explicación por parte del sistema al doctor en el cual, éste responde a las preguntas del médico y justifica sus propios consejos. 3) Un sistema para conseguir las reglas, agregas nuevas reglas y cambiar las existentes. 3.1 Tratamiento de infecciones sanguíneas Elegir el tratamiento adecuado para una infección bacteriana sigue un proceso de cuatro partes:

4 si tiene ese paciente algún cultivo pendiente que es nuestro caso. Entonces MYCIN le dice que necesita conocer la información del cultivo pendiente. El usuario le responde con una serie de datos y por último le contesta que no hay ningún organismo. Por lo tanto, el sistema experto no puede sacar conclusiones y sigue planteando preguntas. En cierto momento de la consulta llega a esto: 3.2 Sistema de consulta Esta primera parte del MYCIN consiste en generar el conjunto de hipótesis relacionado con el organismo dañoso y de este modo realizar una serie de recomendaciones de terapias para estas hipótesis. Recalcar que MYCIN suele describirse incorrectamente como un programa de diagnóstico médico; en realidad es un programa para tratamiento de infecciones sanguíneas. Para comprender mejor un sistema de consulta a continuación se muestra un ejemplo: Primero MYCIN necesita cuatro datos del paciente ya que son esenciales para cualquier diagnóstico. Una vez que dispone de ellos realiza una serie de preguntas para conocer la disponibilidad del cultivo. 1) mbre del paciente: David King 2) Edad: 34 3) Sexo: Varón 4) Raza Caucasiana 5) Hay cultivos de David qué puedan estar relacionados con su enfermedad actual, en los que hayan llegado a crecer organismos en el laboratorio de microbiología? 6) Hay cultivos pendientes de David? Sí 7) De qué lugar se tomó la muestra para el cultivo? LCR 8) Por favor, escriba la fecha y la hora de la toma del cultivo de LCR pendiente (m/d/a hora) Junio/24/84 7:00 9) Se examinó un frotis cuando se obtuvo la muestra para el cultivo pendiente de LCR? Sí 10) Se vio organismo en el frotis de la muestra sometida al cultivo de LCR pendiente? Antes que nada deja que sea el propio médico quién diga los hechos conocidos. Pero en este ejemplo al paciente no se le ha realizado ningún cultivo positivo con lo que MYCIN insiste 13) Ha presentado David síntomas de cefalea persistente un otros síntomas neurológicos anormales (vértigo, letargo, )? Sí 14) Hay en David alguna evidencia objetiva reciente de signos neurológicos anormales (rigidez de nuca, coma, convulsiones, ), documentados por observación o examen clínico? Sí. Hay que destacar que los cultivos LCR (cultivo de líquido cefalorraquídeo) están asociados con meningitis. Las dos siguientes preguntas representan un enfoque más tradicional al diagnóstico por síntomas y tras tener la contestación de la pregunta 14, MYCIN informa de su primera conclusión: la infección del LCR es probablemente meningitis. Después continúa con otra tanda de preguntas para identificar el organismo concreto causante de la infección meningítica. 34) La meningitis se ha contraído en el hospital? 35) Es la historia clínica de David consistente con Epiglotis? 36) Es la historia clínica de David consistente con Otitis-media? 37) Ha estado alguna vez el paciente en una zona endémica de coccidiomicosis? Desconocido 38) Se ha sometido David a esplenotomía? 39) Ha sufrido David quemaduras? Si He encontrado evidencia (REGLA 507) de que el tratamiento debe cubrir Diplococcuespneumoniae causante de meningitis. He encontrado evidencia (REGLA 545) de que el tratamiento debe cubrir E. coli causante de meningitis. He encontrado evidencia (REGLA 545 REGLA 578) de que el tratamiento debe cubrir Pseudomonas-aeruginas causante de meningitis. A partir de este momento ha finalizado la parte diagnóstica de la consulta. Ahora el programa se encarga de buscar el conjunto de medicamentos para acabar a los organismos sin perjudicar al paciente. Con lo que vuelve a realizar otra serie

5 de preguntas. Aunque hay que destacar que estas preguntas son diferentes dependiendo de los resultados intermedios. 40) Tiene David signos neurológicos focales? 41) Presenta David alguna reacción alérgica importante frente algún agente antimicrobiano? Sí 42) Cuál es el más reciente aclaramiento de creatinio, en ml/min, que usted considera representativo de la función renal de David? 77 43) Peso de David en Kg 77 Dicho sistema de consulta consiste en una serie de reglas de producción, un conjunto de estructuras estáticas y dinámicas, y una estructura de control Reglas de producción La gramática que se utiliza para realizar dichas reglas es representada internamente como código LISP. El cual es un lenguaje de alto nivel de procesamiento de listas en el cual MYCIN está implementado. La sintaxis que se maneja es la siguiente: <rule>::= <premise> <action> <premise>::= ($AND <condition>... <condition>) <condition>::= (<predicate> <context> <parameter> <value>) ($OR <condition>... <condition>) <action>::= <conclusion> <instruction> Estructuras de datos Estructuras de datos estáticas Se encarga de guardar la información de definición. Dicha información es mantenida separada del conocimiento inferencial, en la forma de listas simples (enumeran todos los organismos y sitios estériles conocidos por el sistema), tablas de conocimiento (tienen los registros de ciertos parámetros clínicos y los valores que toman bajo diversas circunstancias) y un sistema de clasificación para parámetros clínicos. Estructuras de datos dinámicas Son almacenados en un árbol de contexto, el cual se utiliza para organizar la información referente a un paciente en concreto. El consejo estará basado tanto en los cultivos, organismos, operaciones previas y tratamientos relacionados con el paciente, como en características personales del paciente. Con lo que el árbol ayuda a estructurar el problema clínico y relacionar un contexto con otro. Un ejemplo de esta estructura es el siguiente: PREMISE: ($AND (SAME CNTXT GRAM GRAMNEG) (SAME CNTXT MORPH ROD) (SAME CNTXT AIR AEROBIC)) ACTION: (CONCLUDE CNTXT CLASS ENTEROBACTERIACEAE TALLY.8) Donde gram se refiere a la cepa del organismo, morph a la morfología del organismo y air a la aerobicidad del organismo. El símbolo CNTXT es una variable que es instanciada por el nombre que MYCIN le da al nodo contextual que está actualmente observando. El médico, el cual utiliza este sistema experto, no observa dicho código. Simplemente las reglas son traducidas en el terminal del siguiente modo: If 1) the stain of the organism is gramneg, and 2) the morphology of the organism is rod, and 3) the aerobicity of the organism is aerobic THEN there is strongly suggestive evidence (.8) that the class of the organism is enterobacteriaceae. Donde (0.8) indica el factor de confianza que posteriormente se explicara. Figura Estructura de control Encaminamientos hacia atrás MYCIN tiene una regla meta de máximo nivel que define la tarea completa del sistema de consulta: IF there is an organism which requires therapy, and consideration has been given to the possibility of aditional organisms requiring therapy THEN compile a list of possible therapies, and determine the best therapy in this list. Para realizar una sesión de consulta es necesario seguir los siguientes pasos: Crear el contexto del paciente como el nodo de más alto nivel en el árbol de contexto. Intentar aplicar la regla meta a este contexto del paciente.

6 Al aplicar la regla meta es necesario evaluar primero su premisa, la cual necesita determinar si hay un organismo que requiera terapia. Por lo tanto la consulta se realiza mediante una búsqueda a través de un árbol meta. La meta superior en la raíz del árbol es la parte de acción de la regla meta. Las sub-metas futuras hacia abajo en el árbol, las cuales determinar el organismo involucrado y el ver si es importante. Puede ocurrir que estas sub-metas tengan a su vez más sub-metas, como por ejemplo para descubrir las propiedades de la cepa y morfología del organismo. Las hojas del árbol son metas fácticas, también conocidas como hechos, que no pueden ser deducidos como por ejemplo datos de laboratorio. Como se puede observar en la figura (ver figura 2). Se llama estructura de control de encadenamiento hacia atrás porque el programa razona hacia atrás desde lo que quiere probar hacia los hechos que necesita para hacerlo. Factor de certeza A cada regla se le asocia un factor de certeza, CF, comprendido entre [-1, 1]. Este factor indica el grado de confianza en la conclusión obtenida, dada la evidencia de las premisas. Si es positivo indica un grado de confianza, mientras que si es negativo un grado de desconfianza. 3.3 Sistema de explicación Este sistema consiste en explicar al doctor todo lo referente a la consulta. Dicho doctor puede realizar las preguntas generales o relacionadas con la consulta necesaria al programa no sólo al final de la consulta sino durante la consulta misma. Estas preguntas pueden ser del estilo Qué te hace pensar que el organismo puede ser un Proteus?Ante esta situación MYCIN escribe las reglas que utilizó, su grado de certeza en cada decisión y la última pregunta hecha. Todo esto lo puede hacer porque lleva un registro de las decisiones que se hace. La facilidad que tiene MYCIN para responder a dichas preguntas está basada en sus habilidades para: Desplegar aquellas reglas que se están utilizando durante la consulta. Almacenar dichas reglas y asociarlas con eventos. Utilizar el indizado de reglas para recuperar reglas particulares como respuestas a peticiones. 3.4 Sistema de adquisición de reglas En el programa se pueden agregar nuevas reglas de decisión o cambiar alguna presente. El usuario no las agrega en LISP sino en formato inglés. Es el propio programa que se encargar de traducirla. Sin embargo puede ocurrir que una nueva regla puede contradecir a otra del sistema o simplemente agregar una regla presente en el programa. Con lo que Shortliffe discutió planes para proveer facultades para verificar los efectos que pueden causar al ingresar una nueva regla en su libro. Randall Davis desarrollo estos planes ampliamente en un sistema llamado TEIRESIAS. Este sistema ayuda a un experto a depurar y llenar el conjunto de reglas de un sistema experto existente. Además utiliza generalizaciones acerca de la estructura de reglas existentes. 3.5 Ventajas y Desventajas A este sistema experto realizaron una serie de investigaciones para saber su grado de fiabilidad. Los resultados obtuvieron una tasa de aciertos de aproximadamente el 65%. Con lo que mejoraba las estadísticas de los doctores no especializados en el diagnóstico de infecciones bacterianas, que ejercían la profesión en aquellos años. Además este sistema experto presenta una representación sencilla y una facilidad de comunicación con el sistema. Sin embargo, a pesar de los resultados favorables obtenidos, MYCIN fue cayendo en desuso. El motivo es las debilidades que tenía el programa y por cuestiones legales y éticas debido a que se dejaba en manos de una máquina la responsabilidad de la salud de una persona. 3.6 Ejemplo A continuación mostramos un pequeño ejemplo realizado en Prolog para simular el comportamiento de un sistema experto en el ámbito de la medicina. es un ejemplo MYCIN porque es el propio sistema el que realiza las preguntas al usuario y con dichas respuestas concluye el organismo infeccioso y el posible tratamiento. En el siguiente código se muestra los síntomas y posibles tratamientos de enfermedades habituales. El código de dicho programa es el siguiente: sintomas_de(dolor_cabeza,gripe). sintomas_de(escalofrios,gripe). sintomas_de(tos_seca,gripe). sintomas_de(fiebre,gripe).

7 sintomas_de(tos,pulmonia). sintomas_de(fiebre_alta,pulmonia). sintomas_de(escalofrios,pulmonia). sintomas_de(dificultad_respirar,pulmonia). sintomas_de(dolor_pecho,pulmonia). sintomas_de(dolor_muscular,pulmonia). sintomas_de(manchas_cuerpo,varicela). sintomas_de(dolor_cabeza,varicela). sintomas_de(fiebre_baja,varicela). sintomas_de(falta_hambre,varicela). sintomas_de(cansancio,varicela). sintomas_de(fiebre_alta,meningitis). sintomas_de(dolor_cabeza_intenso,meningitis). sintomas_de(nuca_riguida,meningitis). sintomas_de(vomitos_bruscos,meningitis). sintomas_de(somnolencia,meningitis). sintomas_de(perdida_conciencia,meningitis). En la imagen anterior preguntamos por los síntomas de la varicela y nos devuelve los cinco síntomas y con el orden exactamente igual que están en el programa. La última sentencia es false para indicar que ya no hay más síntomas para esa enfermedad. A continuación consultamos el tratamiento que hay que seguir para pacientes con dicha enfermedad. tratamiento_de(gripe,reposo). tratamiento_de(gripe,beber_mucho_liquido). tratamiento_de(gripe,analgesicos). tratamiento_de(pulmonia,antibioticos). tratamiento_de(pulmonia,beber_mucho_liquido). tratamiento_de(pulmonia,reposo). tratamiento_de(varicela,analgesicos). tratamiento_de(varicela,crema_calman_picor). tratamiento_de(meningitis,hospital). tratamiento_de(meningitis,antibioticos). Como se puede observar solamente tratamos cuatro enfermedades, gripe, pulmonía, varicela y meningitis. También podemos saber con dicho programa la enfermedad que se corresponde con el síntoma especificado, como se puede observar en la captura de arriba. Ejecutamos el programa y obtenemos: Para el siguiente ejemplo el programa trata de mostrar las posibles enfermedades que tienen como tratamiento la variable reposo. Finalmente, con este último ejemplo buscamos si tenemos alguna enfermedad que tenga como síntoma de dolor de garganta. En este caso el programa nos responde con false porque en nuestro programa no tenemos ninguna enfermedad con dicho síntoma.

8 4. CONCLUSIONES Como podemos ver el uso de los sistemas expertos en la sociedad tiene numerosas ventajas. Por un lado como ya se ha dicho en este documento los sistemas expertos no se cansan, no les afecta el medio están en continuo funcionamiento y si los programas bien son rápidos y además eficaces. Pero entrando en el terreno que nos ocupa, Cómo de lejos puede llegar un sistema experto en medicina?, los pacientes se fiarían de una máquina, o prefieren el trato personal? Estas preguntas serian fácilmente contestables viendo la caída de MYCIN. De quién es la culpa de un mal tratamiento?, Del médico?, si es del experto, Para qué queremos la máquina? Desde nuestro punto de vista los sistemas expertos son un gran avance en la sociedad, parece mentira a lo que llega la sociedad con el paso del tiempo, es increíble que una máquina programada pueda diagnosticar, y ayudar a las personas como si de un experto humano se tratara y sobre todo es increíble que este programada para aprender. Aun así, después de las ventajas comentadas a lo largo del documento, e incluso las ventajas que nosotras en este mismo momento pudiéramos verle todavía desde nuestro punto de vista hay sistemas expertos, como en medicina que no consideramos que estén preparados para anular al experto, sencillamente podrían complementarlo, ayudarlo, o podrían usarse para otro fin médico. Muchos expertos podrían pensar que los sistemas expertos no son tan buenos ya que si empezamos a usar los sistemas expertos los expertos del mundo se quedarían inservibles, o peor aún, solo servirían para darle conocimiento a una máquina. 5. REFERENCES [1] Inteligencia artificial y derecho By Danièle Bourcier, Pompeu Casanovas [2] Fundamentos de inteligencia artificial Escrito por Luis Álvarez Munárriz [3] Sistemas Expertos Escrito por David King,Paul Harmon