Inteligencia Artificial e Ingeniería del Conocimiento. 4 o Ingeniería Informática

Transcripción

1 Inteligencia Artificial e Ingeniería del Conocimiento Félix Gómez Mármol 4 o Ingeniería Informática

2 2

3 Índice general I Inteligencia Artificial 7 1. Resolución de Problemas Estrategias de búsqueda en grafos: heurísticas Búsqueda primero el mejor Búsqueda A* Búsqueda con memoria acotada Estrategias de Búsqueda en Grafos YO: Heurísticas Características de las funciones de evaluación para grafos YO Búsqueda mejor nodo para grafos YO Funciones Heurísticas Efecto de la precisión heurística en el rendimiento Inventando funciones heurísticas Estrategias de Búsqueda Local y Problemas de Optimización Búsqueda de ascensión de colinas (mejor avara) Búsqueda tabú Búsqueda por haz local Algoritmo genético Estrategias de Búsqueda Online Estrategias en adversarios Juegos Decisiones en tiempo real imperfectas Juegos que incluyen un elemento de posibilidad Representación del Conocimiento. Razonamiento Representación del Conocimiento mediante Lógicas no Clásicas Lógicas no monótonas Lógica de situaciones Lógica difusa Representación y Razonamiento con Incertidumbre Representación y fuentes de incertidumbre Teoría de Dempster-Shafer de la evidencia Representaciones Estructuradas del Conocimiento Redes Semánticas Marcos o Frames Guiones Planificar para la Resolución de Problemas Planificación y Resolución de Problemas El problema de la planificación Tipos de planificadores, estados y operadores Métodos de planificación

4 4 ÍNDICE GENERAL 3.2. Planificación de Orden Total Planificación usando una pila de objetivos (STRIPS) STRIP con protección de objetivos (RSTRIP) Planificación Ordenada Parcialmente Planificación no lineal sistemática (PNLS) Planificación Jerárquica El Aprendizaje Computacional El Problema del Aprendizaje Computacional Conceptos Básicos Tipos, fases y características del aprendizaje Estimación del error Aprendizaje por Inducción en Modo Estructural Programa de aprendizaje de Winston Generalización Especialización Espacio de versiones Aprendizaje Basado en Instancias Convergencia de los Métodos Basados en Instancias Aprendizaje mediante k M vecinos Aprendizaje mediante el método de Parzen Mejora de los métodos basados en instancias Multiedición Condensación Funciones Distancia Heterogéneas Normalización Discretización Distintas métricas para el cálculo de distancias Máquinas de Aprendizaje El Perceptrón como Discriminante Lineal Criterio y construcción del perceptrón Redes de Perceptrones Multicapa Árboles de Clasificación Árboles de Regresión Aprendizaje por Descubrimiento Clustering o Agrupamiento Algoritmo de k-medias Mapas autoasociativos de Kohonen II Ingeniería del Conocimiento Principios de la Ingeniería del Conocimiento La Adquisición del Conocimiento 95

5 Índice de figuras 1.1. Grafo de mapa de carreteras Búsqueda Primero Mejor Avaro Búsqueda A* Función heurística e-admisible Búsqueda Primero el Mejor Recursiva Búsqueda A* con memoria acotada simplificada (A*MS) Árbol YO con la profundidad de cada nodo Árbol YO no puro Hipergrafo o grafo YO Soluciones del Hipergrafo de la figura Ejemplo de búsqueda del grafo solución óptimo Grafo YO con h(n) no monótona Solución al grafo de la figura 1.12 propagando por conectores marcados Solución al grafo de la figura 1.12 propagando por todos los antecesores Grafo YO con h(n) monótona Solución al grafo de la figura 1.15 propagando por conectores marcados Grafo YO con varias soluciones con distintos costos Soluciones al Grafo YO de la figura Función admisible h = max(h 1, h 2, h 3 ) h Función Objetivo vs Espacio de Estados Juego de las 3 en raya Estados terminales en el juego de las 3 en raya Estrategia MiniMax Ejemplo de juego con 3 jugadores Poda alfa-beta Juego de las 3 en raya con profundidad limitada Ejemplo de estrategia MiniMax Esperada Ejemplo de lógica de situaciones Función de pertenencia continua ser joven Funciones de pertenencia µ A y µ NO A Función de pertenencia discreta ser joven Operadores de Zadeh Extensión Cilíndrica Ejemplo de Red Semántica Ejemplo de regla en una Red Semántica Ejemplo de Red Semántica con un hecho y una regla Ejemplo de reglas que relacionan elementos temporales Ejemplo de inferencia en redes semánticas (1) Ejemplo de inferencia en redes semánticas (2) Ejemplo de inferencia en redes semánticas (3)

6 6 ÍNDICE DE FIGURAS Ejemplo de frame Empleado y Padre de Familia Ejemplo de jerarquía de frames Ejemplo de planificación no lineal Operador MOVER(X,Y,Z) Ejemplo de planificación no lineal sistemática Fases del aprendizaje Ejemplos de la base de entrenamiento. Generalización Ejemplos de la base de entrenamiento. Especialización (1) Ejemplos de la base de entrenamiento. Especialización (2) Ejemplo de aprendizaje del concepto arco Frame Coche Fases del aprendizaje basado en instancias Aprendizaje basado en k-vecinos Aprendizaje basado en Parzen Multiedición Base de ejemplos particionada Base de ejemplos particionada y parcialmente multieditada Condensación Discretización Esquema de un Perceptrón Ejemplo de clases linealmente separables Ejemplo de clases NO linealmente separables Ejemplo de perceptrón multicapa Estructura de un perceptrón multicapa Ejemplo de árbol de clasificación Ejemplo de poda por estimación del error Mapa autoasociativo de Kohonen

7 Parte I Inteligencia Artificial 7

8

9 Capítulo 1 Resolución de Problemas función BÚSQUEDA-ÁRBOLES(problema,frontera) devuelve una solución o fallo frontera INSERTA(HACER-NODO(ESTADO-INICIAL[problema]),frontera) hacer si VACIA(frontera) entonces devolver fallo nodo BORRAR-PRIMERO(frontera) si TEST-OBJETIVO[problema] aplicado al ESTADO[nodo] es cierto entonces devolver SOLUCION(nodo) frontera INSERTA-TODO(EXPANDIR(nodo,problema),frontera) Function BÚSQUEDA-ÁRBOLES(problema,frontera) función EXPANDIR(nodo,problema) devuelve un conjunto de nodos sucesores conjunto vacío para cada (acción, resultado) en SUCESOR[problema](ESTADO[nodo]) hacer s un nuevo NODO ESTADO[s] resultado NODO-PADRE[s] nodo ACCIÓN[s] acción COSTO-CAMINO[s] COSTO-CAMINO[nodo]+COSTO-INDIVIDUAL(nodo,acción,s) PROFUNDIDAD[s] PROFUNDIDAD[nodo] + 1 añadir s a sucesores devolver sucesores Function EXPANDIR(nodo,problema) 1.1. Estrategias de búsqueda en grafos: heurísticas Definición 1.1 Llamaremos estado a la configuración del problema en un momento determinado. Definición 1.2 Llamaremos nodo al conjunto formado por el estado del problema, el padre del nodo, la profundidad del mismo, el coste asociado con él y la acción que lo produjo. Definición 1.3 Llamaremos conjunto de cerrados al conjunto de nodos que ya han sido estudiados. 9

10 10 Capítulo 1. Resolución de Problemas función BÚSQUEDA-GRAFOS(problema,frontera) devuelve una solución o fallo cerrado conjunto vacío frontera INSERTA(HACER-NODO(ESTADO-INICIAL[problema]),frontera) hacer si VACIA(frontera) entonces devolver fallo nodo BORRAR-PRIMERO(frontera) si TEST-OBJETIVO[problema](ESTADO[nodo]) es cierto entonces devolver SOLUCION(nodo) si ESTADO[nodo] no está en cerrado entonces añadir ESTADO[nodo] a cerrado frontera INSERTA-TODO(EXPANDIR(nodo,problema),frontera) Function BÚSQUEDA-GRAFOS(problema,frontera) Definición 1.4 Llamaremos conjunto de abiertos o frontera al conjunto de nodos que han sido expandidos, pero que aún no han sido estudiados. En árboles no existen nodos repetidos y es por esto que no existe el conjunto de cerrados, ni se comprueba este hecho. En grafos, sin embargo, si a un nodo se llega por varios caminos, nos quedamos siempre con un solo nodo: el mejor. Los nodos internos de una estructura de árbol expandido 1 pertenecen siempre a cerrados, mientras que las hojas pertenecen a la frontera (salvo aquellas hojas que no son solución, las cuales también estarán en el conjunto de cerrados) Búsqueda primero el mejor Para añadir información heurística, ordenamos la frontera según una función f(n) 2 que mide el costo necesario para llegar hasta la solución. Así, en cada paso del algoritmo, tomamos el primer nodo de la lista (aquel que menor valor de f tenga). Esta función f(n) se compone total o parcialmente de otra función h(n) (llamada función heurística), que siempre cumple que h(objetivo) = 0. Además, dicha función f(n) se va adaptando según se resuelve el problema (la función de costo uniforme, por ejemplo, no). Las estrategias de búsqueda vistas en cursos anteriores (profundidad, anchura, costo uniforme, etc.) no son más que un caso particular de la Búsqueda Primero el Mejor. Definición 1.5 Diremos que un algoritmo es completo si siempre devuelve una solución, cuando ésta existe. Definición 1.6 Diremos que un algoritmo es admisible si siempre devuelve una solución óptima, cuando ésta existe. Definición 1.7 Llamaremos función heurística a aquella función h que cumple que h(n) h (n), n (siendo h la función heurística óptima y h una estimación). Nota.- Nosotros vamos a suponer que la expansión de un nodo es siempre completa y que la información heurística sólo sirve para decidir qué nodo (de entre los expandidos) debemos estudiar. 1 El árbol que resulta de expandir un grafo 2 Donde n representa a un nodo cualquiera

11 1.1 Estrategias de búsqueda en grafos: heurísticas 11 Búsqueda Primero el Mejor Avaro Para este tipo de búsqueda la función f se define como f(n) = h(n), Ejemplo 1.1 Sea el grafo de la figura 1.1 que representa un mapa de carreteras entre ciudades. Nuestro objetivo es buscar el mejor camino entre la ciudad A y la ciudad B. n Figura 1.1: Grafo de mapa de carreteras Para ello tomamos como función heurística la distancia en línea recta desde un nodo en concreto hasta la solución. A continuación se observan los valores de h para cada nodo n: n h(n) n h(n) n h(n) n h(n) n h(n) A 366 B 0 C 160 D 242 E 161 F 176 G 77 H 151 I 266 L 244 M 241 N 234 O 380 P 100 R 193 S 253 T 329 U 80 V 199 Z 374 Esta función es claramente admisible, pues, por la propiedad triangular, se tiene que h(n) < a + b, siendo a y b dos lados cualesquiera que formen junto con h(n) un triángulo. Y, en el extremo, podría ocurrir que h(n) = h (n) (si existiera un camino directo entre A y B). En la figura 1.2 se muestra el árbol expandido correspondiente a aplicar la búsqueda primero el mejor avaro, así como la evolución de la frontera en cada paso del algoritmo. Figura 1.2: Búsqueda Primero Mejor Avaro Tras ver este ejemplo, podemos comprobar que la Búsqueda Primero el Mejor Avaro no es completa, pues podría entrar en un ciclo sin fin. Tampoco se trata de un algoritmo admisible.

12 12 Capítulo 1. Resolución de Problemas Búsqueda A* La función heurística para este tipo de búsquedas se define como f(n) = g(n) + h(n), n donde: g(n) es el costo real del camino recorrido hasta el nodo n. h(n) es una estimación del costo del camino desde el nodo n hasta el nodo objetivo. f(n) es una estimación del costo del camino desde el nodo inicial hasta el nodo objetivo, pasando por el nodo n. Una función f definida de esta manera es admisible, puesto que, por la componente g, se evita entrar en ciclos y se realiza una búsqueda en anchura. Así, una función f admisible hace que un algoritmo A sea admisible y completo. Ejemplo 1.2 Siguiendo el enunciado del ejemplo anterior, la figura 1.3 muestra ahora el árbol expandido resultado de aplicar el algoritmo A*, así como la evolución de la frontera en cada paso del algoritmo. Figura 1.3: Búsqueda A* Supongamos un nodo G, no óptimo, con h(g) = 0 y c solución óptima. Entonces se cumple que: f(g) = g(g) + h(g) = g(g) > c Supongamos ahora un nodo n, perteneciente al camino óptimo. Entonces tenemos lo siguiente: f(n) = g(n) + h(n) c y f(n) c < f(g) Por lo tanto, queda demostrado que el hecho de que f sea admisible implica que siempre se estudiará cualquier nodo del camino óptimo antes que otro nodo objetivo no óptimo (como ocurre en el ejemplo 1.2, en el que el nodo objetivo B no se estudia en cuanto aparece en la estructura, sino cuando realmente es solución óptima).

13 1.1 Estrategias de búsqueda en grafos: heurísticas 13 También podemos afirmar que si la función heurística es admisible y se trabaja con estructura de grafos, el primer nodo que entre en cerrados será siempre mejor que cualquier otro nodo igual que ése, que aparezca después de él. Sin embargo, determinar si h(n) h (n), n es un problema intratable; y por lo tanto definimos las dos siguientes propiedades sobre funciones heurísticas. Definición 1.8 Una función heurística se dice que es monótona si cumple que: h(n) c(n, a, n ) + h(n ), n, n sucesores inmediatos donde c(n, a, n ) es el costo asociado a la acción a que hace pasar del nodo n al n (sucesores inmediatos). Definición 1.9 Una función heurística se dice que es consistente si cumple que: h(n) K(n, n ) + h(n ), n, n donde K(n, n ) es el costo asociado al camino que une n y n al aplicar una secuencia de acciones. Proposición 1.1 Una función heurística que sea o bien monótona, o bien consistente es una función admisible y, por tanto, con ellas se encuentra la solución óptima. Nota.- Ojo! Estas propiedades, que son equivalentes entre sí, no se pueden comprobar si no se conoce la estructura del problema (árbol, grafo, árbol YO,...). En ocasiones será interesante obviar la condición de optimalidad y para ello, en vez de emplear funciones admisibles que cumplan h(n) h (n) n, emplearemos funciones e- admisibles que cumplan h(n) h (n) + e n Figura 1.4: Función heurística e-admisible Una función e-admisible proporciona soluciones e-óptimas (con las que se puede conocer el error cometido al encontrar una solución no óptima). Pero, como decíamos antes, h (n) es muy difícil de conocer y por ello hemos introducido las propiedades de monotonía y consistencia. h(n) h(n ) + c(n, n ) pero h(n) h(n ) + c(n, n ) + e

14 14 Capítulo 1. Resolución de Problemas Búsqueda con memoria acotada La búsqueda A* sigue adoleciendo del problema de la explosión combinatoria (se generan nodos según una función exponencial), por lo que se consume rápidamente la memoria disponible. Búsqueda A* con profundidad iterativa (A*PI) En este algoritmo, cada iteración es una búsqueda primero en profundidad, igual que en cualquier búsqueda con profundidad iterativa. Sin embargo, la búsqueda primero en profundidad se modifica para que utilice un límite de costo f(n) en vez del tradicional límite de profundidad. De este modo en cada iteración se expanden todos los nodos que están dentro del contorno de f. Búsqueda Primero Mejor Recursiva (BPMR) función BÚSQUEDA-PRIMERO-MEJOR-RECURSIVA(problema) devuelve una solución o fallo BPMR(problema,HACER-NODO(ESTADO-INICIAL[problema]), ) Function BÚSQUEDA-PRIMERO-MEJOR-RECURSIVA(problema) función BPMR(problema,nodo,f límite) devuelve solución o fallo y nuevo límite f-costo si TEST-OBJETIVO[problema](estado) entonces devolver nodo sucesores EXPANDIR(nodo,problema) si sucesores está vacío entonces devolver fallo, para cada s en sucesores hacer f[s] max(g(s)+h(s),f[nodo]) repetir mejor el nodo con el f-valor más pequeño de sucesores si f[mejor] > f límite entonces devuelve fallo,f[mejor] alternativa el f-valor segundo más pequeño entre los sucesores resultado,f[mejor] BPMR(problema,mejor,min(f límite,alternativa)) si resultado fallo entonces devolver resultado Function BPMR(problema,nodo,f límite) Ejemplo 1.3 En la figura 1.5 se muestra el árbol expandido resultado de aplicar el algoritmo BÚSQUEDA-PRIMERO-MEJOR-RECURSIVA al ejemplo de siempre. La crítica a este método es que sólo emplea un número para representar la bondad de una rama. Búsqueda A* con memoria acotada simplificada (A*MS) Se ejecuta el algoritmo A* tal cual. Si la memoria se agota antes de encontrar la solución, se elimina el peor nodo según su función heurística y se introduce el nuevo. Ejemplo 1.4 En la figura 1.6 se muestra la evolución del árbol expandido resultado de aplicar el algoritmo de búsqueda A* con memoria acotada simplificada al ejemplo de siempre.

15 1.1 Estrategias de búsqueda en grafos: heurísticas 15 Figura 1.5: Búsqueda Primero el Mejor Recursiva Figura 1.6: Búsqueda A* con memoria acotada simplificada (A*MS)

16 16 Capítulo 1. Resolución de Problemas 1.2. Estrategias de Búsqueda en Grafos YO: Heurísticas Se dice que un problema es descomponible si se puede descomponer en un conjunto de subproblemas independientes más sencillos; y es en estos casos en los que una representación del problema por reducción es la más apropiada. Los árboles YO, empleados en la representación por reducción, son aquellos en los que cada nodo representa un subproblema simple (nodo O) o un conjunto de subproblemas a resolver (nodo Y). Un nodo que no se descompone o simplifica se llama nodo terminal. Un nodo terminal con solución se corresponde con un problema primitivo y se llama Primitiva. Si al aplicar un operador se produce un conjunto de subproblemas solución alternativos, entonces se genera un nodo O. Si por el contrario se produce un conjunto de subproblemas que deben ser resueltos necesariamente, entonces se produce un nodo Y. Un nodo de un árbol YO tiene solución (es resoluble) si se cumple alguna de las siguientes condiciones: 1. Es un nodo primitiva 2. Es un nodo no terminal de tipo Y y sus sucesores son todos resolubles. 3. Es un nodo no terminal de tipo O y alguno de sus sucesores es resoluble. En un árbol YO puro cada nodo o bien es Y, o bien es O. Figura 1.7: Árbol YO con la profundidad de cada nodo Figura 1.8: Árbol YO no puro Trataremos los grafos YO como hipergrafos y los arcos como hiperarcos, conectores que conectan un nodo con varios nodos o k-conectores. Un hipergrafo que sólo contiene 1-conectores es un grafo ordinario. Con representación mediante estados se necesita conocer el estado inicial, los operadores y el estado final. Con representación mediante reducción, por otra parte, se necesita saber el nodo distinguido, los operadores y las primitivas. La solución en este tipo de problemas es un subgrafo que una el nodo distinguido con todos o algunos de los nodos primitiva. Supondremos, para simplificar, que el hipergrafo no tiene ciclos.

17 1.2 Estrategias de Búsqueda en Grafos YO: Heurísticas 17 Figura 1.9: Hipergrafo o grafo YO Figura 1.10: Soluciones del Hipergrafo de la figura 1.9 Definición 1.10 Vamos a designar como G a un grafo solución desde el nodo n al conjunto N (conjunto de nodos primitiva) dentro de un grafo G. Si n es un elemento de N, G consta sólo de n. En otro caso: Si n tiene un k-conector que parte de él dirigido a los nodos n 1, n 2,..., n k tal que haya un grafo solución para cada n i hasta N, entonces G consta: del nodo n, del k-conector, de los nodos n 1, n 2,..., n k más los grafos solución desde cada n i hasta N. En otro caso, no hay grafo solución de n a N. Costo asociado al grafo solución de n a N: K(n, N) Si n es un elemento de N, K = 0 En otro caso Si n tiene un k-conector que parte de él dirigido a los nodos n 1, n 2,..., n k en el grafo solución entonces siendo c k el costo del k-conector. K(n, N) = c k + k K(n i, N) i=1

18 18 Capítulo 1. Resolución de Problemas Ejemplo 1.5 Si c k = k: Para la solución 1: K(n 0, N) = 1 + K(n 1, N) = K(n 3, N) = K(n 5, N) + K(n 6, N) = K(n 7, N)+K(n 8, N)+2+K(n 7, N)+K(n 8, N) = = 8 Para la solución 2: K(n 0, N) = 2 + K(n 4, N) + K(n 5, N) = K(n 5, N) K(n 7, N) + K(n 8, N) = K(n 7, N) + K(n 8, N) = = Características de las funciones de evaluación para grafos YO Llamaremos grafo solución óptimo a aquel grafo solución que tenga costo mínimo. Dicho costo está denotado por h (n), pero, como ya sabemos, este valor es muy difícil de conocer y por lo tanto tenemos que estimarlo. Para buscar en un grafo YO es necesario hacer tres cosas en cada paso: 1. Atravesar el grafo empezando por el nodo inicial y siguiendo el mejor camino actual, acumulando el conjunto de nodos que van en ese camino y aún no se han expandido. 2. Coger uno de estos nodos no expandidos y expandirlo. Añadir sus sucesores al grafo y calcular h para cada uno de ellos. 3. Cambiar la h estimada del nodo recientemente expandido para reflejar la nueva información proporcionada por sus sucesores. Propagar este cambio hacia atrás a través del grafo. Para cada nodo que se visita mientras se va avanzando en el grafo, decidir cuál de sus conectores es más prometedor y marcarlo como parte del mejor grafo solución parcial actual. Esto puede hacer que dicho grafo solución parcial cambie. Ejemplo 1.6 En la figura 1.11 se muestra un ejemplo del proceso que acabamos de describir. Figura 1.11: Ejemplo de búsqueda del grafo solución óptimo Nota.- En los nodos Y es aconsejable estudiar primero aquellos sucesores con mayor valor de función heurística, pues si el nodo Y que estamos estudiando finalmente no pertenecerá al grafo solución óptimo, lo descartaremos antes de esta manera.

19 1.2 Estrategias de Búsqueda en Grafos YO: Heurísticas Búsqueda mejor nodo para grafos YO Proposición 1.2 Si h(n) es admisible (h(n) h (n), n) la solución encontrada será siempre óptima. Algoritmo A (YO) f(n) = g(n) + h(n). Algoritmo A* (YO*) f(n) = g(n) + h(n) y h(n) admisible. Definición 1.11 h(n) es monótona si cumple que: k h(n) c k + h(n i ), i=1 n Proposición 1.3 Recordemos que si n es solución, entonces h(n) = 0. Y por lo tanto, si h(n) es monótona, entonces es admisible. Ejemplo 1.7 Dado el grafo de la figura 1.12 (en el que cada nodo va acompañado de su valor de h(n)), observamos que la función h(n) no es monótona, pues se cumple que h(g) c + h(i) Figura 1.12: Grafo YO con h(n) no monótona Ejemplo 1.8 En la figura 1.13 se muestra el árbol solución resultado de aplicar el algoritmo YO* al grafo de la figura 1.12, pero propagando los nuevos valores heurísticos sólo a través de los conectores marcados. El orden de expansión está indicado por el número dentro del círculo y una X significa que ese nodo ha sido resuelto. El costo de esta solución es 9.

20 20 Capítulo 1. Resolución de Problemas función YO*(problema) devuelve grafo solución locales: G, G grafos G grafo vacío G G+{inicio} costo(inicio) h(inicio) si inicio TERMINAL entonces inicio marcado resuelto repetir hasta inicio marcado resuelto o costo(inicio) > futilidad Construir G G con los conectores marcados nodo frontera(g ) si no hay ningún sucesor en EXPANDIR(nodo) entonces costo(nodo)=futilidad en otro caso sucesor EXPANDIR(nodo) hacer G G+{sucesor} si sucesor TERMINAL entonces sucesor marcado resuelto y costo(sucesor)=0 si sucesor/ TERMINAL y no estaba en G entonces costo(sucesor)=h(sucesor) S={nodo} (S conjunto de nodos que se han marcado resuelto o cambiado su costo) repetir hasta S vacío actual S de modo que ningún descendiente en G de actual esté en S S S {actual} para cada k-conector de actual {n i1, n i2,..., n ik } calcular costo i (actual) = c + costo(n i1 ) + + costo(n ik ) costo(actual) min i costo i (actual) marcar conector por el que se ha obtenido ese mínimo (borrar otra marca previa) si todos los sucesores a través de ese conector están etiquetados como resueltos entonces etiquetar como resuelto actual si actual se ha etiquetado como resuelto o se ha cambiado su costo entonces propagar esa información hacia el principio del grafo y S S+{antecesores de actual} Function YO*(problema)

21 1.2 Estrategias de Búsqueda en Grafos YO: Heurísticas 21 Figura 1.13: Solución al grafo de la figura 1.12 propagando por conectores marcados Ejemplo 1.9 En la figura 1.14 se muestra el árbol solución óptimo resultado de aplicar el algoritmo YO* al grafo de la figura 1.12, propagando los nuevos valores heurísticos a todos los antecesores. El orden de expansión está indicado por el número dentro del círculo y una X significa que ese nodo ha sido resuelto. Figura 1.14: Solución al grafo de la figura 1.12 propagando por todos los antecesores El costo de esta solución es 7. Como conclusión podemos decir que: Si h(n) es admisible, no es necesario propagar los valores heurísticos a todos los antecesores para encontrar la solución óptima, sino que basta con propagarlos por los conectores marcados. Sin embargo, si h(n) no es admisible, es necesario propagar los valores a todos los antecesores si se quiere encontrar la solución óptima (en caso de que exista). Ejemplo 1.10 Dado el grafo de la figura 1.15 (en el que cada nodo va acompañado de su valor de h(n)), observamos que la función h(n) ahora sí es monótona. En la figura 1.16 se muestra el grafo solución óptimo resultado de aplicar el algoritmo YO* propagando los nuevos valores heurísticos sólo por los conectores marcados.

22 22 Capítulo 1. Resolución de Problemas Figura 1.15: Grafo YO con h(n) monótona Figura 1.16: Solución al grafo de la figura 1.15 propagando por conectores marcados Ya vimos cómo calcular el costo de un grafo solución, y vimos que en ocasiones un arco tenía que contabilizarse más de una vez y en otras ocasiones no. Ejemplo 1.11 Dado el grafo YO de la figura 1.17, en la figura 1.18 se muestran dos posibles soluciones. Figura 1.17: Grafo YO con varias soluciones con distintos costos Si tratamos con un problema físico (por ejemplo, soldar un circuito) tendremos que costo 1 = 7 y costo 2 = 9, y la solución óptima es la 1. Pero si tratamos con un problema lógico (por ejemplo, resolver una integral) tendremos que costo 1 = 7 y costo 2 = 6, y la solución óptima es la 2.

23 1.3 Funciones Heurísticas 23 Figura 1.18: Soluciones al Grafo YO de la figura Funciones Heurísticas Efecto de la precisión heurística en el rendimiento Vamos a tratar sobre el problema del 8-puzzle. Ejemplo Estado Inicial 26 pasos Estado Final El coste medio para resolver este problema con estados inicial y final aleatorios es de 22 pasos. El factor de ramificación medio es 3. En una búsqueda exhaustiva se expanden 3 22 nodos. h 1 Número de piezas mal colocadas h 1 (EI) = 8 f(n) = g(n) + h(n) h h h 2 Distancia de Manhattan h 2 (EI) = 18 h 1 y h 2 son admisibles En el ejemplo anterior se tiene que h 1 (n) h 2 (n) n y se dice que h 2 domina a h 1. Además también se cumple que h 1 (n) h 2 (n) h h 2 es mejor que h 1 porque se acerca más a h. Definición 1.12 Factor de ramificación eficaz: b. Sea N el número de nodos generados por un algoritmo A y sea la longitud de la solución d, entonces b es el factor de ramificación que un árbol uniforme de profundidad d debe tener para contener N + 1 nodos. Es decir N + 1 = 1 + b + (b ) (b ) d Vamos a realizar un estudio comparativo en el que generamos puzzles con solución de longitud 2, 4, 6,..., 22, 24 (100 problemas de cada tipo). Por un lado los resolveremos con Profundidad Iterativa (BPI) y por otro lado mediante una búsqueda A con las funciones h 1 y h 2.

24 24 Capítulo 1. Resolución de Problemas Costo de la Búsqueda Factor de Ramificación Eficaz d BPI A (h 1 ) A (h 2 ) BPI A (h 1 ) A (h 2 ) Como conclusiones del estudio podemos afirmar que: 1. A es mucho mejor que BPI 2. h 2 es mejor que h 1 porque A (h 2 ) A (h 1 ) y b h 2 b h 1 Nota.- Obsérvese que si se utilizara h siempre tendríamos que b = 1, es decir, encontraría la solución directamente en un número de pasos igual a la longitud de la solución Inventando funciones heurísticas Vamos a ver tres maneras de obtener buenas funciones heurísticas. La primera de ellas hace uso de un procedimiento que nos permite averiguar funciones heurísticas admisibles (no necesariamente eficientes), y que consiste en resolver el problema relajando alguna de las condiciones del problema original. No olvidemos que cuanto más se acerque h a h, más difícil será de evaluar. Ejemplo 1.13 En el problema del 8-puzzle, la casilla A se mueve a la casilla B si A es vertical u horizontal y adyacente a B y B está vacía. Tres posibles formas de relajar el problema son: 1. A se mueve a B si A es vertical u horizontal y adyacente a B Distancia de Manhattan 2. A se mueve a B si B está vacío 3. A se mueve a B N o de piezas mal colocadas La segunda manera consiste en tomar varias funciones admisibles de las cuales no conocemos cuál domina sobre cuál. Si tomamos el máximo de todas ellas obtenemos una función heurística admisible mejor (o igual) que cualquiera de ellas (h = max(h 1, h 2,..., h n )), como se observa en la figura 1.19 Por último, también se puede obtener una función heurística a partir de la experiencia, mediante el aprendizaje (lo veremos más adelante). h = c 1 x c k x k y los coeficientes c 1,..., c k se van ajustando dinámicamente a partir de la experiencia, para aproximarse cada vez más a h.

25 1.4 Estrategias de Búsqueda Local y Problemas de Optimización25 Figura 1.19: Función admisible h = max(h 1, h 2, h 3 ) h 1.4. Estrategias de Búsqueda Local y Problemas de Optimización El problema de las 8 reinas es un problema en el que nos interesa el estado final, no el camino para llegar a él. La búsqueda local, en vez de almacenar todos los nodos estudiados hasta el momento, almacena sólo uno: el que actualmente se está estudiando. Este tipo de búsqueda es muy rápida y se suele encontrar buenas soluciones. Figura 1.20: Función Objetivo vs Espacio de Estados Definición 1.13 Máximo local. Aquel estado en el que todos sus vecinos tienen peor valor heurístico que él. Definición 1.14 Crestas. Conjunto de máximos locales próximos entre sí Definición 1.15 Meseta. Aquel estado en el que todos sus vecinos tienen peor valor heurístico que él o, a lo sumo, igual Búsqueda de ascensión de colinas (mejor avara) El algoritmo de ascensión de colinas, como se puede observar en la función ASCENSIÓN- COLINAS, devuelve un máximo local.

26 26 Capítulo 1. Resolución de Problemas función ASCENSIÓN-COLINAS(problema) devuelve un estado que es un máximo local entradas: problema, un problema variables locales: actual, un nodo vecino, un nodo actual HACER-NODO(ESTADO-INICIAL[problema]) bucle hacer vecino sucesor de valor más alto de actual si VALOR[vecino] VALOR[actual] entonces devolver ESTADO[actual] actual vecino Function ASCENSIÓN-COLINAS(problema) Ejemplo 1.14 Sea el juego de las 8 reinas con función heurística h(n): número de jaques que se dan, directa o indirectamente. Dado el siguiente tablero inicial R R R R R R R R su valor heurístico es h = 17. Cada estado tiene 8 7 = 56 hijos, de los cuales tomamos siempre aquel que tenga menor valor de h. La solución devuelta no tiene por qué ser óptima, es decir, no tiene por qué cumplir que h = 0. De hecho, la solución obtenida a partir del tablero anterior es la siguiente: R R R R R R Que es un mínimo local con valor heurístico h = 1. R R Vamos a intentar ahora salir de un óptimo local para encontrar el óptimo global mediante dos maneras: 1. Para superar una terraza realizamos movimientos laterales, de modo que se siguen mirando los vecinos con igual valor, hasta encontrar uno con mejor valor. El problema surge cuando no se trata de una terraza sino de una meseta, en cuyo caso el algoritmo se quedaría colgado yendo de un lado para otro.

27 1.4 Estrategias de Búsqueda Local y Problemas de Optimización27 Para evitar esto se establece un número máximo de movimientos laterales lo suficientemente grande como para saltar terrazas y lo suficientemente pequeño como para no quedarse colgado en las mesetas. 2. Búsqueda primero mejor avara con reinicio aleatorio. Si se alcanza un óptimo local, se toma otro estado inicial aleatorio y se vuelve a aplicar el algoritmo. Si p es la probabilidad de encontrar la solución óptima, necesitaremos 1 p reinicios para encontrar dicha solución. N o de pasos = Coste de iteración acertada + 1 p p Búsqueda tabú (Coste de iteración fracasada) función TABU(problema) devuelve un estado entradas: problema, un problema variables locales: actual, un nodo vecino, un nodo mejor, un nodo actual HACER-NODO(ESTADO-INICIAL[problema]) mejor actual mejorcosto VALOR[mejor] bucle hacer vecino sucesor Candidatos N (actual) N(H,actual) que minimice VALOR(H,actual) sobre el conjunto anterior actual vecino Actualizar H si VALOR(actual)<mejorcosto entonces mejor actual mejorcosto VALOR[mejor] si una iteración máxima u otra regla de parada entonces devolver mejor Function TABU(problema) En la búsqueda tabú se elige un sucesor de entre un subconjunto de vecinos. El procedimiento en sí es heurístico, pues tiene en cuenta: Últimos movimientos hechos Frecuencia de un movimiento Calidad de un movimiento Influencia en el proceso de buscar la mejor solución En ocasiones puede ocurrir que el sucesor no pertenezca a los vecinos de actual (es el caso en el que se emplea la historia con toda su potencia).

28 28 Capítulo 1. Resolución de Problemas Ejemplo 1.15 En una fábrica se produce un material compuesto por 7 elementos (numerados del 1 al 7). Cada ordenación de esos elementos tiene un valor que mide una propiedad que buscamos. No existe un estado inicial predefinido. Tomamos, por ejemplo, con valor de aislamiento 10. En este caso, un vecino será una ordenación en la que se intercambian pares de elementos. En total hay 21 vecinos. El algoritmo hace uso de dos tablas. La primera de ellas es como sigue: En esta tabla, la casilla (i, j) indica el número de veces que 6 está prohibido intercambiar el elemento i y el j. En cada iteración, cada casilla se decrementa en 1. En realidad se trata de una memoria a corto plazo utilizada como historia para modificar el subconjunto de candidatos. La segunda tabla tiene tantas filas como sucesores (21 en nuestro caso) en las que se indica cuál es el incremento (o decremento) del valor de aislamiento si se producen cada uno de los intercambios. Las filas están ordenadas de mejor a peor y se puede indicar qué intercambio se escoge (mediante un *) así como los intercambios prohibidos (mediante una T 3 ). Por ejemplo, según la tabla: si se intercambian los elementos 5 y 4, se produce un incremento en el.. valor de aislamiento de 6. Los 21 sucesores serán siempre los mismos, pero en cada iteración el incremento del valor de aislamiento (y en consecuencia la ordenación de los 21 sucesores) es distinto. Iteración con valor de aislamiento Iteración con valor de aislamiento T * T La ascensión de colinas habría parado aquí, pero véase cómo prohibir el intercambio 1,3 (que acaba de realizarse) diversifica la búsqueda. 3 Tabú

29 1.4 Estrategias de Búsqueda Local y Problemas de Optimización29 Iteración con valor de aislamiento 14 (mejor valor guardado = 18) T T Criterio de aspiración: Si algún vecino tabú mejora la mejor solución (no la actual) se le quita el tabú y se selecciona. Es el caso del intercambio 4, 5. Iteración con valor de aislamiento T Iteración con valor de aislamiento 12 (mejor valor guardado = 20) T Esta última tabla indica, en las casillas de su mitad inferior izquierda, el número de veces que se ha usado cada intercambio de pares. Vamos a penalizar los intercambios más frecuentemente usados, restando a su incremento, su frecuencia T * Y ahora reordenamos la tabla según la nueva columna.. El conjunto de vecinos son 21, pero los candidatos son sólo 18, porque hay 3 que son tabú. En realidad la penalización con frecuencia, influencia, calidad, etc., se realiza desde la primera iteración.

30 30 Capítulo 1. Resolución de Problemas Búsqueda por haz local Como estado inicial se generan k estados iniciales aleatorios. Para cada estado se generan los sucesores y entre todos los sucesores, tomamos los k mejores. Si alguno de esos k es solución, se para. Y si se llega a la condición de parada extrema se devuelve la mejor solución hasta el momento Algoritmo genético La diferencia con los algoritmos vistos hasta ahora es que en éstos hay una relación asexual entre los estados, mientras que en el algoritmo genético se dice que entre los estados hay una relación sexual. Hay que decidir cuántos individuos (estados) hay en cada población (conjunto de estados). Definición 1.16 Idoneidad: La función de fitness mide cómo de bueno es un individuo. Y en función de cómo de bueno sea un individuo se seleccionará para cruzarse y generar individuos para la nueva población. Los pasos que se siguen para conseguir una nueva población a partir de la actual son: Población Población antigua seleccionada Población Población Población cruzada mutada nueva La nueva población obtenida pasa a ser la población actual y se repite el ciclo. El cruce de individuos intensifica la búsqueda, mientras que la mutación la diversifica. Ejemplo 1.16 Vamos a estudiar el problema de las 8 reinas con el algoritmo genético. La representación de cada individuo (su fenotipo) será como sigue: I % Que significa: I1 es el individuo 1 La 1 a reina está en la fila 2, la 2 a en la 4, la 3 a en la 7, etc. La función de fitness para este individuo vale 24, y en este caso mide el número de no-jaques. El porcentaje se calcula como h(i 1 ) n i=1 h(i i) 100 y representa el peso que el individuo I1 tiene en la población Su genotipo puede ser, por ejemplo: ( ) Dependiendo de la representación escogida, así será el cruce y la mutación. La población total es la siguiente: I % I % I % I % Ahora generamos una nueva población de otros cuatro individuos con probabilidad de cruce p c = 0 2 y probabilidad de mutación p m = Este algoritmo se emplea en problemas combinatorios y de optimización, no en problemas de cualquier camino o de mejor camino.

31 1.5 Estrategias de Búsqueda Online Estrategias de Búsqueda Online En la búsqueda off-line se conoce a priori el espacio de búsqueda, mientras que en la búsqueda on-line, éste se conoce a posteriori. Por eso también se le llama búsqueda en ambientes desconocidos. Definición 1.17 Acciones(s): Función que devuelve todas las acciones posibles a partir del estado s. Definición 1.18 c(s, a, s ): Función coste que devuelve el coste asociado a aplicar la acción a al estado s para pasar al s. Esta función se calcula después de haber aplicado la acción a, cuando ya nos encontramos en el estado s. función BPP-ONLINE(s ) devuelve una acción entradas: s, una percepción que identifica el estado actual variables locales: resultado, una tabla indexada por la acción y el estado, inicialmente vacía noexplorados, una tabla que enumera, para cada estado visitado, las acciones todavía no intentadas nohaciatras, una tabla que enumera, para cada estado visitado, los nodos hacia atrás todavía no intentados s,a, el estado y acción previa, inicialmente nula si TEST-OBJETIVO(s ) entonces devolver parar si s es un nuevo estado entonces noexplorados[s ] ACCIONES(s ) si s es no nulo entonces hacer resultado[a,s] s añadir s al frente de nohaciatras[s ] si noexplorados[s ] está vacío entonces si nohaciatras[s ] está vacío entonces devolver parar en caso contrario a una acción b tal que resultado[b,s ]=POP(nohaciatras[s ]) en caso contrario a POP(noexplorados[s ]) s s devolver a Function BPP-ONLINE(s ) Ejemplo 1.17 Dado el siguiente laberinto : Y U B X T N A Z V Aplicamos el algoritmo BPP-ONLINE para llegar desde A hasta B. BPP-Online(A) s, a vacíos s = A noexplorados[a]=arriba, Derecha a =Arriba, s = A {Aparece estado X}

32 32 Capítulo 1. Resolución de Problemas BPP-Online(X) s = A, a =Arriba s = X noexplorados[x]=abajo resultado[arriba,a]=x nohaciatras[x]=a a =Abajo, s = X {Aparece estado A} BPP-Online(A) s = X, a =Abajo s = A noexplorados[a]=derecha resultado[abajo,x]=a nohaciatras[a]=x a =Derecha, s = A {Aparece estado Z} BPP-Online(Z) s = A, a =Derecha s = Z noexplorados[z]=izquierda, Arriba, Derecha resultado[derecha,a]=z nohaciatras[z]=a a =Izquierda, s = Z {Aparece estado A} BPP-Online(A) s = Z, a =Izquierda s = A resultado[izquierda,z]=a nohaciatras[a]=z a = b tal que resultado[b,a]=nohaciatras[a]=z a =Derecha, s = A {Aparece estado Z} BPP-Online(Z) s = A, a =Derecha s = Z a =Arriba, s = Z {Aparece estado T } BPP-Online(T) s = Z, a =Arriba s = T noexplorados[t]=abajo, Arriba resultado[arriba,z]=t nohaciatras[t]=z a =Abajo, s = T {Aparece estado Z} BPP-Online(Z) s = T, a =Abajo s = Z resultado[abajo,t]=z nohaciatras[z]=t a =Derecha, s = Z {Aparece estado V }

33 1.6 Estrategias en adversarios 33 BPP-Online(V) s = Z, a =Derecha s = V noexplorados[v]=arriba, Izquierda resultado[derecha,z]=v nohaciatras[v]=z a =Arriba, s = V {Aparece estado N} BPP-Online(N) s = V, a =Arriba s = N noexplorados[n]=arriba, Abajo resultado[arriba,v]=n nohaciatras[n]=v a =Arriba, s = N {Aparece estado B} BPP-Online(B) s = N, a =Arriba s = B ESTADO-DESTINO(B) CIERTO En este tipo de problemas el objetivo en general suele ser llegar al destino, no el camino recorrido (pensemos, por ejemplo, en un robot que apaga incendios) Estrategias en adversarios Juegos Supongamos dos contrincantes llamados MAX y MIN, un estado inicial con la posición del tablero y con la decisión de quién empieza. MAX y MIN juegan alternativamente. Definición 1.19 Sucesor. Movimientos legales a partir del estado actual. Definición 1.20 Test Terminal. Determina cuándo un estado es terminal. Definición 1.21 Función de Utilidad. Da un valor a cada estado terminal (se suelen usar los valores 1, 0 y -1 correspondientes a que gana MAX, empatan o gana MIN, respectivamente). Ejemplo 1.18 Juego de las 3 en raya. Nosotros somos MAX y jugamos con X, mientras que MIN juega con O. Figura 1.21: Juego de las 3 en raya

34 34 Capítulo 1. Resolución de Problemas Figura 1.22: Estados terminales en el juego de las 3 en raya La estrategia que vamos a usar, desde el punto de vista óptimo (es decir, suponiendo que tanto MIN como MAX siempre toman la decisión óptima), es la siguiente: utilidad(n) si n es terminal Valor Minimax(n)= max s sucesores(n) V alor Minimax(s) si n es nodo MAX min s sucesores(n) V alor Minimax(s) si n es nodo MIN Figura 1.23: Estrategia MiniMax Juegos con 3 jugadores Ahora en cada nodo habrá un vector con 3 valores, correspondientes a la puntuación de cada jugador. El objetivo de cada jugador es maximizar su puntuación. Figura 1.24: Ejemplo de juego con 3 jugadores Nota.- No todos los nodos terminales tiene por qué tener la misma profundidad (ni tienen que tener una profundidad múltiplo del número de jugadores). Poda alfa-beta La poda no interfiere en la búsqueda de la solución óptima. α es el valor de la mejor alternativa (máximo valor) para MAX a lo largo del camino. β es el valor de la mejor alternativa (mínimo valor) para MIN a lo largo del camino. El orden en que se visitan los nodos influye en la poda. Véase la figura 1.25.

35 1.6 Estrategias en adversarios 35 Figura 1.25: Poda alfa-beta Decisiones en tiempo real imperfectas En juegos como el ajedrez es inviable aplicar Minimax y por ello se añade una profundidad límite. Si hay dos jugadores interesa poner una profundidad límite que sea par. Si se realiza poda puede ocurrir que perdamos la solución óptima. Por lo tanto, tenemos que definir una nueva función que nos diga cómo de bueno es un estado no terminal. si TEST-CORTE(estado,profundidad) { entonces devolver EVAL(estado) UTILIDAD(n) si n es terminal EVAL(n) FUNCION HEURISTICA(n) si n es no terminal Cuanto mayor sea la profundidad de corte, evidentemente, más y mejor información heurística tendremos. Nosotros hemos supuesto que los terminales están por debajo de la profundidad límite. Ejemplo 1.19 Para el juego de las 3 en raya de la figura 1.26, se ha cortado la búsqueda a profundidad 2 (teniendo en cuenta que la profundidad de la raíz es 0). Figura 1.26: Juego de las 3 en raya con profundidad limitada Como función heurística se ha usado: f(n) = N o de filas, columnas y diagonales libres para MAX - N o de filas, columnas y diagonales libres para MIN.

36 36 Capítulo 1. Resolución de Problemas Juegos que incluyen un elemento de posibilidad Además de los nodos MAX y MIN, aparecen los nodos de posibilidad. Ejemplo 1.20 En el juego del parchís, tiramos un dado, con 1 6 de probabilidades de sacar cada uno de los números del 1 al 6. Hay cuatro fichas por cada jugador. Si se limita la profundidad tiene que ser a la altura de un nodo MIN o un nodo MAX, pero no de un nodo de posibilidad. utilidad(n) max MiniMax Esperada(n) s sucesores(n) MiniMax Esperado(s) min s sucesores(n) MiniMax Esperado(s) P (s) MiniMax Esperado(s) s sucesores(n) si n es terminal si n es nodo MAX si n es nodo MIN si n es nodo posibilidad Figura 1.27: Ejemplo de estrategia MiniMax Esperada

37 Capítulo 2 Representación del Conocimiento. Razonamiento Para resolver un problema, lo básico necesario es: Representación Operadores Control 2.1. Representación del Conocimiento mediante Lógicas no Clásicas Lógicas no monótonas La lógica clásica es una lógica monótona, en la cual la incorporación de nuevo conocimiento debe ser consistente (no contradictorio). En la lógica no monótona, la incorporación de nueva información podría invalidar parte de la información previa existente. En un problema con conocimiento incompleto puede aplicarse la lógica no monótona (pero no la lógica monótona) y se aplica un razonamiento llamado por defecto. Ejemplo 2.1 Juan y María yacen en el suelo muertos. Hay cristales en el suelo y agua. Qué ha pasado? Solución: Juan y María son dos peces Lógica de situaciones Soporta una estructura dinámica (en un momento algo puede ser cierto, y, más tarde, puede ser falso). Ejemplo 2.2. SOBRE(B 1, B 2 ): B 1 está sobre B 2 Si quitamos B 1 de encima de B 2, entonces SOBRE(B 1, B 2 ) Estas dos sentencias no podrían coexistir en una lógica clásica. Para que sí puedan coexistir, la lógica de situaciones dice: SOBRE(B 1, B 2, S 1 ): B 1 está sobre B 2 en la situación S 1 Y así, SOBRE(B 1, B 2, S 2 ) también es cierto. Para pasar de una situación a otra debemos aplicar una secuencia de operadores. x [SOBRE(B 1, B 2, S) SOBRE(x, B 3, S) SOBRE(x, B 3, R(MOV ER(B 1, B 3 ), S) )] } {{ } S 37