Introducción a la Complejidad Computacional

Transcripción

1 Introducción a la Complejidad Computacional El análisis sobre decidibilidad que hemos hecho nos permite saber qué podemos hacer y qué no podemos hacer. Pero nada sabemos de qué tan difícil resolver los problemas en términos de complejidad computacional. Más que clasificar los problemas en cuanto a su tiempo de ejecución, nos interesa clasificarlos en términos de su tratabilidad. Diremos que un problema de decisión es tratable si se conoce un algoritmo polinomial que lo resuelva, para cada instancia posible del problema. Normalmente utilizaremos indistintamente los términos tratable y eficiente. Consideremos el problema de satisfacibilidad de lógica proposicional: Sea ϕ L(P ), es ϕ satisfactible? Jorge Baier Aranda, PUC << Atrás 250

2 Sabemos que este problema es decidible, pero, en términos computacionales qué tan difícil es resolverlo? Lamentablemente, para este problema no se conoce un algoritmo polinomial (eficiente)... Pero tampoco se ha demostrado que no exista. Sin embargo, existe suficiente evidencia para creer que efectivamente no existe un algoritmo eficiente para resolverlo. A continuación detallaremos un poco más acerca de la teoría de complejidad que hay detrás de estas afirmaciones. Jorge Baier Aranda, PUC << Atrás 251

3 Qué es resolver un problema de decisión? Llevemos esta pregunta a un ejemplo más sencillo: qué significa determinar si una fórmula proposicional ϕ es satisfactible? significa que debemos encontrar al menos una valuación σ tal que σ = ϕ. En este caso, la valuación corresponde a una solución al problema. Una vez encontrada esta valuación, podemos dar una respuesta. Para analizar qué tan complejo es resolver un problema de decisión deberemos preguntarnos qué tan complejo es generar la solución. Jorge Baier Aranda, PUC << Atrás 252

4 Algunos problemas de decisión Los siguientes son algunos problemas de decisión típicos: 1. Dado un grafo (V, E), existe un camino cerrado que recorra a todos los nodos del grafo (circuito hamiltoniano). 2. Dada una fórmula en 3-FNC (una fórmula proposicional con a lo más tres literales por cláusula), esta satisfactible? (3SAT) 3. La misma pregunta pero para cláusulas con a los más 2 literales. (2SAT) 4. Dado un conjunto de enteros a 0, a 1,..., a n y un entero b, existe un conjunto de enteros x 0, x 1,..., x n? tales que a 0 x 0 + a 1 x a n x n b? (Programación entera) 5. Dado un número N, existen dos factores P y Q distintos de 1 tales que N = P Q (NUMCOMP). Jorge Baier Aranda, PUC << Atrás 253

5 Las clases P y N P Las clases P y N P son clases de problemas de decisión. Un problema de decisión pertenece a la clase P si existe un algoritmo determinístico polinomial, en el largo de la entrada, que lo resuelve. El algoritmo es polinomial para cualquier entrada. qué es un algoritmo determinístico? Es esencialmente una máquina de Turing como la que hemos visto hasta ahora. Algunos ejemplos de problemas de decisión en la clase P: dado un grafo (V, E), es d la distancia mínima entre el nodo v 1 y el nodo v 2 (v 1, v 2 V )? dada una lista de números L, es la lista L una ordenación ascendente de L? Un problema pertenece a la clase N P si es que es posible generar una solución con una máquina no determinística y luego verificarla en tiempo polinomial. Jorge Baier Aranda, PUC << Atrás 254

6 La N de N P viene de la generación no determinística y la P de la verificación polinomial. El proceso de generación y verificación puede ser aclarado con el siguiente esquema: Instancia del problema Algoritmo Adivinador de la solución (no determinístico) Algoritmo Verificador (determinístico y polinomial) Sí No Jorge Baier Aranda, PUC << Atrás 255

7 Algoritmos no determinísticos Así como relacionábamos los algoritmos con las Máquinas de Turing, relacionaremos los algoritmos no determinísticos con las máquinas de Turing no determinísticas. Las MT s no determinísticas, bajo una misma entrada, pueden tener distintas posibles ejecuciones. En la siguiente figura se muestran distintas alternativas de ejecución. Jorge Baier Aranda, PUC << Atrás 256

8 estado palabra en la cinta (q 0, w) (p, w 1 ) (r 1, x 1 ) (r 2, x 2 ) (r 3, x 3 ) (q f, y) (q f, y ) (q f, y ) (q f, y ) En esta figura representa un árbol de ejecución, en el cual cada nodo (q, w) es un par que contiene el estado de la máquina y el string que contiene la cinta. Cada flecha corresponde a una transición. En el estado p, la máquina podría tomar Jorge Baier Aranda, PUC << Atrás 257

9 cualquiera de las alternativas r 1, r 2 o r 3 Las hojas del árbol contienen los estados en los que la máquina se detiene junto con la solución al problema, representada por la palabra en la cinta. Es importante notar que algunas de las ramas pueden ser infinitas. Decimos que la máquina ha resuelto el problema para una instancia w si al menos una hoja del árbol construido a partir de (q 0, w) (con q 0 el estado inicial de la máquina) contiene una hoja (p, w F ) tal que w F representa una solución para el problema. Podemos decir que el tiempo que toma el algoritmo en llegar a una solución es proporcional al largo de la rama hasta la hoja que la representa. Una forma alternativa de definir la pertenencia de un problema P a la clase N P es que, para toda instancia w de P existe una rama del arbol de ejecución acotada por un polinomio y que tiene como hoja a una solución para el problema. Jorge Baier Aranda, PUC << Atrás 258

10 Reducción Polinomial Dentro de la clase de problemas N P existen algunos problemas que son más difíciles que otros. Tal como en el caso de los algoritmos de decisión, diremos que un problema de decisión P 1 (con un lenguaje asociado L 1 ) es reducible a un problema de decisión P 2 (con un lenguaje asociado L 2 12 ) si es que es posible encontrar un función de transformación f tal que En este caso decimos que L 1 L 2. w L 1 ssi f(w) L 2 Ahora, si la función f es computable en un tiempo polinomial dependiente del largo de la entrada, diremos que L 1 pol L 2 12 En el futuro, designaremos los problemas de decisión sólo por su lenguaje. Jorge Baier Aranda, PUC << Atrás 259

11 Para qué puede servir ahora el concepto de reducción? Por el momento, si sabemos que L es un problema que pertenece a la clase P y demostramos que L pol L entonces habremos demostrado que el problema L también pertenece a la clase P Por qué? Porque en tiempo polinomial transformamos una instancia del problema L a un problema de L y luego usamos el algoritmo de decisión para L (polinomial) para resolver el problema. Jorge Baier Aranda, PUC << Atrás 260

12 Problemas NP-completos Los problemas NP-completos son los más difíciles de la clase NP. Ya veremos por qué... Definición 30. Un problema de decisión L es NP-completo ssi: L N P Para todo lenguaje L N P es posible demostrar que L pol L En términos prácticos esto significa que si encontramos un algoritmo eficiente para resolver un problema NP-completo, podremos resolver eficientemente todos los problemas de la clase NP. Teorema 8. [de Cook] El problema de decisión asociado al siguiente lenguaje: Es NP-completo. SAT = {ϕ es fórmula proposicional en FNC satisfactible} Jorge Baier Aranda, PUC << Atrás 261

13 Cómo podemos demostrar esto? Sabemos que si un problema está en la clase N P, entonces éste es resuelto por una MT no determinística cuyo tiempo de ejecución está acotado por un polinomio en el largo de la entrada. En términos resumidos, la idea es que para toda MT no determinística cuyo tiempo de ejecución está acotado por un polinomio p en el largo de la entrada, es posible construir una fórmula proposicional, en forma normal conjuntiva, que describe el estado de la máquina y el estado de la cinta en todo momento de la computación de la solución. La fórmula construida es satisfactible ssi la máquina acepta. Esto significa que cualquier problema de la clase N P puede ser reducido a SAT. Esto implica que basta con resolver SAT eficientemente, para resolver eficientemente todos los problemas de la clase N P. Una vez que se estableció que SAT es NP-completo, se demostró que muchos otros problemas también son NP-completos: Jorge Baier Aranda, PUC << Atrás 262

14 Circuito Hamiltoniano. 3-SAT. Progamación entera. Matching de expresiones regulares de Perl. Buscaminas (!) Sin embargo, hay otros problemas que pertenecen a la clase NP, pero que aún no se demuestra si son NP-completos: NUMCOMP (problema de encontrar los factores no triviales de un número natural). Jorge Baier Aranda, PUC << Atrás 263

15 Cómo demostramos que L es NP-completo? Lo que hay que demostrar son dos cosas: 1. Que el problema pertenece a la clase N P. Para demostrar esto, basta que sea posible verificar en tiempo polinomial una solución para el problema. 2. Que todos los problemas de la clase N P se pueden reducir a L. Para hacer esto basta reducir cualquier problema NP-completo a L. La idea es que, dada tal reducción, inmediatamente sabemos que todos los problemas de N P se pueden reducir a L. En el siguiente esquema se muestra esta idea en forma gráfica lo que sucede si reducimos SAT a L. N P CLIQUE MINESWEEPER SAT L CH 3 SAT... Jorge Baier Aranda, PUC << Atrás 264

16 3-SAT es NP-completo La demostración de este hecho la haremos reduciendo SAT a 3-SAT. Debemos demostrar que cualquier problema de SAT lo podemos reducir a un problema 3-SAT. Supongamos que tenemos una fórmula arbitrara ϕ L(P ) en FNC. La función de transformación la podemos definir de la siguiente manera: Jorge Baier Aranda, PUC << Atrás 265

17 Reemplazar cada cláusula l 1 l 2 l 3... l n Por: (l 1 l 2 z 1 ) ( z 1 l 3 z 2 )... ( z k 2 l k z k 1 )... ( z n 4 l n 2 z n 3 )... ( z n 3 l n 1 l n ) donde n 4. Es sencillo darse cuenta que la cláusula original es satisfecha si y sólo si este nuevo conjunto es satisfecho. Nuevamente, estas transformaciones están acotadas por un polinomio en el largo de la cláusula. Jorge Baier Aranda, PUC << Atrás 266

18 Finalmente, podemos concluir que por lo que 3-SAT es NP-completo. SAT pol 3-SAT Jorge Baier Aranda, PUC << Atrás 267

19 CLIQUE es NP-completo Denominamos CLIQUE al siguiente problema: Dado un grafo G y un entero k, es posible encontrar un subgrafo de G completo de tamaño k? 13 Claramente CLIQUE pertenece a N P. Ahora deberemos hacer una reducción de SAT a N P. Supongamos que tenemos una fórmula en FNC: con n variables proposicionales. C 1 C 2... C k Formaremos un grafo G con un nodo por cada literal que aparece en cada cláusula. Cada nodo está etiquetado con el literal que le dio origen. 13 Un grafo completo es aquel en el que todos los nodos están conectados entre sí. Jorge Baier Aranda, PUC << Atrás 268

20 Agregaremos un arco entre un nodo etiquetado con l y un nodo etiquetado con l si y solo si: l y l están en cláusulas distintas. l no es el literal complementario de l. Supongamos la siguiente fórmula: (x 1 x 2 x 3 ) ( x 1 x 3 ) (x 3 x 2 ) El grafo resultante queda como: x 1 x 2 x 3 x 1 x 3 x 2 x 3 Jorge Baier Aranda, PUC << Atrás 269

21 Ahora deberemos demostrar que G tiene un subgrafo completo de tamaño k ssi ϕ es satisfactible.. Como todos los miembros del subgrafo pertenecen a cláusulas distintas, cualquier valuación σ que hace verdadero a todo literal en el subgrafo hace verdadera a la fórmula. (recordemos que dos literales complementarios no pueden estar en un subgrafo completo). Si la fórmula ϕ es satisfecha, debe existir una valuación σ que haga verdaderos a al menos un literal en cada cláusula. Sean l 1 C 1, l 2 C 2,..., l k C k estos literales. Notemos que no es posible que existan dos literales complementarios l i y l j (1 i < j k). Necesariamente, entonces, podemos construir arcos entre cada par de nodos en donde aparecen dichos literales siguiendo las reglas de construcción del grafo. Jorge Baier Aranda, PUC << Atrás 270

22 2-SAT está en P Recordemos que 2SAT es el problema de satisfacer fórmulas en 2-FNC (con exactamente dos literales por cláusula). Una fórmula en 2-FNC se ve de la siguiente manera: ϕ = (l 1 m 1 ) (l 2 m 2 )... (l n m n ), donde l i, l j son literales que corresponden a un conjunto de variables P. Reduciremos este problema a encontrar un camino con ciertas características en un grafo formado a partir de las variables en P. Se construye un grafo G = (V, E) en el cual V = {l l P o l P }, es decir, para cada variable p P hay un nodo etiquetado con p y otro etiquetado con p. Jorge Baier Aranda, PUC << Atrás 271

23 Por otro lado, por cada l i m i, agregamos una arista entre l i y m i y entre m i y l i (estos arcos provienen de considerar la disyunción como una implicación). Proposición: El grafo construido contiene un ciclo l... l... l si y solo si ϕ es insatisfactible. Supongamos que G contiene un ciclo de ese estilo y que ϕ es satisfactible. En ese caso sabemos que existe un σ tal que σ = ϕ. Hay dos casos: σ(l) = 1. Debido a la estructura del ciclo esto obliga a que σ(l) = 1, lo cual es una contradicción. σ(l) = 0. Lleva a una contradicción, igual que en el caso anterior. Si no hay un ciclo de este estilo, es posible siempre construir una valuación σ tal que σ = ϕ de la siguiente manera: 1. Para cada literal l sin un valor de verdad asignado, le asignamos valor de verdad verdadero. 2. Asignamos valor de verdad verdadero a todos los nodos que son alcanzables desde l. 3. Asignamos valor de verdad falso a las negaciones de cada uno de los nodos asignados. Jorge Baier Aranda, PUC << Atrás 272

24 4. Si aún existen nodos sin valor de verdad asignado, volver al paso 1. Este algoritmo siempre producirá valuaciones consistentes, ya que nunca es posible que se asigne al mismo tiempo valor de verdad 1 y valor de verdad 0 a un mismo nodo (no hay ciclos). Por otra parte, con esta asignación se satisfacen todos las disyunciones de la fórmula que están representadas a través de los arcos del grafo. Importante: Este grafo se puede construir en tiempo polinomial en el largo de la fórmula. Una vez demostrado este teorema, para chequear la satisfactibilidad de.ϕ, basta con revisar si existe un camino l... l... l en el grafo. Este problema es polinomial! Existe un algoritmo O(n 3 ) que encuentra las distancias entre todo par de nodos de un grafo de n nodos. Jorge Baier Aranda, PUC << Atrás 273