COMPUTACIÓN ALEATORIZADA

Transcripción

1 Conferencia magistral COMPUTACIÓN ALEATORIZADA Probabilidad y algoritmos Dra. Elisa Schaeffer Profesora del Posgrado de Ing. de Sistemas (PISIS) en la Facultad de Ing. Mecánica y Eléctrica (FIME), Coordinador del área de TI & Software del CIIDIT

2 CONTENIDO Probabilidad en el mundo real Computación como herramienta Debilidades del determinismo Aproximaciones y heurísticas

3 PROBABILIDAD Intuición: la frecuencia con la cual obtengamos una cierta salida entre un conjunto de posibles salidas cuando estamos repetiendo un experimento Ejemplos: lanzamiento de monedas o dados, fallas de componentes electrónicos

4 VARIABLE ALEATORIA Asignándoles nombres {x 1,x 2,...,x n } a las posibles salidas, podemos denotar con experimento y por la salida sea. x i P (X = x i ) el la probabilidad de que Para que tengamos cubiertos todas las salidas posibles, es necesario que n i=1 X P (X = x i )=1

5 VALOR ESPERADO Supongamos que cada salida tiene asociado un valor numérico y denotamos este valor por. El valor esperado de un experimento es x i Exp(X) = n i=1 ( xi P (X = x i ) )

6 COMPUTACIÓN

7 COMPUTACIÓN Algoritmo = un método de solución que permite siempre llegar a la respuesta correcta a una pregunta específica en un número finito de pasos deterministas de cómputo Algoritmo aleatorizado = un método de solución que permite con probabilidad no-cero llegar a la respuesta correcta a una pregunta específica en un número esperado finito de pasos probabilistas de cómputo

8 ALGORITMO EFICIENTE La calidad de un algoritmo se mide por el número de pasos de cómputo que necesita: lo más rápido lo mejor. Se dice que un algoritmo es eficiente si el número de pasos requiridos crece polinomialmente con respeto al tamaño de la instancia. Se denota por O(f(n)) la complejidad asintótica: el número de pasos siempre comporta igual o mejor que la función f(n).

9 ORDENAMIENTO Solución exacta por computación aleatorizada

10 ORDENAMIENTO RÁPIDO El mejor algoritmo de ordenamiento de datos es el órdenamiento rápido (inglés: quicksort) 1. Elegimos un elemento para ser el pivote 2. Movemos todos los elementos menores o iguales al pivote a la izquierda y los mayores a la derecha 3. Repetimos recursivamente entre los a la izquierda entre los a la derecha

11 COMPLEJIDAD El ordenamiento rápido puede alcanzar una complejidad buena: ordenar solamente O(n log n) elementos en pasos de cómputo. Los algoritmos ingenuos como ordenamiento de burbuja toman más tiempo, O(n 2 ). Si son muchos datos, la diferencia es muy significativa. n

12 QUADRÁTICO VS. LOG-LINEAL Escala lineal Escala logarítmica

13 ELECCIÓN DE PIVOTE Meta: alcanzar la complejidad buena O(n log n). Para que el algoritmo sea eficiente, no podemos perder tiempo en elegir el pivote de alguna manera muy sofisticada. Pero si lo elegimos el elemento pivote por una regla determinista simple, el algoritmo tarda en el peor caso. O(n 2 )

14 EJEMPLO

15 EJEMPLO

16 EJEMPLO

17 EJEMPLO

18 EJEMPLO

19 EJEMPLO

20 EJEMPLO

21 EJEMPLO

22 EJEMPLO

23 EJEMPLO

24 EJEMPLO

25 EJEMPLO

26 PIVOTE ALEATORIO En vez de meternos a calculaciones como estimar la mediana de los datos para asegurar que la división sea balanceada, simplemente elegimos el pivote al azar. En la práctica esto implica que uso de números pseudoaleatorios generados por computadora. Se puede demostrar que si el pivote está seleccionado aleatoriamente entre los datos, el tiempo esperado será. O(n log n)

27 PROBLEMA DE SATISFACCIÓN Solución aproximada por computación aleatorizada

28 LÓGICA BOOLEANA CNF Átomo: una variable binaria que puede tomar el valor verdad o falso. Literal: un átomo a, posiblemente negado: a. Cláusula: un conjunto de literales combinados por el operador o. Expresión: un conjunto de cláusulas combinados por el operador y.

29 MAX3SAT Instancia: una expresión booleana literales por cláusula. ϕ (en CNF) con tres Pregunta: cuántas cláusulas una asignación de valores de verdad puede satisfacer por máximo?

30 MAX3SAT Instancia: una expresión booleana literales por cláusula. ϕ (en CNF) con tres Pregunta: cuántas cláusulas una asignación de valores de verdad puede satisfacer por máximo? ϕ =(a b c) ( a c d)... ( e f g)

31 MAX3SAT Instancia: una expresión booleana literales por cláusula. ϕ (en CNF) con tres Pregunta: cuántas cláusulas una asignación de valores de verdad puede satisfacer por máximo? ϕ =(a b c) ( a c d)... ( e f g) Resolver esto exactamente es NP-duro (o sea, toma mucho tiempo en el peor caso).

32 APROXIMACIÓN Simplificando la situación, podemos llegar a una solución aproximada para una expresión con n cláusulas. Si asignamos los valores de verdad a los átomos de una maneta aleatoria, cada literal tiene probabilidad 1/2 de ser verdadera. Cada cláusula contiene tres literales; son ocho combinaciones. Para que se satisfaga la cláusula, basta con tener un literal que evalua a verdad. Solamente un caso de ocho no lo tiene. La probabilidad de satisfacer una claúsula es 7/8. Si las cláusulas son independientes, el número esperado de cláusulas satisfachas es 7n/8.

33 MÉTODOS HEURÍSTICOS En situaciones donde métodos exactos toman demasiado tiempo y no es indispensable contar con la solución exacta, usamos heurísticas. Heurísticas son algoritmos que adivinan un candidato inicial de solución y lo mejoran iterativamente hasta que su calidad sea satisfactoria o cuando el tiempo permitido se acaba. La iteración, igual como la generación del candidato inicial, suelen incorporar elementos aleatorizados.

34 CONCLUSIONES El no deteminismo ayuda a mejorar la eficiencia de algunos algoritmos exactos y provee aproximaciones eficientes para problemas difíciles de resolver que no cuentan con algoritmos exactos eficientes. En un algoritmo aleatorizado, las medidas de interés son el tiempo esperado de ejecucición y la calidad esperada de la solución obtenida. Su punto débil puede ser el generador de números pseudoaleatorios que nunca alcanzará aleatoridad perfecta.

35 INFORMACIÓN ADICIONAL Recomiendo el libro de Mitzenmacher y Upfal (2005). Para dudas y preguntas: elisa@yalma.fime.uanl.mx Ofrecemos una maestría y un doctorado en Ingeniería de Sistemas en la UANL; también recibimos cada año alumnos de verano científico. Gracias por su atención!