Taller de Programación Dinámica

Transcripción

1 Taller de Programación Dinámica Pablo Haramburu - Cristian Martinez Departamento de Computación Facultad de Ciencias Exactas y Naturales Universidad de Buenos Aires 14 de abril de 2014 Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

2 Overview 1 Introducción 2 Template 3 Masaje de neuronas Masaje I: sub-soluciones Masaje II: función recursiva 4 The Rod-Cutting Problem Formalización del problema Estructura de una solución óptima Definición recursiva de una solución Computar valor óptimo a partir de la tabla Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

3 Introducción Qué es Programación Dinámica? La esencia es Resolver problemas combinando soluciones de problemas del mismo tipo pero más chicos (sub-soluciones). Una tabla guarda tales soluciones para no recomputarlas. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

4 Introducción Soluciones más chicas... Pero por qué no usamos D&C? Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

5 Introducción Soluciones más chicas... Pero por qué no usamos D&C? PD es útil en los casos en los que las sub-soluciones se solapan Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

6 Introducción Soluciones más chicas... Pero por qué no usamos D&C? PD es útil en los casos en los que las sub-soluciones se solapan En este contexto D&C hace trabajo de más, computando una y otra vez la misma sub-solución Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

7 Introducción Soluciones más chicas... Pero por qué no usamos D&C? PD es útil en los casos en los que las sub-soluciones se solapan En este contexto D&C hace trabajo de más, computando una y otra vez la misma sub-solución PD en cambio resuelve cada sub-problema una sola vez y usa memoria adicional para evitar tener que recomputar Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

8 Introducción Soluciones más chicas... Pero por qué no usamos D&C? PD es útil en los casos en los que las sub-soluciones se solapan En este contexto D&C hace trabajo de más, computando una y otra vez la misma sub-solución PD en cambio resuelve cada sub-problema una sola vez y usa memoria adicional para evitar tener que recomputar Es un ejemplo de trade-off entre memoria y tiempo de procesamiento. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

9 Template Cómo resuelvo un problema con PD? Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

10 Template Cómo resuelvo un problema con PD? Paso a paso! Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

11 Template Cómo resuelvo un problema con PD? Paso a paso! 1 Formalizar el problema Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

12 Template Cómo resuelvo un problema con PD? Paso a paso! 1 Formalizar el problema 2 Caracterizar la estructura de una solución óptima (optimal substructure) Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

13 Template Cómo resuelvo un problema con PD? Paso a paso! 1 Formalizar el problema 2 Caracterizar la estructura de una solución óptima (optimal substructure) 3 Definir recursivamente el valor de una solución óptima Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

14 Template Cómo resuelvo un problema con PD? Paso a paso! 1 Formalizar el problema 2 Caracterizar la estructura de una solución óptima (optimal substructure) 3 Definir recursivamente el valor de una solución óptima 4 Computar el valor de una solución óptima de abajo hacia arriba Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

15 Template Cómo resuelvo un problema con PD? Paso a paso! 1 Formalizar el problema 2 Caracterizar la estructura de una solución óptima (optimal substructure) 3 Definir recursivamente el valor de una solución óptima 4 Computar el valor de una solución óptima de abajo hacia arriba 5 (opcional) (Re)construir una solución óptima a partir del cómputo anterior Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

16 Intro Masaje de neuronas Masaje I: sub-soluciones Identificar estructura de sub-soluciones es la parte más difícil de PD. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

17 Intro Masaje de neuronas Masaje I: sub-soluciones Identificar estructura de sub-soluciones es la parte más difícil de PD. Para entrar en calor y favorecer elongación y flexibilidad: Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

18 Intro Masaje de neuronas Masaje I: sub-soluciones Identificar estructura de sub-soluciones es la parte más difícil de PD. Para entrar en calor y favorecer elongación y flexibilidad: Problema Ordenar un array de enteros en orden creciente, in-place. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

19 Masaje de neuronas Trabajando... (completar la tabla) Masaje I: sub-soluciones Algoritmo Cómo divide procesa combina quicksort mergesort insertion s. selection s. heapsort Cuadro: Estrategias de división y combinación Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

20 Resultado (posible) Masaje de neuronas Masaje I: sub-soluciones Algoritmo Cómo divide procesa combina quicksort menores, pivot, mayores ordena (nada) mergesort mitad, mitad ordena merge insertion s. prefijo ordenado, resto toma resto.front inserta selection s. menores ordenados, resto busca min(resto) anexa heapsort menores ordenados, resto toma min(resto) anexa Cuadro: Estrategias de división y combinación Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

21 Intro Masaje de neuronas Masaje II: función recursiva En PD aparecen funciones recursivas. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

22 Intro Masaje de neuronas Masaje II: función recursiva En PD aparecen funciones recursivas. Un par de problemitas para refrescar ideas y entrar en calor (?). Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

23 Masaje de neuronas Masaje II: función recursiva Problema 1 Problema 1 Dados n y k, calcular ( n k). Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

24 Problema 1 (ayudas) Masaje de neuronas Masaje II: función recursiva ( ) n := k n! k!(n k)! si 0 k n... Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

25 Problema 1 (ayudas) Masaje de neuronas Masaje II: función recursiva ( ) n n! := k ( ) n + 1 k + 1 k!(n k)! = si 0 k n... ( ) n n + 1 k k + 1 Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

26 Problema 1 (ayudas) Masaje de neuronas Masaje II: función recursiva ( ) n n! := k k!(n k)! ( ) n + 1 = k + 1 ( ) n + 1 k + 1 = ( n k ( n k si 0 k n... ) n + 1 k + 1 ) + ( n k + 1 ) Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

27 Masaje de neuronas Masaje II: función recursiva Problema 1b Problema 1b Dados n, k y m, calcular ( n k) mód m. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

28 Problema 2 Masaje de neuronas Masaje II: función recursiva Problema 2 De cuántas formas se puede cubrir un tablero de k n con dominós boca abajo? Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

29 Tips Masaje de neuronas Masaje II: función recursiva Para tener en cuenta: Aprovechamos solapamiento. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

30 Masaje de neuronas Masaje II: función recursiva Tips Para tener en cuenta: Aprovechamos solapamiento. Tener un poco de cuidado con (y no olvidarse de) los casos base. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

31 Masaje de neuronas Masaje II: función recursiva Tips Para tener en cuenta: Aprovechamos solapamiento. Tener un poco de cuidado con (y no olvidarse de) los casos base. Buscar un esquema para calcular bottom-up. Por filas, columnas, diagonales, cuadrantes... Prefijos, sufijos, subcadenas, hacia adelante... Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

32 Masaje de neuronas Masaje II: función recursiva Tips Para tener en cuenta: Aprovechamos solapamiento. Tener un poco de cuidado con (y no olvidarse de) los casos base. Buscar un esquema para calcular bottom-up. Por filas, columnas, diagonales, cuadrantes... Prefijos, sufijos, subcadenas, hacia adelante... Para el parcial: recuerden demostrar que calculan cada celda de la tabla antes de usarla (y no después ;-) ). Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

33 The Rod-Cutting Problem The rod-cutting problem Enunciado Dada una varilla de cierta longitud (entera) y una tabla de precios para cada posible tamaño de corte, determinar la ganancia máxima que se puede obtener al cortar la varilla y vender las piezas. (Notar que una solución óptima podría no realizar ningún corte). Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

34 The Rod-Cutting Problem Paso 1: Formalizar el problema Formalización del problema Empecemos por extraer del enunciado la definición formal del problema: Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

35 The Rod-Cutting Problem Formalización del problema Paso 1: Formalizar el problema Empecemos por extraer del enunciado la definición formal del problema: Input longitud de la varilla: n N precio de los cortes: p i con i = 1,..., n Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

36 The Rod-Cutting Problem Formalización del problema Paso 1: Formalizar el problema Empecemos por extraer del enunciado la definición formal del problema: Input longitud de la varilla: n N precio de los cortes: p i con i = 1,..., n Output cortes: n = v 1 + v 2 + v v k ganancia: g p,n = p v1 + p v2 + p v3 + + p vk Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

37 The Rod-Cutting Problem Estructura de una solución óptima Paso 2: Estructura de una solución óptima Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

38 The Rod-Cutting Problem Estructura de una solución óptima Paso 2: Estructura de una solución óptima Si una solución óptima corta la varilla en k piezas, entonces obtenemos la descomposición: v 1, v 2, v 3,..., v k cuya ganancia es: g p,n = p v1 + p v2 + p v3 + + p vk Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

39 The Rod-Cutting Problem Estructura de una solución óptima Paso 2: Estructura de una solución óptima Si una solución óptima corta la varilla en k piezas, entonces obtenemos la descomposición: v 1, v 2, v 3,..., v k cuya ganancia es: g p,n = p v1 + p v2 + p v3 + + p vk Cuáles son las sub-soluciones?! Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

40 The Rod-Cutting Problem Estructura de una solución óptima Paso 2: Estructura de una solución óptima Si una solución óptima corta la varilla en k piezas, entonces obtenemos la descomposición: v 1, v 2, v 3,..., v k cuya ganancia es: g p,n = p v1 + p v2 + p v3 + + p vk Cuáles son las sub-soluciones?! Es posible que una sub-solución no sea óptima? Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

41 The Rod-Cutting Problem Paso 3: Función recursiva Definición recursiva de una solución Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

42 The Rod-Cutting Problem Paso 3: Función recursiva Definición recursiva de una solución En el paso anterior verificamos que el problema cumple el principio de optimalidad: una solución óptima está compuesta de sub-soluciones óptimas. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

43 The Rod-Cutting Problem Paso 3: Función recursiva Definición recursiva de una solución En el paso anterior verificamos que el problema cumple el principio de optimalidad: una solución óptima está compuesta de sub-soluciones óptimas. Ahora, la supuesta función recursiva, cómo encuentra una solución óptima a partir de sub-soluciones óptimas?? Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

44 The Rod-Cutting Problem Paso 3: Función recursiva Definición recursiva de una solución En el paso anterior verificamos que el problema cumple el principio de optimalidad: una solución óptima está compuesta de sub-soluciones óptimas. Ahora, la supuesta función recursiva, cómo encuentra una solución óptima a partir de sub-soluciones óptimas?? busca la solución óptima! Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

45 The Rod-Cutting Problem El que busca encuentra Definición recursiva de una solución Cualquiera de las siguientes funciones recursivas construyen una solución óptima a partir de sub-soluciones óptimas. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

46 The Rod-Cutting Problem El que busca encuentra Definición recursiva de una solución Cualquiera de las siguientes funciones recursivas construyen una solución óptima a partir de sub-soluciones óptimas. versión 1 { 0 if n = 0 f n = max(p n, f 1 + f n 1, f 2 + f n 2,..., f n 1 + f 1 ) if n 0. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

47 The Rod-Cutting Problem El que busca encuentra Definición recursiva de una solución Cualquiera de las siguientes funciones recursivas construyen una solución óptima a partir de sub-soluciones óptimas. versión 1 { 0 if n = 0 f n = max(p n, f 1 + f n 1, f 2 + f n 2,..., f n 1 + f 1 ) if n 0. versión 2 (más simple) { 0 if n = 0 f n = max(p 1 + f n 1, p 2 + f n 2,..., p n + f 0 ) if n 0. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

48 The Rod-Cutting Problem Definición recursiva de una solución Solución - Pseudocódigo CUT-ROD(p, n) 1 if n == 0 2 return 0 3 q = 4 for i = 1 to n 5 q = max(q, p[i] + COT-ROD(p, n i)) 6 return q Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

49 The Rod-Cutting Problem Se nos está escapando algo? Definición recursiva de una solución Que complejidad tiene ese algoritmo? 1 T (0) = 1 2 T (n) = 1 + n 1 j=0 T (j) Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

50 The Rod-Cutting Problem Se nos está escapando algo? Definición recursiva de una solución Que complejidad tiene ese algoritmo? 1 T (0) = 1 2 T (n) = 1 + n 1 j=0 T (j) T (0) = 1 Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

51 The Rod-Cutting Problem Se nos está escapando algo? Definición recursiva de una solución Que complejidad tiene ese algoritmo? 1 T (0) = 1 2 T (n) = 1 + n 1 j=0 T (j) T (0) = 1 T (1) = j=0 T (j) = 1 + T (0) = 2 Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

52 The Rod-Cutting Problem Se nos está escapando algo? Definición recursiva de una solución Que complejidad tiene ese algoritmo? 1 T (0) = 1 2 T (n) = 1 + n 1 j=0 T (j) T (0) = 1 T (1) = j=0 T (j) = 1 + T (0) = 2 T (2) = j=0 T (j) = 1 + T (0) + T (1) = = 4 Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

53 The Rod-Cutting Problem Se nos está escapando algo? Definición recursiva de una solución Que complejidad tiene ese algoritmo? 1 T (0) = 1 2 T (n) = 1 + n 1 j=0 T (j) T (0) = 1 T (1) = j=0 T (j) = 1 + T (0) = 2 T (2) = j=0 T (j) = 1 + T (0) + T (1) = = 4 T (3) = j=0 T (j) = 1 + T (0) + T (1) + T (2) = = 8... Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

54 The Rod-Cutting Problem Se nos está escapando algo? Definición recursiva de una solución Que complejidad tiene ese algoritmo? 1 T (0) = 1 2 T (n) = 1 + n 1 j=0 T (j) T (0) = 1 T (1) = j=0 T (j) = 1 + T (0) = 2 T (2) = j=0 T (j) = 1 + T (0) + T (1) = = 4 T (3) = j=0 T (j) = 1 + T (0) + T (1) + T (2) = = 8... Podemos probar fácilmente por inducción que la complejidad es Θ(2 n ) Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

55 Hay tabla! The Rod-Cutting Problem Definición recursiva de una solución Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

56 Hay tabla! The Rod-Cutting Problem Definición recursiva de una solución Por supuesto, si vamos a implementar una solución con PD no debemos olvidar almacenar las sub-soluciones en una tabla! Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

57 Paso 4: Bottom-up The Rod-Cutting Problem Computar valor óptimo a partir de la tabla Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

58 Paso 4: Bottom-up The Rod-Cutting Problem Computar valor óptimo a partir de la tabla Manos a la obra! Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

59 Bibliografía The Rod-Cutting Problem Computar valor óptimo a partir de la tabla Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest, Clifford Stein (2009) Introduction to Algorithms, Third Edition. Gilles Brassard, Paul Bratley (1995) Fundamentals of Algorithmics. Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25

60 The Rod-Cutting Problem Computar valor óptimo a partir de la tabla Fin Pablo Haramburu - Cristian Martinez (UBA) Programación Dinámica 14 de abril de / 25