Algoritmos de Ordenamiento

Transcripción

1 Algoritmos de Ordenamiento Límite inferior y Alg. Lineales Andrés Becerra Sandoval Ponticia Universidad Javeriana 14 de julio de 2007 Lenguajes III

2 Introducción Algoritmo Complejidad Bubble(burbuja) Θ(n 2 ) InsertionSort O(n 2 ), aunque es Θ(n) en el mejor caso ShellSort Θ(n log 2 n) MergeSort Θ(n log n) QuickSort Θ(n log n) en promedio, pero O(n 2 ) HeapSort Θ(n log n) CountingSort Θ(n) Pero asume que A[i]<k! RadixSort Θ(n) Pero asume dígitos BucketSort Θ(n) Pero asume una dist. normal!

3 Contenido ¾Que tan rápido podemos ordenar? ComparisonSorts Modelo de comparaciones Límite inferior para comparisonsorts Ordenamiento en tiempo Lineal CountingSort Radix-Sort Bucket-Sort

4 Por aqui vamos... ¾Que tan rápido podemos ordenar? ComparisonSorts Modelo de comparaciones Límite inferior para comparisonsorts Ordenamiento en tiempo Lineal CountingSort Radix-Sort Bucket-Sort

5 ComparisonSorts Algoritmo Complejidad Bubble(burbuja) Θ(n 2 ) InsertionSort O(n 2 ), aunque es Θ(n) en el mejor caso ShellSort Θ(n log 2 n) MergeSort Θ(n log n) QuickSort Θ(n log n) en promedio, pero O(n 2 ) HeapSort Θ(n log n) CountingSort Θ(n) Pero asume que A[i]<k! RadixSort Θ(n) Pero asume dígitos BucketSort Θ(n) Pero asume una dist. normal!

6 Por aqui vamos... ¾Que tan rápido podemos ordenar? ComparisonSorts Modelo de comparaciones Límite inferior para comparisonsorts Ordenamiento en tiempo Lineal CountingSort Radix-Sort Bucket-Sort

7 Modelo de comparaciones Solo vamos a contar la complejidad en términos del número de comparaciones que se hacen Ignoraremos las otras instrucciones Usaremos un árbol que abstrae las comparaciones que hace un algoritmo para una entrada de un tamaño determinado.

8 Arbol de decisión Cada nodo interno se etiqueta por posiciones originales de elementos del arreglo Cada hoja es una permutación de las posiciones del arreglo

9 Árbol de decisión Debe tener mas de n! hojas porque cada permutación debe ser considerada Para cualquier algoritmo comparisonsort: hay un árbol de decisión para cada n el árbol modela todas las posibles trazas de ejecución

10 Lema Un árbol binario completo de altura h tiene 2 h (recuerda el repaso de mat. discretas?) hojas Cualquier árbol binario de altura h tiene menos de 2 h hojas l 2 h (número de hojas)

11 Por aqui vamos... ¾Que tan rápido podemos ordenar? ComparisonSorts Modelo de comparaciones Límite inferior para comparisonsorts Ordenamiento en tiempo Lineal CountingSort Radix-Sort Bucket-Sort

12 Teorema Todo algoritmo comparisonsort tiene una complejidad T (n) = Ω(n lg n) Esto implica que mergesort y heapsort, son asintóticamente óptimos

13 Demostración l n! Por el lema anterior, n! l 2 h lo que implica 2 h n! lg 2 h lg n! h lg (n!) La aproximación de Stirling (1730) dice que n! > ( n e )n h lg ( n e )n = n lg( n ) e = n lg n n lg e = Ω(n lg n)

14 Por aqui vamos... ¾Que tan rápido podemos ordenar? ComparisonSorts Modelo de comparaciones Límite inferior para comparisonsorts Ordenamiento en tiempo Lineal CountingSort Radix-Sort Bucket-Sort

15 CountingSort A A C C C C B

16 Algoritmo de Counting Sort Counting-Sort( A, B, k) 1 for i 0 to k 2 do C[i] 0 3 for j 1 to length[a] 4 do C[A[j]] C[A[j]] for j legnth[a] to 1 6 do B[C[A[j]]] = A[j] 7 C[A[j]] = C[A[j]] 1 La complejidad del algorítmo es Θ(k + n):

17 Por aqui vamos... ¾Que tan rápido podemos ordenar? ComparisonSorts Modelo de comparaciones Límite inferior para comparisonsorts Ordenamiento en tiempo Lineal CountingSort Radix-Sort Bucket-Sort

18 Radix Sort - Ejemplo

19 Algoritmo de Radix-Sort Radix-Sort( A, d ) 1 for i = 1 to d 2 Use un método de ordenamiento estable para ordenar el arreglo A por el dígito i Un algoritmo de ordenamiento estable hace que números con el mismo valor aparezcan en el arreglo ordenado en el mismo orden que tenían en el arreglo original. Dado números de n dígitos en los que cada dígito puede tomar hasta k posibles valores, Radix-Sort ordena correctamente estos números en Θ(d(n + k)) Dados n números de b bits, y un entero positivo r b, Radix-Sort ordena dichos números en un tiempo de Θ((b/r)(n + 2 r )).

20 Por aqui vamos... ¾Que tan rápido podemos ordenar? ComparisonSorts Modelo de comparaciones Límite inferior para comparisonsorts Ordenamiento en tiempo Lineal CountingSort Radix-Sort Bucket-Sort

21 Bucket-Sort Funciona con números en el intervalo [0..1). Se supone que la distribución de los números es uniforme. La idea es dividir el intervalo [0..1) en n subintervalos del mismo tamaño (llamados buckets) y distribuir los n números en los buckets. Para producir la salida, se ordenan los numeros de cada bucket y se mezclan los elementos de todos los buckets. Bucket-Sort( A ) n length[a] for i 1 to n do inserte A[ i ] en la lista B[ na[i] ] for i 1 to n do ordene la lista B[i] con Insertion-Sort Concatene las listas B[0],..., B[n-1] de forma ordenada

22 Ejemplo de Bucket-Sort A B

23 Algoritmo de Bucket-Sort La ecuación de recurrencia que describe el algoritmo es: n 1 T (n) = Θ(n) + i=0 O(n 2 i ), y la complejidad de Bucket-Sort es Θ(n).