Análisis de la Complejidad de Algoritmos

Transcripción

1 Análisis de la Complejidad de Algoritmos Gráficas estadística y minería de datos con python Miguel Cárdenas Montes Centro de Investigaciones Energéticas Medioambientales y Tecnológicas, Madrid, Spain miguel.cardenas@ciemat.es de Abril de 2013 M. Cárdenas (CIEMAT) Complexity de Abril de / 16

2 Tabla de Contenidos 1 Objetivos 2 Análisis de Algoritmos M. Cárdenas (CIEMAT) Complexity de Abril de / 16

3 Objetivos Conocer los órdenes de tiempo de ejecución de los algoritmos. Conocer algunos estimadores como: O(g(n)), Ω(g(n)), Θ(g(n)). M. Cárdenas (CIEMAT) Complexity de Abril de / 16

4 Análisis de Algoritmos M. Cárdenas (CIEMAT) Complexity de Abril de / 16

5 Análisis de Algoritmos I El objetivo del análisis de algorimos es dar significado a la comparación entre ellos. Sin embargo, el rendimiento relativo de los algoritmos puede depender de: las características del hardware, de los detalles del conjunto de datos tratados, y del tamaño del problema; además del propio algoritmo. M. Cárdenas (CIEMAT) Complexity de Abril de / 16

6 Análisis Asintótico II Motivación Puesto que para obtener el mismo resultado se pueden utilizar muchos algoritmos diferentes (ordenar una lista), es importante saber cual es el más rápido. Puesto que conocer el tiempo de ejecución para un fichero de entrada determinado no revela cual puede ser su comportamiento para otro fichero de entrada; se necesita una fórmula que relacione el tamaño del fichero de entrada, y su tiempo de ejecución aproximado; y que esta fórmula no esté influida por cómo se han realizado las medidas. Además esta fórmula debe describir el comportamiento del algoritmo para ficheros de entrada muy grandes, de ahí, su nombre comportamiento asintótico. M. Cárdenas (CIEMAT) Complexity de Abril de / 16

7 Análisis Asintótico III En vez de especificar la relación exacta entre el tamaño del fichero de entrada y el tiempo de ejecución, solo se especifica la escala de tiempos cuando el fichero de entrada se hace muy grande. Así, un algoritmo que tiene una dependencia con el tamaño del fichero de entrada de 4 n 2, entonces se dice que el tiempo de ejecución escala como n 2. Para tamaños grandes de ficheros de entrada, utilizar un algoritmo que escala como n 2 será más conveniente que utilizar un algoritmo que escala como n 3. M. Cárdenas (CIEMAT) Complexity de Abril de / 16

8 Análisis Asintótico IV Big-Oh Notación Esta notación se utiliza para indicar el término dominante en el tiempo de ejecución: T(n) = O(n 2 ) o T(n) O(n 2 ), o simplemente O(n 2 ). Es ampliamente utilizada en muchos campos de estudio: Algoritmos evolutivos, data mining, y algorítmica en general. La frase f(n) es O(g(n)) significa que el ritmo de crecimiento de f(n) no es mayor que el ritmo de crecimiento de g(n). M. Cárdenas (CIEMAT) Complexity de Abril de / 16

9 Análisis Asintótico V O(1) orden constante O(log log n) orden sublogarítmico O(log n) orden logarítmico O( n) orden sublineal O(n) orden lineal O(n log n) orden lineal logarítmico O(n c ) orden potencial O(c n ) orden exponencial O(n!) orden factorial O(n n ) orden potencial exponencial M. Cárdenas (CIEMAT) Complexity de Abril de / 16

10 Análisis Asintótico VI Debilidades Algunas veces los términos no superiores son los que producen la diferencia real en el comportamiento del algoritmo: n n 2. Algunas veces otros factores como: el hardware, el lenguaje de programación y determinadas características de los datos de entrada son esenciales en la diferencia de tiempo de ejecución. Para problemas pequeños, el carácter asintótico es irrelevante. M. Cárdenas (CIEMAT) Complexity de Abril de / 16

11 Análisis Asintótico VII Otras Notaciones Exiten otras dos notaciones menos frequentes pero importantes en este área: Ω() y Θ(). Ω() f(n) es Ω(g(n)) si hay una constante c, c > 0 y un entero n 0 1 tal que f(n) c g(n) para n n 0 Θ() f(n) es Θ(g(n)) si hay dos constantes c 1 > 0 y c 2 > 0, y un entero n 0 1 tal que c 1 g(n) f(n) c 2 g(n) para n n 0 M. Cárdenas (CIEMAT) Complexity de Abril de / 16

12 Análisis Asintótico VIII Intuitivamente O() f(n) es O(g(n)) si f(n) es asintóticamente menor o igual que g(n) Ω() f(n) es Ω(g(n)) si f(n) es asintóticamente mayor o igual que g(n) Θ() f(n) es Θ(g(n)) si f(n) es asintóticamente igual que g(n) M. Cárdenas (CIEMAT) Complexity de Abril de / 16

13 Análisis Asintótico IX Big Theta f(n) = Θ(g(n)) f(n) c g(n) Big Oh f(n) = O(g(n)) f(n) c g(n) Big Omega f(n) = Ω(g(n)) f(n) c g(n) M. Cárdenas (CIEMAT) Complexity de Abril de / 16

14 Análisis Asintótico X Time Complexity Time complexity de un algoritmo es el tiempo más grande requerido para cualquier fichero de entrada de tamaño n (Análisis del peor caso, Worst case analysis) O(n 2 ) Para cualquier tamaño de fichero de entrada n n 0, el algoritmo emplea no más tiempo que c n 2 con cada entrada. Ω(n 2 ) Para cualquier tamaño de fichero de entrada n n 0, el algoritmo emplea al menos c n 2 con al menos con una fichero de entrada. Θ(n 2 ) Ambos casos. M. Cárdenas (CIEMAT) Complexity de Abril de / 16

15 Análisis Asintótico XI Time Complexity O(n 2 ) Proporcionar un algoritmo que soluciona el problema en no más que este tiempo. Hacer esto para cada fichero de entrada (worst case analysis!). Ω(n 2 ) Probar que ningún algoritmo puede solucionar el problema más rápido. Solo es necesario un fichero de entrada que emplee al menos este tiempo. Θ(n 2 ) Ambos casos. M. Cárdenas (CIEMAT) Complexity de Abril de / 16

16 Gracias Gracias Preguntas? Más preguntas? M. Cárdenas (CIEMAT) Complexity de Abril de / 16