Desarrollo de Programas Eficientes

Transcripción

1 Desarrollo de Programas Eficientes Diplomado en Software Libre Ernesto Hernández-Novich Universidad Simón Bolívar Copyright c 2010 Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

2 Desarrollo de Programas Eficientes Es correcto, pero no es suficientemente rápido. Cuál parte del programa está causando la lentitud? Qué está causando la demora (CPU, memoria, I/O)? Cuál de las alternativas es mejor? Qué pasará cuando la carga aumente? No participe en actividades inútiles Miyamoto Musashi, Samurai Japonés Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

3 El proceso y sus herramientas 1 Identifique con precisión el problema de forma cuantitativa, estableciendo cuales serían los valores aceptables. Herramientas del sistema operativo (top, vmstat, ps,... ). SLA (Service Level Agreement) 2 Mida el desempeño antes del cambio, instrumentando el software. 3 Identifique la parte del programa crucial para mejorar el desempeño (bottleneck).. Regla del Use un perfilador (profiler). 4 Ajuste el programa con alguna alternativa, preferiblemente una que se sepa superior a priori. Por ventaja algorítmica conocida. Por comparación puntual (benchmarking). 5 Mida el desempeño después del cambio y confirme la mejora. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

4 Cuál parte del programa es lenta? Perfil de ejecución Un perfilador (profiler) incorpora puntos de control en el programa. Entrada y salida a las rutinas. Tiempo consumido en cada rutina. Operaciones del manejador de memoria, cuando aplique. Se compila el programa con opciones especiales o se ejecuta con el perfilador activado. Se utiliza el programa de manera habitual, pero obviamente es mejor hacerlo con una familia de pruebas repetibles. El perfilador genera un reporte con la información tomada, que es analizada por el analista responsable de optimizarlo. Concentrarse en las más usadas primero. Contemplar las más complejas después. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

5 Caso de estudio: Perl Perl cuenta con varios perfiladores, cada uno con diferentes niveles de granularidad Devel::Dprof es el tradicional, cuyas estadísticas llegan hasta el nivel de rutina. Devel::SmallProf tiene estadísticas que llegan hasta el nivel de línea. Devel::Size se concentra en tomar estadísticas sobre el tamaño de las variables. Apache::DProf es un envoltorio para Devel::Dprof específico para perfilar aplicaciones Web. DBI::Profile se concentra en tomar estadísticas sobre las operaciones que se hacen sobre bases de datos. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

6 Caso de estudio: Perl Para programas de línea de comando o de prueba, se corren activando el perfilador $ p e r l d : DProf l e n t o. p l Al terminar la ejecución, el archivo tmon.out contiene la información de instrumentación. Para programas Web, basta cargar el módulo en mod_perl con una directiva de Apache PerlModule Apache : : Dprof Después de interactuar con el programa Web, en el directorio de bitácoras de Apache encontrará un archivo tmon.out por cada proceso Apache. Los archivos tmon.out son acumulativos: mientras más veces se corra el programa, más detallada y precisa será la información estadística. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

7 Caso de estudio: Perl Los archivos tmon.out se analizan con el programa dprofpp Muestra el tiempo de reloj además de los tiempos del sistema operativo (system y user). Muestra información detallada por subrutina. T o t a l E l a p s e d Time = Seconds User Time = Seconds E x c l u s i v e Times %Time Seconds #C a l l s s e c / c a l l Name main : : f o o main : : bar DynaLoader : : import main : : baz Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

8 Evaluando alternativas Una vez identificada la causa del retardo, el programador debe proponer alternativas para mejorar el desempeño. Algoritmo alternativo. Cambiar costo de CPU por costo de memoria (caching o memoization). Cambiar estructuras de datos.... y muchas cosas que escapan a este curso. Antes de implantar la alternativa, es conveniente realizar una comparación concreta entre la solución actual y las posibles alternativas. Benchmark de comparación. Preferiblemente automatizado. Se selecciona la mejor alternativa objetivamente. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

9 Caso de estudio: Perl El módulo Benchmark permite comparar múltiples algoritmos de manera automática. Cronometrar con precisión diferentes fragmentos de código. Construir una matriz de comparación. Calcular el número de corridas por unidad de tiempo. El cronometrado es de alta precisión. El módulo es capaz de advertir que la cantidad de ejecuciones de prueba o el tiempo mínimo de prueba no es suficiente para establecer comparaciones concluyentes. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

10 Caso de estudio: Perl Se escribe un programa que usa el módulo Benchmark y que incluya las librerías que se pretende comparar. Se utiliza indican las rutinas a comparar. use Benchmark qw( cmpthese ) ; cmpthese ( 1, { O r i g i n a l => {... }, A l t e r n o 1 => {... }, A l t e r n o 2 => {... }, }) Se ejecuta el programa y se analiza el reporte Rate O r i g i n a l A l t e r n o 1 A l t e r n o 2 O r i g i n a l / s 37 % 46 % A l t e r n o / s 59 % 14 % A l t e r n o / s 85 % 16 % Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

11 Pruebas de Carga Si se tiene una familia de pruebas para la aplicación, pueden iniciarse varias pruebas en paralelo, desde diferentes nodos de la red. Cada prueba debe incorporar elementos que simulen un humano. Retardo en el tecleo o completado de formularios. Combinar casos de uso apropiados y errados. Variar las pruebas tanto horizontal como verticalmente. Las pruebas deben ser repetibles Usar números pseudo-aleatorios conociendo las semillas. Disponer de un generador de datos de origen para que el punto de partida sea idéntico. Múltiples máquinas autónomas vs. OpenMosix Casi siempre son soluciones a la medida. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

12 Planificación de capacidad La Ley de Amdahl establece que es imposible lograr escalabilidad lineal en un sistema independientemente de la cantidad de hardware que se agregue, pues siempre habrá alguna parte que es necesariamente serial. Si se establece cual porción del trabajo es serial, puede determinarse la curva de escalabilidad y predecir el punto en el cual ya no se puede mejorar con un computador. Al incorporar múltiples computadores (cluster) además del componente serial, aparece el componente de coherencia, que describe el costo de mantener la información compartida a lo ancho del cluster. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

13 Módelo Universal de Escalabilidad La única fórmula de todo el curso... Modelo Universal de Escalabilidad (Gunther, ) C(p) = p 1+σ (p 1)+κ p (p 1) Donde p es el número de procesadores. σ es el componente serial. κ es el componente de coherencia. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

14 Cómo aplico el modelo? Dada una carga de trabajo particular, se desea encontrar el punto a partir del cual no hay aumento de desempeño a pesar de agregar procesadores. Tanto σ como κ son incógnitas. Simule la carga Sobre una cantidad fija de procesadores. Al menos cinco conjuntos diferentes de usuario, típicamente 1, 10, 20, 50, 100. Mida el rendimiento en cada caso. La medida de rendimiento varía según la aplicación (líneas producidas, registros procesados, segundos por pantalla, etc.). Realice una regresión no lineal (cualquier hoja de cálculo o herramientas como R pueden hacerlo) para determinar σ y κ. Alternativamente, fije la carga y varíe los procesadores. Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15

15 Referencias Performance Tuning (Wikipedia) Profiling (Wikipedia) Stress Testing (Wikipedia) Guerrilla Capacity Planning Neil Gunther, 2005 Hernández-Novich (USB) Desarrollo de Programas Eficientes / 15