Rendimiento John Hennessy David Patterson,

Transcripción

1 Rendimiento v.2013 John Hennessy David Patterson, Arquitectura de Computadores Un enfoque cuantitativo, 1ª edición, Capítulos 1 y 2 (4ª edición, Capítulo 1)

2 Rendimiento Introducción Cómo comparar la performance de dos computadoras diferentes en su arquitectura (ISA, Organización y Tecnología)? Cómo analizar el impacto de una mejora? Por qué existen tantos tipos de computadoras? Comparación con la industria automotriz velocidad máxima (km/h), aceleración (0 100 km/h), derrape (g), consumo (l/100 km) precio ($), costo de mantenimiento ($) El mercado de computadoras rendimiento, tamaño, potencia? precio, costo de mantenimiento? Tres grandes categorías Servers (rendimiento) Embedded (costo, potencia, tamaño) Desktop/Worstations (costo/rendimento) Top500 Top500 vs. vs. Green500 Green500 2

3 Rendimiento Expresiones más utilizadas Si T es el tiempo de ejecución de un determinado programa y η el rendimiento de la computadora que lo ejecuta, decimos que la computadora A es más rápida que la computadora B si: T A <T B y η A >η B Por lo tanto el rendimiento es inversamente proporcional al tiempo de ejecución del programa involucrado. Puede decirse que: Tα 1 η T B T A = η A η B RENDIMIENTO RENDIMIENTO == == TPS TPS 3

4 Rendimiento Expresiones más utilizadas (cont) Entonces, si A es más rápida que B, al utilizarla puedo hablar de una mejora (speedup) S tal que: S= η A η B = T B T A S= 1+ m 100 A es un m% A es un m% más rápida más rápida que B que B Igualando las dos expresiones: S= T B T A =1+ m 100 m= T B T A T A 100 m= η A η B η B 100 IMPORTANTE IMPORTANTE No No confundir confundir los los términos términos speedup speedup con con acceleration acceleration 4

5 Rendimiento Expresiones más utilizadas (cont) Ejemplo: Una computadora ejecuta un cierto programa en 10 segundos. Una segunda computadora tarda 15 segundos en ejecutar el mismo programa. Por lo tanto, la primera es un 50% (no 33%!!) más rápida que la segunda, o sea que si la utilizo obtengo una mejora de 1.5 respecto de la segunda. m= ( ) 100=50 S= =1.5 IMPORTANTE IMPORTANTE No No utilizar utilizar es es tanto tanto más más lenta... lenta... y y tener tener cuidado cuidado con con incrementar, incrementar, decrementar, decrementar, desmejorar desmejorar y y otros otros términos términos inciertos. inciertos. 5

6 Rendimiento Expresiones más utilizadas (cont) En bibliografía más reciente se evitan también las expresiones del tipo tanto % más rápido. Se intenta utilizar solamente n veces (n times faster), que coincide con la previa definición de mejora. La enunciación en veces es menos confusa: n = T B T A Sin embargo, el término speedup sigue siendo muy utilizado, y la expresión es n veces más rápido que... puede confundir. 6

7 Rendimiento Aumento del rendimiento La tecnología de implementación tiene sus tiempos (Ley de Moore) lo que representa un límite... Cómo se logra, desde la arquitectura y la organización, un aumento del rendimiento? (disminución del tiempo de ejecución). Es importante diferenciar dos formas diferentes de aumentar el rendimiento de una computadora: Menor tiempo de ejecución real (LATENCIA) Mayor productividad (THROUGHPUT) DISCUSION: Tiempos medios (estadístico, por ejemplo disco rígido) versus RT. 7

8 Rendimiento Aumento del rendimiento (cont) Mejorar Mejorar el el caso caso más más común común Explotar Explotar la la propiedad de de localidad localidad Explotar Explotar el el paralelismo de de los los programas 8

9 Aumento del rendimiento 1. Mejorar el caso más común Opciones: CPU MEM - I/O Ley de Amdhal: Siendo T el tiempo de ejecución de una tarea y f la fracción de ese tiempo que puede mejorarse en un factor k, entonces la mejora total obtenida será: Corolario: S MAX = 1 (1 f ) S= 1 (1 f )+ f k T= (1 f )T+fT T MEJORADO =(1 f ) T+ f k T S= T T MEJORADO 9

10 Aumento del rendimiento 1. Mejorar el más común Ejemplo Considere un determinado caso de aplicación en que la CPU se utiliza el 50% del tiempo (el resto del tiempo se consume en accesos a memoria y al sistema se entrada/salida). Suponga que el costo de la CPU representa 1/3 del costo total de la computadora. a) Mejora la relación Costo/Rendimiento si reemplazo la CPU por otra 5 veces más rápida que cuesta 5 veces más? b) Hasta cuánto pagaría por la CPU? c) Si pudiera comprar una CPU infinitamente rápida, cúanto sería la mejora? 10

11 Aumento del rendimiento 1. Mejorar el más común Solución a) La relación Costo/Rendimiento empeora: S= 1 (1 0.5 ) = % más rápido 133% más caro Costo NUEVO = ( ) Costo ORIGINAL =2. 33 Costo ORIGINAL ( Costo ) = Rendimiento NUEVO 1.66 ( Costo Rendimiento ) ORIGINAL Desmejora Pero cuidado: puede ser que ahora sea útil y antes no! VER: VER: Agregar Agregar FP FP a a un un procesador procesador hace hace más más lenta lenta la la operación operación en en enteros enteros 11

12 Aumento del rendimiento 2. Localidad de referencia (Principio de Localidad) Comportamiento predecible de los recursos de los sistemas de computadora. Localidad temporal: un recurso accedido en un instante lo será de nuevo en el futuro inmediato. Localidad espacial: la probabilidad de acceder a un recurso es mayor si otro recurso próximo acaba de ser accedido. Localidad secuencial: caso particular de espacial; la memoria, en particular, suele ser accedida en forma secuencial. INSTRUCCIONES (mediciones) 90% 90% del del tiempo tiempo ejecutando 10% 10% del del código código DATOS DATOS (no (no tan tan tajante) tajante) Localidad Localidad TEMPORAL, ESPACIAL ESPACIAL y SECUENCIAL 12

13 Aumento del rendimiento 2. Localidad Ejemplo Agrego a una computadora memoria cache 5 veces más rápida que la memoria principal, de tamaño tal que pueda alojar el 10% más usado de un programa. a) Calcular la mejora obtenida en los accesos a memoria. b) Calcular la mejora en la ejecución de los programas si el ciclo de instrucción se divide en tres etapas iguales: FETCH-DECODE-EXEC. c) Calcular la mejora obtenida si el ciclo de instrucción tiene las siguientes cinco etapas: FETCH-DECODE-FETCHOP-EXEC-WRITEOP. 13

14 Aumento del rendimiento 2. Localidad Solución a) Si entra el 10% del programa, la puedo utilizar en el 90% de los accesos a memoria: Los accesos son un 260% más rápidos. b) La captación es 1/3 ciclo de instrucción: La ejecución con caché es 32% más rápida que sin caché. c) Los accesos a memoria son 3/5 del ciclo de instrucción: La ejecución con caché es 76% más rápida que sin caché. S= S= 14 1 (1 0. 9) =3. 66 =1. 32

15 Aumento del rendimiento 3. Explotación del paralelismo A nivel sistema A nivel procesador A B C D E Latencia 5 Productividad=1/5 Distintas estrategias: A D C B E Latencia 3 Productividad=1/3 Puedo mejorar hasta el límite impuesto por la tecnología. Puedo paralelizar secciones. O realizar varias simultáneamente. O utilizar el concepto de linea de montaje (todas las secciones en paralelo). A B C D E A B C D E A B C D E A B C D E A B C D E Latencia 5 Productividad=2/5 Latencia 5 Productividad=1/1 15

16 Rendimiento Medición del tiempo de ejecución El rendimiento es inversamente proporcional al tiempo de ejecución del programa involucrado. Cómo mido ese tiempo? $ time test 8.1u 7.3s % 61% = ( )/25.2 x 100 $ time test real 0m2.739s <- tiempo transcurrido (wall) user 0m2.304s <- tiempo de ejecución sys 0m0.016s <- llamadas al sistema operativo El tiempo user (+sys?) es mi T CPU. El resto del tiempo esperando I/O o ejecutando otros programas en el multitarea. 16

17 Medición del rendimiento Performance del procesador En general, el tiempo de ejecucion de un programa puede expresarse como: T CPU = CICLOS DE CLOCK DEL PROGRAMA f CLOCK = N. CPI f CLOCK donde CPI es el número de ciclos de clock por instrucción y N el número de instrucciones. CPI es una medida estadística que depende del uso que se le de al repertorio de instrucciones. En general, CPI= CPI i N i N i: familia de instrucciones CPI i : ciclos de clock por instrucción de la familia N i : recuento de instrucciones de la familia N: recuento total de instrucciones 17

18 Medición del rendimiento Ejemplo Calcular el CPI para el siguiente caso de utilización de los recursos de un procesador: Instrucción Frecuencia CPIi ALU 43.00% 1 LOAD 21.00% 2 STORE 12.00% 2 JUMP 24.00% 2 CPI=

19 Medición del rendimiento Ecuación de performance ARQ ISA IMPL ORG TEC Entonces, el tiempo de ejecucion de un programa puede expresarse como: T CPU = 1 f CLOCK [ s ] ciclo CPI [ ciclos ] instruccion N [ instrucciones ] programa TECNOLOGÍA (proceso fab) ORG (datapath) N: Brecha semántica ORG (serie-paral) ISA (inst -complex) RISC RISC vs vs CISC CISC COMPILADOR (eficiencia) ISA (inst complex) 19 TODOS RELACIONADOS

20 Medición del rendimiento Benchmarks Parámetros (ej. fecuencia de clock) o MIPS Permiten comparar dentro de una familia, no entre diferentes arquitecturas (ej. RISC-CISC). Dependen de ISA y el programa. Pueden resultar inversamente proporc. al rendimiento (ejemplo operaciones FP) MIPS= MFLOPS Precaución con las diferentes ISAs (ej de Motorola tiene seno y raíz cuadrada). Precaución con los cálculos parciales (no es lo mismo una suma completa que la normalización de una suma). Programas reales (ej. Spice, CAD, gráficos) Deben estar disponibles o deben instalarse. Versiones. N T CPU 10 6 = f CLOCK CPI 10 6 MFLOPS= 20 N FP T CPU 10 6

21 Medición del rendimiento Benchmarks sintéticos Programas, generalmente pequeños, escritos originalmente en FORTRAN (traducidos a C) Utilizados para comprobar el comportamiento ante un tipo determinado de carga. Por ejemplo: Whetstone (1972) FP [MWIPS] Linpack (1984) FP álgebra lineal [FLOPS] Dhrystone (1984) ENTEROS [veces/seg] DMIPS = Dhrystone/1757 (1757 es el Dhristone de la VAX-11, primer maquina de 1MIPS) DMIPS/MHz x MHz/Watt = DMIPS/Watt Recordar que P=CV 2 f ModoIDLE CoreMark desarrollado por el Embedded Microprocessor Benchmark Consortium (EEMBC). Soluciona algunos problemas del anterior. Debe observarse el efecto del cache. Al ser programas pequeños no miden performance de memoria. Sensible a las técnicas de compilación y optimizaciones. 21 Benchmarketing.

22 Medición del rendimiento Benchmarks sintéticos Consorcio de fabricantes de hw y sw SPEC (1988) Standard Performance Evaluation Corporation ( Orientado a la CPU, tiempo, latencia. TPC (1990) Transaction Processing Performance Council ( Orientado a transacciones, throughput. Compañías... INFOSIZING ( 22

23 Medición del rendimiento Medias pitagóricas Cómo promediar medidas si estamos buscando una única figura de mérito. A: Media aritmética - Promedio No utilizar cuando hay variaciones grandes, pues son enmascaradas. G: Media geométrica - Areas Es mejor para performance relativa H: Media armónica - Tasas Muy sensible a valores pequeños, no se puede calcular si uno vale cero. Insensible a valores grandes. Es la media correcta para tasas. 23

24 Medición del rendimiento Medias pitagóricas Ejemplos: 1. Un vehiculo viaja una cierta distancia d a velocidad x = 60 km/h y luego la misma distancia d a velocidad y = 40 km/h. La velocidad promedio se calcula como la media armónica de x e y (48 km/h). El tiempo total es como si hubiera viajado la distancia completa a la velocidad promedio. 2. Un vehiculo viaja un cierto tiempo t a velocidad x = 60 km/h y luego el mismo tiempo t a velocidad y = 40 km/h. La velocidad promedio se calcula como la media aritmética de x e y (50 km/h). Propiedades: 24

25 Medición del rendimiento Media cuadrática (RMS) O valor cuadrático medio o RMS (del inglés root mean square): raíz cuadrada de la media aritmética de los cuadrados de los valores. Útil cuando la variable toma valores positivos y negativos, como ocurre, por ejemplo, en los errores de medida. En tal caso se puede estar interesado en obtener un promedio que no recoja los efectos del signo. 25