Superescalares. Scheduling estático

Transcripción

1 Superescalares Scheduling estático

2 Introducción La CPU ejecuta las instrucciones en orden. El compilador: Puede cambiar el orden de ejecución. Genera el paquete de emisión. Trata de prevenir o reducir los peligros de datos y de control. Paquete de emisión (issue packet): el conjunto de instrucciones que se emiten juntas en un ciclo de reloj. Universidad de Sonora Arquitectura de Computadoras 2

3 Introducción La mayoría de CPUs móviles (tipo ARM) son superescalares con scheduling estático. Universidad de Sonora Arquitectura de Computadoras 3

4 Ejemplo Considerar una CPU MIPS superescalar con scheduling estático y doble emisión. Limitación: solo una instrucción puede ser de tipo R o brinco y la otra puede ser una carga o un store. El paquete de emisión tiene 8 bytes (2 instrucciones). La instrucción R o de brinco se pone primero y luego la instrucción de memoria. Universidad de Sonora Arquitectura de Computadoras 4

5 Ejemplo Si el paquete no se puede completar, la instrucción faltante se reemplaza con una instrucción nop (no operation). Fuente: COD 5, p Universidad de Sonora Arquitectura de Computadoras 5

6 Peligros La forma de tratar los peligros depende de cada arquitectura. En algunas arquitecturas: El compilador quita todos los peligros insertando nops si es necesario. No hay detección de peligros por hardware ni detenciones (stalls). Universidad de Sonora Arquitectura de Computadoras 6

7 Peligros Por ejemplo, en una CPU con doble emisión el compilador convierte el siguiente código: en: add $t0, $t1, $t2 sub $t3, $t0, $t4 add $t0, $t1, $t2 nop # paquete i # paquete i # paquete i # paquete i sub $t3, $t0, $t4 # paquete i + 1 Universidad de Sonora Arquitectura de Computadoras 7

8 En otras arquitecturas: Peligros El hardware detecta peligros de datos verdaderos y genera detenciones entre dos paquetes de emisión. El compilador evita todas las dependencias entre cada instrucción dentro del mismo paquete de emisión. Universidad de Sonora Arquitectura de Computadoras 8

9 Datapath Datapath doble emisión: 1 R/B 1 Mem. Fuente: COD 5, p Universidad de Sonora Arquitectura de Computadoras 9

10 Explicación En cada ciclo se obtienen 2 instrucciones. En cada ciclo se leen hasta 4 registros: 2 de la instrucción R o beq. 1 de la instrucción lw o 2 de sw. Hay 2 ALUs: 1 para la instrucción R/beq. 1 para instrucción lw/sw. La memoria de datos no cambia (en cada ciclo solo hay máximo una instrucción de acceso a memoria). Universidad de Sonora Arquitectura de Computadoras 10

11 Explicación En cada ciclo hasta dos instrucciones necesitan escribir registros: Instrucciones R. Instrucciones lw. La carga sigue teniendo una latencia de uso de 1. El siguiente paquete de emisión a una carga no puede depender de su registro de destino. Universidad de Sonora Arquitectura de Computadoras 11

12 Ejemplo Dado el siguiente código en una CPU MIPS de doble emisión y scheduling estático: loop: lw $t0, 0($s1) # t0 = elemento de arreglo addu $t0, $t0, $s2 # le suma s2 sw $t0, 0($s1) # lo guarda de nuevo addi $s1, $s1, -4 # decrementa el índice bne $s1, $zero, loop Mostrar como se emite el código. Suponer que los brincos se predicen y que el hardware maneja los peligros de control. Universidad de Sonora Arquitectura de Computadoras 12

13 Ejemplo Las instrucciones se reordenan para evitar al máximo los peligros de datos. ALU Mem Ciclo loop: lw $t0, 0($s1) 1 addi $s1, $s1, 4 2 addu $t0, $t0, $s2 3 bne $s1, $zero, loop sw $t0, 4($s1) 4 Los espacios representan instrucciones nop. Universidad de Sonora Arquitectura de Computadoras 13

14 Ejemplo Las 5 instrucciones se ejecutan en 4 ciclos. CPI = 0.8 IPC = 1.25 Lo ideal es CPI = 0.5 y, por lo tanto, IPC = 2. Importante: los nops no se cuentan. Universidad de Sonora Arquitectura de Computadoras 14

15 Loop unrolling Técnica de compilación que consiste en extender (desenrollar) un ciclo. De esta forma se pueden emitir juntas instrucciones de distintas iteraciones. Universidad de Sonora Arquitectura de Computadoras 15

16 Loop unrolling en C Dado el siguiente código en C: for (int i = 0; i < 4; i++) { a[i] = b[i] + c[i]; } Desenrollar el ciclo significa hacer: a[0] = b[0] + c[0]; a[1] = b[1] + c[1]; a[2] = b[2] + c[2]; a[3] = b[3] + c[3]; Universidad de Sonora Arquitectura de Computadoras 16

17 Ciclo original en MIPS li $t5, 0 # i = 0 loop: beq $t5, 4, fin # if i == 4 goto fin lw $t0, 0($s0) # s0 apunta a B[i] lw $t1, 0($s1) # s1 apunta a C[i] add $t2, $t0, $t1 sw $t2, 0($s2) # s2 apunta a A[i] addi $s0, $s0, 4 # apunta a B[i + 1] addi $s1, $s1, 4 # apunta a C[i + 1] addi $s2, $s2, 4 # apunta a A[i + 1] Universidad de Sonora Arquitectura de Computadoras 17

18 Ciclo original en MIPS addi $t5, $t5, 1 # i++ j loop Universidad de Sonora Arquitectura de Computadoras 18

19 Loop unrolling en MIPS lw $t0, 0($s0) # s0 apunta a B[0] lw $t1, 0($s1) # s1 apunta a C[0] add $t2, $t0, $t1 sw $t2, 0($s2) # s2 apunta a A[0] lw $t3, 4($s0) # s0 + 4 apunta a B[1] lw $t4, 4($s1) # s1 + 4 apunta a C[1] add $t5, $t3, $t4 sw $t5, 4($s2) # s2 + 4 apunta a A[1] Universidad de Sonora Arquitectura de Computadoras 19

20 Loop unrolling en MIPS lw $t6, 8($s0) # s0 + 8 apunta a B[2] lw $t7, 8($s1) # s1 + 8 apunta a C[2] add $t8, $t6, $t7 sw $t8, 8($s2) # s2 + 8 apunta a A[2] lw $s3, 12($s0) # s apunta a B[3] lw $s4, 12($s1) # s apunta a C[3] add $s5, $s3, $s4 sw $s5, 12($s2) # s apunta a A[3] Universidad de Sonora Arquitectura de Computadoras 20

21 Loop unrolling Ventajas: Se quita la instrucción beq y se evitan los peligros de control. Las distintas iteraciones son independientes entre si y sus instrucciones se pueden reordenar. Desventaja: Los registros pueden ser insuficientes para desenrollar un ciclo grande. Esto se puede evitar desenrollando el ciclo parcialmente. Universidad de Sonora Arquitectura de Computadoras 21

22 Loop unrolling parcial Ciclo original en C: for (int i = 0; i < 20; i++) { a[i] = b[i] + c[i]; } Ciclo en C desenrollado parcialmente: for (int i = 0; i < 20; i += 4) { a[i] = b[i] + c[i]; a[i + 1] = b[i + 1] + c[i + 1]; a[i + 2] = b[i + 2] + c[i + 2]; a[i + 3] = b[i + 3] + c[i + 3]; } Universidad de Sonora Arquitectura de Computadoras 22

23 Ejemplo Repetir el ejemplo anterior: loop: lw $t0, 0($s1) # t0 = elemento de arreglo addu $t0, $t0, $s2 # le suma s2 sw $t0, 0($s1) # lo guarda de nuevo addi $s1, $s1, -4 # decrementa el índice bne $s1, $zero, loop Suponiendo que el índice del ciclo es múltiplo de 4. Universidad de Sonora Arquitectura de Computadoras 23

24 # Código desenrollado loop: addi $s1, $s1, -16 lw $t0, 0($s1) lw $t3, 4($s1) lw $t2, 8($s1) lw $t1, 12($s1) addu $t0, $t0, $s2 addu $t1, $t1, $s2 addu $t2, $t2, $s2 Ejemplo Universidad de Sonora Arquitectura de Computadoras 24

25 Ejemplo # Código desenrollado continuación addu $t3, $t3, $s2 sw $t3, 4($s1) sw $t2, 8($s1) sw $t1, 12($s1) sw $t0, 16($s1) bne $s1, $zero, loop Universidad de Sonora Arquitectura de Computadoras 25

26 Explicación Ahora hay 4 copias de lw, addu y sw. Un addi y un bne. Hay 3 temporales extras $t1, $t2 y $t3. Estos temporales son para evitar introducir dependencias de nombre entre grupos de lw/addu/sw. Ahora son 14 instrucciones en vez de 5. Universidad de Sonora Arquitectura de Computadoras 26

27 Código scheduled: Ejemplo Fuente: COD 5, p Universidad de Sonora Arquitectura de Computadoras 27

28 Explicación Las 14 instrucciones se ejecutan en 8 ciclos. CPI = 8 / 14 = 0.57 IPC = El CPI está cerca del ideal de 0.5. El costo es usar 4 registros temporales en vez de 1 y utilizar 14 instrucciones en vez de 5. Universidad de Sonora Arquitectura de Computadoras 28

29 Scheduling estático: Conclusiones Las instrucciones corren en el orden dictado por el compilador. Si los peligros no se detectan por hardware, el compilador debe hacerlo. Es más fácil de implementar que el scheduling dinámico. Se usa principalmente en CPUs móviles. Universidad de Sonora Arquitectura de Computadoras 29