CAPÍTULO 2 PROCESADORES SUPERESCALARES

Transcripción

1 CAPÍTULO 2 PROCESADORES SUPERESCALARES LECTURA DE INSTRUCCIONES (etapa if) Falta de alineamiento Rotura de secuencialidad Tratamiento de los saltos Estrategias de predicción dinámica Pila de dirección de retorno Tratamiento de los errores en la predicción de saltos

2 LECTURA DE INSTRUCCIONES (IF Instruction Fetch) El número de instrucciones que se extraen de la caché de instrucciones (I-caché) en cada ciclo viene determinado por el ancho de la etapa de lectura. Al poder existir fallos de lectura Mecanismos auxiliares de almacenamiento entre las etapas de lectura y decodificación ->buffer de instrucciones (amortiguador o shock absorber) I caché

3 LECTURA DE INSTRUCCIONES IF Cada array almacena una de las cuatro instrucciones captadas por ciclo. Una vez conocido el contador de programa (PC) la lógica de control accede al conjunto y bloque correspondiente suministrándolo al buffer de instrucciones (grupo de lectura) Objetivo: garantizar un suministro constante de instrucciones al procesador I caché

4 1 FALTA DE ALINEAMIENTO Un alineamiento incorrecto proviene de que Las instrucciones que forman el grupo superan la frontera. Conlleva dos accesos a la caché (son necesarios dos ciclos de reloj) I caché

5 1 FALTA DE ALINEAMIENTO Si no hay restricciones de alineamiento, se recurre a hardware adicional para realizar la extracción parcial de la unidad de lectura (I-caché) con las instrucciones desordenadas y se procede a la colocación mediante una red de alineamiento (multiplexores que conducen las instrucciones a su posición correcta dentro del grupo de lectura) a una red de desplazamiento (registros de desplazamiento)

6 1 FALTA DE ALINEAMIENTO Además puede haber fallos de lectura si el bloque no está en la caché En este caso, para minimizar el impacto Existen técnicas de prefetching o prelectura que disponen de una cola de prefetch a la que se va cuando hay fallo de lectura

7 2 ROTURA DE LA SECUENCIALIDAD Se produce cuando una de las instrucciones del grupo de lectura sea un salto incondicional o condicional efectivo Coste mínimo de la oportunidad perdida= (ancho de la segmentación) x (número de ciclos de penalización) Coste mínimo de oportunidad perdida=4*3 ciclos=12 ciclos

8 2 ROTURA DE LA SECUENCIALIDAD Solución: detección temprana de las instrucciones que cambian el flujo de instrucciones los saltos Comenzar el análisis antes de que se extraiga el grupo de lectura de la I-caché, colocando una pre-etapa de decodificación entre la I-caché y la L2 de caché (siguiente nivel de memoria)

9 3 TRATAMIENTO DE LOS SALTOS El problema de los saltos es Determinar si el salto es efectivo o no La dirección de salto El tratamiento debe hacerse en la misma IF (ETAPA DE LECTURA). Cuando en la etapa ID (ETAPA DE DECODIFICACIÓN) se confirma que hay un salto se puede mantener el tratamiento iniciado o proceder a su anulación Se trata de técnicas especulares que predicen la dirección de destino. Si a la salida de la unidad funcional de salto (etapa ejecución) el resultado real no coincide con la especulación, el hardware vaciará la segmentación de las instrucciones especuladas. Las predicciones estáticas son hechas por el compilador

10 4 ESTRATEGIAS DE PREDICCIÓN DINÁMICA Un salto es una instrucción cuya ejecución se repite con cierta frecuencia (comportamientos futuros basados en comportamientos pasados) Técnicas de predicción estáticas predicen 70-80% de los casos. Técnicas de predicción dinámicas predicen 80-95% de los casos. Incremento coste económico por complejidad del hardware Predicción=dirección destino+resultado (salto efectivo o no)

11 4.1 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTAC BTAC (Branch Target Address Cache) pequeña memoria caché asociativa se almacenan las direcciones de las instrucciones de saltos efectivos ya ejecutados (BIA) las direcciones de destino de esos saltos o BTAs Se accede en paralelo a la BTAC y a la I-Cache Si ninguna instrucción del grupo de lectura está en alguna BIA es porque no hay ninguna instrucción de salto efectivo o que nunca antes se había ejecutado BTAC

12 4.1 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTAC (INSTRUCCIÓN NO ESTÁ EN BTAC Y NO ES SALTO O ES SALTO PERO NO EFECTIVO )

13 4.1 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTAC (INSTRUCCIÓN NO ESTÁ EN BTAC PERO RESULTA SER SALTO EFECTIVO )

14 4.1 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTAC (SALTO EN BTAC Y FUE EFECTIVO, Y VUELVE A SERLO)

15 4.1 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTAC (SALTO EN BTAC Y FUE EFECTIVO, PERO AHORA NO)

16 4.1 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTAC Falsos positivos: la BTAC devuelve una dirección de destino pero en el grupo de lectura no hay ningún salto (saltos fantasmas o saltos en falso)-> desestimar la predicción de la BTAC Se pueden deber a que el campo BIA almacena solo una parte de la dirección (a distintas direcciones se les asocia la misma BIA) Si la longitud del BIA es igual a la longitud de las direcciones deja de haber falsos positivos.

17 4.1 BTIB Variante de BTAC-> BTIB. Almacena la instrucción de destino (BTI) y algunas posteriores (BTI+1, BTI+2 ) en vez de solo la dirección de salto efectivo BTA El BTIB entrega una secuencia de instrucciones al buffer de instrucciones

18 4.2 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTB CON HISTORIAL DE SALTO Junto con la dirección de destino predicha BTA BTB se almacena un conjunto de bits que representan el historial de efectividad del salto (BH) para decidir si la dirección de destino ha de ser utilizada o no.

19 4.2 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTB CON HISTORIAL DE SALTO predijo no efectivo y lo fue o al revés se actualiza el historial se vacía el cauce, se actualiza el historial, actualiza BTA (si fuera necesario) y se ejecuta instrucción indicada se limpia el cauce, se salta a la dirección obtenida, se añade al BTB

20 4.2 PREDICCIÓN DE LA DIRECCIÓN DE DESTINO DE SALTO MEDIANTE BTB CON HISTORIAL DE SALTO Ante un fallo en la memoria por falta de capacidad o por conflicto en la BTB Correspondencia directa: se sustituye la entrada Asociatividad: se descarta la entrada con menos potencial para mejorar el rendimiento LRU Menos efectiva según su historial de salto BTB

21 4.3 PREDICTOR DE SMITH O PREDICTOR BIMODAL Algoritmo de predicción dinámica de salto más sencillo Cada vez que un salto es invocado Se extrae el historial Se mira la predicción Se aplica Si el salto es efectivo, el contador se incrementa Si no es efectivo, el contador se decrementa Predictor de un bit Predictor de dos bits

22 Examen septiembre 2012

23 PREDICTOR DE SMITH 1 BIT Salto Predicción 1 E T 2 E T 3 E T 4 N T 5 N NT 6 E NT 7 E T 8 E T 9 N T 10 N NT Salto Predicción 11 E NT 12 E T 13 E T 14 N T 15 N NT TASA PREDICCIÓN total : 10/15=67%

24 PREDICTOR DE SMITH DE 2 BITS Salto Predicción Salto Predicción 1 E ST 11 E WN 2 E ST 12 E WT 3 E ST 13 E ST 4 N ST 14 N ST 5 N WT 15 N WT 6 E WN 7 E WT 8 E ST 9 N ST 10 N WT TASA PREDICCIÓN total : 7/15=47%

25 PREDICTOR DE DOS NIVELES PRIMER NIVEL DE INFORMACIÓN: Historial de los últimos saltos ejecutados (historial global) o de las últimas ejecuciones de un salto concreto (historial local) SEGUNDO NIVEL DE INFORMACIÓN: Combinación de primer nivel de información en combinación con un hash de la dirección de la instrucción de salto. Se usa para acceder a una tabla que almacena contadores de saturación que determinan el resultado final de la predicción.

26 4.4 PREDICTOR DE DOS NIVELES BASADO EN EL HISTORIAL GLOBAL Dispone de un registro de almacenamiento (BHR) que guarda los saltos más recientes (1 salto efectivo, 0 salto no efectivo). Funciona como una cola con el último resultado Los h bits del BHR se concatenan con m bits de la función hash sobre la dirección y se accede a la tabla de historial de patrones (PHT) Cada entrada tiene 2 bits (como Smith) Una vez evaluado el salto y conocido el resultado Se incrementa/decrementa el contador de la PHT Se actualiza el historial del BHR ejercicio 2.4

27 4.5 PREDICTOR DE DOS NIVELES BASADO EN EL HISTORIAL LOCAL Se dispone de una tabla con el historial de cada salto (BHT) que sustituye al registro BHR del predictor con historial global. 1. Se accede a la BHT con el hashing de la dirección de la instrucción (k bits) obteniendo h bits 2. Hashing de la dirección de la instrucción de salto (m bits) Evaluado el salto y conocido su resultado se actualiza la BHT y la PHT ejercicio 2.5

28 4.6 PREDICTOR DE DOS NIVELES DE ÍNDICE COMPARTIDO GSHARE VARIANTE DEL PREDICTOR DE DOS NIVELES DE HISTORIAL GLOBAL En vez de concatenar los m bits de la función hash con los h del BHR (registro de almacenamiento con los saltos más recientes) se realiza la función XOR con los h bits superiores ejercicio 2.6

29 4.7 PREDICTORES HÍBRIDOS Se recurre a dos predictores y un selector decide cual de las dos predicciones hay que utilizar. PowerPC 970 usa un predictor bimodal, un predictor gshare y un selector. ejercicio 2.7 selector

30 5 PILA DE DIRECCIÓN DE RETORNO Validar una predicción de una instrucción Comprobar el resultado del salto Comprobar si la dirección de destino predicha coincide con la dirección de destino real La instrucción de retorno de subrutina produce elevada tasa de fallos pues la dirección de destino depende del lugar desde el que fue llamada la subrutina. No hay predicciones correctas de la BTB PILA DE DIRECCIONES DE RETORNO (RAS) O BUFFER DE PILA DE RETORNOS (RSB) Se accede a la BTB Se especula el resultado del salto Se almacena en la RAS la dirección de la instrucción siguiente al salto

31 6 TRATAMIENTO DE LOS ERRORES EN LA PREDICCIÓN DE LOS SALTOS Recuperación de la secuencia correcta: deshacer el procesamiento de las instrucciones incorrectamente ejecutadas por una ejecución especulativa

32 validación 6 TRATAMIENTO DE LOS ERRORES EN LA PREDICCIÓN DE LOS SALTOS ETIQUETAR LAS INSTRUCCIONES (conoceremos si una instrucción especulada proviene de otra instrucción especulada) ETIQUETA ESPECULATIVA 1 bits (instrucción especulada) Más bits->nivel de especulación ETIQUETA DE VALIDEZ Indica si la instrucción debe o no terminarse especulación invalidación y recuperación