Memoria. Otros temas sobre cachés

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Memoria. Otros temas sobre cachés"

Pablo Mendoza Aranda
hace 6 años
Vistas:

1 Memoria Otros temas sobre cachés

2 Otros temas 1. Estrategias de búsqueda de bloque. 2. Estrategias de reemplazo de bloque. 3. Cachés multinivel. Universidad de Sonora Arquitectura de Computadoras 2

3 Localizando un bloque En un caché de mapeo directo (1-way), un bloque solo puede ir en un lugar. En un caché asociativo (n-way, n > 1), es necesario localizar el bloque. La dirección se divide en: El índice selecciona el conjunto. Dentro del conjunto se comparan las etiquetas de todos los bloques. Para mayor velocidad, las etiquetas se comparan en paralelo. Universidad de Sonora Arquitectura de Computadoras 3

4 Localizando un bloque Dado un tamaño fijo, existe una relación entre el tamaño del índice y los parámetros del caché. Para un caché de 256 bloques: Asociatividad Conjuntos Bloques Índice 1-way way way way way way Universidad de Sonora Arquitectura de Computadoras 4

5 Localizando un bloque Un caché de mapeo directo requiere un solo comparador. Universidad de Sonora Arquitectura de Computadoras 5

6 Localizando un bloque Un caché 4-way set associative requiere 4 comparadores. Universidad de Sonora Arquitectura de Computadoras 6

7 Que organización usar La selección entre mapeo directo, set associative y fully associative depende del costo de falla comparando con el costo de implementar asociatividad en tiempo y hardware. Universidad de Sonora Arquitectura de Computadoras 7

8 Bloque a reemplazar En mapeo directo no hay elección. En set associative se escoge un bloque dentro del conjunto seleccionado. En fully associative cualquier bloque del caché es candidato a ser reemplazado. La estrategia mas usada es LRU (least recently used menos usado recientemente). Universidad de Sonora Arquitectura de Computadoras 8

9 Bloque a reemplazar LRU se vuelve costoso para conjuntos con muchos bloques. Otra opción es aproximar LRU o usar una estrategia FIFO (first-in first-out el primero que entra es el primero en salir). Una tercera opción es usar reemplazo aleatorio. Universidad de Sonora Arquitectura de Computadoras 9

10 Cachés multinivel Tener uno o mas niveles de cachés. Los sistemas de dos niveles son comunes. El caché de segundo nivel (L2) se accesa cuando hay una falla en el caché primario (L1). Si el caché L2 contiene el dato, el castigo por falla de L1 es el tiempo de acceso de L2 que es mucho menor que el tiempo de acceso a la memoria Si el dato no está en L1 ni en L2, se accesa la memoria y el castigo por falla es mayor. Universidad de Sonora Arquitectura de Computadoras 10

11 Se tiene una CPU con: Ejemplo CPI = 1.0 con caché perfecto (sin fallas). Velocidad de reloj = 5 GHz. Tiempo de acceso de memoria = 100 ns. Tasa de fallas del caché primario = 2%. Qué tan rápido es el sistema si se agrega otro nivel de caché con tiempo de acceso de 5 ns y capaz de reducir la tasa de fallas a la memoria a 0.5%? Universidad de Sonora Arquitectura de Computadoras 11

12 El castigo por falla es: Ejemplo castigo por falla = tiempo de acceso periodo de reloj Para la memoria principal el castigo es: 100 ns / 0.2 ns = 500 ciclos. El CPI efectivo con un nivel de caché es: CPI total = CPIbase + ciclos de detención por instrucción Para la CPU con un nivel de caché: x 500 = 11.0 Universidad de Sonora Arquitectura de Computadoras 12

13 Ejemplo Con dos niveles de caché, una falla en el caché L1 se puede resolver por L2 o por la memoria. Si se resuelve en L2, el tiempo de acceso a L2 es el castigo por falla. En otro caso, el castigo por falla es la suma de los tiempos de acceso a L2 y a la memoria. El castigo por falla por un acceso a L2 es: 5 ns / 0.2 ns = 25 ciclos Universidad de Sonora Arquitectura de Computadoras 13

14 Ejemplo El CPI efectivo para un caché de dos niveles: CPI total = CPIbase + detencionesprimariaspor instrucción + detenciones secundarias por instrucción Para la CPU con dos niveles de caché: x x 500 = = 4 Por lo tanto, la CPU con dos niveles de caché es más rápido que la CPU con un nivel en: 11 / 4 = 2.75 Universidad de Sonora Arquitectura de Computadoras 14

15 Cachés multinivel Se introducen dos nuevos conceptos: Tasa de fallas global (global miss rate) es la fracción de referencias que fallan en todos los niveles. Tasa de fallas local (local miss rate) es la fracción de referencias que fallan en un nivel. El caché primario es mas pequeño y con menor tiempo de acceso que los secundarios. Universidad de Sonora Arquitectura de Computadoras 15

Cachés multinivel Valores típicos en 2004.

16 Cachés multinivel Valores típicos en Universidad de Sonora Arquitectura de Computadoras 16

17 Conclusión 4 preguntas en la jerarquía de memoria: 1. Dónde se puede poner un bloque? 2. Cómo se encuentra un bloque? 3. Qué bloque debe ser reemplazado si es necesario? 4. Qué pasa en una escritura? Universidad de Sonora Arquitectura de Computadoras 17

18 Conclusión Dónde se puede poner un bloque? En mapeo directo en el lugar que le toque según su dirección. En set associative en cualquier lugar dentro del conjunto que le toque. En fully associative en cualquier lugar del caché. Universidad de Sonora Arquitectura de Computadoras 18

19 Conclusión Cómo se encuentra un bloque? En mapeo directo, buscando en el lugar que le toque y comparando la etiqueta. En set associative, buscando en el conjunto que le toque comparando etiquetas. En fully associative, buscando en el caché comparando etiquetas. Universidad de Sonora Arquitectura de Computadoras 19

20 Conclusión Qué bloque debe ser reemplazado si es necesario? En mapeo directo no hay otra opción: el bloque nuevo reemplaza al anterior. LRU (least recently used - menos usado recientemente). Aproximación LRU o FIFO (first-in first-out el primero que entra es el primero en salir). Aleatorio. Universidad de Sonora Arquitectura de Computadoras 20

21 Conclusión Qué pasa en una escritura? Si el dato está en el caché: Write-through: se escribe en el caché y en la memoria para evitar inconsistencias. Write-back: se escribe en el caché y solamente cuando es necesario en la memoria. Si el dato no está en el cache: Write allocate: se actualiza la memoria y se carga el dato en el caché. No write allocate:se actualiza la memoria y no se carga el dato en el caché. Universidad de Sonora Arquitectura de Computadoras 21

Documentos relacionados

Organización lógica Identificación de bloque

Organización lógica Identificación de bloque Cómo se encuentra un bloque si está en el nivel superior? La dirección se descompone en varios campos: Etiqueta (tag): se utiliza para comparar la dirección requerida por la CPU con aquellos bloques que