Virtualización en procesadores multinúcleo

Transcripción

1 Virtualización en procesadores multinúcleo Francisco Triviño García Becario de investigación Presente y Futuro de los Sistemas de Computación Conference title 1

2 Índice 1. Introducción 2. Virtualización 3. Propuestas 4. Evaluación 5. Conclusiones Presente y futuro de los sistemas de computación 2

4 Introducción Continuos avances en la escala de integración Reducir el tamaño de los transistores Fabricación de chips con un mayor número de transistores Los fabricantes de chips han decidido aumentar el número de procesadores en un mismo chip en lugar de incrementar el rendimiento de un único procesador Chip multiprocesador (CMP) Presente y futuro de los sistemas de computación 4

5 Introducción Importantes ventajas sobre los procesadores superescalares Poder computacional mayor Pueden consumir menos energía que un único procesador mucho más complejo Intel i7 Presente y futuro de los sistemas de computación 5

6 Introducción Muchos CMPs actuales tienen un número de procesadores relativamente pequeño (entre 2 y 8) Cada procesador con al menos un nivel de cache privada Se comunican entre sí a través de una red de interconexión compartida que se encuentra dentro del chip CPU L1 CPU L1 CPU L1 CPU L1 L2 L2 L2 L2 Bus de interconexión compartido Presente y futuro de los sistemas de computación 6

7 Introducción Problemas de escalabilidad cuando el número de procesadores es relativamente alto Área necesaria para implementar el bus Elevado consumo de energía CPU L1 L2 CPU L1 L2 CPU L1 L2 Bus de interconexión compartido Presente y futuro de los sistemas de computación 7

8 Introducción Para solucionar estos problemas de escalabilidad surgen los tiled CMPs Se construyen a partir de replicar bloques casi idénticos a lo largo y ancho del chip Cada bloque contiene su propio procesador, jerarquía de memoria e interfaz de red Conectados a partir de una red de interconexión escalable y punto a punto Coste de fabricación menor Presente y futuro de los sistemas de computación 8

9 Introducción CPU L1 CPU L1 CPU L1 CPU L1 L2 L2 L2 L2 Bus de interconexión compartido Presente y futuro de los sistemas de computación 9

10 Introducción Redes dentro del chip Conmutadores Interfaces Enlaces Subsistema de interconexión escalable Evolución de los tradicionales buses compartidos Capaces de reducir los tiempos de transmisión de la información CPU L1 L2 CPU L1 L2 CPU L1 L2 CPU CPU CPU L1 L1 L1 L2 CPU L1 L2 L2 CPU L1 L2 L2 CPU L1 L2 Presente y futuro de los sistemas de computación 10

11 Introducción Ejemplos de CMPs Intel 80 cores TileraGx100 Presente y futuro de los sistemas de computación 11

12 Introducción Modelo de programación de memoria compartida Programación más amigable para el usuario que el modelo de paso de mensajes Los CMPs están destinados a la ejecución de aplicaciones de propósito general Dichas aplicaciones pueden ser de diversa índole Visión por computador Procesamiento multimedia Animación Simulación Minería de datos Presente y futuro de los sistemas de computación 12

13 Introducción Patrones de tráfico completamente impredecibles Para aprovechar los recursos que ofrecen los CMPs se espera que varias aplicaciones se ejecuten de forma simultánea A medida que aumenta el número de procesadores es de esperar que el número de aplicaciones también aumente Presente y futuro de los sistemas de computación 13

14 Introducción Visión global del sistema Presente y futuro de los sistemas de computación 14

15 Introducción Aumento de la carga de red Diversidad de las cargas de trabajo provocan una tremenda demanda en la jerarquía de cache y coherencia Efecto negativo sobre el rendimiento individual de las aplicaciones Interferencias entre el tráfico perteneciente a diferentes aplicaciones Interferencias a nivel de cache Presente y futuro de los sistemas de computación 15

16 Introducción Entorno caótico 1 Presente y futuro de los sistemas de computación 16

17 Introducción Entorno caótico 1 Aplicación A Presente y futuro de los sistemas de computación 17

18 Introducción Entorno caótico 1 Aplicación A Aplicación B Presente y futuro de los sistemas de computación 18

19 Introducción Entorno caótico 1 Aplicación A Aplicación B Aplicación C Aplicación D Presente y futuro de los sistemas de computación 19

20 Introducción Entorno caótico 2 Presente y futuro de los sistemas de computación 20

21 Introducción Entorno caótico 2 Aplicación A Presente y futuro de los sistemas de computación 21

22 Introducción Entorno caótico 2 Aplicación A Aplicación B Presente y futuro de los sistemas de computación 22

23 Introducción Entorno caótico 2 Aplicación A Aplicación B Aplicación C Aplicación D Presente y futuro de los sistemas de computación 23

24 Introducción Efecto de las interferencias CMP de 16 nodos Topología malla 2D 4x4 Presente y futuro de los sistemas de computación 24

25 Introducción Efecto de las interferencias CMP de 16 nodos Topología malla 2D 4x4 Aplicación Blackscholes Tomar estadísticas Tiempo de ejecución Fallos en cache Latencia de red Productividad de red Presente y futuro de los sistemas de computación 25

26 Introducción Efecto de las interferencias CMP de 16 nodos Topología malla 2D 4x4 Aplicación Blackscholes Tráfico sintético Tomar estadísticas Tiempo de ejecución Fallos en cache Latencia de red Productividad de red Presente y futuro de los sistemas de computación 26

27 Introducción Efecto de las interferencias 2 1,5 39 % 20 % 63 % 19 % 1 0,5 0 Tiempo Fallos Latencia Productividad Aumento del tiempo de ejecución, fallos en cache y latencia Disminución de la productividad Presente y futuro de los sistemas de computación 27

28 Introducción PROBLEMA : Interferencias entre mensajes pertenecientes a distintas aplicaciones SOLUCIÓN: Aislar el entorno de una aplicación para garantizar un mínimo de prestaciones Presente y futuro de los sistemas de computación 28

29 Introducción La inmensa mayoría de las aplicaciones comerciales no obtienen un buen grado de paralelismo que permita aprovechar los núcleos que los nuevos CMPs incorporan Es muy difícil extraer paralelismo de las aplicaciones PROBLEMA : Aplicaciones con poco grado de paralelismo Presente y futuro de los sistemas de computación 29

30 Introducción Si los recursos no se asignan de forma eficiente, el rendimiento de las aplicaciones puede verse afectado Ante esta situación, es necesario un mecanismo eficiente de gestión de recursos La virtualización proporciona mecanismos para asignar subconjuntos de recursos a diferentes aplicaciones Presente y futuro de los sistemas de computación 30

31 Introducción La virtualización es un marco de referencia o metodología para dividir los recursos de un computador en varios ambientes de ejecución A través del concepto de virtualización es posible asignar subconjuntos de recursos a las aplicaciones de acuerdo con sus requisitos Presente y futuro de los sistemas de computación 31

32 Introducción Virtualización de un CMP Aislar el entorno de diferentes aplicaciones Aplicaciones con poco grado de paralelismo Presente y futuro de los sistemas de computación 32

34 Virtualización El proceso de virtualización implica a todos los componentes de un CMP Virtualización Presente y futuro de los sistemas de computación 34

35 Virtualización El proceso de virtualización implica a todos los componentes de un CMP Virtualización Sistema operativo y aplicaciones Presente y futuro de los sistemas de computación 35

36 Virtualización El proceso de virtualización implica a todos los componentes de un CMP Virtualización Sistema operativo y aplicaciones Hipervisor Presente y futuro de los sistemas de computación 36

37 Virtualización El proceso de virtualización implica a todos los componentes de un CMP Virtualización Sistema operativo y aplicaciones Hipervisor Nodos de procesamiento Presente y futuro de los sistemas de computación 37

38 Virtualización El proceso de virtualización implica a todos los componentes de un CMP Virtualización Sistema operativo y aplicaciones Hipervisor Nodos de Bloques de procesamiento cache Presente y futuro de los sistemas de computación 38

39 Virtualización El proceso de virtualización implica a todos los componentes de un CMP Virtualización Sistema operativo y aplicaciones Hipervisor Nodos de Bloques de procesamiento Memoria cache Presente y futuro de los sistemas de computación 39

40 Virtualización El proceso de virtualización implica a todos los componentes de un CMP Virtualización Sistema operativo y aplicaciones Hipervisor Nodos de Bloques de procesamiento Memoria cache Red de interconexión Presente y futuro de los sistemas de computación 40

42 Propuestas Propuestas para aislar el tráfico de aplicaciones a nivel de red de interconexión Canales virtuales Agrupación de recursos Presente y futuro de los sistemas de computación 42

43 Propuestas Canales virtuales Asociar varios buffers a cada canal físico el cual es compartido por todos los mensajes que hay en esos buffers Presente y futuro de los sistemas de computación 43

44 Propuestas Canales virtuales Asociar el tráfico de cada aplicación a un buffer diferente Presente y futuro de los sistemas de computación 44

45 Propuestas Canales virtuales Aplicación A Aplicación B Aplicación C Aplicación D Presente y futuro de los sistemas de computación 45

46 Propuestas Canales virtuales Inconvenientes Solución parcial, se separa el tráfico en diferentes buffers pero se comparten los enlaces físicos Mayor complejidad Aumento del consumo de energía Presente y futuro de los sistemas de computación 46

47 Propuestas Agrupación de recursos Agrupación de recursos: Dividir la red en diferentes particiones Asignar las aplicaciones a diferentes particiones Requiere que las rutas de los mensajes puedan ser adaptadas Presente y futuro de los sistemas de computación 47

48 Propuestas Agrupación de recursos Aplicación A Presente y futuro de los sistemas de computación 48

49 Propuestas Agrupación de recursos Aplicación A Aplicación B Presente y futuro de los sistemas de computación 49

50 Propuestas Agrupación de recursos Aplicación A Aplicación B Aplicación C Aplicación D Presente y futuro de los sistemas de computación 50

51 Propuestas Agrupación de recursos Región Región 2 Cw = 1 Rwn = 0 Rws = 1 Cs = 0 Rse = 1 Rsw = 1 Cn = 1 Rne = 1 Rnw = 1 switch 6 Ce = 1 Ren = 1 Res = 1 Presente y futuro de los sistemas de computación 51

52 Propuestas Agrupación de recursos Situación ideal: regiones cuadradas y regulares Situación real: regiones irregulares como consecuencia de la entrada y salida de aplicaciones al sistema Presente y futuro de los sistemas de computación 52

53 Propuestas Agrupación de recursos Entra A: 6 nodos Entra B: 6 nodos Entra C: 8 nodos Presente y futuro de los sistemas de computación 53

54 Propuestas Agrupación de recursos A Entra A: 6 cores Entra B: 6 cores Entra C: 8 cores Presente y futuro de los sistemas de computación 54

55 Propuestas Agrupación de recursos A Entra A: 6 cores Entra B: 6 cores Entra C: 8 cores B Presente y futuro de los sistemas de computación 55

56 Propuestas Agrupación de recursos Entra A: 6 cores Entra B: 6 cores Entra C: 8 cores A B C Presente y futuro de los sistemas de computación 56

57 Propuestas Agrupación de recursos Regiones: los mensajes no pueden cruzar a otras regiones Dominios: los mensajes sí pueden cruzar a otros dominios Regiones Dominios Presente y futuro de los sistemas de computación 57

59 Evaluación Entorno de evaluación Orion: Consumo Noxim: Canales virtuales Particionado Ruby: Jerarquía de memoria Protocolo de coherencia de cache Gems: Simulación detallada de sistemas multiprocesador SLICC. Simics: Diferentes arquitecturas de procesador Sistema operativo real y aplicaciones reales Presente y futuro de los sistemas de computación 59

60 Evaluación Carga de trabajo Para someter las propuestas a evaluación se necesita una carga de trabajo Aplicaciones representativas en sistemas multicore (Benchmark PARSEC) Implementan la mayoría de técnicas de paralelización Diferentes dominios de aplicación: visión por computador, procesamiento multimedia, servidores empresariales, aplicaciones físicas, etc. Son flexibles: posibilitan adecuar la carga de trabajo mediante tres inputs de entrada Presente y futuro de los sistemas de computación 60

61 Evaluación Carga de trabajo PARSEC DOMINIO PARSEC DOMINIO Blackscholes Análisis financiero Fluidanimate Animación Bodytrack Visión por computador Freqmine Data Mining Canneal Ingeniería Streamcluster Data Mining Dedup Almacenamiento Swaptions Análisis financiero Facesim Animación Vips Procesamiento multimedia Ferret Búsquedas X264 Procesamiento multimedia Presente y futuro de los sistemas de computación 61

62 Evaluación Carga de trabajo Presente y futuro de los sistemas de computación 62

63 Evaluación Modelo de CMP OS Processors L1 Cache L2 Cache Main Memory Coherence Protocol Solaris UltraSparc III processor Instructions & Data 64 Bytes Block Size 4-way Associativity 32 Kbytes 64 Bytes Block Size 8-way 1 Mbyte 2 Gbytes total 3D Stacking MOESI-CMP-Directory Presente y futuro de los sistemas de computación 63

64 Evaluación Modelo de CMP Simulador NOXIM Conmutación wormhole Topología malla 2D Encaminamiento SR Tamaño de flit de 8 bytes Tamaño de buffer de 4 flits Frecuencia de la red de interconexión = frecuencia de los procesadores Presente y futuro de los sistemas de computación 64

65 Evaluación Escenarios Caso base Reparto de recursos de forma aleatoria 4 hilos por aplicación Blackscholes Fluidanimate Bodytrack Streamcluster Presente y futuro de los sistemas de computación 65

66 Evaluación Escenarios Canales virtuales Mismo reparto de recursos que el caso base 4 hilos por aplicación Blackscholes Fluidanimate Bodytrack Streamcluster Presente y futuro de los sistemas de computación 66

67 Evaluación Escenarios Regiones virtuales 4 regiones 4 hilos por aplicación Blackscholes Fluidanimate Bodytrack Streamcluster Presente y futuro de los sistemas de computación 67

68 Evaluación Escenarios Dominios virtuales 4 dominios 4 hilos por aplicación Blackscholes Fluidanimate Bodytrack Streamcluster Presente y futuro de los sistemas de computación 68

69 Evaluación Caso base Canales virtuales Regiones Dominios Presente y futuro de los sistemas de computación 69

70 Evaluación Métricas de rendimiento Tiempo de ejecución Latencia Productividad Consumo Consideraciones: Tomar estadísticas de la aplicación que termina primero (aplicación blackscholes) 30 distribuciones aleatorios emparejados para el caso base y canales virtuales con reparto aleatorio Presente y futuro de los sistemas de computación 70

71 Evaluación Resultados Tiempo de ejecución. Tiempo invertido en la ejecución de las aplicaciones (ciclos). 1, ,8 % 25 % 21 % 0,6 0,4 0,2 Tiempo de ejecución 0 Caso base Canales virtuales Regiones virtuales Dominios virtuales Menos es mejor Presente y futuro de los sistemas de computación 71

72 Evaluación Resultados 1,2 1 0,8 0,6 0,4 Latencia: Tiempo medio invertido en la propagación y transmisión de paquetes dentro de la red (ciclos). 12 % 32 % 28 % Latencia media 0,2 0 Caso base Canales virtuales Regiones virtuales Dominios virtuales Menos es mejor Presente y futuro de los sistemas de computación 72

73 Evaluación Resultados Origen Origen Destino Caso base Regiones 6 saltos 3 saltos Presente y futuro de los sistemas de computación 73

74 Evaluación Resultados 1,2 1 0,8 0,6 0,4 0,2 0 Productividad: cantidad total de flits transmitidos por unidad de tiempo (flits/ciclos). 7 % Caso base Canales virtuales Regiones virtuales 9% 13 % Dominios virtuales Productividad media Más es mejor Presente y futuro de los sistemas de computación 74

75 1,6 1,4 1,2 1 0,8 0,6 0,4 0,2 Evaluación Resultados 0 Consumo: energía consumida (J). Caso base 39 % Canales virtuales Presente y futuro de los sistemas de computación % Regiones virtuales 10 % Dominios virtuales Consumo Menos es mejor

76 Evaluación Resultados Se han evaluado las dos aproximaciones con aplicaciones reales Particionado de recursos mejor que canales virtuales Aísla completamente el tráfico Reduce considerablemente la latencia media Menor complejidad Favorece la tolerancia a fallos Cómo? Presente y futuro de los sistemas de computación 76

77 Tolerancia a fallos Presente y futuro de los sistemas de computación 77

80 Evaluación Resultados Se han evaluado las dos aproximaciones con aplicaciones reales Particionado de recursos mejor que canales virtuales Aísla completamente el tráfico Reduce considerablemente la latencia media Menor complejidad Favorece la tolerancia a fallos Menor consumo apagando recursos sin utilizar Presente y futuro de los sistemas de computación 80

81 Consumo 6 nodos en uso 10 nodos ociosos Presente y futuro de los sistemas de computación 81

82 Consumo 6 nodos en uso 10 nodos apagados Ahorro de energía Presente y futuro de los sistemas de computación 82

84 Conclusiones La presencia de múltiples aplicaciones provoca interferencias en el tráfico (degrada las prestaciones) debido a compartir recursos, como la red. Es necesario aislar el tráfico de distintas aplicaciones para evitar los efectos negativos producidos por las interferencias Aplicar el concepto de virtualización en los CMPs Canales virtuales o agrupación de recursos Presente y futuro de los sistemas de computación 84

85 Conclusiones Interferencias entre diferentes tráficos Aislar el entorno de diferentes aplicaciones Virtualización Agrupación de recursos Presente y futuro de los sistemas de computación 85

86 Conclusiones Interferencias entre diferentes tráficos Aislar el entorno de diferentes aplicaciones Virtualización Agrupación de recursos Aplicaciones poco paralelismo Aumentar rendimiento Presente y futuro de los sistemas de computación 86

87 Conclusiones Interferencias entre diferentes tráficos Aislar el entorno de diferentes aplicaciones Virtualización Agrupación de recursos Aplicaciones poco paralelismo Aumentar rendimiento Tolerancia a fallos Consumo Energía/Área Presente y futuro de los sistemas de computación 87

88 Virtualización en procesadores multinúcleo Francisco Triviño García Becario de investigación Presente y Futuro de los Sistemas de Computación Conference title 88