Virtualización y jerarquía de memoria

Transcripción

1 Virtualización y jerarquía de memoria Arquitectura de Computadores J. Daniel García Sánchez (coordinador) David Expósito Singh Javier García Blas Óscar Pérez Alonso J. Manuel Pérez Lobato Grupo ARCOS Departamento de Informática Universidad Carlos III de Madrid cbed Arquitectura de Computadores Grupo ARCOS 1/55

2 Memoria virtual 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 2/55

3 Memoria virtual Límites del direccionamiento físico Dirección física CPU Memoria Datos Todos los programas comparten un único espacio de direcciones. Espacio de direcciones físico. No hay forma de prevenir que un programa acceda a un recurso. cbed Arquitectura de Computadores Grupo ARCOS 3/55

4 Memoria virtual Superando el límite físico Dir. virtual Dir. física CPU Traducción de direcciones Memoria Datos Los programas se ejecutan en un espacio de direcciones virtuales normalizado. Traducción de direcciones: Llevado a cabo por el hardware. Gestionado por el SO. Características soportadas: Protección, Traducción, Compartición. cbed Arquitectura de Computadores Grupo ARCOS 4/55

5 Memoria virtual Ventajas de la memoria virtual (I) Traducción: Los programas pueden tener una vista consistente de la memoria. Reduce el coste de aplicaciones multi-hilo. Solamente hace falta tener en memoria el conjunto de trabajo. Estructuras dinámicas usan solo la memoria física que realmente necesitan (p. ej. Pila). cbed Arquitectura de Computadores Grupo ARCOS 5/55

6 Memoria virtual Ventajas de la memoria virtual (II) Protección: Permite proteger a unos procesos de otros. Se pueden fijar atributos a nivel de página. Solo lectura, ejecución,... Los datos del núcleo está protegidos de los programas. Mejora la protección frente a software malicioso. Compartición: Se puede proyectar una página a varios procesos. P. ej.: Archivos proyectados en memoria. cbed Arquitectura de Computadores Grupo ARCOS 6/55

7 Memoria virtual Diferencias con caché Remplazo: Caché: controlado por hardware. MV: controlado por software. Tamaño: Tamaño de caché independiente de longitud de dirección. Tamaño de MV dependiente de longitud de dirección. cbed Arquitectura de Computadores Grupo ARCOS 7/55

8 Memoria virtual Parámetros Parámetro Caché L1 Memoria virtual Tamaño de bloque bytes , 536 bytes Tiempo de acierto 1 3 ciclos ciclos Penalización de fallos ciclos ciclos Tiempo de acceso ciclos ciclos Tiempo de transferencia 2 40 ciclos ciclos Tasa de fallos 0.1% 10% % 0.001% cbed Arquitectura de Computadores Grupo ARCOS 8/55

9 Políticas 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 9/55

10 Políticas Cuatro preguntas sobre la jerarquía de memoria 1. Dónde se ubica un bloque en el nivel superior? Ubicación de bloque. 2. Cómo se localiza un bloque en el nivel superior? Identificación de bloque. 3. Qué bloque debe remplazarse en caso de fallo? Remplazo de bloque. 4. Qué ocurre en caso de escritura? Estrategia de escritura. cbed Arquitectura de Computadores Grupo ARCOS 10/55

11 Políticas Cuatro preguntas sobre la memoria virtual 1. Dónde se ubica una página en la memoria principal? Ubicación de página. 2. Cómo se localiza un bloque en la memoria principal? Identificación de página. 3. Qué página debe remplazarse en caso de fallo? Remplazo de página. 4. Qué ocurre en caso de escritura? Estrategia de escritura. cbed Arquitectura de Computadores Grupo ARCOS 11/55

12 Políticas Dónde se ubica una página en memoria principal? Una página se puede ubicar en cualquier marco de página de la memoria principal. Correspondencia totalmente asociativa. Gestión realizada por el sistema operativo. Objetivo: Minimizar la tasa de fallos. No se puede hacer mucho con la penalización por fallo. Penalización muy alta debida a lentitud de discos magnéticos. cbed Arquitectura de Computadores Grupo ARCOS 12/55

13 Políticas Cómo se localiza una página en memoria principal? Se mantiene una tabla de páginas por proceso en memoria principal. Tabla de correspondencia entre identificador de página e identificador de marco de página. Reducción de tiempo de traducción. TLB: Translation Lookaside Buffer. Evita accesos a la tabla de páginas de memoria principal. cbed Arquitectura de Computadores Grupo ARCOS 13/55

14 Políticas Qué bloque debe remplazarse en caso de fallo de página? Política de remplazo definida por el Sistema Operativo. Típicamente LRU (Least-recently used). La arquitectura debe ofrecer soporte al Sistema Operativo. Bit de uso: Activado cuando se accede a la página. Cuando hay fallo en TLB. El sistema operativo pone a cero este bit de forma periódica. Registra valores más tarde. Permite determinar páginas tocadas en un intervalo. cbed Arquitectura de Computadores Grupo ARCOS 14/55

15 Políticas Qué ocurre en caso de escritura? La política de escritura es siempre write-back. Nunca se ha construido un sistema de MV con write-through. No te sientas tentado! Coste de escrituras en disco tremendamente alto. Minimización de escrituras en disco. Uso de dirty bit para indicar cuando se ha modificado una página. cbed Arquitectura de Computadores Grupo ARCOS 15/55

16 Tabla de páginas 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 16/55

17 Tabla de páginas Tabla de páginas Mem. virtual (páginas) Mem. física (marcos) Id pg. virtual Desplaz. V Prot. Dir. página V Prot. Dir. página PTBR V Prot. Dir. página V Prot. Dir. página Dir. página Desplaz. cbed Arquitectura de Computadores Grupo ARCOS 17/55

18 Tabla de páginas Tamaño de tabla de páginas Si se asume direcciones virtuales de 32 bits, páginas de 4 KB y 4 bytes por entrada en tabla: Tamaño de tabla: B = 2 22 B = 4MB Alternativas: Tablas de páginas multi-nivel. Tablas de páginas invertidas. Ejemplo: IA-64 Ofrece las dos alternativas al desarrollador del SO. cbed Arquitectura de Computadores Grupo ARCOS 18/55

19 Tabla de páginas TLB: Translation Lookaside Buffer Caso ideal. Cada acceso a memoria requiere dos accesos. 1. Acceso a TP. 2. Acceso a memoria. Escenario peor en caso de tablas multinivel. Solución: Usar caché de traducciones para evitar accesos a TP. Etiqueta: Porción de dirección virtual. Datos: Número de marco, bits de protección, bit de validez y dirty-bit. cbed Arquitectura de Computadores Grupo ARCOS 19/55

20 Máquinas virtuales 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 20/55

21 Máquinas virtuales Máquinas virtuales Desarrolladas a finales de los 60. Usadas desde entonces en entornos mainframe. Ignoradas en máquinas monousuario hasta finales de los 90. Popularidad recuperada debido a: Importancia creciente de aislamiento y seguridad en sistemas modernos. Fallos en seguridad y fiabilidad en sistemas operativos. Compartición de un computador por varios usuarios. Gran incremento en prestaciones de procesadores. Sobrecarga de MMV s más aceptable. cbed Arquitectura de Computadores Grupo ARCOS 21/55

22 Máquinas virtuales Monitor de máquina virtual A virtual machine is taken to be an efficient, isolated duplicate of the real machine. We explain these notions through the idea of a virtual machine monitor (VMM) a VMM has threee essential characteristics. First, the VMM provides an environment for programs which is essentially identical with the original machine, second, programs run in this environment show at worst only minor decreases in speed; and last, the VMM is in complete control of system resources. Fuente: Popek, G. y Goldberg, R. Formal requirements for virtualizable third generation architectures. Communications of the ACM, Julio de 1974 cbed Arquitectura de Computadores Grupo ARCOS 22/55

23 Máquinas virtuales Virtualización Definición general: Cualquier método de emulación que ofrece una interfaz software estándar con la máquina física. Java VM? Máquinas virtuales de sistema: Ofrecen un entorno completo de sistema a nivel de ISA binaria. Se suele asumir que ISA de MV e ISA de hardware son idénticas. Ejemplos: IBM VM/370. VMWare ESX Server. Xen. cbed Arquitectura de Computadores Grupo ARCOS 23/55

24 Máquinas virtuales Máquina virtual Ofrece la ilusión de que los usuarios tienen un computador completo a su disposición. Incluyendo su copia del Sistema Operativo. Un computador ejecuta varias máquinas virtuales. Puede soportar diversos sistemas operativos. Todos los Sistemas Operativos comparten el hardware. Terminología: Host: Plataforma hardware subyacente. Guest: Máquinas virtuales que comparten recursos. cbed Arquitectura de Computadores Grupo ARCOS 24/55

25 Máquinas virtuales MV y VMM: Capas MV 1 MV 2 MV 3 MV 4 MMV Capa de software de sistema. El monitor se ejecuta sobre la plataforma hardware. Permite la ejecución de varias máquinas virtuales sobre HW Monitor de Máquina Virtual único. Cada máquina virtual tiene su propio sistema operativo y Plataforma Hardware aplicaciones. Permite ejecutar aplicaciones sin modificarlas. cbed Arquitectura de Computadores Grupo ARCOS 25/55

26 MMV: Monitores de máquinas virtuales 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 26/55

27 MMV: Monitores de máquinas virtuales MMV Monitor de máquina virtual o hipervisor: Software que soporta las máquinas virtuales. MMV determina la correspondencia entre recursos virtuales y recursos físicos. Alternativas en compartición de recursos físicos: Compartición de tiempo. Particionamiento. Emulado por software. Un MMV es más pequeño que un SO tradicional. cbed Arquitectura de Computadores Grupo ARCOS 27/55

28 MMV: Monitores de máquinas virtuales Sobrecarga de un MMV Depende de la carga de trabajo. Programas ligados a procesador a nivel de usuario: Ejemplo: SPEC. Sobrecarga: 0. Raras invocaciones a SO. Programas intensivos en E/S intensivos en SO. Muchas llamadas al sistema Instrucciones privilegiadas. Puede tener mucha sobrecarga de virtualización. Programas intensivos en E/S y ligados a E/S. Baja utilización del procesador. Se puede ocultar virtualización. Baja sobrecarga de virtualización. cbed Arquitectura de Computadores Grupo ARCOS 28/55

29 MMV: Monitores de máquinas virtuales Otros usos (además de protección) Gestión de software. MV ofrece una abstracción que permite ejecutar pila software completa. Sistemas operativos antiguos ( DOS?). Despliegues combinados SO estable, SO heredado y siguiente versión de SO. Gestión de hardware. MV permite ejecutar pilas de software separadas pero sobre un mismo hardware. Consolidación de servidores. Independencia Mayor fiabilidad. Migración de MV en ejecución. Equilibrio de carga. Evacuación de hardware. cbed Arquitectura de Computadores Grupo ARCOS 29/55

30 MMV: Monitores de máquinas virtuales Usos: aislamiento APP 1 APP 2 APP 1 APP 2 OS OS OS MMV Plataforma Hardware Plataforma Hardware cbed Arquitectura de Computadores Grupo ARCOS 30/55

31 MMV: Monitores de máquinas virtuales Usos: consolidación APP 1 APP 2 APP 1 APP 2 OS OS OS OS MMV Plataforma 1 Plataforma 2 Plataforma Hardware cbed Arquitectura de Computadores Grupo ARCOS 31/55

32 MMV: Monitores de máquinas virtuales Usos: migración APP 1 APP OS OS VMM VMM Plataforma 1 Plataforma 2 Plataforma 1 Plataforma 2 cbed Arquitectura de Computadores Grupo ARCOS 32/55

33 MMV: Monitores de máquinas virtuales Requisitos de MMV (I) Una MMV: Presenta una interfaz software a software huésped. Aísla el estado de un huésped del resto. Se protege a si mismo de los huéspedes. Software huésped se debería comportar como si no hubiese MMV, excepto por: Comportamiento dependiente del rendimiento. Limitaciones de recursos fijos compartidos por múltiples MMV. cbed Arquitectura de Computadores Grupo ARCOS 33/55

34 MMV: Monitores de máquinas virtuales Requisitos de MMV (II) El software huésped no debe poder modificar la asignación de recursos reales de forma directa. MMV debe controlarlo todo, aunque sea usado por huéspedes. Acceso a estado privilegiado, Traducción de direcciones, E/S, excepciones, interrupciones,... MMV debe ejecutar en un modo más privilegiado que huéspedes. Ejecución de instrucciones privilegiadas por MMV. Requisitos de MMV (equiv. a requisitos de memoria virtual). Como mínimo dos modos de procesador. Subconjunto de instrucciones privilegiadas solo en modo privilegiado. Trap si ejecutadas en modo usuario. cbed Arquitectura de Computadores Grupo ARCOS 34/55

35 Soporte hardware para virtualización 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 35/55

36 Soporte hardware para virtualización Soporte de ISA Si MV se tienen en cuenta en el diseño de ISA, es fácil reducir instrucciones que debe ejecutar VMM y cuanto tarda la emulación. Pero, la mayoría de ISA para escritorio diseñadas antes de MV. MMV debe asegurar que huésped solo interacciona con recursos virtuales. SO huésped ejecutado en modo usuario. Intentos de acceder a HW da lugar a trap. Si ISA no es consciente de MV, el MMV debe interceptar instrucciones problemáticas. Introducción de recursos virtuales. cbed Arquitectura de Computadores Grupo ARCOS 36/55

37 Soporte hardware para virtualización Impacto sobre memoria virtual Cada huésped gestiona memoria virtual. Virtualización de memoria virtual? VMM distingue entre memoria real y memoria física. Memoria real: Nivel intermedio entre memoria virtual y memoria física. Huésped: Correspondencia entre memoria virtual y real. MMV: Correspondencia entre memoria real y física. Para reducir los niveles de indirección MMV mantiene una tabla de páginas en la sombra. Correspondencia entre memoria virtual y física. MMV tiene que capturar cambios de tabla de páginas y puntero a tabla de páginas. cbed Arquitectura de Computadores Grupo ARCOS 37/55

38 Soporte hardware para virtualización Soporte ISA para virtualización de memoria virtual IBM 370 incorpora nivel adicional de indirección gestionado por MMV. Elimina la necesidad de tabla de páginas en la sombra. Virtualización de TLB. MMV gestiona la TLB y mantiene copias de la TLB de cada huésped. Accesos a TLB generan trap. TLB con identificadores de procesos simplifican la gestión Permite entradas de múltiples MV y del VMM simultáneamente. cbed Arquitectura de Computadores Grupo ARCOS 38/55

39 Soporte hardware para virtualización Impacto de entrada/salida Parte más compleja de virtualización. Número creciente de dispositivos de E/S. Diversidad creciente de tipos de dispositivos de E/S. Compartición de dispositivos entre MV. Soporte de gran variedad de drivers. Se deja parte general del driver en huésped. Parte específica en MMV. Método dependiente del dispositivo. Discos: Particionados por MMV para crear discos virtuales. Interfaces de red: Multiplexados en el tiempo. MMV gestiona direcciones de red virtuales. cbed Arquitectura de Computadores Grupo ARCOS 39/55

40 Tecnologías de virtualización 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 40/55

41 Tecnologías de virtualización Virtualización impura 7 Tecnologías de virtualización Virtualización impura Tecnologías ISA cbed Arquitectura de Computadores Grupo ARCOS 41/55

42 Tecnologías de virtualización Virtualización impura Virtualización impura Solución para arquitecturas no virtualizables y para reducir problemas de rendimiento: Enfoques: Paravirtualización: Portar el código de SO huésped a ISA modificado. Esfuerzo de desarrollo. Necesidad de repetir para cada SO. Disponibilidad de código fuente. Traducción binaria: Sustituir instrucciones no virtualizables por código de emulación o llamada a MMV. No requiere código fuente. Algunas emulaciones posibles en espacio de usuario. cbed Arquitectura de Computadores Grupo ARCOS 42/55

43 Tecnologías de virtualización Virtualización impura Ejemplo: XEN Xen: MMV open-source para x-86. Estrategia: Paravirtualización. Pequeñas modificaciones al SO para simplificar virtualización. Ejemplos de paravirtualización: Evitar vaciado de TLB cuando se invoca a MMV. Xen proyectado a 64 MB superiores de cada MV. Se permite que el huésped pueda asignar páginas. Se comprueba que no viole restricciones de protección. Protección entre programas y huésped Uso de niveles de x86: Xen (0), Huésped (1), Programas (3). cbed Arquitectura de Computadores Grupo ARCOS 43/55

44 Tecnologías de virtualización Virtualización impura Cambios en Xen Cambios necesarios en Linux aproximadamente 3, 000 líneas de código. 1% de código específico x86. Sistema Operativo Ejecuta como host Ejecuta como guest Linux 2.4 Si Si Linux 2.6 Si Si NetBSD 2.0 No Si NetBSD 3.0 Si Si Plan 9 No Si FreeBSD 5 No Si cbed Arquitectura de Computadores Grupo ARCOS 44/55

45 Tecnologías de virtualización Virtualización impura Rendimiento de Xen SPEC Web99 99 dbench 96 PostgreSQL OLTP 95 PostgreSQL rec. info 92 Linux build time 97 SPEC INT Rendimiento relativo a Linux nativo cbed Arquitectura de Computadores Grupo ARCOS 45/55

46 Tecnologías de virtualización Tecnologías ISA 7 Tecnologías de virtualización Virtualización impura Tecnologías ISA cbed Arquitectura de Computadores Grupo ARCOS 46/55

47 Tecnologías de virtualización Tecnologías ISA Intel Virtualization Technology Añade nuevas instrucciones: VMXON. VMXOFF. VMLAUNCH. VMRESUME.... VMXON VM Exit VM Entry Guest OS 1 VMM Guest OS 2 VM Entry VM Exit VMXOFF cbed Arquitectura de Computadores Grupo ARCOS 47/55

48 Tecnologías de virtualización Tecnologías ISA AMD Secure Virtual Machine Añade nuevas instrucciones: VMRUN/VMLOAD. VMCALL/VMSAVE.... EFER.SVME=1 VMEXIT/VMSAVE VMRUN/VMLOAD Guest OS 1 VMM Guest OS 2 VMRUN/VMLOAD VMEXIT/VMSAVE EFER.SVME=0 cbed Arquitectura de Computadores Grupo ARCOS 48/55

49 Tecnologías de virtualización Tecnologías ISA Modos de operación VMX root: Totalmente privilegiado. Pensado para su uso por MMV. VMX non-root: No privilegiado. Pensado para SW huésped. cbed Arquitectura de Computadores Grupo ARCOS 49/55

50 Tecnologías de virtualización Tecnologías ISA Entrada y salida de máquinas virtuales VM Entry: Transición de MMV a Huésped. Entra en modo non-root. Carga el estado del huésped. VMLAUNCH instrucción usada en entrada inicial. VMRESUME instrucción usada en llamadas siguientes. VM Exit: VMEXIT instrucción usada para pasar a MMV. Entra en modo root. Salva el estado del huésped. Carga el estado de MMV. Hay instrucciones y eventos que provocan VMEXIT. cbed Arquitectura de Computadores Grupo ARCOS 50/55

51 Tecnologías de virtualización Tecnologías ISA Beneficios de tecnología VT Reduce dependencia del SO. Elimina necesidad de traducción binaria. Facilita el soporte para SO antiguos Mejora de robustez Elimina la necesidad de técnicas complejas MMV más pequeño y simple Mejora de rendimiento Menos transiciones a MMV cbed Arquitectura de Computadores Grupo ARCOS 51/55

52 Conclusión 1 Memoria virtual 2 Políticas 3 Tabla de páginas 4 Máquinas virtuales 5 MMV: Monitores de máquinas virtuales 6 Soporte hardware para virtualización 7 Tecnologías de virtualización 8 Conclusión cbed Arquitectura de Computadores Grupo ARCOS 52/55

53 Conclusión Resumen La memoria virtual ofrece un mecanismos de traducción que facilita la protección y la compartición. Políticas de memoria virtual: Ubicación: Totalmente asociativa. Identificación: Tabla de páginas. Remplazo: Típicamente LRU con soporte de TLB. Escritura: Siempre post-escritura. Máquinas virtuales: aislamiento, seguridad, fiabilidad, compartición. Usos de MMV: protección, gestión sw/hw (aislamiento, consolidación, migración). Tecnologías: Virtualización impura y soluciones en la ISA. cbed Arquitectura de Computadores Grupo ARCOS 53/55

54 Conclusión Referencias Computer Architecture. A Quantitative Approach 5th Ed. Hennessy and Patterson. Secciones: B.4, 2.4. Ejercicios recomendados: B.12, B.13, B.14, 2.20, 2.21, 2.22, 2.23 cbed Arquitectura de Computadores Grupo ARCOS 54/55

55 Conclusión Virtualización y jerarquía de memoria Arquitectura de Computadores J. Daniel García Sánchez (coordinador) David Expósito Singh Javier García Blas Óscar Pérez Alonso J. Manuel Pérez Lobato Grupo ARCOS Departamento de Informática Universidad Carlos III de Madrid cbed Arquitectura de Computadores Grupo ARCOS 55/55