Aurelio Rodríguez

Transcripción

1 Aurelio Rodríguez

2 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés. Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

3 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

4 Agenda Intel MPI: (1 hora) Tuning: automático, pinning y binding y variables de entorno. Ejemplos. Intel Trace Analyzer and Collector: (1 hora) Introducción Collector: Uso, Instrumentación a nivel de usuario. Ejemplos. Analyzer: Introducción, GUI, CLI y conceptos. Ejemplos. Benchmarks: (3 horas) Casos de usuario? Rendimiento compiladores, MKL y MPI. Benchmarks sintéticos y aplicaciones.

5 Documentación Actualizada Última versión de la documentación en:

6 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés. Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

7 Administración: Instalación Registro de la licencia: Ver documento adjunto (DO_Registro_intel.pdf) Requisitos previos: paquetes de desarrollo gnu (especialmente gcc-c++) Oracle JDK Descarga de productos: completa + de 3GB Se recomienda el uso del online installer siempre que se tenga acceso a internet en el servidor de instalación. Intel Cluster Studio 2013_sp1 for Linux Intel C++ Composer XE for Linux Intel Fortran Composer XE for Linux Intel MPI Library Intel Trace Analyzer and Collector l_ccompxe_online_2013_sp sh l_ccompxe_online_2013_sp sh l_mpi_p_ tgz (install.sh) l_itac_p_ tgz (install.sh)

8 Administración: Instalación Directorios: /apps/intel bin : comandos principales composerxe : link a composer_xe_2013_sp1 composer_xe_2013_sp1 : Contiene links a la ultima release de la versión composer_xe_2013_sp : Ultima versión impi : Directorio con las versiones de impi include : link a composerxe/include ipp : link a composerxe/ipp ( itac : directorio de versiones del Trace analyzer and Collector lib : link a composerxe/lib (librerías de los compiladores) man : link a composerxe/man (man pages) mkl : link a composerxe/mkl (Intel MKL) mpirt : link a composerxe/mpirt (Intel MPI runtime) tbb : link a composerxe/tbb (Threads building blocks)

9 Administración: Entorno Variables de entorno: source /apps/intel/composerxe/bin/compilervars.sh (configura compiladores, debugger, mkl, ipp y tbb) source /apps/intel/impi/ /bin64/mpivars.sh (configura impi) source /apps/intel/itac/ /bin/itacvars.sh (configura itac) Todas recogidas en el script /apps/intel/env.sh

10 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés (si utilizan modules, se incluirá la información para su configuración). Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

11 Compiladores: Intel C++ Rendimiento tanto en serie como paralelo para procesadores Intel. Introduce facilidades para la vectorización y la programación paralela para simplificar el desarrollo de aplicaciones con alto rendimiento. Destacan entre estas características el soporte de nuevas funcionalidades de OpenMP 4.0 y la posibilidad de autoparalelización. Mantiene compatibilidad con los compiladores más usados. Documentación completa:

12 Compiladores: Intel C++

13 Compiladores: Intel C++ INT: Intel Compiler 14.0: C/C++: -xavx -ipo -O3 -no_prec-div -static -parallel -opt-prefecth -auto-p32 GCC 4.8.1: C: -m64 -Ofast -ffast-math -flto -march=native -mfpmath=sse -funroll-all-loops -static -ftreeparallelize-loops=16 C++: m64 -Ofast -ffast-math -flto -march=native -mfpmath=sse -funroll-all-loops FP Speed: Intel Compiler 14.0: C/C++: -xavx -ipo -O3 -no_prec-div -static -parallel -opt-prefecth -ansy-alias GCC 4.8.1: C: -m64 -Ofast -ffast-math -flto -march=native -mfpmath=sse -funroll-all-loops -static -ftreeparallelize-loops=16 C++: m64 -Ofast -ffast-math -flto -march=native -mfpmath=sse -funroll-all-loops

14 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés (si utilizan modules, se incluirá la información para su configuración). Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

15 Compiladores: Intel C++ Uso básico: Comandos: icc para C, y icpc para C++ Opciones -O compatibles con gcc pero no idénticos -O2 es el nivel de optimización por defecto (en gcc es -O0) -O* no implica los mismos conjuntos de opciones para gcc que para Intel pero los conceptos son similares: -O0 : para depuración -O2 : por defecto -O3 : optimizaciones avanzadas icc help, icpc -help proporciona la lista extensa de opciones man icc man icpc Preprocessing Semantic parsing Optimization Code generation Linking

16 Compiladores: Intel C++ Ejemplos: Compilar matrix.c sin optimización y con -O1 y comparar resultados Ejecutar y comparar tiempos. /apps/intel/composerxe/samples/en_us/c++/optimize Compilar int_sin.c con -O0 y -O1 Ejecutar y comparar resultados.

17 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés (si utilizan modules, se incluirá la información para su configuración). Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

18 Compiladores: Intel C++ Disable optimization -O0 Optimize for speed (no code size increase) -O1 Optimize for speed (default) -O2 High-level optimizer, including prefetch, unroll -O3 Create symbols for debugging -g Inter-procedural optimization Profile guided optimization (muli-step build) Optimize for speed across the entire program **warning: -fast def n changes over time OpenMP support Automatic parallelization -ipo -prof-gen -prof-use -fast (-ipo -O3 -no-prec-div -static -xhost) -openmp -parallel

19 Compiladores: Intel C++ y optimizaciones HLO High-Level Optimizer (HLO): Opciones de Compilación: -O2 y -O3 Optimizaciones a nivel de lazo/bucle: Loop unrolling Cache blocking Prefetching Análisis de dependencias agresivo: Determina si es seguro o no reordenar o paralelizar ciertas ordenes Substitución de escalares: Su objetivo es reducir referencias a memoria con referencias a registros

20 Compiladores: Intel C++ y optimizaciones HLO Ejemplos: Compilar matrix.c con -O[2 3] sin vectorización y comparar resultados Ejecutar y comparar tiempos. /apps/intel/composerxe/samples/en_us/c++/optimize Compilar int_sin.c con -O2 y -O3 sin vectorización Ejecutar y comparar resultados.

21 Compiladores: Intel C++ y optimizaciones HLO Ver man page: man icc -O3: Performs O2 optimizations and enables more aggressive loop transformations such as Fusion, Block- Unroll-and-Jam, and collapsing IF statements. This option may set other options. This is determined by the compiler, depending on which operating system and architecture you are using. The options that are set may change from release to release. When O3 is used with options -ax or -x (Linux OS) or with options /Qax or /Qx (Windows OS), the compiler performs more aggressive data dependency analysis than for O2, which may result in longer compilation times. The O3 optimizations may not cause higher performance unless loop and memory access transformations take place. The optimizations may slow down code in some cases compared to O2 optimizations. The O3 option is recommended for applications that have loops that heavily use floating-point calculations and process large data sets.

22 Compiladores: Intel C++ y optimizaciones IPO Interprocedural optimization (IPO): Análisis topológico de la aplicación -ip : Sólo para el fichero fuente actual. -ipo : Optimizaciones a través de todos o varios ficheros Enabled optimizations: Procedure inlining (reduced function call overhead) Procedure reordering Interprocedural dead code elimination and constant propagation Enhances optimization when used in combination with other compiler features Especialmente código con muchas funciones pequeñas se beneficia de IPO

23 Compiladores: Intel C++ y optimizaciones IPO Interprocedural optimization (IPO): Análisis topológico de la aplicación Es un proceso en 2 pasos: Paso 1 Compilar: icc -c -ipo main.c func1.c func2.c Objeto temporal Paso 2 linkar: icc -ipo main.o func1.o func2.o Ejecutable

24 Compiladores: Intel C++ y optimizaciones IPO Ejemplos: Compilar matrix.c con -ipo y comparar resultados con sólo la opción -O3 Alguna mejora? Compilar pi.c y la función externa fx.c sin -ipo y con -ipo Ejecutar y comparar tiempos.

25 Compiladores: Intel C++ y optimizaciones PGO Profile-Guide Optimizations (PGO) Hasta ahora sólo hemos realizado análisis estáticos del código, muchas cuestiones abiertas: Es frecuente que x > y? Cual es el tamaño de un contador concreto, es muy grande el bucle o tenemos pocas iteracciones? Que código se usa y con que frecuencia?

26 Compiladores: Intel C++ y optimizaciones PGO Profile-Guide Optimizations (PGO) La idea es usar información en tiempo de ejecución para guiar la optimización final. Enhancements with PGO: More accurate branch prediction Basic block movement to improve instruction cache behavior Better decision of functions to inline (help IPO) Can optimize function ordering Switch-statement optimization Better vectorization decisions

27 Compiladores: Intel C++ y optimizaciones PGO Profile-Guide Optimizations (PGO): Proceso de 3 pasos 1 Compilar y linkar añadiendo instrumentación: icc -prof_gen prog.c 2 Ejecutamos el programa instrumentado:./prog (conjunto de datos típico) Profile dinámico: dyn 3 Compilaemos y linkamos con la info obtenida: icc -prof_use prog.c Unión de todos los ficheros.dyn en pgopti.dpi y linkado del programa optimizado

28 Compiladores: Intel C++ y optimizaciones PGO Ejemplos: Compilar matrix.c con las opción -prof-gen Ejecutar pgen_matrix.exe (alguna idea por qué es tan lento?) Compilar usando -prof-use y optimización Alguna mejora?

29 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés (si utilizan modules, se incluirá la información para su configuración). Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

30 OpenMP: Conceptos OpenMP es una colección de directivas, librerías y variables de entorno para programas en Fortran, C y C++ Es actualmente el estándar para programación de sistemas de memoria compartida y sistemas de memoria compartida físicamente distribuida Página oficial OpenMP: OpenMP consta básicamente de tres elementos: Control de paralelismo directiva parallel directivas de reparto de trabajo (ej, directiva do) Control de datos y comunicaciones variables privadas y compartidas Sincronización Para coordinar el acceso a los datos (barreras, secciones críticas...)

31 OpenMP: Conceptos OpenMP utiliza el modelo de ejecución paralela fork-join: Un programa comienza su ejecución con un proceso único (thread maestro) Cuando se encuentra la primera construcción paralela crea un conjunto de threads, cada uno con su identificador (el thread maestro tiene identificador 0) Una forma de indicar el número de threads que se van a crear es a través de la variable de entorno OMP_NUM_THREADS Los threads creados por el thread maestro van a ejecutar todos la misma copia de código. Cuando termina la región paralela sólo el thread maestro continua la ejecución

32 OpenMP: Conceptos La paralelización del código se suele hacer de forma incremental, empezando por la paralelización de los bloques computacionalmente más costosos Normalmente se emplea para la paralelización de lazos: Se busca los lazos computacionalmente más costosos Se reparten sus iteraciones entre los threads void main() { int i; double suma[1000]; for(i=0;i++;i<1000) calcular_suma(suma[i]); } void main() { int i; double suma[1000]; #pragma omp parallel for for(i=0;i++;i<1000) calcular_suma(suma[i]); }

33 OpenMP: Conceptos Los diferentes threads se comunican a través de variables compartidas La compartición de datos puede llevar a un mal comportamiento del programa debido al acceso simultáneo desde diferentes threads Para evitarlo se utilizan directivas de sincronización (protegen los datos de conflictos) Las sincronizaciones son costosas hay que tratar de evitarlas

34 OpenMP: Conceptos Modelo de memoria: El compilador de OpenMP debe expandir las zonas de memoria creadas por un compilador secuencial para almacenar los datos Cada thread tendrá su propio stack. Se utiliza este espacio para almacenar los argumentos y variables locales de los procedimientos invocados por ese thread El stack privado de cada thread se utilizará también para almacenar las variables privadas El tamaño por defecto del stack de cada thread depende de la implementación, pero es configurable con la variable de entorno OMP_STACKSIZE Heap Stack thread 1 Stack thread 0 Datos Estáticos Código objeto

35 OpenMP: Estándares OpenMP-1 OpenMP-1.0 Fortran: 1997 OpenMP-1.0 C/C++: 1998 OpenMP-1.1 Fortran: OpenMP-3 OpenMP-3.0 Fortran y C/C++: 2008 OpenMP-3.1 Fortran y C/C++: OpenMP OpenMP-4 OpenMP-2.0 Fortran: 2000 OpenMP-2.0 C/C++: 2002 OpenMP-2.5 Fortran y C/C++: 2005 OpenMP-4.0: Especificaciones en Julio de

36 Compiladores: Intel C++ y soporte OpenMP Comienza el soporte de OpenMP 4.0 (vectorización y soporte coprocesadores: target y simd) (sección 4.2.1) Incluye librerías OpenMP compatibles con el soporte OpenMP de GCC (compatibilidad a nivel de objeto).

37 Compiladores: Intel C++ y soporte OpenMP Opciones en compilación: -openmp : Se genera código multihilo basado en las directivas -openmp-report [= n ] : nivel de diagnóstico 0 : No diagnostico 1 : bucles/regiones/secciones paralelizadas (por defecto) 2 : (1) + construcciones y directivas (MASTER/SINGLE/CRITICAL/ORDERED/ATOMIC) -openmp-simd -no-openmp-simd : Uso o no de directivas Single Instruction Multiple Data (SIMD) -openmp-stubs : compilación de programas openmp en modo secuencial -openmp-task=model : Modelo de tareas OpenMP intel : pragmas tipo #pragma intel_omp_taskq omp : OpenMP API 3.0 (por defecto) -openmp-threadprivate=type legacy : Sin compatibilidad con otros compiladores (por defecto) compat : compatibilidad con compiladores GNU Uso de funciones de runtime: #include <omp.h>

38 Compiladores: Intel C++ y soporte OpenMP Thread Affinity / Binding ( Variable de entorno KMP_AFFINITY KMP_AFFINITY=[<modifier>,...]<type>[,<permute>][,<offset>] Argumento Valor por defecto Descripción modifier noverbose respect granularity=core Opcional. Valores posibles: granularity=<fine, thread, core>,norespect,noverbose,nowarnings,proclist={<proclist>},respect,verbose,warnings type ninguno Modelo de afinidad a usar: compact, disabled, explicit, none, scatter permute 0 Opcional. Entero positivo. No válido para type : explicit, none, o disabled offset 0 Opcional. Entero positivo. No válido para type : explicit, none, o disabled

39 Compiladores: Intel C++ y soporte OpenMP Tipos de afinidad (único argumento obligatorio): type = none (por defecto) No se usa afinidad. Se usará la interface OpenMP thread affinity para determinar la topología del nodo. Si se especifica KMP_AFFINITY=verbose,none se obtiene un mapa del nodo. type = compact Los threads son colocados lo más próximos posible. type = disabled La interface de afinidad se desactiva completamente. Incluso funciones de bajo nivel como kmp_set_affinity y kmp_get_affinity se comportarán como si el SO no tuviese soporte. type = explicit Lista de IDs de proc. El modificador proclist es obligatorio. Este modificador especifica la lista de IDs de procesadores (SO) que se van a usar. También puede usar la variable de entorno GOMP_CPU_AFFINITY para este fin (compatibilidad GCC). type = scatter Distribuye los threads lo maximo posible entre los procesadores del sistema. Lo opuesto de compact.

40 Compiladores: Intel C++ y soporte OpenMP Del manual GCC: GOMP_CPU_AFFINITY: Bind threads to specific CPUs Description: Binds threads to specific CPUs. The variable should contain a space-separated or comma-separated list of CPUs. This list may contain different kinds of entries: either single CPU numbers in any order, a range of CPUs (M-N) or a range with some stride (M-N:S). CPU numbers are zero based. For example, GOMP_CPU_AFFINITY=" :2" will bind the initial thread to CPU 0, the second to CPU 3, the third to CPU 1, the fourth to CPU 2, the fifth to CPU 4, the sixth through tenth to CPUs 6, 8, 10, 12, and 14 respectively and then start assigning back from the beginning of the list. GOMP_CPU_AFFINITY=0 binds all threads to CPU 0. GOMP_CPU_AFFINITY=<proc_list> es un alias para KMP_AFFINITY=granularity=fine,proclist=[<proc_list>],explicit

41 Compiladores: Intel C++ y soporte OpenMP modifier = granularity core fine/thread Por defecto. Cada thread es asignado a un core y puede moverse en los contextos de threads de ese core. Cada thread es asignado a único contexto. Solo para type compact o scatter permute : Nivel del árbol de topología más significativo offset : desplazamiento con el que empiezo la colocación respect : mantiene la mascara de afinidad del hilo que inicializa

42 Compiladores: Intel C++ y soporte OpenMP Topologia en los nodos del cluster UCA: Frontales: 2 packages x 8 cores/pkg x 2 threads/core (16 total cores) Nodos: 2 packages x 8 cores/pkg x 1 threads/core (16 total cores) Nodo Package 0 c0 c1 c2 c3 c4 c5 c6 c7 Package 1 c0 c1 c2 c3 c4 c5 c6 c7 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 SO: 0,16 1,17 2,18 3,19 4,20 5,21 6,22 7,23 8,24 9,25 10,26 11,27 12,28 13,29 14,30 15,31

43 Compiladores: Intel C++ y soporte OpenMP OMP_NUM_THREADS=4 KMP_AFFINITY=granularity=fine,compact Nodo Package 0 c0 c1 c2 c3 c4 c5 c6 c7 Package 1 c0 c1 c2 c3 c4 c5 c6 c7 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 SO: 0,16 1,17 2,18 3,19 4,20 5,21 6,22 7,23 8,24 9,25 10,26 11,27 12,28 13,29 14,30 15,31

44 Compiladores: Intel C++ y soporte OpenMP OMP_NUM_THREADS=4 KMP_AFFINITY=granularity=fine,compact,1,0 Nodo Package 0 c0 c1 c2 c3 c4 c5 c6 c7 Package 1 c0 c1 c2 c3 c4 c5 c6 c7 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 SO: 0,16 1,17 2,18 3,19 4,20 5,21 6,22 7,23 8,24 9,25 10,26 11,27 12,28 13,29 14,30 15,31

45 Compiladores: Intel C++ y soporte OpenMP OMP_NUM_THREADS=4 GOMP_CPU_AFFINITY=1,3,12-15:2 Nodo Package 0 c0 c1 c2 c3 c4 c5 c6 c7 Package 1 c0 c1 c2 c3 c4 c5 c6 c7 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1t0,t1 SO: 0,16 1,17 2,18 3,19 4,20 5,21 6,22 7,23 8,24 9,25 10,26 11,27 12,28 13,29 14,30 15,31

46 Compiladores: Intel C++ y soporte OpenMP Ejemplo: /apps/intel/composer_xe_2013_sp /samples/en_us/c++/openmp_samples/openmp_sample.c Compilarlo con icc -openmp -std=c99 y ejecutar con varios hilos. Que ocurre cuando usamos afinidad? Probar distintas combinaciones...

47 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés (si utilizan modules, se incluirá la información para su configuración). Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

48 Compiladores: Compatibilidad y portabilidad de Intel C++ Soporte completo de C++ ISO/IEC 14882:1998 (C++ 98) C ISO/IEC 9899:1990 (ANSI C o C89, C90) C99: restricted pointers (restrict keyword). variable-length Arrays flexible array members complex number support (_Complex keyword) hexadecimal floating-point constants compound literals designated initializers mixed declarations and code macros with a variable number of arguments inline functions (inline keyword) boolean type (_Bool keyword) C++ 11:

49 Compiladores: Compatibilidad y portabilidad de Intel C++ Compatibilidad e interoperatividad con GCC Alta compatibilidad: compatibilidad a nivel binario entre objetos. Es posible compilar usando ambos compiladores. Uso de extensiones GNU (soportadas un gran nº de ellas) Opción de linkado -cxxlib : uso del runtime y headers de GCC (por defecto para C++).

50 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés (si utilizan modules, se incluirá la información para su configuración). Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

51 Compiladores: Vectorización con Intel C++ SIMD Single Instruction Multiple Data Modo escalar: una instrucción produce un resultado Modo SIMD : una instrucción SSE o AVX produce varios resultados

52 Compiladores: Vectorización con Intel C++ SIMD Single Instruction Multiple Data Necesario un soporte especifico del hardware Intel SSE Tamaño de vector: 128bit Tipos de datos: 8,16,32,64 bit integers 32, 64bit floats Longitud del vector: 2,4,8,16 Ej: Xi, Yi bit 32 int / float Intel AVX Tamaño de vector: 256bit Tipos de datos: 32, 64 bit floats Longitud del vector: 4, 8, 16 Ej: Xi, Yi 32 bit int o float Aparece 2011

53 Compiladores: Vectorización con Intel C++ SIMD Single Instruction Multiple Data Extensiones especificas:

54 Compiladores: Vectorización con Intel C++ Opciones del compilador: -x<extension> Optimizaciones específicas para procesadores Intel El compilador intentara usar el conjunto de instrucciones hasta la extension especifica -m<extension> No hay chequeo de procesador. No incluye optimizaciones especificas (valido para todos los procesadores que soporten la extension) -msse2 se activa con -O2 o superior -ax<extension> Codigo multiple: una linea de base junto versiones mas optimizadas La linea base por defecto es -msse2 La linea base se modifica con las opciones anteriores -axavx,sse4.2 codigo optimizado para avx, sse4.2 y sse2 (lineabase por defecto) -xhost Se usara el juego de instrucciones superior soportado por el procesador donde se compila -no-vec Deshabilita la vectorización de manera global

55 Compiladores: Vectorización con Intel C++ Directivas: #pragma vector always Fuerza el uso de la vectorización sobre el bucle saltándose las indicaciones del compilador :problemas de alineamiento, stride (separación entre elementos a ser vectorizados) no único Aun asi el compilador tiene que poder reconocer la transformación necesaria. #pragma vector always assert abortara la compilación si hay algún problema con la vectorización #pragma ivdep Ignorar dependencias de datos no probadas #pragma novector Inhabilita la vectorización de un bucle individual

56 Compiladores: Vectorización con Intel C++

57 Compiladores: Vectorización con Intel C++ Por qué no vectoriza mi bucle? -vec-report<n> n=0: sin información (por defecto) n=1: info sobre bucles vectorizados n=2: info sobre bucles vectorizados y la razón de los no vectorizados. n=3: Añade información de dependencias n=4: reporta solo bucles no vectorizados n=5: reporta solo bucles no vectorizados y su información de dependencia -opt_report_phase hpo (High Performance Optimizer) proporciona información adicional para la vectorización

58 Compiladores: Vectorización con Intel C++ Ejemplos: Compilar matrix.c con -O[2 3], -xhost y -fast obteniendo un informe de la vectorización Ejecutar y comparar tiempos. Vectorizan todos los bucles? Posibilidad de mejora? Tutorial: /apps/intel/composer_xe_2013_sp /samples/en_us/c+ +/vec_samples

59 Compiladores: Vectorización con Intel C++ La vectorización depende de: No haya dependencia de datos en las iteraciones de los bucles Esquemas de datos regulares y predecibles para todos los operadores Cuidado con los juegos con punteros, evitar accesos indirectos Longitudes de vector suficientemente grandes Datos alineados

60 Compiladores: Autoparalelizacion con Intel C++ -parallel El compilador automaticamente convierte porciones de codigo serie en su codigo equivalente multihilo El auto-paralelizador analiza el flujo de datos en los bucles y genera codigo multihilo para aquellos bucles que pueden ejecutarse de manera eficiente y segura en paralelo. -par-report (0: no info, 3 nivel maximo de diagnostico) Genera informes acerca de secciones del programa que podrian ser paralelizadas por el compilador

61 Compiladores: Autoparalelizacion con Intel C++ Ejemplos: Compilar matrix.c con -parallel -par-report2 y combinatorias de otras opciones Examinar el informe, posibles mejoras?

62 Compiladores: Autoparalelizacion con Intel C++ Autoparalelizacion guiada (Guided Automatic Parallelism GAP) Opcion del compilador: -guide (-guide -guide-vec -guide-par -guide-data-trans ) Con esta opcion el compilador no compila, analiza el codigo para dar consejo sobre vectorizacion (-guide-vec), paralelizacion (-guide-par ), o ambas ( -guide ). Tambien, GAP puede hacer sugerencias sobre como reordenar las estructuras de datos para obtener un acceso mas optimo ( -guide-data-trans ).

63 Compiladores: Autoparalelizacion con Intel C++ TUTORIAL sobre GAP /apps/intel/composer_xe_2013_sp /samples/en_us/c++/guided_auto_parallel.tar.gz

64 Agenda Administración: (1 horas) Instalación: Procedimiento, actualización y detalles de interés Configuración entorno: Variables de entorno de interés (si utilizan modules, se incluirá la información para su configuración). Compiladores: (4 horas) Intel C++ Compiler XE 14.0 Introducción Ejemplos básicos de compilación Opciones avanzadas: Ejemplos optimizaciones: HLO, IPO y PGO Ejemplos soporte OpenMP Ejemplos compatibilidad y portabilidad Ejemplos paralelización y vectorización automática Intel Fortran Compiler XE 14.0 Introducción y ejemplos básicos ejecución.

65 Compiladores: Intel Fortran Rendimiento tanto en serie como paralelo para procesadores Intel. Introduce facilidades en compilación para la vectorización, la programación paralela y soporte de estándares para simplificar el desarrollo de aplicaciones Fortran con alto rendimiento. Destacan entre estas características el soporte de Fortran 2003, Fortran 2008 y nuevas funcionalidades de OpenMP 4.0 y la posibilidad de autoparalelización. Documentación completa:

66 Compiladores: Intel Fortran

67 Compiladores: Intel Fortran

68 Compiladores: Intel Fortran Uso básico: Comandos: ifort para todos los estándares de Fortran soportados. Opciones de optimización similares al compilador de C++ ifort help proporciona la lista extensa de opciones man ifort Aspectos de la línea de comandos: -fpscomp Compatibilidad con Microsoft Fortran Power Station -fpscomp filesfromcmd La línea de comandos debe incluir los nombres de las unidades a las que no se ha especificado nombre de fichero.

69 Compiladores: Intel Fortran Ejemplos: /apps/intel/composerxe/samples/en_us/fortran Tutorial: Coarray Fortran: programacion paralela usando un modelo single program multiple data (SPMD) soportando tanto memoria compartida como distribuida en un metodo unico.

70 Compiladores Opciones aritmética coma flotante: -fp-model name Mejora de consistencia evitando ciertas optimizaciones. fast=[1 2] : Permite optimizaciones agresivas con ligero coste de precisión y consistencia (por defecto fast=1). precise : Sólo permite optimizaciones seguras. double/extended/source : tipo de los resultados intermedios. Implica precise a no ser que se especifique otra cosa. Double y extended no está disponible en Fortran. except : Fuerza excepciones. strict : precise+except Se recomienda -fp-model precise fp-model source para la mayoría de las situaciones con problemas de consistencia y reproductibidad -ftz[-] Se fijan a 0 los denormals (underflows). Activa por defecto excepto con -O0

71 Compiladores Opciones aritmética coma flotante: -fimf-precision:name Precisión de las funciones de la librería matemática. Por defecto se deja a la heurística del compilador. Posibles valores: high, medium y low. En general mayor precisión, peor rendimiento. -fimf-arch-consistency=true Asegura resultados consistentes entre los procesadores de la misma arquitectura. Por defecto es false. -[no-]prec-div Mejora o reduce [no-] la precisión de las divisiones. En general leve impacto en rendimiento. -[no-]prec-sqrt Mejora o reduce [no-] la precisión de las raíces cuadradas. En general leve impacto en rendimiento.

72 Compiladores Opciones aritmética coma flotante: Ejercicio: Probar las versiones optimizadas con -fp-model precise fp-model source

73 Compiladores Profiling a nivel de función y bucle: Similar a gprof. Opciones compilador: -profile-functions Inserta instrumentación en la entrada y salida de las funciones para recoger los ciclos consumidos. -profile-loops=<inner outer all> Además inserta instrumentación en los bucles donde sea capaz según el tipo Estas opciones generan ficheros de texto (.dump) y XML (.xml). Visualizador para los ficheros XML: java -jar /apps/intel/composer_xe_2013_sp /bin/loopprofileviewer.jar <xml datafile>

74 Compiladores Profiling a nivel de función y bucle: Ejercicios: icc -profile-functions -o prof-matrix matrix.c icc -O1 -profile-functions -o prof-matrix matrix.c icc -O1 -profile-loops=all -o prof-matrix matrix.c

75 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

76 Compiladores: Intel Debugger Intel Debugger (IDB) Depurador completo con las siguientes características: Soporta C++ y Fortran Código máquina y valores de registros Depuración de aplicaciones multihilo Análisis de compartición de datos entre hilos detectando accesos idénticos. breakpoint inteligente para parar la ejecución a la vez en los diferentes hilos. Vista de registros de vectores (SSE) con formatos y opciones de edición para la depuración de aplicaciones paralelas SIMD. Vistas especializadas en OpenMP para análisis de estado de aplicación. Disponible GUI Documentación completa:

77 Compiladores: Intel Debugger Opciones de depuración en los compiladores: -g, -debug, -debug full, -debug all Producen información de depuración compatible con los depuradores habituales. Desactiva -O2 y hace -O0 el defecto a no ser que se especifique la opción de optimización. -debug none No se genera información de depuración (por defecto) -debug minimal Genera sólo nºs de línea pero no símbolos -debug inline-debug-info Preparación del ejecutable Símbolos asociados a funciones inlined son asociadas con la función llamada. Por defecto con la opción -O2 -debug extended Produce información adicional útil para código optimizado -[no-]sox Incluye la versión del compilador y opciones usadas en el fichero objeto y el ejecutable -traceback Proporciona el traceback sobre los distintos fuentes con errores severos en tiempo de ejecución.

78 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

79 Compiladores: Intel Debugger Interfaz gráfico de usuario (GUI) Comando: idb Es necesario el entorno JAVA Soporta Multihilo

80 Compiladores: Intel Debugger Interfaz de Eclipse Integrado con Eclipse + CDT La integración soporta Eclipse 3.7. Para la depuración con fortran es necesario instalar el plugin Photran. Uso: Iniciar Eclipse Crear o abrir un workspace. (ej makefile project ) Selecionar Help Install New Software Junto al campo Work with click en el botón Add y aparece el diálogo Add Site Click en el botón local y seleccionar el directorio apropiado que contiene la integración: /apps/intel/eclipse_support/cdt8.0/eclipse Click OK Asegurarse que no está selecionado Group items by category Seleccionar la integración de IDB y click en Next Seguir instrucciones y reiniciar Eclipse cuando se indique.

81 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Comando: idbc Opciones disponibles: idbc help Modos: -idb : compatible DBX -gdb : compatible GDB

82 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Modo GDB (por defecto): (idb) help Obtener ayuda sobre los comandos disponibles (idb) break main breakpoint en la entrada del programa principal. (idb) run Ejecuta la aplicación hasta el siguiente breakpoint. (idb) info breakpoints Lista de breakpoint existentes (idb) delete breakpoint <breakpoint id> Borra el breakpoint con el correspondiente id

83 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Modo IDB (-idb): (idb) help Obtener ayuda sobre los comandos disponibles (mucho más completa en este modo) (idb) stop in main breakpoint en la entrada del programa principal. (idb) stop in 20 breakpoint en la línea 20 (idb) stop variable i changed breakpoint cuando la variable i cambia de valor (idb) run Ejecuta la aplicación hasta el siguiente breakpoint. (idb) status Lista de breakpoint existentes (idb) delete <breakpoint id> Borra el breakpoint con el correspondiente id

84 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Explorar comandos más elaborados Como paro el programa cuando una variable cuando toma cierto valor? break if Puedo modificar variables internas cuando ocurre un evento determinado? when en modo idb

85 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

86 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Depuración de programas multihilo. El debugger detecta automáticamente un programa OpenMP y activa su soporte (idb) set $threadlevel="native" (idb) set $threadlevel="openmp" Info OpenMP Acceso a datos compartidos Acceso simultaneo a una expresión idb info thread idb info task idb info barrier idb info taskwait idb info lock idb info team idb info openmp thread tree idb sharing on idb sharing stop on/off idb sharing event expand idb sharing filter idb reentrancy specifier

87 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Depuración de programas OpenMP Usemos varios ejemplos

88 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Depuración de programas MPI Opciones -idb,-idba,-gdb,-gdba de mpirun Variables: MPIEXEC_DEBUG=1 IDB_PARALLEL_SHELL=/bin/sh Uso del comando focus para especificar sobre que proceso/s operamos. Problemas con la agregación de mensajes: $parallel_aggregatordelay (por defecto 3000 miliseg) Desincronización de los procesos: usar until (GDB) o cont to (IDB) especificando un lugar común. No se localizan las fuentes: -idbopt -I O usar use

89 Compiladores: Intel Debugger Interfaz de línea de comandos (CLI) Depuración de programas MPI Ejercicio compilar cpi.c y depurar su ejecución. Uso de focus.

90 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

91 Intel MKL Intel Math Kernel Library (MKL) Librería matemática altamente optimizada con rutinas multihilo. Incluye: BLAS (level 1, 2, and 3) and LAPACK linear algebra routines, offering vector, vector-matrix, and matrix-matrix operations. The PARDISO* direct sparse solver, an iterative sparse solver, and supporting sparse BLAS (level 1, 2, and 3) routines for solving sparse systems of equations. ScaLAPACK distributed processing linear algebra routines for Linux* and Windows* operating systems, as well as the Basic Linear Algebra Communications Subprograms (BLACS) and the Parallel Basic Linear Algebra Subprograms (PBLAS). Fast Fourier transform (FFT) functions in one, two, or three dimensions with support for mixed radices (not limited to sizes that are powers of 2), as well as distributed versions of these functions provided for use on clusters of the Linux* and Windows* operating systems. Vector Math Library (VML) routines for optimized mathematical operations on vectors. Vector Statistical Library (VSL) routines, which offer high-performance vectorized random number generators (RNG) for several probability distributions, convolution and correlation routines, and summary statistics functions. Data Fitting Library, which provides capabilities for spline-based approximation of functions, derivatives and integrals of functions, and search. Extended Eigensolver, a shared memory programming (SMP) version of an eigensolver based on the Feast Eigenvalue Solver.

92 Intel MKL Intel Math Kernel Library (MKL) Última versión: 11.1 Soporta varios compiladores: Intel/PGI/GNU. Probado con varios mas Uso con Java, python... Adaptada a las últimas novedades en procesadores. Antes de empezar: Plataforma: procesador Problema matemático: dominio de funciones Lenguaje de programación Uso de arrays muy extensos (> ) : tipo del entero (ILP64/LP64) Multihilo: si/no? con compilador de intel o otro? Modelo de linkado: estático o dinámico MPI: funciones de cluster (ScaLAPACK, Cluster FFT)

93 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

94 Intel MKL: Linkado Con los compiladores de intel, uso muy sencillo: -mkl o -mkl=parallel Estandar multihilo (OpenMP) -mkl=sequential Versión secuencial -mkl=cluster link con la versión cluster (no multihilo) con Intel MPI Guía de linkado: Herramienta de línea de comandos: mkl_link_tool mkl_link_tool -interactive

95 Intel MKL: Linkado Interfaces: Directorio mkl/interfaces blas95/lapack95 : incluidas directamente en la mkl para los compiladores de intel fftw3xc, fftw3xf : incluidas directamente en la mkl para los compiladores de intel fftw2xc, fftw2xf: necesario compilar fftw2x_cdft: necesario compilar fftw3x_cdft: necesario compilar

96 Intel MKL: Linkado Interfaces: Explorar compilación para otros compiladores, versión de MPI En cada uno de de los directorios de las interfaces hay un makefile preparado. La ejecución de make visualiza las opciones disponibles. Ejemplo: mkl/interfaces/fftw2x_cdft $ make libintel64 interface=lp64 PRECISION=MKL_DOUBLE compiler=gnu mpi=mpich2 INSTALL_DIR=~/mkl

97 Intel MKL: Linkado Trucos para el linkado: Podemos usar comandos del linker: como GROUP para referenciar grupos de librerías como un fichero único: libmkl.a: GROUP (libmkl_intel_lp64.a libmkl_intel_thread.a libmkl_core.a) libmklfftw.a: GROUP (libfftw3x_cdft.a libmkl_cdft_core.a libmkl_intel_lp64.a libmkl_sequential.a libmkl_core.a) libmkl-gnu.a: GROUP (libmkl_gf_lp64.a libmkl_gnu_thread.a libmkl_core.a) libmkl-gnu-sequential.a: GROUP (libmkl_gf_lp64.a libmkl_sequential.a libmkl_core.a) libmkl-sequential.a: GROUP (libmkl_intel_lp64.a libmkl_sequential.a libmkl_core.a)

98 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

99 Intel MKL: Ejemplos Tutorial: /apps/intel/composerxe/samples/en-us/mkl/tutorials.zip Usar: #include "mkl.h" malloc especializado: mkl_malloc Función especializada: cblas_dgemm Compilar y linkar el código: opción -mkl del compilador Medir tiempos y comparar con la versión no MKL Ejecutar con varios threads usando las funciones: omp_set_num_threads(), mkl_set_num_threads(), mkl_domain_set_num_threads()

100 Intel MKL: Ejemplos Control de hilos por variables de entorno: OMP_NUM_THREADS : Sobre toda la aplicación OpenMP MKL_NUM_THREADS : Sólo para las funciones MKL MKL_DYNAMIC : cambio dinámico del nº de threads hasta el máximo especificado (activada por defecto) MKL_DOMAIN_NUM_THREADS : control específico sobre un dominio de funciones MKL: export MKL_DOMAIN_NUM_THREADS="MKL_DOMAIN_ALL=1, MKL_DOMAIN_BLAS=4

101 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

102 Intel MKL: Uso ScaLAPACK Uso de la versión cluster: Compiladores Intel + Intel MPI mpiicc -mkl=cluster Versión secuencial de la librería. Uso híbrido: -lmkl_scalapack_lp64 -lmkl_intel_lp64 -lmkl_core -lmkl_intel_thread -lmkl_blacs_intelmpi_lp64 -lpthread -lm Compilar siempre con la opción -openmp

103 Intel MKL: Uso ScaLAPACK Probar ejemplos adicionales.

104 Agenda Intel Debugger: (2 horas) Introducción Uso a través de la GUI/eclipse/CLI Ejemplos de uso en aplicaciones paralelas: multihilo (OpenMP) y MPI Intel Math Kernel Library: (2 horas) Introducción Linkado Ejemplos de rendimiento Uso ScaLAPACK Intel MPI: (1 hora) Introducción Referencia de comandos: compilador, ejecución, gestión de procesos, información del procesador. Ejemplos.

105 Intel MPI Intel MPI Librería de paso de mensajes multi-fabric. Implementa MPI-2.2 para plataformas Intel. Permite la actualización de los procesadores y redes de interconexión sin necesidad de cambios en el software. Se distribuye en 2 kits: Intel MPI Library Runtime Environment (RTO): Incluye todas las herramientas necesarias para la ejecución de programas has (Multipurpose Daemon* (MPD), Hydra* y utilidades adicionales, librerías dinámicas y documentación). Intel MPI Library Development Kit (SDK): RTO + las herramientas de compilación (comandos de compilación como mpiicc, ficheros de cabecera, librerías estáticas y librerías de depuración, trazas y testeo de código)