Acceso y portal de usuarios. VPN. Mayo 2017

Transcripción

1 Taller práctico Hackathon: Acceso a Finis Terrae II Acceso y portal de usuarios. VPN Mayo 2017

2 Acceso al FT Conexión por SSH En Linux/Mac: ssh En Windows: Abrir una sesión con Putty o MobaXterm a ft2.cesga.es MobaXterm: terminal SSH, servidor X y cliente SCP/FTP El acceso a nuestros servidores de cálculo está restringido a los centros autorizados (universidades gallegas, centros del CSIC, centros con convenios especiales,...). Fuera de ahí se puede usar: VPN ( Usuario: <login>@cesga.es Terminal SSH ( Escritorio Remoto (

3 Transferencia de ficheros Clientes gráficos para la transferencia de datos: Windows: WinSCP, MobaXterm Mac: Fugu Windows/Mac/Linux: Filezilla Línea de comandos (scp, sftp, rsync) IMPORTANTE: Los ficheros en Windows tienen el carácter Ctrl-M como salto de línea Solución 1: Transferir los ficheros en modo texto Solución 2: dos2unix FICHERO

4 Taller práctico Hackathon : Acceso a Finis Terrae II Utilización del sistema de colas. Mayo 2017

5 SLURM: Comandos básicos sbatch: Envía un script a una partición de SLURM. El único parámetro obligatorio es el tiempo estimado. sinfo: Muestra información sobre los nodos de SLURM y las particiones. squeue: Muestra información sobre los trabajos, su estado y las colas. squeue -u <login> scancel: Permite cancelar un trabajo. scontrol: Devuelve información más detallada sobre los nodos, particiones, trabajos y la configuración. scontrol show jobid -dd <jobid> sacct: Consulta del histórico de trabajos y muestra información de consumo.

6 Particiones Particiones existentes en estos momentos: PartitionName Default MaxNodes MaxTime Shared TotalN odes MemPer CPU MaxMemPer Node cola-corta UNLIMITED 4:00:00 EXCLUSIVE G fatnode UNLIMITED UNLIMITED SHARED G gpu-interactive 1 UNLIMITED SHARED G gpu-shared UNLIMITED UNLIMITED SHARED G iphi-interactive 1 UNLIMITED SHARED G iphinodes UNLIMITED UNLIMITED EXCLUSIVE 2 120G thin-interactive :00:00 SHARED G thinnodes UNLIMITED UNLIMITED EXCLUSIVE G thin-shared YES 1 UNLIMITED SHARED G

7 Default QOS y otros límites Cada usuario tiene asignada una QOS por defecto Para utilizar una QOS diferente se debe añadir la opción --qos QOS_NAME a la hora de enviar el trabajo Aunque no suelen ser habituales, algunos usuarios pueden tener algunos límites especiales, por ejemplo por pertenecer a una determinada institución o grupo Comandos útiles: batchlim sacctmgr show user <login> s

8 Envío de trabajos: sbatch Es obligatorio especificar el tiempo máximo de ejecución con la opción -t D- HH:MM:SS o --time D-HH:MM:SS Opciones por defecto: -N 1 -n 1 -c 1 (shared), -N 1 -n 1 c 24 (exclusive) Los requisitos del trabajo se pueden indicar a la hora de enviar el trabajo con el comando sbatch o bien con directivas dentro del script utilizado (#SBATCH) sbatch exporta el entorno existente en el momento de ejecutarlo al trabajo, incluidos los módulos cargados Se puede evitar con la opción --export=none En el caso de los módulos puede ejecutarse module purge

9 Envío de un trabajo secuencial #!/bin/bash # # this file is myjob.sh # #SBATCH t 10:00 #SBATCH --job-name MyJob #SBATCH --mail-type BEGIN,END # myprog -n 100 < infile #!/bin/bash # # this file is myjob2.sh # myprog -n 100 < infile % sbatch t 10:00 --job-name MyJob --mail-type BEGIN,END myjob2.sh % sbatch myjob.sh

10 Ficheros de salida/error Slurm combina por defecto la salida estándar y de error en un único fichero llamado slurm-<job_number>.out o en slurm-<job_number>_<array_index>.out caso de un job array Localización por defecto: directorio de envío Se puede modificar este comportamiento con las opciones: --error /path/to/dir/filename --output /path/to/dir/filename

11 sbatch: directorios de scratch Al entrar en ejecución un trabajo se crean los siguientes directorios de scratch: $LUSTRE_SCRATCH: directorio temporal en el Lustre $LOCAL_SCRATCH o $TMPDIR: directorio temporal en el disco local del nodo Estos directorios se borran automáticamente al finalizar los trabajos Atención: El contenido del $LUSTRE_SCRATCH también cuenta para calcular la cuota en el LUSTRE.

12 Trabajos interactivos: compute Razones para usar los nodos interactivos: Testeo/Debugging de códigos con requisitos de CPU y memoria medios Pre/post-proceso de datos Aplicaciones gráficas Razones para NO usar los nodos interactivos: Más fáciles de usar que enviar un trabajo a cola Comando compute (sesiones limitadas a 8 horas) [prey@fs6803 ~]$ compute -u Uso: compute [-c <NCORES>] [--mem <MEM>] [--gpu] [--phi] [--x11]

13 Monitorización de trabajos Comandos: squeue: listado de los trabajos en cola scontrol show job JOB_ID [-dd]: información de un trabajo sacct: información de los recursos utilizados por los trabajos (tanto finalizados como en cola). Conexión a los nodos: top, strace, revisión de ficheros temporales, Los usuarios (tu) son los responsables de monitorizar sus trabajos

14 Uso de los nodos con GPU Envío de trabajos a estos nodos (4 nodos): sbatch p gpu-shared --gres=gpu script.sh sbatch --partition=gpu-shared --gres=gpu script.sh Si no se indica la opción --gres=gpu no se asignará la GPU Se puede solicitar el uso de más de una GPU con la opción --gres=gpu:n donde N es un valor entre 1 y 4

15 Uso de los nodos Intel PHI Envío de trabajos a estos nodos (2 nodos): sbatch p iphinodes --gres=mic script.sh sbatch --partition=iphinodes --gres=mic script.sh Se puede solicitar el uso de más de un Intel PHI con la opción --gres=mic:n donde N es un valor entre 1 y 2

16 Recursos Hackathon Cuentas: curso871 a curso880 Se han reservado 2 nodos con GPU y 2 nodos con PHI por lo que habrá que añadir alguna opción para poder usarlos. Trabajos interactivos: compute.hack en vez de compute Envío de trabajos: añadir la opción --reservation=<res_name> al sbatch sbatch --reservation=hack_phi_30may p iphinodes --gres=mic script.sh Reservas: Una reserva por día y tipo de nodo: HACK_GPU_30May, HACK_PHI_30May HACK_GPU_31May, HACK_PHI_31May HACK_GPU_01Jun, HACK_PHI_01Jun

17 Parallware Trainer: MV Se ha creado una MV con 2 cores y 2GB de memoria para los equipos que utilizan Windows. Team1: ; usuario hackathon Team2: ; usuario hackathon Team6: ; usuario hackathon Acceso: ssh -X hackathon@ n con N=1,2 ó 6 Software en $HOME/pwtrainer Linux

18 Taller práctico Hackathon: Acceso a Finis Terrae II Compilación Mayo 2017

19 Compiladores y herramientas de desarrollo Combinaciones de compiladores, librerías BLAS/LAPACK y MPI disponibles: Compiladores de Intel Compiladores GNU Otros. Aceleradores NVIDIA GPU: CUDA/PGI INTEL PHI

20 Soporte de estándares Programación: Soporte de los últimos estándares Todas las implementaciones estables de los estándares de programación actuales Posibilidad de instalación de implementaciones experimentales: LLVM Paralelización OpenMP: Intel/GCC OpenACC: PGI/GCC MPI: Intel MPI/OpenMPI

21 Compilación Uso de módulos module av o module spider [app] -> para ver versiones disponibles module list -> muestra los módulos cargados module purge -> descarga todos los módulos cargados module load -> carga un módulo module rm -> descarga un módulo module help -> breve guía de uso Existe jerarquía de módulos

22 Compilación CPU

23 Aceleradores NVIDIA GPUs CUDA Intel Phi Intel compilers

24 Aceleradores NVIDIA GPUs CUDA

25 Compilación GPU

26 Aceleradores Intel Phi Intel compilers

27 Compilacion Intel Xeon Phi

28 Dudas, preguntas, comentarios.