Gestor de Colas SGE. 1. Qué es? 2. Configuración actual en CICA 3. Comandos 4. Trabajos Paralelos 5. Entorno gráfico QMON

Transcripción

1 Gestor de Colas SGE 1. Qué es? 2. Configuración actual en CICA 3. Comandos 4. Trabajos Paralelos 5. Entorno gráfico QMON

2 1. Qué es? SGE (Sun Grid Engine) es un gestor de colas, realizado por Sun Microsystems. Entre sus características principales destaca la versatilidad para trabajar con entornos paralelos, así como monitorizar el estado de las tareas que están ejecutándose. Posee una gran cantidad de opciones para facilitar la tarea de envíos de tareas, observar el estado de ellas, borrarlas, etc.. SGE tiene 3 elementos principales en su infraestructura: Submit Host Master Host Execution Host

3 1. Qué es? Submit Host: Es la máquina desde la cual se envía el trabajo para su ejecución. Master Host: Nodo encargado de la gestión de la cola, distribución de los trabajos en ella, recepción de los datos procesados y envío al usuario de ellos. Execution Host: Nodo en el que se ejecuta el trabajo, dependiente del master host.

4 2. Configuración actual Actualmente en CICA tenemos disponible un clúster con aproximadamente 135 máquinas, de las cuales 32 pertenecen al cluster de alto rendimiento BULL. Estas máquinas (nodos) están repartidas de la siguiente forma: Intel Dual Core 32 Bull Quad Core 8-core 16-core

5 2. Configuración actual Estos nodos están principalmente destinados a la ejecución de tareas en paralelo. Para ello, hemos diseñado un sistema de colas de usuarios, en las cuales se pueden lanzar tareas tanto para un solo nodo como para varios. Las colas principales que están actualmente operativas (memoria distribuida) (memoria compartida). A ella es donde todos los usuarios deben mandar sus tareas para ejecución. La está actualmente en pruebas, con unas capacidades de cálculo superiores y a expensas de que se incluyan sus hosts en la cola principal. El acceso a ellas estará limitado y, para utilizarlas, el comité de control de CICA, basándose en la política de acceso al cluster, evaluará los requerimientos de cada usuario.

6 3. Comandos básicos SGE proporciona varios comandos para la utilización de la cola. Destacan entre otros: qsub: Para el envío de tareas a la cola. qstat: Para monitorizar el estado de las tareas, así como de la cola en general. qdel: Para eliminar las tareas que están ejecutándose en ese momento o estén a la espera de ejecución. qhost, qmod, qconf, etc: Estos comandos están reservados al administrador para la configuración de las colas y del sistema SGE.

7 3. Comandos básicos qsub [options] [[scriptfile] [script_args]] Este es el comando para enviar trabajos a la cola. Entre las opciones que tiene están: -a date_time [YY]MMDDhhmm: Especifica cuándo se ejecturá la tarea. -cwd: Current Working Directory. Se trabajará por defecto en el directorio indicado, con los ficheros incluidos en él. -j [yes no]: Si la salida de error de la tarea a ejecutar va a ser la salida de error de SGE. -N name: Nombre de la tarea que se va a ejecutar (por defecto toma la del script que se envía).

8 3. Comandos básicos -o salida: Nombre del fichero en el cual se registrará la salida de la tarea. -pe pe_environment cpus: Para enviar trabajos en paralelo. Esta opción se ve con mas detenimiento en el punto 4. -S shell: Shell por defecto que tomara la tarea en su ejecución. scriptfile: Script en el cual se indican los comandos para su ejecución, así como las opciones que se han detallado anteriormente. No olvidar que para que SGE reconozca estas opciones, se tendrán que indicar al comienzo con #$.

9 3. Comandos básicos Ejemplo de qsub qsub submit.sge Donde submit.sge es el script: #$ -S /bin/bash #$ -N ejemplosge #$ -cwd #$ -j yes #$ -o salida.res mkdir directorio /bin/sh holamundo.sh cp salida.res /directorio/resultados

10 3. Comandos básicos qdel [-f] [-help][-u usuario] [job_range_list] Es el comando para eliminar tareas que están en la cola, tanto si están ejecutándose como si están a la espera. Sus opciones son: -f: Fuerza la parada de la tarea y su posterior eliminación. -u usuario: Elimina todas las tareas del usuario que se le pasa como parámetro. Dicho comando es válido tan sólo para el usuario que envió la tarea, que es el que posee los permisos sobre ella. job_range_list: IDs de las tareas que se desean eliminar.

11 3. Comandos básicos qstat [options] Comando para ver el estado de la tarea que se ha lanzado a la cola, así como el estado de la cola en general. Entre sus opciones están: -f: Full format, para mostrar la salida completa de lo que se quiere observar. -g c: Muestra por pantalla el estado general de todas las colas (nodos ocupados, libres, carga media de todos, etc) -j job_id: Muestra el estado de la tarea, representada por su ID. También podemos observar los diferentes errores que ha podido tener al intentar lanzarse.

12 3. Comandos básicos -q cola_ejecucion: Muestra tan sólo el estado de los trabajos que están ejecutándose en la cola que se le indica. -s [p r z]: Muestra los trabajos que están pendientes(p), en ejecución(r), o finalizados(z) -u user: Muestra la salida para el usuario que se le pasa como parámetro. Para más información de estos comandos: man (comando) (Documentación)

13 4. Trabajos Paralelos SGE es una herramienta en la que se ha prestado especial atención a dicha clase de trabajos. Actualmente en CICA todas las colas soportan este tipo de trabajos, cada una con unas características concretas. Están configurados 3 tipos de entornos paralelos: make: No tiene ningún tipo de configuración concreta. Su allocation-rule es $pe_slots. openmpi: Para uso por defecto con OpenMPI v Su allocation-rule es $fill_up. mpich: Para uso por defecto con MPICH2 v1.0.8-p1. En este caso el allocation-rule es $fill_up.. lam: Para uso con el entorno paralelo LAM-MPI v Su allocation-rule es $fill_up.

14 4. Trabajos Paralelos Allocation-rule es la regla que utiliza SGE para colocar trabajos en la cola. Tal y como se comentó anteriormente, hay 2 tipos: $pe_slots: Las tareas que especifiquen un número de nodos con esta regla harán que se ejecuten en el mismo nodo. Si por ejemplo mandamos un trabajo con 2 cpus a la se ejecutará en un mismo nodo, ya que tiene 2 cpus cada máquina. No se paraleliza con otras máquinas, ya que se atiende a la proximidad entre cpus.

15 4. Trabajos Paralelos $fill_up: En este caso los trabajos se van ejecutando a medida que van llegando, rellenando las cpus que queden libres de un mismo nodo. Si hacen falta más se salta a otro nodo utilizando las que disponga, y así sucesivamente. Por ejemplo: Si mandamos un trabajo con 4 cpus a la cola eca, utilizando mpi: -pe make 4: No se ejecutaria, ya que la cola eca actualmente tan solo dispone de nodos con 2 cpus, por lo que nunca se ejecutaría en un mismo nodo. -pe openmpi 4: En este caso el nodox no cubre totalmente los requerimientos de la tarea, por lo que utiliza los nodosy y nodoz para poder completarse

16 4. Trabajos Paralelos La forma de enviar un trabajo paralelo a SGE es indicando en las opciones: #$ -pe [entorno_paralelo] [cpus] Donde entorno_paralelo es alguno de los vistos anteriormente: make,openmpi,lam ó mpich. Cpus es el número de procesadores que necesitará el trabajo para ejecutarse.

17 4. Trabajos Paralelos Actualmente el cluster está configurado por defecto para trabajos que hayan sido compilados con OpenMPI. Por lo tanto, para utilizar estos recursos de paralelización se debe compilar y utilizar dicha versión. Para ello se dispone de la herramienta modules: module load openmpi-1.2.7/gnu Modules configura automáticamente el entorno de ejecución con las variables adecuadas. El compilador por defecto de C y C++ en todos es gcc y g++ resp. Existen diferentes versiones de compilador de fortran instaladas (ifort, ifc7, g77, etc..). Para utilizar estos recursos contactar con el administrador para la configuración que se necesite.

18 5. Entorno gráfico QMON Sun Grid Engine proporciona un entorno gráfico que facilita el envío de trabajos, así como observar el estado de cada uno de ellos. Para ello, entramos en el modo gráfico con qmon & Obteniendo la siguiente interfaz: Enviar trabajos Estado de trabajos

19 5. Entorno gráfico QMON Envio de trabajos (Submit Jobs) Cuando pulsamos en esta opción se nos muestra la siguiente interfaz:

20 5. Entorno gráfico QMON En el que podemos configurar las opciones de envío de trabajos. Los campos a rellenar son: Job Script: Script del trabajo a ejecutar. Job Name: Nombre que se le quiere dar a la tarea. Job Args: Argumentos de entrada que necesita el script. Working Directory: Directorio que se utilizará por defecto para la ejecución del script (vacío=/home/usuario) Stdout, stdin, stderr: Nombres para los ficheros de salida, entrada y de error que utilizará SGE para la tarea. Nota: Con Merge Output señalado, se utilizará el nombre del script seguido de i o e(job_id) para las salidas.

21 5. Entorno gráfico QMON En la pestaña de Advanced podemos configurar la notificación de los tareas y los trabajos paralelos:

22 5. Entorno gráfico QMON Rellenaremos los campos: Parallel environment: Podremos seleccionar los entornos paralelos que hay configurados, indicando a continuación el número de cpus que se necesita. -- Quedaría reflejado como mpi (n_cpus) Mail to: Para enviar mail en los casos que se hayan seleccionado en la misma pestaña.

23 5. Entorno gráfico QMON Borrado y estado de los trabajos Para ello pinchamos en la opción indicada en qmon como job state.

24 5. Entorno gráfico QMON En esta ventana podemos ver los trabajos que están actualmente en ejecución, pudiendo realizar acciones sobre ellos como borrarlos (Resume), volverlos a lanzar (Reschedule), parar momentáneamente (Suspend/Hold), etc.. Estas acciones sólo serán efectivas por el usuario que ha lanzado la tarea. También podemos ver el estado de la cola, los trabajos que están pendientes, así como los que han finalizado.

25 Para más información Mail: Web: