Guía Docente 2018/2019

Transcripción

1 Guía Docente 2018/2019 Programación paralela Parallel Programming Grado en Ingeniería Informática A distancia

2 Índice Programación Paralela... Error! Marcador no definido. Breve descripción de la asignatura... Error! Marcador no definido. Requisitos Previos... Error! Marcador no definido. Objetivos de la asignatura... Error! Marcador no definido. Competencias... Error! Marcador no definido. Competencias transversales... Error! Marcador no definido. Competencias específicas... Error! Marcador no definido. Resultados de aprendizaje... Error! Marcador no definido. Metodología... Error! Marcador no definido. Temario... Error! Marcador no definido. Programa de la enseñanza teórica... Error! Marcador no definido. Programa de la enseñanza práctica... Error! Marcador no definido. Relación con otras materias... Error! Marcador no definido. Sistema de evaluación... Error! Marcador no definido. Bibliografía... Error! Marcador no definido. Bibliografía básica... Error! Marcador no definido. Bibliografía complementaria... Error! Marcador no definido. Web relacionadas... Error! Marcador no definido. Recomendaciones para el estudio y la docencia... Error! Marcador no definido. Material necesario... Error! Marcador no definido. Aplicaciones... Error! Marcador no definido. Material didáctico... Error! Marcador no definido. Tutorías... Error! Marcador no definido. 2

3 Programación Paralela Módulo: Común de la rama de informática. Materia: Programación. Carácter: Obligatorio. Nº de créditos: 4,5 ECTS. Unidad Temporal: 3 er Curso 1 er Semestre Profesor de la asignatura: José María Cecilia Canales (web profesorado). jmcecilia@ucam.edu Horario de atención a los alumnos/as: Martes 9:00 a 11:00. Fuera de ese horario se puede solicitar cita vía correo electrónico al indicado en la línea anterior. Profesor coordinador de módulo: Andrés Muñoz Ortega. Profesor coordinador de curso: José M. Cecilia Canales. Breve descripción de la asignatura En esta asignatura se introduce al alumno en programación paralela. Veremos los distintos modelos tradicionales de programación paralela, así como los últimos desarrollos de arquitecturas masivamente paralelas. Concretamente nos centraremos en las unidades de procesamiento gráfico de Nvidia, y en su modelo de programación CUDA. Brief Description In this subject, we will cover different topics of programming parallel systems. We will see traditional parallel programming models such as shared and distributed memory, and the emergent massively parallel architectures such as the Graphics Processing Units (GPUs) using the CUDA programming model. Requisitos Previos Conocimiento del lenguaje C/C++- Objetivos de la asignatura 1. Comprender los conceptos de la programación paralela. El nuevo paradigma de programación, los beneficios y las contrariedades que puede acarrear. 2. Comprender los conceptos de sincronización y exclusión mutua. 3. Entender y enumerar las características de arquitecturas con memoria compartida y distribuida. 4. Conocer algunos problemas paradigmáticos de la programación Concurrente y ser capaces de resolverlos. 5. Saber traducir entre semáforos y monitores y a la inversa. 3

4 6. Explicar adecuadamente las diferencias entre los sistemas basados en paso de mensajes y los basados en variables compartidas. 7. Enumerar las características propias de los sistemas basados en paso de mensajes síncronos y los asíncronos. 8. Conocer las condiciones para que se produzca un interbloqueo, así como las técnicas de manejo de los mismos. Competencias Competencias transversales T1: Capacidad de análisis y síntesis. T4: Resolución de problemas. T6: Trabajo en equipo. T11: Razonamiento crítico. T14: Aprendizaje autónomo. T15: Adaptación a nuevas situaciones. T16: Creatividad e innovación. T21: Capacidad de reflexión. T22: Comprender los puntos principales de textos claros y en lengua estándar si tratan sobre cuestiones relacionadas con el ámbito de estudio. Competencias específicas C6: Conocimiento y aplicación de los procedimientos algorítmicos básicos de las tecnologías informáticas para diseñar soluciones a problemas, analizando la idoneidad y complejidad de los algoritmos propuestos. C7: Conocimiento, diseño y utilización de forma eficiente los tipos y estructuras de datos más adecuados a la resolución de un problema. C8: Capacidad para analizar, diseñar, construir y mantener aplicaciones de forma robusta, segura y eficiente, eligiendo el paradigma y los lenguajes de programación más adecuados. C13: Conocimiento y aplicación de las herramientas necesarias para el almacenamiento, procesamiento y acceso a los Sistemas de información, incluidos los basados en web. 4

5 C14: Conocimiento y aplicación de los principios fundamentales y técnicas básicas de la programación paralela, concurrente, distribuida y de tiempo real. Resultados de aprendizaje RA Identificar los conceptos principales, beneficios y características del paradigma de la programación paralela y concurrente. RA Explicar, identificar y resolver problemas en la compartición y sincronización de datos. RA Describir el modo de funcionamiento e implementar correctamente semáforos y monitores. RA Describir y aplicar las soluciones basadas en el paso de mensajes, tanto síncrono como asíncrono. RA Definir y aplicar correctamente el concepto de interbloqueo, su prevención y detección. RA Identificar escenarios adecuados a la implementación del paradigma de programación paralela y concurrente. Metodología Evaluación Tutoría Metodología Estudio personal Búsquedas bibliográficas Realización de trabajos Horas 7,9 28,1 45 3,3 28,1 Horas de trabajo presencial 7,9 horas (7%) Horas de trabajo no presencial 104,5 horas(93%) TOTAL 112,5 7,9 104,5 5

6 Temario Programa de la enseñanza teórica Tema 1. Introducción. Conceptos básicos de paralelismo 1. Noción de computación paralela. 2. Necesidad de la computación paralela. a. Limitaciones físicas de la computación secuencial. b. Problemas con complejidad elevada. c. Limitaciones físicas de la computación paralela. 3. Aspectos de la programación paralela. a. Niveles de paralelismo. Tema 2. Modelos de los computadores paralelos. 1. Introducción. 2. Paralelismo en los computadores monoprocesador. a. Formas básicas de paralelismo. b. Procesadores vectoriales. c. Procesadores escalares. d. Técnicas multhreading. e. Procesadores VLIW (Very Long Instruction Word) 3. Paralelismo en los computadores multiprocesadores. a. Clasificación de los computadores paralelos. 4. Organización de los computadores paralelos. a. Multiprocesadores con memoria compartida. b. Multicomputadores. c. Redes de interconexión. d. Ventajas e inconvenientes de los multicomputadores frente a los multiprocesadores. e. Redes de computadores. 6

7 f. Procesadores multinúcleo. 5. Modelos de computadores paralelos. 6. El modelo de memoria compartida. 7. Sistemas de memoria distribuida: el modelo de paso de mensajes 8. Sistemas heterogéneos masivamente paralelos. Tema 3. Modelos de programación paralela tradicionales. 1. Visión general. 2. Programación mediante paso de mensajes: MPI. a. Conceptos básicos de MPI. b. Operaciones de comunicación colectiva. 3. Programación en memoria compartida: OpenMP. a. Conceptos básicos de OpenMP. b. Definición de regiones paralelas. c. Ejecución de bucles en paralelo. d. Ejecución de secciones de código en paralelo e. Combinación de directivas. f. Sincronización. Tema 4. Modelos de programación paralela emergentes. 1. Visión General 2. Programación en sistemas heterogéneos masivamente paralelos: CUDA 3. Consideración de rendimiento en CUDA 4. Estrategias algorítmicas de Optimización en CUDA 5. Problemas de localidad de datos. 6. Tratamiento de datos dinámicos y dispersos 7. Eficiencia en aplicaciones con una ingente cantidad de datos 8. Reducir el interfaz de salida 9. Depuración y evaluación de códigos CUDA 7

8 10. Ejecución Multi-GPU 11. Introducción al estándar OpenCL. Programa de la enseñanza práctica Las prácticas de la asignatura consistirán en el desarrollo de diversos programas paralelos utilizando el entorno de programación CUDA. La UCAM ha sido nombrada CUDA Teaching Center por la empresa Nvidia ( Para el correcto desarrollo de los ejercicios prácticos se ofrecerán diversos seminarios de manejo básico del lenguaje. Estos seminarios se enumeran a continuación: Práctica 1. Introducción al modelo de programación CUDA. En esta práctica introducimos el modelo de programación de programación masivamente paralela, CUDA. Mostramos la interacción básica con el compilador y planteamos la realización de los primeros kernels sencillos. Práctica 2. Modelo de hilos en CUDA. Esta práctica tiene como objetivo mostrar las diferencias de rendimiento entre códigos con máxima ocupación de los recursos de un SM y códigos que desaprovechan estos recursos. Práctica 3. Modelo de memorias en CUDA. En esta práctica mostramos las distintas memorias disponibles en la arquitectura CUDA. Vemos para qué tipo de datos es mas conveniente el uso de cada una de ellas y el rendimiento que ofrecen a nuestros códigos Práctica 4. Optimización y eficiencia en la GPU. En esta práctica mostramos las buenas prácticas de programación paralela, y en particular, de programación CUDA. Trabajamos con códigos con diferentes patrones de acceso a memoria y mostramos optimizaciones para obtener el máximo ancho de banda de nuestras aplicaciones. Práctica 5. Introducción al modelo de programación OpenCL. En esta práctica introducimos el modelo de programación OpenCL mediante el desarrollo de un ejemplo sencillo. El objetivo es conocer la sintaxis y las diferencias con el modelo de programación CUDA. Relación con otras materias Para el correcto desarrollo de esta asignatura se aconseja haber cursado las asignaturas de Sistemas Operativos, Fundamentos de Programación y Algoritmia. 8

9 Sistema de evaluación - Primera prueba parcial: 25% del total de la nota. - Prueba final: 25% del total de la nota. - Evaluación de prácticas y problemas: 40% del total de la nota. - Participación: 10% del total de la nota. Evaluación del desarrollo de la práctica final en los criterios establecidos en el enunciado de la práctica. Se valorará a partir de la entrega de diferentes tareas voluntarias, así como de la participación en los diversos mecanismos de tutorización lo que se valorará en el % de participación. Se tendrá en cuenta no solamente la cantidad de la participación, sino la calidad de la misma. Tanto en el planteamiento de dudas como en la resolución de las de los compañeros en la herramienta de foros del campus virtual. El alumno superará la asignatura cuando la media ponderada sea igual o superior a 5 puntos y tenga una nota de, al menos, 4 puntos en todas las partes que componen el sistema de evaluación cuya ponderación global sea igual o superior al 20%. Si el alumno tiene menos de un 4 en alguna de las partes cuya ponderación sea igual o superior al 20%, la asignatura estará suspensa y deberá recuperar esa/s parte/s en la siguiente convocatoria dentro del mismo curso académico. La/s parte/s superada/s en convocatorias oficiales (Febrero/Junio) se guardarán para las sucesivas convocatorias que se celebren en el mismo curso académico. En caso de que no se supere la asignatura en la Convocatoria de Septiembre, no contarán las partes aprobadas para sucesivos cursos académicos. El sistema de calificaciones (RD 1.125/2003. de 5 de septiembre) será el siguiente: 0-4,9 Suspenso (SS) 5,0-6,9 Aprobado (AP) 7,0-8,9 Notable (NT) 9,0-10 Sobresaliente (SB) La mención de matrícula de honor podrá ser otorgada a alumnos que hayan obtenido una calificación igual o superior a 9,0. Su número no podrá exceder del 5% de los alumnos matriculados en una materia en el correspondiente curso académico, salvo que el número de alumnos matriculados sea inferior a 20, en cuyo caso se podrá conceder una sola matrícula de honor. 9

10 Bibliografía Bibliografía básica Kirk D. y Hwu W. M. Programming Massively Parallel Processors. Morgan Kaufmann, Almeida F., Giménez D., Mantas J. M., Vidal A. M. Introducción a la programación paralela. Paraninfo Cengage Learning, 2008 Bibliografía complementaria Rauber T., Runger G. Parallel programming for multicores and Cluster systems. Springer Sanders J. y Kandrot E. CUDA by example: An introduction to General-Purpose GPU Programming. Addison-Wesley, 2010 Timothy G. Mattson, Beverly A. Sanders, Berna L. Massingill. Patterns for Parallel Programming. Addison Wesley, 2010 Web relacionadas CUDA Nvidia: ( CUDA Books: ( Curso de OpenCL: Master de la universidad de Illinois: Curso sobre la arquitectura de la GPU: "Programming Massively Parallel Processors with CUDA by Stanford University" CUDA, Supercomputing for the Masses by Rob Farber Web para developers de Nvidia Recomendaciones para el estudio y la docencia La asignatura requiere un seguimiento continuo por parte del alumno, ya que el contenido de cada tema se basa en el de los temas anteriores. Por ello, se recomienda estudiar conforme se desarrollen los contenidos, comprender los ejemplos que se suministren y realizar los ejercicios propuestos. 10

11 Para el desarrollo exitoso de la asignatura se hace necesario seguir las indicaciones suministradas mediante el campus virtual, así como el cumplimiento de las fechas de entrega de cada tarea. Material necesario Aplicaciones El software a utilizar es el compilador y herramientas de programación CUDA. Estas herramientas están disponibles en la página web de la compañía ( La UCAM pondrá un servidor con varias tarjetas gráficas para la resolución de las prácticas. Para conectarse remotamente al servidor, el estudiante deberá utilizar un terminal Unix, en caso de que tenga un sistema operativo de este tipo, y conectarse usando ssh. También es posible utilizar clientes ssh para Windows tipo putty o tunnelier, ambos de libre distribución. Material didáctico Además de la bibliografía recomendada, en el campus virtual, en el apartado de recursos se proporcionará al alumno organizado en carpetas por temas el material didáctico necesario para el seguimiento de la misma. Este material estará organizado en la sección y wiki del campús virtual, que consistirá en: Apuntes sobre los temas tratados. Enlaces a otros sitios donde aumentar la información sobre los temas. Ejercicios para practicar, en un principio los enunciados, y posteriormente se pondrán las soluciones a los mismos. Presentaciones con explicación oral del profesor de los temas más importantes y/o dificultosos Capturas de pantalla con explicación del profesor de la realización de ejercicios prácticos, así como de lo relacionado con la instalación del entorno y puesta en marcha. Bibliografía y Material adicional para ampliar los conocimientos de cada asignatura. Tutorías A través del Campus Virtual se van a establecer diferentes mecanismos de tutorización, soportados por las distintas herramientas disponibles: Foro: Esta herramienta está dirigida a fomentar el trabajo en grupo, ya que permite desarrollar un tema específico de forma conjunta. Su dinámica permite a los estudiantes ir nutriendo y generando un debate con los diferentes planteamientos e intervenciones que realicen. Estas serán moderadas por el profesor y las reorientará hacia el propósito formativo. Chat: Este espacio cabe destacar como estrategia pedagógica de evaluación formativa, al ser considerado como una herramienta interactiva síncrona que permite establecer diálogos de discusión, reflexión para generar conocimiento y retroalimentación inmediata. 11

12 Videoconferencia: Transmisión de charlas o seminarios del profesor con la participación de los alumnos. Tutorías individuales o colectivas: ayuda al alumno a aclarar dudas, estas pueden ser presenciales (si el alumno así lo demanda) o mediante el chat, teléfono y correo electrónico. 12