Memorias, opciones del compilador y otras yerbas. Clase 3

Transcripción

1 Memorias, opciones del compilador y otras yerbas Clase 3

2 Memorias en CUDA Grid CUDA ofrece distintas memorias con distintas características. Block (0, 0) Shared Memory Block (1, 0) Shared Memory registros Registers Registers Registers Registers memoria compartida Thread (0, 0) Thread (1, 0) Thread (0, 0) Thread (1, 0) memoria global memoria constante Algunas de ellas están en caché Host Global Memory Constant Memory 2

3 Variables y memoria en CUDA 64 kb por multiprocesador on-chip Shared Memory L1 Cache L1 Texture Cache El acceso a registros es decenas de veces más rápido que el acceso a la memoria global. 2 MB por GPU L2 Cache ~ 10 TB/s ~ 177 GB/s 0,5-6 GB por GPU Global Memory ( local') 3

4 Variables y memoria en CUDA shared int var[n]; Shared L1 Cache int var; Memory Texture constant int var;; L2 Cache device int var;; Global Memory ( local') int var[10]; 4

5 Variables Escalares global void add( int *a, int *b, int *c, int N ) { int tid = threadidx.x + blockdim.x * blockidx.x; } int d; if (tid < N) { c[tid] = a[tid] + b[tid]; } Variable escalar en registro (rápida) Las variables automáticas escalares residen en registros Si los registros no alcanzan, se transfieren a la memoria local (register spilling) Las variables automáticas están cacheadas (L1 o L2) 5

6 Variables vectoriales global void add( int *a, int *b, int *c, int N ) { int tid = threadidx.x + blockdim.x * blockidx.x; } int d[100]; if (tid < N) { c[tid] = a[tid] + b[tid]; } Variable vectorial: memoria global (lenta) Las variables automáticas escalares residen en registros Si los registros no alcanzan, se transfieren a la memoria local (register spilling) Las variables automáticas están cacheadas (L1 o L2) 6

7 Tipos de Variables en CUDA Memoria Alcance Acceso D H Lifetime int var; Registro Thread rápido (1x) R/W NO Thread int var[10]; Local Thread lento (100x) R/W NO Thread shared int var; Shared Block rápido (1x) R/W NO Block device int var; Global Grid lento (100x) R/W R/W Application constant int var; Constant Grid rápido (1x) R W Application

8 Opciones del compilador fisica ~]$ nvcc - Xptxas=- v prom3_shared.cu - o prom3_sh ptxas info : Compiling entry function '_Z12trapz_simplePfS_S_i' for 'sm_10' ptxas info : Used 11 registers, bytes smem, 8 bytes cmem[1] Se evita el mangled name _Z12trapz_simplePfS_S_i rodeando el kernel con extern C {}

9 Opciones del compilador fisica ~]$ nvcc - Xptxas=- v prom3_shared.cu - o prom3_sh ptxas info : Compiling entry function '_Z12trapz_simplePfS_S_i' for 'sm_10' ptxas info : Used 11 registers, bytes smem, 8 bytes cmem[1] Compute Capability

10 Opciones del compilador fisica ~]$ nvcc - Xptxas=- v prom3_shared.cu - o prom3_sh ptxas info : Compiling entry function '_Z12trapz_simplePfS_S_i' for 'sm_10' ptxas info : Used 11 registers, bytes smem, 8 bytes cmem[1] Número de registros por thread Compute Capability

11 Opciones del compilador fisica ~]$ nvcc - Xptxas=- v prom3_shared.cu - o prom3_sh ptxas info : Compiling entry function '_Z12trapz_simplePfS_S_i' for 'sm_10' ptxas info : Used 11 registers, bytes smem, 8 bytes cmem[1] Memoria Compartida Número de registros 32 bytes totales por thread Compute Capability 16 reservados para el sistema

12 Opciones del compilador fisica ~]$ nvcc - Xptxas=- v prom3_shared.cu - o prom3_sh ptxas info : Compiling entry function '_Z12trapz_simplePfS_S_i' for 'sm_10' ptxas info : Used 11 registers, bytes smem, 8 bytes cmem[1] Memoria Compartida Número de registros Memoria constante 32 bytes totales Compute Capability por thread 8 bytes en el banco 1 16 reservados para el sistema

13 Números complejos y otros tipos /*DEVICE_BUILTIN*/ struct float3 { }; float x, y, z; definidos en vector_types.h /*DEVICE_BUILTIN*/ struct builtin_align (16) float4 { otros tipos con int, char, double, etc. }; float x, y, z, w;

14 Números complejos y otros tipos #include <math.h> /* import fabsf, sqrt */ #include "vector_types.h" typedef float2 cufloatcomplex; host device static inline float cucrealf (cufloatcomplex x) { return x.x; } host device static inline float cucimagf (cufloatcomplex x) { return x.y; } definidos en /usr/local/cuda/include/ cucomplex.h

15 Números complejos y otros tipos host device static inline cufloatcomplex make_cufloatcomplex (float r, float i) { cufloatcomplex res; res.x = r; res.y = i; return res; } cufloatcomplex ci, z1, z2; float a=8.0f; float b=3.0f; ci = make_cufloatcomplex(0.0f, 1.0f); z2 = make_cufloatcomplex(a,b); z1 = cuadd(ci,z2);

16 Números complejos y otros tipos r=22445b8c95f4ad2b76062f5e5259b b292 #include<cusp_complex.h> #define C0 (cusp::complex<float>(0.0f,0.0f)) typedef cusp::complex<float> cmplx; global void int2d_tiled( ){ shared cmplx sdata[nquad]; sdata[tid] = C0; Estos headers sobrecargan operadores * + - etc y definen funciones (sin, cos, etc.) }

17 Dudas?

18 Ejercicio Convertir Suma-vectores a complejos.