Tier 2 federado para ATLAS

Transcripción

1 Tier 2 federado para ATLAS Javier Sánchez / Alejandro Lamas 1

2 Instalaciones: CPD del IFIC Incrementar la capacidad del CPD Superficie de 9 a 15 m2 UPS de 5 KVA a 25 KVA Instalar 7 líneas de 16Amps, 3 por rack Cambiar el sistema de aire acondicionado por uno partido con impulsión en suelo técnico Nuevos racks Redistribución de todas las máquinas de la sala de cálculo Planes: Mayo: redacción del proyecto Junio Julio: concurso público Sep Oct Nov: ejecución 2

3 Instalaciones: Red Los recursos del Tier 2 en el IFIC están ubicados en el centro de cálculo del IFIC en la nave experimental. A la nave llegan 4 pares de fibras ópticas multimodo En la actualidad se emplea un par para la conexión a GbE a la troncal de la Universitat de València (1 GbE) En el futuro se conectará a 1 GbE El PoP de RedIRIS de la Comunidad Valenciana está en el CPD de la Universitat 3

4 Instalaciones: Red Los WN están conectados locamente a un switch de FastEthernet con uplink de GbE. Los switches se conectan a un switch de GbE non blocking Los servidores de disco y gridftp están conectados a GbE directamente En los próximos meses se conectarán todos a GbE (tanto WN, como servidores) siempre que tengan este interfaz 4

5 Recursos actuales: Servicios Máquina Servicio lcg2ce CE ce1 CE lcg2ui UI lcg2ui2 UI ui2 UI ui3 UI aaa lcg2bdii BDII (top) lcg2rb RB lcg2rb2 RB lcg2mon MON lcg2proxy PROXY Máquina Servicio qtt1 quattor, dhcpd qtt2 repositorio gse3 software de las Vos Máquina Servicio castorgrid1 gridftp (castorgrid) castorgrid2 gridftp (castorgrid) castorsrm SRM 5

6 Recursos actuales: WN # CPU Cores Mem/core Ksi2K/core cputmult Ksi2K 8 AMD Athlon 1.2GHz 1 1 GB AMD Athlon 1.4GHz 1 1 GB GB Intel Pentium D 3.2GHz 44 nodos del tipo 1 están apagados actualmente (18KSi2K) WN Intel Pentium D aún no añadidos al ce1. Están siendo empleados en pruebas (3 KSi2K) 6

7 Recursos actuales: WN Algunos problemas con Torque/Maui: 'showstats' mata a veces el daemon de maui En alguna ocasión han quedado varios trabajos asignados al mismo nodo sin correr (problemas de comunicación entre el pbs_server y el pbs_mom) Los nodos antiguos empiezan a tener fallos de hardware (disco y ventiladores). Se reparan y se vuelven a poner en servicio. La ocupación del ce (lcg2ce) hace a veces inaccesible el site bdii 7

8 Recursos actuales: WN group atlas atlp atls ops dteam swetest ific Fairshare implementado en ce1: 7% ATLAS (atlas: 5%, atlp: 5%), 3% IFIC Active Completed Jobs Procs ProcHours Jobs % PHReq % PHDed % FSTgt Parece que funciona! 8

9 Recursos actuales: Almacenamiento Máquina Configuración Capacidad Neta gse4 6xR1D2 16 GB.88 TB gse5 6xR1D2 16 GB.88 TB gse6 6xR1D2 16 GB.88 TB gse7 6xR1D2 2 GB 1.1 TB gse8 6xR1D2 2 GB 1.1 TB gse9 1xR5D12 4 GB 4.74 TB 4. TB 4. TB IFICTAPE IFICDISK 9

10 Recursos actuales: Almacenamiento Almacenamiento basado en CASTOR v1 IFICTAPE y IFICDISK en dos stagers distintos Un único espacio de nombres Selección del stager en función del path ^/castor/ific.uv.es/grid/atlas/da stage2.ific.uv.es ^/castor/ific.uv.es/grid/atlas/sc4da stage2.ific.uv.es ^/castor/ific.uv.es stage1.ific.uv.es Modificaciones en libshift.so, gridftp y srm daemon Problemas con el software de ATLAS que instala su propio libshift.so 1

11 Recursos actuales: Almacenamiento IFICDISK emplea un truco de CASTOR: MAXDRIVES RETENP_ON_DISK INFINITE_LIFETIME Problemas: Cuando un fichero se borra del espacio de nombres (nsrm) el fichero no se elimina físicamente del servidor de disco El interfaz SRM sólo hace 'advisory deletings', o sea, que ni siquiera borra el fichero del espacio de nombres (nsrm) Es necesario correr scripts continuamente para mantener la coherencia del servidor de disco y del stager. 11

12 Uso de los recursos Alta ocupancia de los WN Algunos nodos de lcg2ce apagados por falta de electricidad IFICTAPE: 225 cintas (45TB sin compresión) IFICDISK: 3.6 TB (91%) 12

13 Planes próximos Creación del site IFIC para sustituir a IFIC LCG2 Puesta en marcha de la nueva versión de quattor Uso de certificados IRISGrid Añadir servicios/wn en SL 4 (64 bit) Puesta en marcha de los 4 SunFire X45 en Lustre (dcache) Instalación del switch CISCO 456. Conectar todas las máquinas a GbE (con channel bonding) Instalar un Site BDII en una máquina separada Monitorización con Nagios 13

14 Fortalecimiento de servicios Máquina Tipo Alimentación CPU Memoria CE RAID 1 Redundante 4 Cores 8 GB RB RAID 1 Redundante 4 Cores 8 GB MON RAID 1 Redundante 4 Cores 8 GB Tomcat UI RAID 1 Redundante 4 Cores 8 GB Programas de usuarios TOP BDII 2xHA Normal Dual Core 4 GB Trabajo en paralelo SITE BDII 2xHA Normal Dual Core 4 GB Trabajo en paralelo Proxy 2xHA Normal Dual Core 2 GB sync de directorios VO 2xHA Normal Dual Core 2 GB sync de directorios comentarios 14

15 Conclusiones La capacidad de CPU y almacenamiento cumple con los planes Los servicios han funcionado razonablemente bien Se hará un esfuerzo para ofertar la capacidad de disco comprometida en Julio 27 Se procurará que las modificaciones del CPD del IFIC afecten lo menos posible al funcionamiento del Tier 2 15

16 Backup: Recursos de cálculo científico y procesado de datos en IFIC 16

17 Backup: Recursos de cálculo científico y procesado de datos en IFIC 17