Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en...

30
Barcelona Supercomputing Center - Centro Nacional de Supercomputación 3a Jornada de Usuarios de la RES 1 de julio de 2010 Sergi Girona Director Operaciones

Transcript of Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en...

Page 1: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Barcelona Supercomputing Center -

Centro Nacional de Supercomputación

3a Jornada de Usuarios de la RES1 de julio de 2010

Sergi GironaDirector Operaciones

Page 2: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Centro Nacional de Supercomputación

• Misión del BSC-CNS

• Investigar, desarrollar y gestionar la tecnología para facilitar el avance de la ciencia

• Objectivos del BSC-CNS

• I+D en Computer Sciences, Life Sciences y Earth Sciences.

• Soporte de supercomputación para la investigación externa al BSC-CNS

• BSC-CNS es un consorcio que incluye :

• Gobierno de España (MICINN) – 51%

• Generalitat de Catalunña (DIUE) – 37%

• Universidad Politécnica de Cataluña (UPC) – 12%

2

Page 3: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

BSC-CNS: vertebrador del servicio de supercomputación en España

3

MageritUniversidad Politécnica Madrid

AtlanteITC

La PalmaIAC

CaesarAugustaUniversidad de

Zaragoza

PicassoUniversidad de

Málaga

AltamiraUniversidad de

Cantabria

TirantUniversidad de Valencia

MareNostrumBSC

!"

#!"

$!"

%!"

&!"

'!!"

'#!"

'$!"

#!!%"(#" #!!%"()" #!!%"($" #!!*"('" #!!*"(#" #!!*"()" #!!&"('" #!!&"(#" #!!&"()" #!!+"('" #!!+"(#" #!!+"()" #!'!"('" #!'!"(#"

!"#$%&'&()*(+*,'*-./**

(,-./01,2"

3..,202"

!"

#!!!!"

$!!!!"

%!!!!"

&!!!!"

'!!!!"

(!!!!"

)!!!!"

*!!!!"

+!!!!"

$!!(",$" $!!(",%" $!!(",&" $!!)",#" $!!)",$" $!!)",%" $!!*",#" $!!*",$" $!!*",%" $!!+",#" $!!+",$" $!!+",%" $!#!",#" $!#!",$"

!"#$%&'$&()*+%&$,&#+&-./&

-./01"012340501"

-./01"610501"

-./01"7852501"

90:.1"0;:60<2=05.1"0""%!>!(>$!#!",8/2.5."0;:60<"0;0?0"84"@642."

Page 4: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

BSC-CNS: vertebrador del servicio de supercomputación en España

• Formación

• Usuarios y Administradores de equipos

• Soporte

• Paralelización, escalabilidad y mejora de rendimiento

• Jornadas de usuarios

4

Page 5: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

PRACE & DEISA

5

Page 6: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

PRACE & DEISA

6

Page 7: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

MareNostrum: una mar viva

• MareNostrum2004

• 4812 PowerPC 970 cores

• 2406 JS20 2.2 GHz

• 10 TB of Memory

• 4 GB per node

• 270 TB Storage Capacity

• 3 networks

• Myrinet

• Gigabit

• 10/100 Ethernet

• Operating System

• Linux 2.6 (SuSE)

7

Page 8: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

MareNostrum: una mar viva

• MareNostrum2006

• 10240 PowerPC 970 cores

• 2560 JS21 2.3 GHz

• 20 TB of Memory

• 8 GB per node

• 480 TB Storage Capacity

• 3 networks

• Myrinet

• Gigabit

• 10/100 Ethernet

• Operating System

• Linux 2.6 (SuSE)

8

Page 9: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Red Española de Supercomputación

9

MareNostrumProcessor: 10240 PowerPC 970 2.3 GHzMemory: 20 TBytesDisk: 280 + 90 TBytesNetwork: Myrinet, Gigabit, 10/100System: Linux

UPMProcessor: 2408 PowerPC 970 2.2 GHzMemory: 4.7 TBytesDisk: 63 + 47 TBytesNetwork: Myrinet, Gigabit, 10/100System: Linux

IAC, UMA, UC, UZ, UVProcess: 512 PowerPC 970 2.2 GHzMemory: 1 TByteDisk: 14 + 10 TBytesNetwork: Myrinet, Gigabit, 10/100System: Linux

Gobierno Canarias (ITC)Process: 336 PowerPC 970 2.3 GHzMemory: 672 GByteDisk: 3 TBytesNetwork: Myrinet, Gigabit, 10/100System: Linux

Page 10: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Robot SL8500: HSM / Backup

• 7500 cintas LTO4 de 800 GB cada una ≈ 6 PB nativos

• 8 Brazos trabajando en 4 niveles de altura

• 23 Unidades lectoras LTO 4

• 5 Servidores (Sun Fire v445, 4 CPU UltraSPARC III, 8 GB RAM)

• Armario de discos, 35 TB

10

Page 11: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Otros sistemas

• Sistema de memoria compartida

• 64 blades

• 2 Montecito, dual core 1.6, total 256 cores

• Cache 8 Mbytes

• 2.5 Terabyte main memory

• Data Bases

• PowerPC Cluster

11

Page 12: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

MariCel: Prototipo Español en PRACE

MariCel in 2 racks ofMareNostrum computer room

IBM QS22 Blade Center

72 QS22 IBM Blade serversPowerXCell 8i 3.2Ghz cpus864 GB RAM total1296 cores

12 JS22 IBM Blade serversPower6 64 bits 4.0 GHz dual core96 GB RAM total48 cores

4xDDR InfiniBand (16Gb)MPI, GPFS4 x 24 ports switch

Peak performance14.4 Tflops from 2 rack units20 Kwatts

12

Page 13: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

CNAG, Centro Nacional de Análisis Genómico

• National centre of Genomics analysis

• BSC provides HPC and data IT services to CNAG

• Next generation sequencing

13

Aligned results 250-500 GB/run

Sequence analysis,Alignment and

clustering

Raw Data:1-2TB/run

2 runs/week10 machines

Image processingTo generate

sequence data

Rapid sequencing of whole individuals,Detailed studies of cellular processes

Page 14: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Infraestructura del CNAG

• 1 PB of Storage in 2 Lustre Filesystems:

• /project – 400 TB for sequencing results

• /scratch – 600 TB temporary and intermidiate data

• 5 GB/s of performance in reads and writes shared between both filesystems

14

FC8

MDS1

MDS2

Metadata Storage48x SAS 450 GB

Data Storage600x SATA 2 TB

OSS 1

OSS 2

OSS 3

OSS 4

Journal4xSSD + 5xHDD

1/10

GE

SW

ITC

H

Compute Cluster- 104 nodes – 832 cores

- 8 cores per node

-18 GB DDR3 per node

- IB QDR non-blocking for MPI

- Performance peak 9TF

FC8 link

10GE link

Page 15: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Infraestructura en el CNAG

15

MDS1

MDS2

Metadata Storage

Data Storage

1 PB

OSS 1

OSS 2

OSS 3

OSS 4

Journal

1/10

GE

SW

ITC

H CNAG Compute Cluster18 x 10GE

1 GE link

FC8 link

10GE link

10 Se

quen

cers

MareNostrum 6PB Tape Storage

10 x 10GE

BSC Resources

Page 16: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Proyectos científicos en la RES

16

Astronomía, Espacio y Ciencias de la

Tierra

Biomedicina y Ciencias de la Vida

Física e Ingeniería

Química y Ciencia y Tecnología de los

Materiales

BSC

12 17 12 16 21 14 14 11 14 12 14 11 14 18 16 216

20 26 18 18 26 24 20 28 24 22 23 26 29 24 19 347

19 24 17 20 32 29 22 21 32 26 24 21 23 21 25 356

21 27 23 18 33 32 31 26 29 26 22 22 16 23 26 375

14 19 14 14 22 29 17 17 20 17 17 16 16 17 17 258

2005 200620062006 200720072007 200820082008 200920092009 20102010 1552

Page 17: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Proyectos de la RES

Red  privada  RES  (a  través  de  RedIris)

Internet

Cabeza

Nodo RES

AccountingMonitorización rendimientoSistema de alarmasAdministración Usuarios CentralizadaMonitorización de RedInformes de uso de usuariosTrouble ticket systemINCA: disponibilidad de serviciosPerfminer

Monitor

GPFS

Logins

Frontend

Moab-MC

Proceso

GPFS-MCTransferencias (SSHFS,gridftp,…)

HSM (via NFS from BCN)

17

LAN local(acceso restringido)

Page 18: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Red de la RES

• Red privada entre los centros de la RES proporcionada por RedIris

• Servicios con requerimientos ancho de banda

• GPFS-MC: Enlace de 1 Gbit mínimo

• Montaje HSM

• Transferencia de ficheros

• Servicios con requerimientos de seguridad

• Monitorización de la red de la RES

• Sistema de autenticación distribuido

• Monitorización de clusters

• Accounting de horas de computación

• Repositorio de software de computación

• Servidores de licencias compartidos para la RES

• Moab MultiCluster

Page 19: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Soporte de proyectos/actividades en la RES

• El nivel de soporte que se da a los proyectos que se ejecutan en la RES es :

• Optimización de Código para los supercomputadores de la RES

• Paralelización y mejora de escalabilidad

• Optimización en procesos de Input/Output

• Porting de códigos ( Arquitectura, GridSuperscalar,...)

• Training de usuarios

• Debugging de códigos (Totalview, Paraver, DDT,...)

• Resolución de problemas técnicos y administrativos .

• Creación de cuentas

• Ayuda en la petición de recursos

• Informes semanales

• ...

19

Page 20: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Soporte de proyectos en la RES

• A parte de lo comentado anteriormente, existen opciones para recibir soporte extra :

• Actividades de test

• Ayudas ICTS

• Visitas al site asignado para soporte in-situ

• Preparación de actividades

• http://www.bsc.es/plantillaA.php?cat_id=66

• Movility program HPC-Europa2

• http://www.hpceuropa.org

20

Page 21: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Jornadas de Usuarios

• Presentación de RES, Difusión de investigaciones en diferentes áreas de la Ciencia, Comité de Acceso

• 1a Jornada: Barcelona, 23 de abril de 2008

• Speakers: Francisco Javier Luque, Arcadi Navarro, Javier Jiménez Sendín, Fernando Martín, Gustavo Yepes, Fernando Moreno Insertis, Francesc Illas, Rubén Pérez, Fernado Javier de la Cruz.

• 2a Jornada: Santander, 23 de setiembre de 2009

• Speakers: Sjors Scheres, Carme Rovira, Assumpta Parreño García, Francisco Castejón, Marcel Swart, Nuria Lopez, Pablo Fosalba, Enrique Martinez Gonzalez, Ramón Beivide, Joaquin Serrano, Sergi Girona.

• 3a Jornada: Zaragoza, 1 de Julio de 2010

21

Page 22: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Formación de usuarios

• User Training: Programming models (STARSs)

• Fecha: 20-21 Septiembre de 2010. Lugar: Barcelona

• Fecha: 14-15 Octubre, 2010. Lugar: Tenerife

• Temas

• Introducción y objetivos de GridSs/COMPSs

• Migración de GridSs a COMPSs

• Introducción a STARSs

• Modelo Híbrido MPI/SMPSs

22

Page 23: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Formación de usuarios

• Parallel computing

• Fecha: 20 Octubre de 2010

• Lugar: Santander

• Temas:

• Librerías paralelas de I/O (p.e. Parallel-HDF5, PNETCDF)

• Sistemas de ficheros paralelos (GPFS, LUSTRE,…)

• MPI2 centrado en Parallel I/O

• Uso eficiente de sistemas de ficheros paralelo

• Depuración de código paralelo

23

Page 24: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Formación de usuarios

• Introduction to supercomputing

• Fecha: 4 de noviembre de 2010

• Lugar: Barcelona

• Temas:

• Introducción a la supercomputación

• Optimización de código

• Adaptación de aplicaciones a un entorno paralelo usando MPI.

24

Page 25: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Formación de usuarios

• Simulaciones paralelas en la red

• Fecha: 10 de noviembre de 2010

• Lugar: Zaragoza

• Temas:

• La discretización del espacio (e incluso del tiempo) permite reducir enormemente los grados de libertad y acelerar las simulaciones. Además una discretización apropiada en problemas donde la interacción es relativamente local, permite paralelizar de forma altamente eficiente.

• Son muchos los problemas donde pasar a trabajar en la red, es posible. Abarcan desde las simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones Gauge en el Retículo, con y sin ferminoes dinámicos, simulaciones con elementos finitos, o simulaciones de Monte Carlo de sistemas magnéticos, entre otros muchos.

• En estos modelos las altas eficiencias paralelas se obtienen no solo por la discretización del espacio o el tiempo, sino también por desarrollos de algoritmos numéricos y computacionales importantes que se han producido en los últimos años.

• Speakers:

• Dinámica molecular: Grupo de Ángel Rubio

• Proteínas: Grupo de Modesto Orozco

• Teorías Gauge con Fermiones en la Red: Grupo de Vicente Azcoiti y Grupo de Pilar Hernández

• Simulaciones de Monte Carlo de sistemas magnéticos: Grupo de Luis Antonio Fernández.

25

Page 26: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Seminarios científicos

• Proteómica

• Fecha: a determinar

• Lugar: Málaga

• Astrofísica

• Fecha: a determinar

• Lugar: Valencia

• Ciencias de la Tierra

• Fecha: a determinar

• Lugar: Barcelona

26

Page 27: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Seminarios/Formación técnicos

• Implementación del enfoque ITIL en la gestión técnica de los servicios de la RES

• Fecha: 18 y 19 de mayo de 2010

• Lugar: Santander

• Temas: Certificación ITIL, ITIL en Centros de Supercomputación, Herramientas básicas, Documentación de ITIL

• Speakers: Jesús Marco & Ibán Cabrillo (IFCA), Roberto Hidalgo & Carlos San Martín (CIC-SL), Antonio J. Arévalo Manzano & Miguel A. Sanz (SATEC), Michael Brenner (LRZ), Javier Bartolomé & David Vicente (BSC)

• Gestión energética y refrigeración de un CPD

• Fecha: 19 y 20 de mayo de 2010

• Lugar: Santander

• Temas: Introducción a la refrigeración de un HPC, Impacto en el coste de los servicios, Código de conducta en CPDs

• Speakers: Jesús Marco & Fernando Gómez (IFCA), Ángel García (IBM), Ángel Pérez (APC), Celestino Güemes (Mundivia-Atos), Henry Daunet & Miquel Pérez (AST), Iván Gimeno (Rittal), Oscar Higuera & David García (Talleres Hidalgo)

27

Page 28: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Seminarios/Formación técnicos

• Gestión de almacenamiento en la RES

• Fecha: 14 de septiembre de 2010

• Lugar: Barcelona

• Temas:

• Descripción del hardware de almacenamiento en la RES.

• Tareas típicas de mantenimiento, herramientas de monitorización, optimización...

• GPFS: descripción, comandos, cuotas, versión multicluster...etc.

• Presentación de alternativas hardware y software.

28

Page 29: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Seminarios/Formación técnicos

• Funcionamiento y aplicación de Perfminer

• Fecha: 15 de septiembre de 2010

• Lugar: Barcelona

• Temas

• Descripción del funcionamiento y aplicación de Perfminer para recopilar, almacenar y representar datos sobre el rendimiento del sistema.

• Seminario técnico: Visualización y realidad virtual

• Fecha: 15 de diciembre de 2010

• Lugar: Barcelona

• Temas

• Introducción a la visualización científica usando realidad virtual

29

Page 30: Barcelona Supercomputing Center - Centro Nacional de ... · simulaciones de Dinámica Molecular en Materia Condensada, en péptidos, en proteínas, en docking, etc, las simulaciones

Gracias

30