servicio general de informática aplicada a la investigación
TRANSCRIPT
![Page 1: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/1.jpg)
19 de febrero de 2009 SGI-IZO/SGIker - p. 1/36
Servicio General de Informática aplicada a lainvestigación
Cálculo Científico
◭ Calcular en el SGI-IZO ◮
Dr. Txema MerceroDr. Edu Ogando
SGIker
http://www.ehu.es/SGI
![Page 2: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/2.jpg)
Introducción
● Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 2/36
Introducción
![Page 3: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/3.jpg)
Introducción
● Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 3/36
Introducción
Qué es este curso
Las máquinas del SGI-IZO tienen unas particularidades quees preciso o muy recomendable conocer para trabajar con
ellas. Por otro lado el uso de máquinas de cálculo requiere deuna metodología especial y el uso de programas como
gestores de colas.
En este curso se explicara la composición y estructura de lasmáquinas del SGI-IZO, como calcular en ellas y como hacerlo
de una forma eficiente.
![Page 4: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/4.jpg)
Introducción
Arquitecturas
● Tipos de arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 4/36
Arquitecturas
![Page 5: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/5.jpg)
Introducción
Arquitecturas
● Tipos de arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 5/36
Tipos de arquitecturas
■ Itanium2 - ia64■ Opteron - x86_64 (Xeon, core2duo)■ Pentium - x86
■ Mac - ppc■ Sun - sparc
![Page 6: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/6.jpg)
Introducción
Arquitecturas
● Tipos de arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 5/36
Tipos de arquitecturas (Itanium2)
■ Itanium2 - ia64Compiladores de Intel (ifort, icc, icpc)
■ Opteron - x86_64 (Xeon, core2duo)■ Pentium - x86
■ Mac - ppc■ Sun - sparc
![Page 7: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/7.jpg)
Introducción
Arquitecturas
● Tipos de arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 5/36
Tipos de arquitecturas (Opteron)
■ Itanium2 - ia64■ Opteron - x86_64 (Xeon, core2duo)
Compiladores de PGI (pgf77, pgf90, pgcc, pgCC)Alternativamente compiladores de Intel y GNU
■ Pentium - x86
■ Mac - ppc■ Sun - sparc
![Page 8: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/8.jpg)
Introducción
Arquitecturas
● Tipos de arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 5/36
Tipos de arquitecturas (Pentium)
■ Itanium2 - ia64■ Opteron - x86_64 (Xeon, core2duo)■ Pentium - x86 (Pendulo)
Compiladores de IntelAlternativamente compiladores de PGI y GNU
■ Mac - ppc■ Sun - sparc
![Page 9: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/9.jpg)
Introducción
Arquitecturas
Compilar
● Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 6/36
Compilar
![Page 10: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/10.jpg)
Introducción
Arquitecturas
Compilar
● Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 7/36
Compilar
■ Compilar en Arinaifort inputfile.f90 -o outputfileifort inputfile.f90 -o outputfile_ia64
■ Compilar en Maizpgf90 inputfile.f90 -o outputfilepgf90 inputfile.f90 -o outputfile_x86_64
■ Compilar en Pénduloifort inputfile.f90 -o outputfileifort inputfile.f90 -o outputfile_i686
i f o r t hola . f90 −o ho la ia 64
. / ho la ia 64
. / ho la $ ( arch )
![Page 11: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/11.jpg)
Introducción
Arquitecturas
Compilar
● Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 7/36
Cargar entorno
Los compiladores y librerías los actualizamos regularmente.No siempre se mantiene la compatibilidad hacia atrás. Hay dossoluciones:
1. Recompilar el programa. Para programas sencillos es másseguro y aprovechamos las nuevas ventajas de laactualización.
2. Cargar el entorno, librerías con las que se compiló.source /opt/intel/fc/10.1.017/bin/ifortvars.sh
source
/opt/intel/mkl10.3/tools/environment/mklvars64.sh
![Page 12: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/12.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
● Paralelización
● Paralelización - OpenMP
● Paralelización - MPI
● Paralelización - Rendimiento
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 8/36
Paralelización
![Page 13: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/13.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
● Paralelización
● Paralelización - OpenMP
● Paralelización - MPI
● Paralelización - Rendimiento
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 9/36
Paralelización
Es el uso de varios procesadores para realizar un únicotrabajo, ejecutándose de forma paralela en todos.
Es necesario programarlo específicamente.■ OpenMP■ MPI
Es el futuro
![Page 14: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/14.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
● Paralelización
● Paralelización - OpenMP
● Paralelización - MPI
● Paralelización - Rendimiento
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 10/36
Paralelización - OpenMP
■ Más fácil de implementar.■ Menos eficiente en general.■ Sólo puede usar un nodo.
N=1
10
aNs=
N=6
10
aNs1=
N=1
5
aNs2=
s=s1+s2
La variable a es la misma para los dos hilos.
![Page 15: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/15.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
● Paralelización
● Paralelización - OpenMP
● Paralelización - MPI
● Paralelización - Rendimiento
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 11/36
Paralelización - MPI
■ Más difícil de implementar.■ Más eficiente en general.■ Permite usar muchos nodos.
N=1
10
aNs=N=6
10
aNs1=
N=1
5
aNs2=
s=s1+s2
N=1
10
aNs= s=s1+s2
Master
La variable a es diferente para cada proceso.
![Page 16: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/16.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
● Paralelización
● Paralelización - OpenMP
● Paralelización - MPI
● Paralelización - Rendimiento
Configuración
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 12/36
Paralelización - Rendimiento
“La ley de Amdahl”
T0 = Ts + Tp(N = 1)T = Ts + Tp(N)
speedup = T0
T= N
1+s(N−1)
0
4
8
12
16
20
24
28
32
12 16 20 24 28 324 80
spee
d up
Cores
24
5%
8
13
10%
1%
codigo en serie 0%
![Page 17: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/17.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 13/36
Configuración
![Page 18: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/18.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 14/36
Configuración
■ Servidores de conexción■ Nodos de cálculo.■ Almacenamiento.■ red.
![Page 19: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/19.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 15/36
Servidores
■ Servidores de conexción.Arina (Itanium2).Maiz (Opteron) Más rápido para aplicaciones gráficas.Pendulo (Pentium).
Arinaz (Antiguo servidor Itanium2).
■ Nodos de cálculo.■ Almacenamiento.■ Red.
![Page 20: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/20.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 16/36
Nodos de Cálculo
■ Servidores de conexción.■ Nodos de cálculo.
320 cores en 42 nodos con 4-8 CPUs.4-128 GB de RAM por nodo.Arquitecturas ia64 y x86_64.
160 cores i686 en Péndulo.
■ Almacenamiento.■ Red.
![Page 21: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/21.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 17/36
Almacenamiento
■ Servidores de conexción.■ Nodos de cálculo.■ Almacenamiento./home./software (/software/bin)./scratch (36-550 GB.)/gscratch (4.2 TB.)
■ Red.
![Page 22: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/22.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 18/36
Red
■ Servidores de conexción.■ Nodos de cálculo.■ Almacenamiento.■ Red.
Ethernet (Interna).Infiniband (Cálculo).
![Page 23: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/23.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 19/36
Red
■ Servidores de conexción.■ Nodos de cálculo.■ Almacenamiento.■ Red.
NOTA
Péndulo usa PCs de las aulas de docencia por ello los nodosde cálculo solo están disponibles 11.5 horas entre semana y58 horas los fines de semana.
![Page 24: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/24.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 20/36
Esquema
![Page 25: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/25.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 20/36
Esquema
Disco local
(NFS) Unidad virtualexportado desde elservidor
(NFS) Unidad virtualexportado desde otro nodo
servidor péndulo (lgua02)
servidor arina ( lgua00)
Conexión ethernet 100 Mbps
Conexión ethernet 1 Gbps
/queue_scratch
RAM1 GB
4 cpu/software
/home268 GB
/home(lgua00)
/gscratch 55G
/scratch 55G /software
1-2 cpu
/queue_scratch /home
Cola pruebas(2 ordenadores)
Aula de cursos(20 ordenadores)
S.O. SuSE Linux
S.O. SuSE Linux
Nuevo Aula de campus60 equipos
Torque / Maui Torque / Maui
![Page 26: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/26.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 20/36
Esquema
Nuestra trabajo es que toda esta complejidad desaparezca yel uso sea transparente.
![Page 27: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/27.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 21/36
Galería
![Page 28: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/28.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
● Configuración
● Servidores
● Nodos de Cálculo
● Almacenamiento
● Red
● Red
● Esquema
● Galería
Colas
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 21/36
Galería
![Page 29: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/29.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 22/36
Colas
![Page 30: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/30.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 23/36
Gestores: Torque + Maui
Torque gestiona los trabajos, conoce sus propiedades y las delos nodos. El scheduler Maui se encarga de gestionar el ordende los trabajos.
■ 1 proceso un core, es lo más eficiente.■ Selecciona los nodos adecuados.■ Establece prioridades de ejecución.
Hay dos gestores de colas, uno para Arina y otro paraPéndulo.
En los servidores sólo se pueden correr de forma interactiva odirecta pequeños tests o programas.
![Page 31: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/31.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 24/36
Acciones básicas
1. Mandar trabajosqsub
2. Mostrar estadoqstat
3. Borrar trabajosqdel
![Page 32: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/32.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub
qsub es el comando para enviar un trabajo al sistema de colas.
qsub script.pbs
Otras variantes
qsub: Realiza preguntas de modo interactivoqsub_arina: Manda los trabajos a Arinaqsub_pendulo: Manda los trabajos a Pénduloqsub_all: Manda los trabajos a ambos clusters
![Page 33: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/33.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub
qsub all manda los trabajos a ambos clusteres pero se ejecutaallí donde primero se encuentran recursos disponibles.
qsub_all traduce automáticamente por ejemplo
#PBS -l nodes=1:ppn=8
que es adecuado para Arina a
#PBS -l nodes=4:ppn=2
adecuado para los PCs con dos cores de Péndulo.
![Page 34: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/34.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
Ejemplo qsub
qsub
##entramos en modo i n t e r a c t i v o
0
sleep 60
job . pbs
1:00:00
250mb
1
1
0
0
n
resu l tados
1
![Page 35: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/35.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
Ejemplo qsub
Hemos lanzado un trabajo a la cola y el scrip que ha utilizadoestá en nuestro directorio.
q s t a t −a
l s
head −4 job . pbs
Veamos las directrices de PBS
![Page 36: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/36.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub -l
-l nodes nos permite definir las propiedades como el número yla distribución de cores que vamos a usar.
■ #PBS -l nodes=1:ppn=1 1 nodo un core■ #PBS -l nodes=1:ppn=4 1 nodo 4 cores por nodo■ #PBS -l nodes=2:ppn=4 2 nodos 4 cores por nodo■ #PBS -l nodes=1:ppn=8 1 nodos 8 cores por nodo■ #PBS -l nodes=2:ppn=8 2 nodos 8 cores por nodo
Estas combinaciones son las más efectivas, reducen el tiempode espera en cola y maximizan el uso del cluster.
Usar 1 cpu o múltiplos de 4.
![Page 37: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/37.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub -l
Etiquetas
Las usamos para escoger el tipo de nodos que queremos usar.
■ #PBS -l nodes=1:ppn=1:itanium (a la arquitecturaitanium)
■ #PBS -l nodes=1:ppn=1:opteron (a la arquitecturaopteron)
■ #PBS -l nodes=1:ppn=1:itanium4 (a los nodositanium de 4 cores)
■ #PBS -l nodes=1:ppn=1:itanium8 (a los nodositanium de 8 cores)
http://www.ehu.es/SGI/Cluster_Arina_tf.html
![Page 38: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/38.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub -l
-l mem nos permite definir la memoria RAM.
■ #PBS -l mem=100mb (100 MB)■ #PBS -l mem=2gb (2 GB)
No nos reserva memoria a nivel de SO, es sólo gestión.
Si está cerca del límite la cambiamos.
Es mejor ajustar para tener más posibilidades.
![Page 39: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/39.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub -l
-l walltime selecciona el tiempo real de cálculo.
■ #PBS -l walltime=12:00:00Solicitamos 12 horas (HH:MM:SS)
Es mejor ajustar para tener más posibilidades para permitirnosuna mejor administración.
Podemos aumentar el walltime.
![Page 40: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/40.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub -l
El walltime determina la prioridad con que se le asigna anuestro trabajo. Es independiente de la cola.Hay dos formas de aumentar la prioridad.
1. Proporcionalmente al tiempo que lleva en cola.2. Proporcionalmente al tiempo que lleva en la cola respecto
del walltime solicitado.3. Como tiempo de referencia están puestas 36 horas.
Ejemplo:
walltime=100:00:00 y 50 horas en cola.Suma 50 + 50
10036 = 68 puntos.walltime=2:00:00 y 4 horas en cola.
Suma 4 + 4236 = 76 puntos.
![Page 41: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/41.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub -M -m
■ #PBS -M [email protected] nuestra dirección de correo
■ #PBS -m be
Nos manda un trabajo cuando el programa entra en ejecuciónb y cuando termina e y nos manda cierta información,podemos escoger una de las acciones o las dos.
![Page 42: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/42.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 25/36
qsub -W
■ #PBS -W group list=grupo
Nuestro trabajo es lanzado como si pertenecieramos al gruposeñalado. Permite que el trabajo use la “cuenta” de otro grupo.Es necesario que el usuario pertenezca a ese otro grupo.
![Page 43: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/43.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 26/36
qstat
■ Nos da información del status de los trabajos.■ Tiene varios flags, -u nos permite filtrar un usuario.■ Accesos rápidos
Trabajos en estado queuedqqstat
Trabajos en estado runningrqstatrrqstat
Otras variantes
qstat_arina: Estado de los trabajos a Arinaqstat_pendulo: Estado de los trabajos a Péndulo
![Page 44: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/44.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 27/36
qdel
■ Nos permite eliminar trabajos de la cola.■ Si está en estado running se interrumpe la ejecución del
script, no se devuelven los ficheros.
Otras variantes
qdel_arina: Elimina los trabajos a Arinaqdel_pendulo: Elimina los trabajos a Pénduloqdel_all: Elimina los trabajos a ambos clusters
![Page 45: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/45.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 28/36
Maui
■ showqNos da información sobre los trabajos. Flags -b, -u, -r, -i.Tiene varios flags, -u nos permite filtrar un usuario.
■ showstartNos da una estimación de cuando entrará nuestro trabajo enejecución.
![Page 46: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/46.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 29/36
Comandos interesantes
■ nowNos da información sobre el estado de los nodos.
■ myjobsNos da información sobre nuestros trabajos en ejecución.
■ gastuaNos da el gasto realizado desde la última convocatoria.
![Page 47: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/47.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 30/36
Ejercicios
Miramos el estado del cluster, editamos el script para usar 2cpus y mandamos el trabajo a Arina
now
showq
g e d i t job . pbs &
qsub job . pbs
Buscamos nuestro trabajo y lo eliminamos
q s t a t −u $USER
qdel ( j o b i d )
q s t a t −u $USER
![Page 48: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/48.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 30/36
Ejercicios
Mandamos el trabajo a Péndulo y lo eliminamos
qsub pendulo job . pbs
qs ta t pendu lo
qdel pendulo ( j o b i d )
Mandamos el trabajo a ambos clusters y lo eliminamos
q s u b a l l job . pbs
qs ta t pendu lo −u $USER
q s t a t −u $USER
q d e l a l l ( j o b i d )
qs ta t pendu lo −u $USER
![Page 49: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/49.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 31/36
Script torque
Veamos que hace este script.
g e d i t job . pbs &
![Page 50: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/50.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 32/36
qsub específicos
Existen comandos específicos para facilitar el envío detrabajos de ciertos programas.
send_adf Manda trabajos adf.send_cp2k Manda trabajos cp2k.send_cpmd Manda trabajos cpdm.send_gamess Manda trabajos gamess.send_gauss Manda trabajos gauss.send_jaguar Manda trabajos jaguar.send_mmodel Manda trabajos macromodel.send_nwchem Manda trabajos nwchem.send_qsite Manda trabajos qsite.send_siesta Manda trabajos siesta.
![Page 51: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/51.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
● Gestores: Torque + Maui
● Acciones básicas
● qsub
● qstat
● qdel
● Maui
● Comandos interesantes
● Ejercicios
● Script torque
● qsub específicos
Monitorización web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 32/36
qsub específicos
La sintaxis es en todos similar, por ejemplo
send gauss h2o 10:00:00 4
Para lanzar un trabajo de Gaussian cuyo fichero de entrada esh2o.com, con un walltime de 10 horas y a 4 cores.
Para detalles sobre este y otros comandos ver
http://www.ehu.es/SGI/Como_encolar_trabajos_tf.html
![Page 52: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/52.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
● Monitorizacin Web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 33/36
Monitorización web
![Page 53: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/53.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
● Monitorizacin Web
¡Socorro!
19 de febrero de 2009 SGI-IZO/SGIker - p. 34/36
Monitorizaci n Web
Se pueden monitorizar
■ Los trabajos.■ El estado del cluster.■ El accounting (pluggins para firefoxhttp://mycroft.mozdev.org/).
Se actualiza cada 5 minutos salvo el accounting que seactualiza cada 24 horas.
![Page 54: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/54.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
● Ayuda
19 de febrero de 2009 SGI-IZO/SGIker - p. 35/36
¡Socorro!
![Page 55: Servicio General de Informática aplicada a la investigación](https://reader035.vdocumento.com/reader035/viewer/2022080210/62e7cc056a0b95623764cc22/html5/thumbnails/55.jpg)
Introducción
Arquitecturas
Compilar
Paralelización
Configuración
Colas
Monitorización web
¡Socorro!
● Ayuda
19 de febrero de 2009 SGI-IZO/SGIker - p. 36/36
Ayuda
http://www.ehu.es/sgihttp://www.google.com
No dudéis en preguntarnos
Txema Mercero
Edu Ogando
Gracias por vuestra amable atencion.