clusters de alto rendimiento - cgti.udg.mx · • sistema operativo distinto • rendimiento de los...

27
Clusters de Alto Rendimiento Contenido: M. en A. Iliana Gómez Zúñiga i [email protected] Expositor: L.S.I. Virgilio Cervantes Pérez [email protected] Diseño: Lic. Genaro Ramirez [email protected]

Upload: duongkhue

Post on 30-Sep-2018

218 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Clusters de Alto Rendimiento

Contenido: M. en A. Iliana Gómez Zúñiga [email protected] Expositor: L.S.I. Virgilio Cervantes Pérez [email protected]

Diseño: Lic. Genaro Ramirez [email protected]

Page 2: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Porque Linux •  1991 Nace Linux •  1993 Samba •  1993 Nace Tux •  1997 Surgió el Proyecto KDE y el Proyecto Gnome •  Linux en otras plataformas como la Power PC de Macintosh, la

Amiga, los IBM S/390, IBM RS-6000, los MIPS de Silicon Graphis, los Motorola 6800.

•  Soportar cada vez más dispositivos, sobre todo aquellos que suele tener la PC hogareña, como tarjetas de sonido, tarjetas de captura de video,

•  Se le agregaron capacidades para redes que le permitían ponerse a la par de routers, switches, y servicios que habitualmente se asociaban a máquinas Unix muy costosas.

•  Embebido en un microprocesador, como el de un Palm Pilot. IBM ya lo puso en un reloj.

•  2001 Escritorios completamente viables.

Page 3: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Como han evolucionado las plataformas

2100 2100 2100 2100 2100

2100 2100 2100 2100

Desktop SuperCom-putadoras

Cluster Local

Cluster/Grid Globales

RENDIMIENTO

Cluster/Grid

?

Clusters

interplanetarios??

Page 4: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

¿Qué es un cluster?

•  Los Cluster en computación son un colección de computadoras interconectadas de alguna manera, que trabajan en conjunto, distribuyéndose las tareas entre ellas, logrando que el usuario lo vea como una sola.

Page 5: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Otras definiciones de cluster

•  Un cluster consiste en un conjunto de máquinas y un servidor de cluster dedicado, para realizar los relativamente infrecuentes accesos a los recursos de otros procesos, se accede al servidor de cluster de cada grupo

del libro Operating System Concepts de Silberschatz Galvin.

Page 6: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

¿Cómo funciona un cluster?

Page 7: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Requerimientos Básicos •  Un cluster consta de por lo

menos 2 o más nodos •  Los nodos de un cluster

están conectados entre sí por al menos un canal de comunicación

•  Los clusters necesitan software de control especializado

Page 8: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Homogeneidad de un cluster

•  Homogéneos: formados por equipos de la misma arquitectura. Todos los nodos tienen una arquitectura y recursos similares, de manera que no existen muchas diferencias entre cada nodo.

•  Heterogéneos: formados por nodos con distinciones que pueden estar en los siguientes puntos. Tiempos de acceso distintos

•  Arquitectura distinta •  Sistema operativo distinto •  Rendimiento de los procesadores o recursos sobre una misma

arquitectura distintos

Page 9: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

¿Por qué construir un cluster?

Cuando necesitamos que una aplicación o servicio disponga de :

•  Alta Disponibilidad (High Availability ) •  Alta Confiabilidad (High Reliability ) •  Alto Rendimiento (High Performance)

Page 10: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Alta Disponibilidad (High Availability )

•  Sistemas de información redundante •  Sistemas tolerantes a fallos •  Balanceo de carga entre varios servidores •  Balanceo de conexiones entre varios

servidores

Page 11: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Alta Confiabilidad (High Reliability )

•  Generalmente este tipo de clusters suele ser utilizado para entornos de tipo empresarial y esta funcionalidad solamente puede ser efectuada por hardware especializado.

Page 12: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Alto Rendimiento (High Performance)

•  Cálculos matemáticos •  Renderizaciones de gráficos •  Compilación de programas •  Compresión de datos •  Descifrado de códigos

Page 13: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

¿Con que construyo mi cluster?

•  Opción I: son construidos en su totalidad usando hardware y software común y utilizando tecnología estándar como SCSI, tarjetas de red Ethernet etc.(más económicos).

•  Opción II: construidos con hardware especial para lograr un mejor desempeño. (más caros).

Page 14: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Requiere Software como..

•  MPI •  PVM •  PBS

Page 15: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Top500

•  En la página de www.top500.org se publica dos veces por año la lista de las supercomputadoras más rápidas del mundo.

Page 16: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Top500

4035 5232 Atipa Cluster, Opteron, Myrinet / 1090

Atipa Technology DOE/Bettis Atomic Power Laboratory United States/2005 75

6155 8800 AIST Super Cluster P-32

AIST Super Cluster P-32, Opteron 2.0 GHz, Myrinet / 2200 IBM

Grid Technology Research Center, AIST Japan/2004 46

6586 9216 xSeries Cluster Xeon 2.4 GHz -

Quadrics / 1920 IBM/Quadrics

Lawrence Livermore National Laboratory United States/2003 42

7634 11060 MCR Linux Cluster Xeon 2.4 GHz -

Quadrics / 2304 Linux Networx/Quadrics

Lawrence Livermore National Laboratory United States/2002 34

8633 11616 Mpp2

Cluster Platform 6000 rx2600 Itanium2 1.5 GHz, Quadrics / 1936 Hewlett-Packard

Pacific Northwest National Laboratory United States/2003 30

8728 12534 RIKEN Super Combined Cluster / 2048

Fujitsu Institute of Physical and Chemical Res. (RIKEN) Japan/2004

29

8770 13926 John Von Neumann

LNX Cluster, Xeon 3.4 GHz, Myrinet / 2048 Linux Networx

US Army Research Laboratory (ARL) United States/2004 28

27910 42144 MareNostrum

JS20 Cluster, PPC 970, 2.2 GHz, Myrinet / 4800 IBM

Barcelona Supercomputer Center Spain/2005 5

136800 183500 BlueGene/L

eServer Blue Gene Solution / 65536 IBM

DOE/NNSA/LLNL United States/2005 1

Rmax Rpeak Computer / Processors

Manufacturer Site Country/Year Rank

Page 17: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Estadisticas del 2002

•  Un total de 55 clusters de PCs basados en Intel y ocho en AMD estaban presentes en el TOP500.

•  El número de clusters en el TOP500 creció a un total de 93 sistemas. Catorce de estos clusters se etiquetan como 'Auto construidos' al haber sido diseñados y ensamblados por los propios usuarios finales.

Page 18: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Aplicaciones corriendo en clusters

•  Simulaciones de biotecnología, •  Petroleras, •  Modelación de mercados financieros, •  Grandes cálculos matemáticos, •  Predicción del clima, •  Servidores de Internet.

Page 19: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Ejemplos

•  Un negocio en Internet que recibe millones de peticiones por día, y tiene que asegurarse de que los servidores respondan rápidamente a las peticiones de los clientes (Rendimiento)

•  Asegurarnos de que nuestros servidores estén disponibles todo el tiempo aun cuando exista algún problema en alguno de ellos.(Disponibilidad)

Page 20: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

¿Porque cluster con linux?

•  Costo – beneficio

•  Escalabilidad

•  Estabilidad

Page 21: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Ejemplos de cluster con linux

•  ** La película Titanic hizo todas sus animaciones y efectos especiales con cluster basados en Linux.

•  ** El proyecto Genoma Humano fue realizado con cluster basados en Linux, y con software de código abierto.

•  ** En Japón donde hay un gran interés por predecir las tormentas acaban de construir uno de los supercomputadores más grandes del mundo utilizando clusters de Linux para cálculo numérico.

Page 22: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Grid Vs. Cluster

Page 23: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Distribución de Software:

•  OpenMosix •  Scyld •  Oscar •  Rocks •  Atipa •  N1

Page 24: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Instalación de la distribución Rocks:�

VENTAJAS DE ROCKS

•  Facil de Instalar •  Facil para construir •  Facil de administrar •  Facil de usar

Page 25: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Características de ROCKS

•  RedHat Linux

•  Soporta las siguientes Procesadores: – AMD –  Itanium

Page 26: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Requerimientos minimos de Hardware

Nodo Maestro: •  Disk Capacity: 16 GB •  Memory Capacity: 512 MB •  Ethernet: 2 physical ports (e.g., "eth0" and "eth1")

Nodo Esclavo: •  Disk Capacity: 16 GB •  Memory Capacity: 512 MB •  Ethernet: 1 physical port (e.g., "eth0")

Page 27: Clusters de Alto Rendimiento - cgti.udg.mx · • Sistema operativo distinto • Rendimiento de los procesadores o recursos sobre una misma arquitectura distintos ¿Por qué construir

Referencias

•  http://www.straddle3.net/context/02/02112 .es.html

•  http://www.top500.org •  http://www.rockclusters.org •  http://www.linuxvirtualserver.org