procesamiento paralelo - arquitecturas de computadoras paralelas 2016-03-28 · la arquitectura f...
TRANSCRIPT
![Page 1: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/1.jpg)
Procesamiento ParaleloArquitecturas de Computadoras Paralelas
Javier Iparraguirre
Universidad Tecnologica Nacional, Facultad Regional Bahıa Blanca11 de Abril 461, Bahıa Blanca, Argentina
http://www.frbb.utn.edu.ar/hpc/
21 de marzo de 2016
![Page 2: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/2.jpg)
Marco Conceptual
![Page 3: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/3.jpg)
Arquitectua von Neumann (1945)
![Page 4: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/4.jpg)
Arquitectua von Neumann (1945)
• Cuatro componentes principales• memoria• Unidad de Control• Unidad aritmetica• Entrada/Salida
• I/O: memoria de acceso aleatorio para almacenar datos einstrucciones
• La unidad de control trae instrucciones y datos de la memoria,decodifica las instrucciones y secuencialmente coordina lasoperaciones para llevar a cabo la tarea programada
• La Unidad aritmetica realiza las operaciones aritmeticasbasicas
• La entrada/salida es la interfaz con el humano
• Cache: ¿Ideas? ¿Comentarios? ¿Saben porque?
![Page 5: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/5.jpg)
Elementos Mınimos de una Computadora Paralela [1]
• Hardware• Multiples procesadores• Multiples memorias• Interconexion
• Software del sistema• Sistema operativo paralelo• Herramientas
• Aplicaciones
Objetivo
Resolver el problema lo mas rapido posible de manera eficiente
![Page 6: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/6.jpg)
Dos Miradas a la Misma Realidad
• Organizacion Logica• Lo que ve el usuario de la maquina a traves del software
• Organizacion Fısica• El hardware de la maquina
• La arquitectura fısica es independiente de la arquitecturalogica
• Es necesario conocer el hardware si queremos que el softwarecorra de forma eficiente
• La computadora ideal es aquella que nos oculta los detallesfısicos (si la ven, avisen!)
![Page 7: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/7.jpg)
Dos Miradas a la Misma Realidad
• Organizacion Logica• Lo que ve el usuario de la maquina a traves del software
• Organizacion Fısica• El hardware de la maquina
• La arquitectura fısica es independiente de la arquitecturalogica
• Es necesario conocer el hardware si queremos que el softwarecorra de forma eficiente
• La computadora ideal es aquella que nos oculta los detallesfısicos (si la ven, avisen!)
![Page 8: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/8.jpg)
Lo que Viene
• Tipos de computadoras paralelas
• Modelos de Memoria
• Interconexion y Topologıas
• Costos comunicaciones
• Metricas
• Mapeos Basicos
• Procesadores actuales y clasificaciones
• Nota: Parte del material es cortesıa de https:
//computing.llnl.gov/tutorials/parallel_comp/
![Page 9: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/9.jpg)
Tipos de Computadoras Paralelas
![Page 10: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/10.jpg)
Taxonomıa de Flynn (1966)
• Se separan las instrucciones y los datos en dos dimensiones
• Pueden ser simples o multiples
• SISD: Single Instruction, Single Data
• SIMD: Single Instruction, Multiple Data
• MISD: Multiple Instruction, Single Data
• MIMD: Multiple Instruction, Multiple Data
![Page 11: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/11.jpg)
SISD
• Una computadora serie (no hay paralelismo)
• Instruccion simple: solo una instruccion ejecutada por el CPUdurante cualquier ciclo del reloj
• Datos simples: solo una secuencia de datos es usada comoentrada durante cualquier ciclo de reloj
• Ejecucion determinıstica
• El modelo mas antiguo de la computacion
• Ejemplos: los primeros mainframes, la mayorıa de los moviles,las primeras PCs
![Page 12: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/12.jpg)
SISD
![Page 13: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/13.jpg)
SIMD
• Un tipo de computadora paralela
• Instruccion simple: solo una instruccion ejecutada por el CPUdurante cualquier ciclo del reloj
• Datos multiples: cada unidad de procesamiento puede operarsobre un conjunto de datos diferente
• Se adapta muy bien en problemas con un alto grado deregularidad, tales como graficos/imagenes
• Ejecucion sincronica y determinıstica
• Dos variantes: arreglo de procesadores o unidades vectoriales
• Las unidades de procesamiento de graficos (GPUs) empleanunidades de procesamiento SIMD
![Page 14: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/14.jpg)
SIMD
![Page 15: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/15.jpg)
MISD
• Una secuencia de datos unica es provista a unidades deprocesamiento multiples
• Cada unidad de procesamiento opera sobre los datos demanera independiente (contadores de programaindependientes)
• Pocos ejemplos practicos de este modelo de computadoraparalela
• Algunos usos posibles pueden ser:• Multiples filtos de frecuencia operado sombre una misma senal• Multiples algoritmos de criprografıa operado sobre un mensaje
codificado
![Page 16: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/16.jpg)
MISD
![Page 17: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/17.jpg)
MIMD
• Actualmente es el tipo de computadora paralela mas usado.Ma mayorıa de las computadoras caen aquı
• Instrucciones multiples: cada procesador puede estarejecutando una secuencia de instrucciones diferentes
• Datos multiples: cada unidad de procesamiento puede operarsobre un computo de datos diferente
• La ejecucion puede ser sincronica o asincronica, determinısticao no-determinıstica
• Ejemplos: la mayorıa de las supercomputadoras actuales,clusters y grids, multi-core PCs
• Nota: muchas arquitecturas MIMD pueden contenercomponentes internos que ejecuten SIMD
![Page 18: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/18.jpg)
MIMD
![Page 19: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/19.jpg)
Modelos de Memoria
![Page 20: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/20.jpg)
Caracterısticas Generales de Memoria Compartida
• En general la memoria compartida permite a los procesadoresacceder a la memoria como un espacio de direcciones global
• Procesadores multiples pueden operar independientementesobre recursos de memoria compartida
• Un cambio en la memoria producido por una unidad deprocesamiento es visible por el resto de los procesadores
• Hay dos clases de arquitecturas de memoria compartida: UMAy NUMA
![Page 21: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/21.jpg)
UMA
![Page 22: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/22.jpg)
UMA
• Un claro ejemplo son las machinas SMP (SymmetricMultiprocessor)
• Procesadores identicos
• Las prioridades y los tiempos de acceso son iguales para todos
• CC-UMA: Cache Coherent UMA (usualmente lo hace elhardware)
![Page 23: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/23.jpg)
NUMA
![Page 24: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/24.jpg)
NUMA
• Usualmete ocurre cuando se conectan dos o mas sistemasSMPs
• Un sistema SMP puede acceder directamente a la memoriadel otro
• No todos los procesadores tienen igual acceso a todas lasdirecciones de memoria
• El acceso a memoria a traves del vınculo (o bus) es mas lento
• CC-NUMA: Cache Coherent NUMA
![Page 25: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/25.jpg)
Ventajas y Desventaja de Memoria Compartida
• Ventajas• Espacio de memoria global es amigable para el programador• El intercambio de datos entre las tareas es rapido y uniforma
debido a la proximidad entre CPUs
• Desventajas• El principal problema es que no se puede escalar el modelo.
Cuando se agregan CPUs el trafico se incrementageometricamente y comienzan los problemas de coherencia
• El programador es responsable de la sincronizacion de los datosy la coherencia en la memoria
![Page 26: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/26.jpg)
Memoria Distribuida
![Page 27: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/27.jpg)
Caracterısticas Generales Memoria Distribuida
• Hay varios modelos de memoria distribuida. El patron generales el uso de una red de comunicacion para conectar lasmemorias de los procesadores
• Los procesadores tienen su propia memoria local y no haycorrespondencia entre dos procesadores.
• Independencia de operacion, los cambios en un lugar noafectan al resto
• Cuando un procesador necesita un dato externo, elprogramador lo ordena explıcitamente
• La red de comunicacion puede variar ampliamente, puede seruna red ethernet
![Page 28: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/28.jpg)
Ventajas y Desventaja de Memoria Distribuida
• Ventajas• El modelo escala con los procesadores. A medida que se
agregan unidades de procesamiento la memoria escalaproporcionalmente
• Cada procesador accede a un dato en memoria sin interferir alresto de los componentes. Se eliminan las demoras por accesosmultiples
• Desventajas• El programador es responsable de muchos de los detalles
asociados a la comunicacion entre procesadores• Puede ser dificultoso mapear estructuras de datos basadas en
memoria global a esta organizacion de memoria
![Page 29: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/29.jpg)
Memoria Hıbrida Compartida-Distribuida
![Page 30: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/30.jpg)
Memoria Hıbrida Compartida-Distribuida
• Las principales supercomputadoras usan este modelo
• La memoria compartida es usualmente un SMP. Losprocesadores acceden a la memoria global tambien
• La memoria distribuida es la interconexion de multiples SMPs
• Ventajas y desventajas: las que aplican a los tipos involucrados
![Page 31: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/31.jpg)
Interconexiones y Topologıas
![Page 32: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/32.jpg)
Interconexiones y Topologıas
• Suponiendo una maquina paralela ideal compuesta por nprocesadores
• Dependiendo en la forma que se maneja el acceso a memoria,se encuentran cuatro clases
• Exclusive-read, exlusive-write (EREW)• Concurrent-read, exclusive-write (CREW)• Exclusive-read, concurrent-write (ERCW)• Concurrent-read, concurrent-write (CRCW)
• Las escrituras concurrentes se resuelven por:Common/Arbitrary/Priority/Sum
![Page 33: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/33.jpg)
Redes de Interconexion
• Concentan procesadores-procesadores y procesadores-memoria
• Estaticas• Conexiones punto a punto• Historicamente para conectar procesadores entre si
• Dinamicas• Se colocan elementos de conmutacion en la red• Historicamente para conectar los procesadores con la memoria
![Page 34: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/34.jpg)
Redes en una Foto
![Page 35: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/35.jpg)
Redes con un Bus o Canal
![Page 36: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/36.jpg)
Crossbar
![Page 37: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/37.jpg)
Multi-etapa
![Page 38: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/38.jpg)
Estrella y Totalmente Conectada
![Page 39: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/39.jpg)
Cartesianas
![Page 40: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/40.jpg)
Hypercubes
![Page 41: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/41.jpg)
Arboles
![Page 42: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/42.jpg)
Definiciones (1 de 2)
• Diametro• La maxima distancia entre dos nodos (mejor cuando es menor)
• Conectividad• El numero mınimo de arcos que se deben remover para partir
en dos redes desconectadas (mejor cuando es mayor)• Mide las multiplicidad de caminos
![Page 43: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/43.jpg)
Definiciones (2 de 2)
• Ancho de biseccion• El numero mınimo de arcos que se deben remover para partir
la red en dos mitades iguales (mejor cuando es mayor)
• Ancho de banda de biseccion• Aplica a redes con enlaces medidos por velocidad de
transferencia• El mınimo volumen de comunicacion permitidos entre dos
mitades de una red (mejor cuando es mayor)
• Costo• El numero de enlaces en una red (mejor cuando es menor)
![Page 44: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/44.jpg)
Caracterısticas
![Page 45: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/45.jpg)
Modelos usados en HPC
![Page 46: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/46.jpg)
¿Que es HPC?
• HPC es equivalente a High Performance Computing [?]
• Consta en agregar poder de computo con el fin lograrresultados mucho mas rapido de los que se logra con unacomputadora de escritorio tıpica.
• Generalmente involucra grandes problemas en ciencia,ingenierıa o negocios.
• Se puede dividir las estrategias de procesamiento en 3 tiposgenerales: SMP, Heterogeneo y pasaje de mensajes.
![Page 47: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/47.jpg)
Multiprocesamiento simetrico (SMP)
![Page 48: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/48.jpg)
Multiprocesamiento simetrico (SMP)
• Varias unidades de procesamiento identicas comparten ununico espacio de memoria.
• Todas las unidades tienen acceso a los dispositivos de entraday salida (E/S).
• Un sistema operativo comun.
• Caso tıpico: procesadores multi-nucleo.
![Page 49: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/49.jpg)
Heterogeneo
![Page 50: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/50.jpg)
Heterogeneo
• Unidades de proposito general manejan la memoria y la E/S.
• Otras unidades especializadas computan tareas especıficas.
• Espacio de memoria compartido y sistema operativo comun.
• Caso tıpico: PC con GPU.
![Page 51: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/51.jpg)
Pasaje de mensajes
![Page 52: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/52.jpg)
Pasaje de mensajes
• Multiples nodos se comunican a traves de una red por pasajede mensajes.
• Los nodos no comparten memoria.
• No es necesario compartir el sistema operativo.
• Caso tıpico: cluster.
![Page 53: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/53.jpg)
Procesadores actuales y clasificaciones
![Page 54: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/54.jpg)
Opteron
![Page 55: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/55.jpg)
AMD Opteron
![Page 56: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/56.jpg)
Intel Xeon
![Page 57: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/57.jpg)
UltaSPARC T2
![Page 58: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/58.jpg)
Manada de Opterons! [2]
![Page 59: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/59.jpg)
Fermi [3]
![Page 60: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/60.jpg)
NVidia Kepler
![Page 61: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/61.jpg)
Tegra
![Page 62: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/62.jpg)
Una Caracterizacion de Procesadores Actuales [4]
![Page 63: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/63.jpg)
CPU’s vs GPU’s [4]
![Page 64: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/64.jpg)
500
• TOP 500
• Green 500
• Graph 500
![Page 66: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/66.jpg)
Referencias y Creditos
![Page 67: Procesamiento Paralelo - Arquitecturas de Computadoras Paralelas 2016-03-28 · La arquitectura f sica es independiente de la arquitectura l ogica Es necesario conocer el hardware](https://reader034.vdocumento.com/reader034/viewer/2022042112/5e8d483bf8525f0fe70bcf66/html5/thumbnails/67.jpg)
Referencias I
[1] G. Ananth, G. Anshul, K. George, and K. Vipin.Introduction to parallel computing, 2003.
[2] P. Conway, N. Kalyanasundharam, G. Donley, K. Lepak, andB. Hughes.Cache hierarchy and memory subsystem of the AMD Opteronprocessor.Micro, IEEE, 30(2):16–29, 2010.
[3] J. Nickolls and W.J. Dally.The GPU computing era.Micro, IEEE, 30(2):56–69, 2010.
[4] B. Spiers and D. Wallez.High-Performance Computing on Wall Street.Computer, 43(12):53–59, 2010.