Ing. José Díaz Chow
ARQUITECTURA DE MÁQUINAS
COMPUTADORAS IIIUNI-FEC
Unidad 1: PARALELISMO Y MEJORA DEL RENDIMIENTO
U1.2
¿Qué hemos abordado? Evaluación de la computadora: ¿Para qué?
¿Qué? ¿Cómo?
Métricas de evaluación Técnicas de Evaluación Rendimiento Tiempo de ejecución Ley de Amdahl Benchmarks (medición)
Tipos de programas de prueba o benchmarks
Programas reales: Usar la aplicación real para la que se requiere el computador.
Núcleos (Kernels): Usa partes “clave” de programas demandantes. Orientados a cálculos intensivos.
Benchmarks reducidos (Toys): 10-100 líneas de código que realizan pequeños algoritmos habituales. Fáciles pero muy limitados.
Benchmarks sintéticos: Elaborados expresamente para evaluar rendimiento imitando el comportamiento de programas de verdad, pero sin tareas específicas.
1.2. Reducción del Tiempo de Ejecución
¡ Queremos mejorar el Rendimiento de la Computadora !
Rendimiento es el inverso del tiempo de ejecución:
Así que, si reduzco el tiempo de ejecución, incremento el rendimiento.
¿Cómo reducir el tiempo de ejecución? Factores que determinan t:
Reducir uno o más factores sin que incrementen otros permitiría reducir t: ¿ De qué depende ? ¿Cómo reducirlo? ¿ De qué depende el? ¿Cómo reducirlo? ¿ De qué depende ? ¿Cómo reducirlo?
Reducción del período (t) El t de reloj debe ser lo suficientemente
ancho para que se completen todas las microoperaciones de control del paso de control más tardado.
Para reducir t es requerido, por tanto, que las operaciones de control sean más rápidas (para que no se tenga que incrementar el CPI).
Depende del avance de la tecnología en los procesos de fabricación de sistemas digitales.
Reducción del número de Instrucciones (N) Depende de la arquitectura. Arquitecturas con instrucciones complejas
permiten realizar operaciones con menos instrucciones que otras con instrucciones más simples: Operaciones integradas: CMP + Jx (2 inst.) vs BRx (1
inst.: Salta si se cumple la condición x) Múltiples modos: LOAD Rf, Rs(d) + ADD Rd, Rf, Rg (2
inst. Arq R3) vs ADD Rs(d), Rf (1 inst. Arq R2) Dependencia de instrucciones complejas con
mProgramación tiende a t mayor. ¡No rinde buenos frutos!
Reducción de ciclos por instrucción (CPI) Depende de la arquitectura: ¡Cantidad de
operaciones que se pueden realizar en un ciclo de reloj!
Arquitecturas con instrucciones complejas obligan a altos CPIs
Arquitecturas con instrucciones simples pueden reducir CPI. Meta a aspirar: CPI =1
Proyecto RISC lo demostró. ¡Mejor apuesta para el arquitecto!
Mejorando nuestra arquitectura X (R2) Reducir modos para simplificar la UC:
Arquitectura R3: Transferencia de M R: LOAD, y RM: STORE.
Usan modo Índice. Operaciones OP: Solo registros o inmediatos. Move R1, R2 Add R2, R1, R0; ¡R0 siempre vale
0! Bus común Conexiones directas: más rápido. Uso de más registros en un Banco de
Registros: 2 puertos de lectura y 1 de escritura simultáneos
1.3. Mejoras al sistema de memoria
Sistema de Memoria
Despues del CPU, el sistema de memoria es el más usado.
¡Eliminar los WMFC!
Mejorar el desempeño del sistema de Memoria.
Mejorando el desempeño de M ¿Cuáles son los factores de desempeño de la
Memoria? Latencia: Tiempo de acceso, tiempo de ciclo.
Depende de la tecnología de fabricación. Productividad: Velocidad de transferencia.
Ancho del Bus Solapamiento: memorias entrelazadas.
Disponibilidad: Detección y corrección de errores Capacidad: Memoria Virtual
Jerarquía de Memoria Diferentes tipos de
memorias: Vt y C. Memorias más
rápidas tienen limitado tamaño y alto precio.
Uso de memorias intermedias.
Principio de localidad de referencia.
Registros
Caché
CPU
Caché Externa
Memoria Principal
Unidades de almacenamiento secundarioM
ayor
Cap
acid
ad
Menor Velocidad de transferencia
1.4. Mejoras al sistema de E/S
Sistema de Entrada - Salida
Comunicación con el exterior Leer Programas y Datos Entregar resultados de procesamiento.
Diferentes dispositivos de E/S Entrada Salida Memoria de largo plazo
Diferentes tecnologías y velocidades
Mejorar el desempeño del sistema de Entrada / Salida.
Mejorando el desempeño de E/S Diferentes dispositivos con diferentes
métodos de transferencia de datos y velocidades
¿Cuáles son los factores de desempeño del sistema de E/S?
Latencia: Tiempo de respuesta. Depende de la tecnología de fabricación.
Productividad: Velocidad de transferencia. Frecuencia Ancho del Bus
Jerarquía de Buses Agrupa dispositivos con Vt similares. Equilibrio de ancho de banda entre
dispositivos. CPU +Cache L1
Cache L2
Controladorde vídeo
Controladores del sistema(Chipset)
Controlador de Memoria yPuente PCI
MemoriaPrincipal
Controlador IDEControlador de DMA
Puente PCI a ISA
SCSI LAN Slot
USBDD
DD
CD
DD
Dispositivos IDE
Slot SlotSuper
I/O
Disquete
Com 1
Com 2 Ratón PS/2
Teclado
LPT
Bus ISA
Bus PCI
Bus del Sistema"Bus" AGP
ADM y Procesadores de E/S
Agiliza las transferencias de dispositivos de E/S a M y viceversa.
Emplea un procesador auxiliar dedicado. Solapa la ejecución de instrucciones con
las operaciones de E/S Diversos esquemas de acuerdo a las
velocidades de los dispositivos
ADM y Procesadores de E/S
1.5. Introducción al Paralelismo
Paralelismo ¿Y si aún con todas estas mejoras, no logramos el rendimiento deseado?
Por Amdahl: CPU es el más apropiado de mejorar
¿Se puede? Si solo hago una tarea, con un
amigo, ¡puedo hacer dos!
Requerimientos de mayor desempeño Concurrencia (datos compartidos). Capacidad de atención a múltiples
usuarios y tareas. Procesamiento de datos de información
de conocimiento Inteligencia. Tecnología de producción de hardware
más poder a menor costo Ejecutor más rápido vs más ejecutores.
Procesamiento Paralelo
Forma de procesamiento que explota ejecución de sucesos concurrentes. Simultaneidad Multiplicidad
Solapamiento de ejecución de múltiples tareas.
Multiplicidad de ejecutores en una o varias tareas.
Tipos de Paralelismo
• Temporal: El paralelismo que involucra solapamiento se denomina temporal porque permite la ejecución concurrente de sucesos sobre los mismos recursos en intervalos intercalados de tiempo.
• Espacial: El paralelismo que permite
simultaneidad real sobre múltiples recursos al mismo tiempo se denomina paralelismo espacial.
Nivel de Paralelismo Grano Grueso
Tarea Programa
Grano Fino Instrucción Aritmético o de Bits
Técnicas de mejora y paralelismo Multiprogramación y Tiempo
compartido: técnica software (temporal): Sistema Operativo.
Solapamiento de las operaciones CPU y E/S: DMA e IOPs. Espacial.
Jerarquización y equilibrio de ancho de banda: Jerarquía de Memoria y de Buses: agilización y redundancia de datos. Espacial.
Técnicas de mejora y paralelismo Solapamiento de la ejecución: Ciclo de
instrucción solapado. Adelanta etapas del ciclo. Pre-Fetch y Pipelining. Temporal.
Multiplicidad de unidades ejecutoras: Sistemas superescalares. Espacial.
Sistemas paralelos: Paralelismo de datos y de código: SIMD y MIMD. Espacial
1.6. Clasificación de arquitecturas paralelas
Taxonomías
Diferentes sistemas de clasificación.
Más comunes: Flynn: Basado en cardinalidad
(s,m) de flujo de instrucciones y datos.
Feng: Basado en tipo de transferencia o procesamiento (s,p) y cantidad de bits involucrados (b,w).
Händler: Modelo matemático basado en métricas. Categoría es tupla de valores
Taxonomía de Flynn
Flynn (1966) propone un sistema de clasificación por flujos de instrucciones y datos: SISD >> SIMD >> MISD >> MIMD
SISD (Simple flujo de instrucciones-simple flujo de datos): Arquitecturas secuenciales estándares Arquitectura Von Neumann.
Taxonomía de Flynn
SIMD (Simple flujo de instrucciones-múltiples flujos de datos): Sistemas que ejecutan instrucciones sobre colecciones de datos a la vez: Cálculo vectorial y matricial.
Taxonomía de Flynn
MISD ( Múltiples flujos de instrucciones-simple flujo de datos): Arquitecturas no viables en el paradigma actual. Arquitecturas de flujo de datos. No aplicación real.
Taxonomía de Flynn
MIMD (Múltiples flujos de instrucciones-multiples flujos de datos): Sistemas con múltiples ejecutores con una o múltiples tareas: Multiprocesadores Multicomputadores
Extensión a la Taxonomía de Flynn Johnson (1988) propone extender o
detallar la taxonomía de Flynn en el caso de los MIMD:
Taxonomía de Feng Tse-yun-Feng, sugiere el grado de paralelismo
como criterio de clasificación: Máximo grado de paralelismo ( P ) = número máximo de
dígitos binarios que pueden ser
procesados en una unidad de tiempo
Grado medio de paralelismo ( Pm ) y tasa de utilización ( g ) de un sistema en T ciclos:Donde Pi es el No. de bits que puede ser
procesados en el i-esimo ciclo del procesador, para T ciclos.
Tasa de utilización en T ciclos
Taxonomía de Feng Se puede clasificar a la computadoras de
acuerdo a este criterio como:
Palabra-serie y bit-serie (PSBS). m=n=1. Procesamiento totalmente serial.
Palabra-paralelo y bit-serie (PPBS). m>1, n=1, procesamiento por sección de bits (procesa m palabras 1 bit cada vez).
Palabra-serie y bit-paralelo (PSBP). n>1, m=1, procesamiento por sección de palabra (procesa una palabra de n bits a la vez), computadoras actuales.
Palabra-paralelo y bit-paralelo (PPBP). n>1, m>1, procesamiento totalmente paralelo (se procesa una matriz de n*m bits a la vez), multiprocesadores y multicomputadoras (cluster´s).
Taxonomía de Feng
Taxonomía de Händler Wolfgang Händler: Esquema basado en encauzamiento
del procesamiento en tres niveles “top-down”: UCP (Unidad Central de procesamiento) UAL (Unidad Aritmética Lógica) El circuito a nivel Bit (CNB)
Un sistema computador (C )puede caracterizarse por una triada:
C = < K x K’, D x D’, W x W’ > donde:
K = Es el número procesadoresK’ = Número de procesadores que puede encauzarse (pipelined)D = Es el número de ALU bajo el control de un CPUD’ = Número de ALU´s que pueden ser encauzadas (pipelined)W = Longitud de palabra de una UAL o un Elemento de Proceso (EP)W’ = El número de segmentos en pipeline en todas las ALU´s o EP´s
Taxonomía de Händler Por ejemplo para la Cray-1:
Es un procesador de 64-bit no segmentado, superescalar
Cuenta con12 unidades de proceso o ALUs, 8 de las cuales pueden trabajar en pipeline.
Diferentes unidades funcionales tienen de 1 a 14 segmentos los cuales pueden trabajas en pipeline.
Por tanto:
CRAY-1 = < 1, 12 x 8, 64 x ( 1~14) >
Otras Taxonomías Otras clasificaciones que se pueden encontrar en
la literatura son: Taxonomía de Shore´s (1973): Basada en la estructura
y el número de unidades funcionales en la computadora. Se divide en 6 categorías o tipos de máquina: Máquina 1 … Máquina 6.
Taxonomía estructural de Hockney y Jesshope´s. Se basa en la notación llamada “Estilo de Notación Estructural Algebraica (ASN)”, es muy compleja. C(Cray-1) = Iv12 [ 12Ep12 - 16M50 ] r; 12Ep = {3Fp64,9B}
Existen otras nomenclatura que pretende ser más descriptiva y se basa en: multiplicidad del procesador, tamaño de grano, topología y control de multiplicidad.
Recomendaciones
U1: Paralelismo y mejora del rendimiento
Recordar consultar el folleto de clase.
Recordar consultar la bibliografía: Hwang Henesy - Patterson