ARQUITECTURA PARALELA

ARQUITECTURA PARALELAARQUITECTURA DE COMPUTACION PARALELA

Modelo estndar de computacin basado en la Arquitectura de Von Neumann

Modelo robusto, independiza al programador de la arquitectura subyacente.

Permiti el desarrollo de las tcnicas de programacin (estndar).Arquitecturas de computadoras paralelasSISDSIMDMIMDMISDProcesador de vectoresMulti-procesadoresArreglo de procesadoresUMACOMANUMANC-NUMACC-NUMAConmutadoBusCuadrculaHyper-cuboMPPCOWMulti-computadoras(Von Neumann)?Memoria compartidaTransparencia de mensajesClasificacin de los sistemas paralelosSISD: Flujo nico de instrucciones, flujo nico de datos.MISD: Flujo mltiple de instrucciones, flujo nico de datos.SIMD: Flujo nico de instrucciones, flujo mltiple de datos.MIMD: Flujo mltiple de instrucciones, flujo mltiple de datos.

UC=Unidad de Control, UP=Unidad de Procesamiento, UM=Unidad de Memoria, EP=Elemento de Proceso, ML=Memoria Local, FI=Flujo de Instrucciones, FD=Flujo de datos.Clasificacin de FlynnLas computadoras paralelas se clasifican en cuatro categoras y pueden dividirse en dos categoras principales: SIMD y MIMD.Las mquinas SISD es la computadora secuencial clsica de Von Neumann; tiene un flujo de instrucciones, un flujo de datos y hacen una cosa a la vez.Las mquinas MISD son una categora un tanto extraa, en la que varias instrucciones que operan con un mismo dato.Las mquinas SIMD ejecutan una instruccin a la vez en paralelo con muchos conjuntos de datos. Esta mquina incluyen los procesadores de arreglos y las computadoras vectoriales.Las mquinas MIMD, que dominan la computacin en paralelo, ejecutan diferentes programas en diferentes mquinas.Las mquinas MIMD se pueden dividir en multiprocesadores, que comparten la memoria primaria, y multicomputadoras, que no lo hace.Se usan muchas topologas, que incluyen cuadriculas, toroides, anillos e hipercubos.

ESTRELLAINTERCONEXIN TOTALRBOLANILLOCUADRCULATOROIDE DOBLECUBOHIPERCUBO 4DTopologaPara todos los multiprocesadores, uno de los aspectos clave es el modelo de consistencia de la memoria que se maneja. Entre los modelos ms comunes estn la consistencia secuencial, la consistencia de procesador, la consistencia dbil y la consistencia de liberacin.Se pueden construir multiprocesadores en los que se espa el bus (usando el protocolo MESI, por ejemplo). Tambin son posibles diseos de barras cruzadas y redes de conmutacin. Otra posibilidades son las mquinas NUMA y COMA basadas en directoriosMultiprocesadoresUMA: (Uniform Memory Access) En un modelo de Memoria de Acceso Uniforme.NUMA:(Non Uniform Memory Access) Acceso a memoria no uniforme.COMA: (Cache-only Memory Architecture)Acceso a memoria solo en caches.

Modelos de MultiprocesadoresLas multicomputadoras se pueden dividir a grandes rasgos en MPP y COW, aunque la frontera es un tanto arbitraria. Los MPP son enormes sistemas comerciales, como el Cray T3E y el Intel/Sandia Option Red, que usan interconexiones de alta velocidad patentadas.Multicomputadora genrica

El T3E de Cray Research

El sistema Intel/Sandia Option Red

La red de interconexinEn contraste, los COW se construyen con piezas comerciales, como Ethernet, ATM o Myrinet. Las multicomputadoras a menudo se programan empleando un paquete de transferencia de mensajes como PVM o MPI. Ambos cuentan con llamadas de biblioteca para enviar y recibir mensajes y se ejecutan encima de sistemas operativos existentes.Una estrategia alternativa es usar memoria compartida en el nivel de aplicaciones, como un sistema DSM basado en pginas, el espacio de tuplas Linda o los objetos Orca o Globe. DSM simula una memoria compartida en el nivel de pginas, lo que lo hace similar a una mquina NUMA, excepto que las referencias remotas son muchas ms lentas. Linda, Orca y Globe proporcionan al usuario la ilusin de un modelos de memoria compartida(restringido) empleando tuplas, objetos locales y objetos globales, respectivamente.