evolução da computação de alto desempenho na Ótica da lista

37
Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-) MAC 412- Organizãção de Computadores - Siang W. Song Fonte: http://www.top500.org/ MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista

Upload: phamthien

Post on 08-Jan-2017

215 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Evolução da Computação de Alto Desempenho na Ótica da Lista

Evolução da Computação de AltoDesempenho na Ótica da Lista TOP500

ou(Se um processador já é rápido, imaginem um

sistema com 131.072 processadores :-)

MAC 412- Organizãção de Computadores- Siang W. Song

Fonte: http://www.top500.org/

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 2: Evolução da Computação de Alto Desempenho na Ótica da Lista

Evolução da Computação

Os primeiros processadores (como o Mark I)tinham ciclos da ordem de alguns segundosProcessador hoje: vários GHz - menos deum nanosegundo de cicloProcessador de hoje é 1.000.000.000 vezesmais rápidoComputação paralela usa um grandenúmero de processadores, aumentandomais ainda o poder computacional.Veremos a importância da computaçãoparalela e a sua evolução na ótica da listaTOP500.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 3: Evolução da Computação de Alto Desempenho na Ótica da Lista

Computação Paralela - Oportunidade

O que já temos ou que está no horizonte:

Sistemas de computação maciçamente paralelosserão cada vez mais comuns.Clusters Beowulf baseados em arquiteturas abertastornam o uso da Computação Paralela cada vez maispopular.Novas arquiteturas de processadors: multi-core: Inteljá anunciou o lançamento de um chip com 80processadores, um trilhão de operações aritméticaspor segundo (1 TFLOPS).Médio ou longo prazo: Novas arquiteturas eficientesem energia e tecnologias que não são baseadas emsilício.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 4: Evolução da Computação de Alto Desempenho na Ótica da Lista

Computação Paralela - Dificuldades

Dificuldade de lidar com paralelismo: comoprojetar um programa eficiente paracentenas ou milhares de processadores?Uma forma é o desenvolvimento decompiladores que fazem a paralelizaçãoautomática a partir de um código sequencial.

É a forma ideal.Mas temos muito pouco progresso.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 5: Evolução da Computação de Alto Desempenho na Ótica da Lista

Outra forma: para cada problema, um algoritmoparalelo

Para cada problema com alta demandacomputacional, projetar um programaparalelo eficiente.

O progresso também deixa a desejar.Conseguimos lidar com aplicações trivialmenteparalelizáveis.Para muitas aplicações, levamos tempo demais para obteruma solução paralela eficiente.Muitos algoritmos paralelos desenvolvidos não sãoescaláveis.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 6: Evolução da Computação de Alto Desempenho na Ótica da Lista

Computação Paralela - Desafios

Computação Paralela será regra e não exceção.

Necessidade de formar profissionaiscapazes de projetar algoritmos paraleloseficientes e escaláveis.Descobrir novas aplicações com altademanda computacional que podem tirarproveito do paralelismo maciço.Criar novos (?) modelos de computação,novos (?) paradigmas de programaçãoparalela ou novas (?) linguagens deprogramação paralela.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 7: Evolução da Computação de Alto Desempenho na Ótica da Lista

Computação de Alto Desempenho

Medida de desempenho:1 FLOPS = uma operação ponto flutuante porsegundo

KFLOPS = 210 = aprox. 1.000 op/sMFLOPS = 220 = aprox. 1.000.000 op/sGFLOPS = 230 = aprox. 1.000.000.000 op/sTFLOPS = 240 = aprox. 1.000.000.000.000op/s

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 8: Evolução da Computação de Alto Desempenho na Ótica da Lista

Lista TOP500

Lista dos 500 computadores mais poderosos domundo

Divulgada duas vezes por ano: em junho enovembroInteresse tanto para fabricantes como paracompradores potenciaisBenchmark: LINPACK - um sistema linearde 1000 equações a 1000 incógnitas.Computadores com melhor desempenhoLINPACK entram na listaMuito material é disponível no site:http://www.top500.org/

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 9: Evolução da Computação de Alto Desempenho na Ótica da Lista

O Primeiro Colocado ... hoje

O computador mais veloz do mundo (emjunho/2007):

IBM BlueGene (DOE)131.072 processadoresLINPACK: 280,6 TFLOPSVelocidade pico: 367 TFLOPSTecnologia CMOS de 0,25 micron

Em novembro/2007 sai uma nova TOP500 etudo pode mudar :-)

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 10: Evolução da Computação de Alto Desempenho na Ótica da Lista

O Primeiro Colocado ... hoje

O computador mais veloz do mundo (emjunho/2007):

IBM BlueGene (DOE)131.072 processadoresLINPACK: 280,6 TFLOPSVelocidade pico: 367 TFLOPSTecnologia CMOS de 0,25 micron

Em novembro/2007 sai uma nova TOP500 etudo pode mudar :-)

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 11: Evolução da Computação de Alto Desempenho na Ótica da Lista

Dois Brasileiros na TOP500 de junho/2007

Posição 215 (Petrobrás) - Cluster HP Platform 3000BL460c Xeon 2.33GHz 1024 processadores (6,210TFLOPS Linpack)Posição 416 (INPE/CPTEC) - Cluster NEC/Sun Sun Firex2200 M2 Opteron 2.6GHz1100 processadores (4,512 TFLOPS Linpack)

Para entrar na lista TOP500, o último colocado apresenta4,005 TFLOPS Linpack (ocupava posição 216 na lista denovembro/2006).Na lista TOP500 de novmebro/2006 a USP estava na posição363, com 3,182 TFLOPS Linpack.A alegria só durou 6 meses :-(

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 12: Evolução da Computação de Alto Desempenho na Ótica da Lista

Dois Brasileiros na TOP500 de junho/2007

Posição 215 (Petrobrás) - Cluster HP Platform 3000BL460c Xeon 2.33GHz 1024 processadores (6,210TFLOPS Linpack)Posição 416 (INPE/CPTEC) - Cluster NEC/Sun Sun Firex2200 M2 Opteron 2.6GHz1100 processadores (4,512 TFLOPS Linpack)

Para entrar na lista TOP500, o último colocado apresenta4,005 TFLOPS Linpack (ocupava posição 216 na lista denovembro/2006).Na lista TOP500 de novmebro/2006 a USP estava na posição363, com 3,182 TFLOPS Linpack.A alegria só durou 6 meses :-(

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 13: Evolução da Computação de Alto Desempenho na Ótica da Lista

Dois Brasileiros na TOP500 de junho/2007

Posição 215 (Petrobrás) - Cluster HP Platform 3000BL460c Xeon 2.33GHz 1024 processadores (6,210TFLOPS Linpack)Posição 416 (INPE/CPTEC) - Cluster NEC/Sun Sun Firex2200 M2 Opteron 2.6GHz1100 processadores (4,512 TFLOPS Linpack)

Para entrar na lista TOP500, o último colocado apresenta4,005 TFLOPS Linpack (ocupava posição 216 na lista denovembro/2006).Na lista TOP500 de novmebro/2006 a USP estava na posição363, com 3,182 TFLOPS Linpack.A alegria só durou 6 meses :-(

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 14: Evolução da Computação de Alto Desempenho na Ótica da Lista

Dois Brasileiros na TOP500 de junho/2007

Posição 215 (Petrobrás) - Cluster HP Platform 3000BL460c Xeon 2.33GHz 1024 processadores (6,210TFLOPS Linpack)Posição 416 (INPE/CPTEC) - Cluster NEC/Sun Sun Firex2200 M2 Opteron 2.6GHz1100 processadores (4,512 TFLOPS Linpack)

Para entrar na lista TOP500, o último colocado apresenta4,005 TFLOPS Linpack (ocupava posição 216 na lista denovembro/2006).Na lista TOP500 de novmebro/2006 a USP estava na posição363, com 3,182 TFLOPS Linpack.A alegria só durou 6 meses :-(

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 15: Evolução da Computação de Alto Desempenho na Ótica da Lista

Desempenho ao longo do tempo

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 16: Evolução da Computação de Alto Desempenho na Ótica da Lista

Perguntas

Pergunta: O que vem depois de TFLOPS?Resposta: PFLOPS (Peta Flops)1 PFLOPS = 250 = aprox. 1.000.000.000.000.000 op/s

Previsão do FuturoPergunta: Em que ano teremos computadores dedesempenho de PFLOPS?

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 17: Evolução da Computação de Alto Desempenho na Ótica da Lista

Perguntas

Pergunta: O que vem depois de TFLOPS?Resposta: PFLOPS (Peta Flops)1 PFLOPS = 250 = aprox. 1.000.000.000.000.000 op/s

Previsão do FuturoPergunta: Em que ano teremos computadores dedesempenho de PFLOPS?

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 18: Evolução da Computação de Alto Desempenho na Ótica da Lista

Perguntas

Pergunta: O que vem depois de TFLOPS?Resposta: PFLOPS (Peta Flops)1 PFLOPS = 250 = aprox. 1.000.000.000.000.000 op/s

Previsão do FuturoPergunta: Em que ano teremos computadores dedesempenho de PFLOPS?

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 19: Evolução da Computação de Alto Desempenho na Ótica da Lista

Predicção do Desempenho

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 20: Evolução da Computação de Alto Desempenho na Ótica da Lista

Compradores

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 21: Evolução da Computação de Alto Desempenho na Ótica da Lista

Aplicações

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 22: Evolução da Computação de Alto Desempenho na Ótica da Lista

Países Compradores

Localização dos primeiros 100 da lista (clicar aqui).

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 23: Evolução da Computação de Alto Desempenho na Ótica da Lista

Evolução das Fabricantes

Área de alta competição.Difícil prever qual melhor rumo a seguir.Algumas empresas permanecem; outrasnão.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 24: Evolução da Computação de Alto Desempenho na Ótica da Lista

Fabricantes

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 25: Evolução da Computação de Alto Desempenho na Ótica da Lista

Tecnologia de Fabricação

ECL - Emitter Coupled Logic: rápida e dealto custo.Tecnologia MOS - Metal OxideSemiconductor.

Primeiros processadores de PCs (e.g. Z80): NMOS.Hoje: CMOS.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 26: Evolução da Computação de Alto Desempenho na Ótica da Lista

Tecnologia

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 27: Evolução da Computação de Alto Desempenho na Ótica da Lista

Arquitetura de Computador

Um só processador.SMP - Symmetric Multi Processor.MPP - Massively Parallel Processor.SIMD - Single Instruction Multiple Data.Cluster - Network of Workstations.Constelation - “cluster of clusters´´.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 28: Evolução da Computação de Alto Desempenho na Ótica da Lista

Família de Processadores

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 29: Evolução da Computação de Alto Desempenho na Ótica da Lista

Arquitetura

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 30: Evolução da Computação de Alto Desempenho na Ótica da Lista

Arquitetura do Processador

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 31: Evolução da Computação de Alto Desempenho na Ótica da Lista

Sistema Operacional

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 32: Evolução da Computação de Alto Desempenho na Ótica da Lista

Notável Avanço em Hardware

O rápido avanço em hardware então vairesolver tudo?

Não obstante a rápida evolução do hardware, agrande dificuldade está no desenvolvimento dealgoritmos para explorar efetivamente opotencial computacional.Não adianta termos 131.072 processadores, seapenas poucos fazem trabalhas úteis a cadamomento.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 33: Evolução da Computação de Alto Desempenho na Ótica da Lista

Notável Avanço em Hardware

O rápido avanço em hardware então vairesolver tudo?

Não obstante a rápida evolução do hardware, agrande dificuldade está no desenvolvimento dealgoritmos para explorar efetivamente opotencial computacional.Não adianta termos 131.072 processadores, seapenas poucos fazem trabalhas úteis a cadamomento.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 34: Evolução da Computação de Alto Desempenho na Ótica da Lista

Notável Avanço em Hardware

O rápido avanço em hardware então vairesolver tudo?

Não obstante a rápida evolução do hardware, agrande dificuldade está no desenvolvimento dealgoritmos para explorar efetivamente opotencial computacional.Não adianta termos 131.072 processadores, seapenas poucos fazem trabalhas úteis a cadamomento.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 35: Evolução da Computação de Alto Desempenho na Ótica da Lista

O Vilão é a Comunicação

Um algoritmo sequencial não gasta tempocom comunicação com outroscomputadores.(Quando só voce está trabalhando, voce nãofica falando sozinho :-)Um algoritmo paralelo, dependendo daaplicação, precisa fazer comuicação comoutros computadores.(Quando o trabalho é em grupo, em geral acomunicação se torna essencial.)Computador paralelo de memóriadistribuída: cada processador tem suamemória local.Comunicação é feita através de troca demensagens.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 36: Evolução da Computação de Alto Desempenho na Ótica da Lista

Granularidade

Granularidade fina: quando um processadorfaz pouca computação e depois já precisafazer comunicação.Granularidade grossa: quando umprocessador faz muita computação antes deprecisar fazer comunicação.Modelo de computação de granularidadegrossa (Coarse-Grained Multicomputer -CGM).Objetivo: minimizar o número de rodadas decomunicação.

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)

Page 37: Evolução da Computação de Alto Desempenho na Ótica da Lista

Conclusões

Computação de alto desempenho caminhapara a computação paralela.A tecnologia usada é a CMOS.Fabricantes enfrentam alta competição.Algumas arquiteturas são mais adequadaspara numerosos processadores.O novo lugar na lista TOP500 dos Clusters(373 em 500 são clusters).

MAC 412- Organizãção de Computadores - Siang W. Song Evolução da Computação de Alto Desempenho na Ótica da Lista TOP500 ou (Se um processador já é rápido, imaginem um sistema com 131.072 processadores :-)