isilon solutions + onefs · 2018-04-17 · einleitung hardware onefs benchmarks zusammenfassung...

25
Einleitung Hardware OneFS Benchmarks Zusammenfassung Isilon Solutions + OneFS Anne-Victoria Meyer Universität Hamburg Proseminar »Ein-/Ausgabe – Stand der Wissenschaft«, 2013 Anne-Victoria Meyer Isilon Solutions + OneFS 1 / 25

Upload: others

Post on 25-Jul-2020

4 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Isilon Solutions + OneFS

Anne-Victoria Meyer

Universität Hamburg

Proseminar »Ein-/Ausgabe – Stand der Wissenschaft«, 2013

Anne-Victoria Meyer Isilon Solutions + OneFS 1 / 25

Page 2: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Inhalt

1. Einleitung

2. Hardware

3. OneFS

4. Benchmarks

5. Zusammenfassung

Anne-Victoria Meyer Isilon Solutions + OneFS 2 / 25

Page 3: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

EMC Isilon

EMC Isilon

2001 Gründung als Isilon Systems2010 aufgekauft von EMC Corporation

Produkt SpeicherlösungenKunden große Unternehmen

Technologie Scale-Out-NAS1

1Network Attached StorageAnne-Victoria Meyer Isilon Solutions + OneFS 3 / 25

Page 4: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

EMC Isilon

Leitwerte → Einfachheit→ Skalierbarkeit→ Performance

Beispiele → Lightstorm Entertainment nutzte Speicherlösungenvon Isilon für die Produktion des Filmes Avatar→ Apple nutzt u.A. Speicherlösungen von Isilon fürden iTunes Store

Anne-Victoria Meyer Isilon Solutions + OneFS 4 / 25

Page 5: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Network Attached Storage

NAS

Client

Speicher

Client Client

CIFS/SMB, NFS, ...

Anne-Victoria Meyer Isilon Solutions + OneFS 5 / 25

Page 6: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Hardwareaufbau

OneFS

Client

Node 1 Node 2

HDD

SSD

HDD

HDD

Client Client

CIFS, NFS, ...

InfiniBand

Anne-Victoria Meyer Isilon Solutions + OneFS 6 / 25

Page 7: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Schichten

Hardware Platforms:S-Series, X-Series,

and NL-Series

PerformanceExtension

Nodes

Enterprise Data Protection and Management Software

OneFS® Operating System

Figure : [EMC Corp. 2012]

Anne-Victoria Meyer Isilon Solutions + OneFS 7 / 25

Page 8: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Nodes

Figure : [EMC Corp. 2012]

• Während Onlinebetrieb erweiterbar• Nodes aller Reihen in einem Dateisystem vereinbar

zu virtuellem Volume

→ Flexibilität

Anne-Victoria Meyer Isilon Solutions + OneFS 8 / 25

Page 9: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

S-Serie

Figure : [EMC Corp. 2012]

Verwendung für IOPS-intensive Prozesse

Kapazität 300, 600 oder 900GB HDDsAnzahl 24 HDDs pro Node

alternativ bis zu 6 HDDs durch SSDs austauschbar

Anne-Victoria Meyer Isilon Solutions + OneFS 9 / 25

Page 10: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

X-Serie

Figure : [EMC Corp. 2012]

Verwendung vielfältig einsetztbar

Kapazität von 500GB bis 4TB HDDs möglichAnzahl 12 oder 36 HDDs pro Node

alternativ bis zu 6 HDDs durch SSDs austauschbar

Anne-Victoria Meyer Isilon Solutions + OneFS 10 / 25

Page 11: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

NL-Serie

Figure : [EMC Corp. 2012]

Verwendung Langzeitspeicherung / Archivierung

Kapazität 1, 2, 3 oder 4TB HDDs36 HDDs pro Node

Anne-Victoria Meyer Isilon Solutions + OneFS 11 / 25

Page 12: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Extension Nodes

Figure : [EMC Corp. 2013]

Performance Accelerator erhöht Datendurchsatz im ClusterBackup Accelerator Zuständig für Datensicherung

Anne-Victoria Meyer Isilon Solutions + OneFS 12 / 25

Page 13: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Hardwareaufbau und OneFS

OneFS

Client

Node 1 Node 2

HDD

SSD

HDD

HDD

Client Client

CIFS, NFS, ...

InfiniBand

Anne-Victoria Meyer Isilon Solutions + OneFS 13 / 25

Page 14: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Sicht der Clients

Volume

Client Client Client

CIFS, NFS, ...

Anne-Victoria Meyer Isilon Solutions + OneFS 14 / 25

Page 15: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

OneFS (OS)

Kernel freeBSDShell Z Shell (zsh) + ’isi’-Befehle

Version 7.0Protokolle NFS, SMB/CIFS (default)

(HTTP, FTP, HDFS, iSCSI, REST API)

Anne-Victoria Meyer Isilon Solutions + OneFS 15 / 25

Page 16: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

OneFS (Dateisystem)

B-Trees effiziente SucheAdressierung {Node, Platte, Offset}Journaling im NVRAM (Non-Volatile Random Access Memory)

Striping erst über alle Nodes, dann ggf. überFestplatten innerhalb der Nodes

Sicherung Paritäten, Mirroring individuell einstellbarMetadaten Speicherung in Inodes, häufig auf SSDs, um

Performance zu erhöhen

Anne-Victoria Meyer Isilon Solutions + OneFS 16 / 25

Page 17: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

OneFS (Dateisystem) - Das Schreiben einer Datei

1. Client sendet Schreibanfrage an Node A (Front-End-Netzwerk)2. Node A legt Striping und Sicherung fest3. Node A schreibt einen Block in den eigenen Speicher, verteilt

die weiteren Blöcke auf andere Nodes (Back-End-Netzwerk)

• Daten werden vorerst in NVRAM geschrieben• Administrator kann optional aus drei Layouts wählen,

je nach Zugriffsmuster:

→ Nebenläufigkeit→ Streaming→ Zufall

Anne-Victoria Meyer Isilon Solutions + OneFS 17 / 25

Page 18: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Administration

Figure : [vFokus.no 2012]

• WebUI• CLI via SSH oder RS232 serieller Verbindung• LCD Display an Nodes für Add/Remove-Funktionen• RESTful Platform API

Anne-Victoria Meyer Isilon Solutions + OneFS 18 / 25

Page 19: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Tools

InsightIQ Performance MonitoringSmartPools Optimierung der DatenverteilungSmartQuotas Quota ManagementSmartConnect Lastverteilung und FailoverSnapshotIQ BackupIsilon for vCenter Steuerung durch vCenter

SyncIQ DatenvervielfältigungSmartLock Datenbewahrung

Aspera for Isilon Isilon im Wide Area Network (WAN)

Anne-Victoria Meyer Isilon Solutions + OneFS 19 / 25

Page 20: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

SmartConnect

Figure : [EMC Corp. 2011]

Anne-Victoria Meyer Isilon Solutions + OneFS 20 / 25

Page 21: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Lastverteilung

SmartConnect Basic wird mit OneFS mitgeliefertSmartConnect Advanced muss bei Bedarf erworben werden

Basic DNS Round Robin

Advanced CPU AuslastungVerbindungsanzahlDurchsatz

Failover und Failback

Anne-Victoria Meyer Isilon Solutions + OneFS 21 / 25

Page 22: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Benchmarks CIFS

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6·106

5

10

Throughput (ops/sec)

Respo

nse(m

sec)

S200 - 7 NodesS200 - 56 NodesS200 - 140 Nodes

Anne-Victoria Meyer Isilon Solutions + OneFS 22 / 25

Page 23: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Zusammenfassung

• Scale-Out-NAS fürEnterprise-Bereich• Schwerpunkt: Einfachheit,

Skalierbarkeit• effiziente Implementierung• Transparenz, globaler

Namespace• geringer

Administrationsaufwand

Hardware Platforms:S-Series, X-Series,

and NL-Series

PerformanceExtension

Nodes

Enterprise Data Protection and Management Software

OneFS® Operating System

Figure : [EMC Corp. 2012]

Anne-Victoria Meyer Isilon Solutions + OneFS 23 / 25

Page 24: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Quellen (alle zuletzt abgerufen am 07.06.2013)

• http://www.santutorial.com/?cat=11• http://www.mitwa.org/node/8321• http://arstechnica.com/business/2011/05/isilon-overview/• http://www.enterprisestorageforum.com/storage-hardware/emc-isilon-buyers-guide.html• http://www.hamburgnet.de/products/isilon.html?gclid=CPTLo7_Ew7cCFajKtAodyxQAhQ• http://www.scribd.com/doc/131726467/Onefs-Command-Ref-6-5• http://www.ndm.net/emcstore/isilon/emc-isilon-s-series-platform-node• http://www.ndm.net/emcstore/isilon/emc-isilon-x-series-platform-node• http://www.ndm.net/emcstore/isilon/emc-isilon-nl-series-platform-node• http://www.storagenewsletter.com/news/business/isilon-iq-lightstorm-entertainment• http://www.emc.com/storage/isilon/isilon.htm• http://www.layer47.com/downloads/isilon_whitepaper_smartconnect.pdf• http://www.emc.com/collateral/hardware/white-papers/h10719-isilon-onefs-technical-overview-

wp.pdf• http://www.emc.com/collateral/hardware/specification-sheet/h10690-ss-isilon-s-series.pdf• http://www.emc.com/collateral/software/specification-sheet/h10639-isilon-x-series-ss.pdf• http://www.emc.com/collateral/software/specification-sheet/h10640-isilon-nl-series-ss.pdf• http://www.emc.com/collateral/data-sheet/h11231-ss-isilon-perf-acc.pdf• http://www.emc.com/collateral/hardware/specification-sheet/h10791-isilon-backup-accelerator-

ss.pdf• http://www.emc.com/collateral/software/technical-documentation/h10689-cm-isd-3rdparty-

sw.pdf

Anne-Victoria Meyer Isilon Solutions + OneFS 24 / 25

Page 25: Isilon Solutions + OneFS · 2018-04-17 · Einleitung Hardware OneFS Benchmarks Zusammenfassung EMCIsilon EMC Isilon 2001GründungalsIsilon Systems 2010aufgekauftvonEMC Corporation

Einleitung Hardware OneFS Benchmarks Zusammenfassung

Bildquellen

Foliennr. Quelle7 "EMC Isilon scale-out storage solutions, powered by the OneFS operating system, provide users

with a broad range of options to meet their specific storage needs."http://www.emc.com/collateral/software/data-sheet/h10541-isilon-scale-out-storage-platform-ds.pdf

8 "EMC Isilon Family Fanout"http://farm9.staticflickr.com/8246/8640896526_31b5274651_o.jpg

9 "EMC Isilon S-Series S200" http://farm9.staticflickr.com/8114/8639792225_580efbb693_o.jpg10 "EMC Isilon X-Series X200" http://farm9.staticflickr.com/8395/8640895382_08f6319600_o.jpg11 "EMC Isilon NL-Series NL200"

http://farm9.staticflickr.com/8379/8639792473_3f76bd3c2d_o.jpg12 "EMC Isilon Performance Accelerator"

http://www.emc.com/R1/images/EMC_Image_C_1310616693624_detail-image-emc-isilon-accelerator-shdw-front-300.jpg

18 (ohne Titel) http://vfokus.no/wp-content/uploads/2012/08/IQ.png20 (ohne Titel) http://www.layer47.com/downloads/isilon_whitepaper_smartconnect.pdf22 Grafik basierend auf Messergebnissen von:

http://www.spec.org/sfs2008/results/res2011q2/sfs2008-20110527-00194.htmlhttp://www.spec.org/sfs2008/results/res2011q2/sfs2008-20110527-00188.htmlhttp://www.spec.org/sfs2008/results/res2011q2/sfs2008-20110527-00185.html

23 "EMC Isilon scale-out storage solutions, powered by the OneFS operating system, provide userswith a broad range of options to meet their specific storage needs."http://www.emc.com/collateral/software/data-sheet/h10541-isilon-scale-out-storage-platform-ds.pdf

Anne-Victoria Meyer Isilon Solutions + OneFS 25 / 25