Benötigen Sie eine Maschine, die Hunderte von Billionen Gleitkommaberechnungen pro Sekunde liefern kann? Oder brauchen Sie eine Kneipengeschichte darüber, wie der Supercomputer in Ihrem Keller einen Unterbrecher umgelegt hat? Der Aufbau eines eigenen High Performance Compute-Clusters, auch bekannt als Supercomputer, ist eine Herausforderung, die jeder erfahrene Geek mit einem Wochenende Freizeit und etwas Geld zum Verbrennen bewältigen kann. Technisch gesehen ist ein moderner Multiprozessor-Supercomputer ein Netzwerk von Computern, die parallel zusammenarbeiten, um ein Problem zu lösen. In diesem Artikel werden die einzelnen Schritte des Prozesses kurz beschrieben, wobei der Schwerpunkt auf Hardware und Software liegt.
Schritte
Schritt 1. Bestimmen Sie zunächst die benötigten Hardwarekomponenten und Ressourcen
Sie benötigen einen Hauptknoten, mindestens ein Dutzend identischer Rechenknoten, einen Ethernet-Switch, eine Stromverteilungseinheit und ein Rack. Bestimmen Sie den Strombedarf, die Kühlung und den Platzbedarf. Entscheiden Sie auch, welche IP-Adresse Sie für Ihre privaten Netzwerke wünschen, wie Sie die Knoten benennen, welche Softwarepakete Sie installieren möchten und welche Technologie Sie für die parallelen Rechenfähigkeiten bereitstellen möchten (dazu später mehr).
- Obwohl die Hardware teuer ist, ist die gesamte in dieser Anleitung aufgeführte Software kostenlos und die meisten sind Open Source.
- Wenn Sie sehen möchten, wie schnell Ihr Supercomputer theoretisch wäre, verwenden Sie dieses Tool:
Schritt 2. Erstellen Sie die Rechenknoten
Sie müssen die Rechenknoten zusammenbauen oder vorgefertigte Server erwerben.
- Wählen Sie ein Computerservergehäuse, das Platz, Kühlung und Energieeffizienz maximiert.
- Oder Sie können ein Dutzend gebrauchter, veralteter Server verwenden, deren Gesamtheit die Summe ihrer Teile überwiegt und Ihnen jedoch einen beträchtlichen Geldbetrag einspart. Alle Prozessoren, Netzwerkadapter und Motherboards sollten identisch sein, damit das gesamte System gut zusammenspielt. Vergessen Sie natürlich nicht RAM und Speicher für jeden Knoten und mindestens ein optisches Laufwerk für den Hauptknoten.
Schritt 3. Installieren Sie die Server im Rack
Beginnen Sie von unten, damit das Rack nicht kopflastig ist. Sie werden einen Freund brauchen, der Ihnen dabei hilft - die dichten Server können sehr schwer sein und es ist schwierig, sie in die Schienen zu führen, die sie im Rack halten.
Schritt 4. Installieren Sie den Ethernet-Switch über dem Servergehäuse
Nehmen Sie sich diesen Moment Zeit, um den Switch zu konfigurieren: Erlauben Sie Jumbo-Frame-Größen von 9000 Byte, stellen Sie die IP-Adresse auf die statische Adresse ein, die Sie in Schritt 1 festgelegt haben, und deaktivieren Sie unnötige Routing-Protokolle wie SMTP-Snooping.
Schritt 5. Installieren Sie die PDU (Power Distribution Unit)
Je nachdem, wie viel Strom Ihre Knoten bei maximaler Last benötigen, benötigen Sie möglicherweise 220 Volt für Hochleistungsrechnen.
Schritt 6. Wenn alles installiert ist, können Sie mit dem Konfigurationsprozess beginnen
Linux ist das De-facto-Betriebssystem für HPC-Cluster – es ist nicht nur die ideale Umgebung für wissenschaftliches Rechnen, sondern es kostet auch nichts, es auf Hunderten oder sogar Tausenden von Knoten zu installieren. Stellen Sie sich vor, wie viel es kosten würde, Windows auf all diesen Knoten zu installieren!
- Beginnen Sie mit der Installation der neuesten Version des Motherboard-BIOS und der Firmware, die auf allen Knoten gleich sein sollte.
- Installieren Sie Ihre bevorzugte Linux-Distribution auf jedem Knoten mit einer grafischen Benutzeroberfläche für den Hauptknoten. Beliebte Optionen sind CentOS, OpenSuse, Scientific Linux, RedHat und SLES.
- Dieser Autor empfiehlt dringend, die Rocks Cluster Distribution zu verwenden. Neben der Installation aller Tools, die für das Funktionieren eines Compute-Clusters erforderlich sind, verwendet Rocks eine großartige Methode, um mithilfe von PXE-Boot und dem „Kick Start“-Verfahren von Red Hat sehr schnell viele Instanzen von sich selbst auf die Knoten zu „verteilen“.
Schritt 7. Installieren Sie die Message-Passing-Schnittstelle, den Ressourcenmanager und andere erforderliche Bibliotheken
Wenn Sie Rocks im vorherigen Schritt nicht installiert haben, müssen Sie die erforderliche Software manuell einrichten, um die parallelen Rechenmechanismen zu aktivieren.
- Zunächst benötigen Sie ein tragbares Bash-Management-System wie den Torque Resource Manager, mit dem Sie Aufgaben auf mehrere Maschinen aufteilen und verteilen können.
- Koppeln Sie Torque mit dem Maui Cluster Scheduler, um die Einrichtung abzuschließen.
- Als Nächstes müssen Sie die Message Passing-Schnittstelle installieren, die für die einzelnen Prozesse auf den separaten Rechenknoten erforderlich ist, um dieselben Daten gemeinsam zu nutzen. OpenMP ist ein Kinderspiel.
- Vergessen Sie nicht die mathematischen Multithreading-Bibliotheken und -Compiler, um Ihre parallelen Computerprogramme zu erstellen. Habe ich schon erwähnt, dass Sie Rocks einfach installieren sollten?
Schritt 8. Vernetzen Sie die Rechenknoten miteinander
Der Kopfknoten sendet die Rechenaufgaben an die Rechenknoten, die ihrerseits das Ergebnis zurücksenden und sich gegenseitig Nachrichten senden müssen. Je schneller desto besser.
- Verwenden Sie ein privates Ethernet-Netzwerk, um alle Knoten im Cluster zu verbinden.
- Der Hauptknoten kann auch als NFS-, PXE-, DHCP-, TFTP- und NTP-Server über das Ethernet-Netzwerk fungieren.
- Sie müssen dieses Netzwerk von öffentlichen Netzwerken trennen, um sicherzustellen, dass Broadcast-Pakete andere Netzwerke in Ihrem LAN nicht stören.
Schritt 9. Testen Sie den Cluster
Das Letzte, was Sie möglicherweise tun möchten, bevor Sie all diese Rechenleistung an Ihre Benutzer freigeben, ist, die Leistung zu testen. Der HPL (High Performance Lynpack) Benchmark ist eine beliebte Wahl, um die Rechengeschwindigkeit des Clusters zu messen. Sie müssen es aus dem Quellcode mit allen möglichen Optimierungen kompilieren, die Ihr Compiler für die von Ihnen gewählte Architektur bietet.
- Sie müssen natürlich aus dem Quellcode mit allen möglichen Optimierungsoptionen für Ihre Plattform kompilieren. Wenn Sie beispielsweise AMD-CPUs verwenden, kompilieren Sie mit Open64 mit der Optimierungsstufe -0fast.
- Vergleichen Sie Ihre Ergebnisse auf TOP500.org, um Ihren Cluster mit den 500 schnellsten Supercomputern der Welt zu vergleichen!
Video - Durch die Nutzung dieses Dienstes können einige Informationen an YouTube weitergegeben werden
Tipps
- Für wirklich hohe Netzwerkgeschwindigkeiten schauen Sie sich die InfiniBand-Netzwerkschnittstellen an. Seien Sie jedoch bereit, Premium-Preise zu zahlen.
- IPMI kann die Verwaltung eines großen Clusters zum Kinderspiel machen, indem es KVM-over-IP, Remote-Power-Cycling und mehr bereitstellt.
- Verwenden Sie Ganglia, um die Rechenlasten der Knoten zu überwachen.
