Clustering

[töfte]

Ich möchte in naher Zukunft meinem Spleen frönen und mich dem Thema Beowulf widmen. Dazu plane ich die Anschaffung zweier baugleiche Maschinen im Rackformat, und zwar im 1U bis allerhöchstens 4U-Format.
Soweit, so gut. Mich täte zum einen interessieren, ob irgendwer hier ähnliches am Wickel hat oder hatte, und zum anderen, ob es bestimmte Rackmodelle gibt, die ihr für besonders empfehlenswert haltet. Performancemäßig habe ich eigentlich keine dollen Anforderungen, ich will ja keine Atombombensimulation fahren sondern nur lustig drauf rumprogrammieren.

Any thoughts ?

Ps: ungefähr sowas : http://blizzard.rwic.und.edu/~nordlie/miniwulf/, halt ein wenig flacher und kleiner .. 

[madze]

Was hast du dir denn so ungefähr CPU Technisch ausgedacht? Reichen P3 Kisten aus? SMP ja oder nein? Wenn P3, dann schau mal bei Quant nach, die werfen da immer mal wieder schicke HP Server raus.

Ich hatte früher mal mit OpenMosix eine weile auf Compaq Proliant 5500 Maschinen rumgespielt.

[töfte]

Jo, richtig, PIII wäre vielleicht nicht die schlechteste Wahl. Die habe ich auch im Verdacht, nicht so viel Strom zu ziehen und so. SMP würe ich ganz klar bevorzugen, aer da denke ich bin ich bei den Rackkisten doch auf der sicheren Seite.

[madze]

Guten Morgen,

dann schau Dir doch mal das Angebot hier an:
http://www.quantelectronic.de/HP/Compaq/HP_Proliant_DL380_G2_Dual_PIII_126GHz_2GB_Raid_i109_4747.htm

Die sind so günstig, dann kannste gleich 4 Stück nehmen :-) und zwei kleine 18 GB Festplatten rein, das reicht vollkommen aus.

Gruß Matze

[Tschokko]

Hallo,

also ein Beowulf Cluster (= ein Cluster basierend auf freier Software) ist an sich ein interessantes Thema. Nur ist es IMHO relativ schnell und fast zu einfach abgewickelt. Linux auf den Nodes installieren, NFS, PVM und RSH konfigurieren und schon kanns losgehen mit dem Rechnen. Wenn es dir rein um's Programmieren und Rechnen geht, dann sollte ja der Cluster soweit ausreichen.

Spannender wird das Thema eigentlich wenn man sich dem Storage und dem Interconnect widmet. Selbst das Thema Cluster Management ist schon ein sehr aufwendige Angelegenheit.

Falls du z.B. nur zwei Knoten planst, kannst du ja in der Bucht für je 15 Euro nen Myrinet Adapter schnappen und beide Rechner über Kreuz verbinden, das sollte auf jeden Fall funktionieren. Mit passendne Treibern und MPI hast dann nen richtig schnellen Interconnect!!! In der PIII Klasse sollte aber GBit genügen... gut optimiert macht das auch genug Druck.

Storage finde ich im Cluster eigentlich das interessanteste Thema. Ich durfte vor einiger Zeit ein Lustre Dateisystem bewundern. Das ist schon ne super spannende Angelegenheit und für einen echten Cluster eigentlich ein absolutes Muss. Wo viel gerechnet wird, fallen auch viel Daten an.

Folgende Anleitung zum Bau eines Linux HPC Clusters von IBM finde ich lesenswert.
http://www.redbooks.ibm.com/abstracts/sg246041.html

In diesem Sinne viel Spaß beim Bauen und halt uns mal auf dem Laufenden.

Gruß
Tschokko

[Ebbi]

dann schau Dir doch mal das Angebot hier an:
http://www.quantelectronic.de/HP/Compaq/HP_Proliant_DL380_G2_Dual_PIII_126GHz_2GB_Raid_i109_4747.htm

25€? Krass!
Da kann ich mir auch einen kaufen und habe dann ein komplettes Ersatzteillager.

Die Dinger wurden von HP sogar als Cluster im Paket mit dem Compaq Smart Array Cluster Storage ausgeliefert:
http://h18004.www1.hp.com/products/servers/proliantstorage/sharedstorage/sacluster/benefits.html

[madze]

Anscheinend liegen die Prolineants bei Quant wie Blei in den Regalen. Musst halt mal freundlich anfragen, was se Dir bei einer Abnahme von 10 Stück an Rabatt gewähren, die kommen dann ja eh auf Palette oder 20 festplatten Gratis dazu. Aber irgendwas aushandeln auf jeden Fall.

[juan_]

heftig... wenn ich jetzt noch nen billiges Rack oder ne gute Selfmade-Anleitung finde, stell ich mir auch 2 davon ins Zimmer. von mir aus auch nur zum heizen..

Irgendjmd Tipps?

[töfte]

Hallo,

also ein Beowulf Cluster (= ein Cluster basierend auf freier Software) ist an sich ein interessantes Thema. Nur ist es IMHO relativ schnell und fast zu einfach abgewickelt. Linux auf den Nodes installieren, NFS, PVM und RSH konfigurieren und schon kanns losgehen mit dem Rechnen. Wenn es dir rein um's Programmieren und Rechnen geht, dann sollte ja der Cluster soweit ausreichen.

Spannender wird das Thema eigentlich wenn man sich dem Storage und dem Interconnect widmet. Selbst das Thema Cluster Management ist schon ein sehr aufwendige Angelegenheit.

Falls du z.B. nur zwei Knoten planst, kannst du ja in der Bucht für je 15 Euro nen Myrinet Adapter schnappen und beide Rechner über Kreuz verbinden, das sollte auf jeden Fall funktionieren. Mit passendne Treibern und MPI hast dann nen richtig schnellen Interconnect!!! In der PIII Klasse sollte aber GBit genügen... gut optimiert macht das auch genug Druck.

Gruß
Tschokko

Sehr richtig, der Einwand. Ich plane insgeheim  auch schon etwas weiter und habe ja auch noch mein FC-Thema im Hinterkopf, das sich damals irgendwie totlief.
Ich dachte mir bloß, ich mache eins nach dem anderen, sonst überhebe ich mich (finanziell) und hab dann einen nicht funktionierenden Haufen Blech in der Ecke liegen.
Aber bei den 25 Schleifen, da kann mann ja mal was riskieren. In diesem Sinne denke ich werden da wohl ein paar bei mir landen..

Nunja, wenn das Aufsetzen nicht so schwer ist, kann der eigentliche Spaß umso schneller beginnen.
Es gibt bzw. gab sogar von Sun eine Message Passing -Software (oder Clustermanager, irendsowas), die ich leider nicht mehr wiedergefunden habe, und zwar nicht nur für Solaris- sonder auch für AIX und Irix-Knoten.

Muß da nochmal etwas graben 

Aber definitiv dankeschön für die guten Links !

[madze]

Rein um Erfahrung zu sammeln denke ich mal, ist ein Beowulf Cluster der richtige Einstieg. Die Hardware ist günstig zu haben und wenn das erstmal läuft, kann man sich ja einer neuen Aufgabe auf dem Gebiet widmen oder dies dann erweitern. Nichts ist schlimmer wie erst einmal wochenlange Vorbereitungen zu treffen die dann so ausarten, das sich alles im Sande verläuft. Ich hatte da mit meinen Rechnern im Keller immer wieder so Punkte, wo ich echt nimmer wollte. Aber dann ging es ja Gott sei Dank doch.

[juan_]

Aber bei den 25 Schleifen, da kann mann ja mal was riskieren. In diesem Sinne denke ich werden da wohl ein paar bei mir landen..

kommst du zufällig aus Berlin/Umgebung ?
ich würde auch 2 nehmen, vielleicht erstatten sie uns dann den Versand.

[Garm]

Ich hab mit dem Thema auch mal liebäugelt, allerdings habe ich es dann erstmal aufgegeben, weil kein {Platz|Geld}.

Ein paar Webseiten die ich im Laufe der Zeit gefunden habe:
Mini-ITX-Cluster mit FreeBSD: http://www.mini-itx.com/projects/cluster/
Linux-Cluster im IKEA-Schrank: http://helmer.sfe.se/
Noch ein Linux-Cluster: http://www.mukarramahmad.com/tinyhpc.html
Noch ein Render-Cluster: http://www.bit-tech.net/modding/2004/08/21/9ghz_rendiathon/1

Wem die Hardware fehlt kann das ganze auch mal auf einem Rechner ausprobieren: http://blogs.sun.com/mramcha/entry/solaris_cluster_on_a_laptop


Wer ganz viel Geld (oder die richtigen Beziehungen) hat kann sich auch ein paar PS3 hinstellen:
http://moss.csc.ncsu.edu/~mueller/cluster/ps3/
http://gravity.phy.umassd.edu/ps3.html

@töfte: Das einzige was ich bei Sun in Bezug auf Cluster-Manager gefunden habe ist die Solaris Cluster Software, aber das meintest Du wahrscheinlich nicht...

[töfte]

Garm, die Links sind spitze !

Ich dachte zwar daß ich der erste wäre der aus 1U/2U-Kisten einen gutaussehenden Cluster zaubert, aber da haben wohl Experten aus Schweden und den USAnochmal sauber ne Schippe draufgelegt  Jedenfalls sehr inspirierend, das Ganze.

Einen Nachtrag noch zum hier verlinkten Proliant: der hat im 'Gegensatz zu vielen anderen keine Gigabit-Schnittstellen, da heißt es also entweder selber nachrüsten oder geringere Knoten-Knotendurchsätze hinnehmen.

Achso, bevor ich es vergesse: das hier http://www.sun.com/software/sge/ glaube ich war es 

Edit #2: Tja, ein PSX-Cluster wäre quasi von Haus aus eine optisch schöne Lösung, aber ich fürchte daß diese aufgrund finanzieller Aspekte rausfällt, es sei denn es fiele mal eine Ladung vom LKW. Dafür würde ich schon bremsen 

[karakal]

Ähm mal einen ganz anderen Ansatz:
Wenn es nur um die parallele Programmierung geht (weil prinzipiell einen Beowulf-Cluster aufsetzen ist ja nicht die große Wundertat) wie es da eigentlich mit der Investition in eine passende Grafikkarte und dann einer Programmierung in CUDA oder Stream (aktuelle c't: http://www.heise.de/ct/inhalt/2009/11/142/)
Das hätte zumindest denn Vorteil, dass man mit der Grafikkarte auch was spielen könnte und weniger Strom brauchen täte es auch und günstiger wäre es auch allemal... (und der WAF ist auch höher...)

[Ebbi]

(und der WAF ist auch höher...)

Von einer Grafikkarte?
Was kennst du denn für Frauen?