Glusterfs LVS

minimike

Berufsrevolutionär
Hi

Eigentlich bin ich auf der Suche nach einem Clusterdateisystem für Linux das nicht all zu hohe Ansprüche stellt. GFS2 hat zum Beispiel zu hohe Anforderungen und fällt aus der Auswahl raus. Bei meiner Recherche bin ich auf Glusterfs gestoßen. Das soll auch mit FreeBSD gehen.

Jetzt frage ich mich hat das jemand am Laufen und wie skaliert Glusterfs auf FreeBSD. Geht das auch mit der 9.0 oder 9.1?

Des weiteren sollte das gehen, dann hätte ich Interesse an einem LVS Setup wie unter Linux. Zwei Server teilen sich eine IP. Wenn beide online sind fungieren die als Loadbalancer. Fällt einer aus hat man den Server duch den anderen immer noch im Netz. Gibt es sowas auch für FreeBSD?
 
Hi

Eigentlich bin ich auf der Suche nach einem Clusterdateisystem für Linux das nicht all zu hohe Ansprüche stellt. GFS2 hat zum Beispiel zu hohe Anforderungen und fällt aus der Auswahl raus. Bei meiner Recherche bin ich auf Glusterfs gestoßen. Das soll auch mit FreeBSD gehen.

Jetzt frage ich mich hat das jemand am Laufen und wie skaliert Glusterfs auf FreeBSD. Geht das auch mit der 9.0 oder 9.1?

Des weiteren sollte das gehen, dann hätte ich Interesse an einem LVS Setup wie unter Linux. Zwei Server teilen sich eine IP. Wenn beide online sind fungieren die als Loadbalancer. Fällt einer aus hat man den Server duch den anderen immer noch im Netz. Gibt es sowas auch für FreeBSD?

Nie auf FreeBSD genutzt weil nicht in den Ports, aber das ganze baut auf FUSE auf, wenn du also FUSE vernünftig ans laufen bekommst sollte das alles kein Problem sein. LVS klingt als bräuchte das CARP, was du prinzipiell ja auch unter BSD zur Verfügung hast. Ich würde sagen: Probier es mal aus und lass uns das Ergebnis wissen ;-) Ich sehe jedenfalls nichts was dagegen spricht dass es laufen könnte außer vielleicht, dass es mittlerweile doch an vielen Stellen sehr RedHat Spezifisch ist. Eine neue Version auf Debian zu bauen war schon stellenweise mit massiver Makefile-Frickelei verbunden.
 
Irgendwie hab ich bzgl. GlusterFS unter FreeBSD bisher immer nur Stimmen gehört, welche abgeraten hatten.

Eine weitere Alternative könnte evtl. MooseFS sein, was oft als "bessere" Lösung empfohlen wurde (nutzt aber auch Fuse).
http://www.moosefs.org/

Erfahrungen hab ich mit beiden aber noch keine...somit möchte ich hier keine Empfehlungen aussprechen.
 
Eine weitere Alternative könnte evtl. MooseFS sein, was oft als "bessere" Lösung empfohlen wurde (nutzt aber auch Fuse).

Ich werfe hier noch Ceph in die Runde! Das ist stabil und POSIX konform, sprich kein FUSE!
Es gibt/gab mal eine Version die unter FreeBSD lauffähig war. Den Stand im Moment kenne ich aber nicht...

Unter Linux ist das aber sehr sehr schön zu sehen was da noch alles möglich ist. :)
 
Wie sieht es denn mit Moosefs aus? Auf jeden Fall gibt es einen Port dazu und was ich an Tests gelesen habe, ist es ziemlich gut... Ich persöhnlich möchte es auf jeden Fall mal ausprobieren. Wäre cool statt eines rsync (von Rechner zu Rechner) mal was ordentliches zu haben :-)

Hier im Lehrstuhl -wo ich Admin bin- arbeiten wir (leider noch) mit Solaris und da habe ich es mal mit GlusterFS probiert... Musste lange probieren, bis compilieren ging. Der Versuch, zwei Rechner dann per glusterfs zusammenzubinden ging irgendwann - aber es gab beim kopieren immer wieder einen core dump ... mit anderen Worten: ich werde kein GlusterFS nehmen...

Soweit Erfahrungen und Visionen dazu :-)

Viele Grüße, Norbert
 
Danke für die vielen Antworten!

Also Ceph werde ich evaluieren. Das scheint das richtige zu sein um 200 GB hochverfügbar im Netz vorzuhalten ohne das ganze Geraffel für GFS2 haben zu müssen.

Moosefs werde ich evtl auch mal probieren. Es ist schön zu Wissen das auch FreeBSD unterstützt wird. Aktuell im Projekt für Januar wird aber nur Linux gebraucht.
 
XtreemFS hatte ich mir mal angeschaut. Die Doku war zu dem Zeitpunkt hoffnungslos veraltet und es hat insgesamt eher wenig Spaß gemacht. Der Ansatz ist trotz allem aber gut.

Ich selbst habe GlusterFS und HDFS im Einsatz, wobei das HDFS natürlich der Unterbau eines Hadoop-Clusters ist. Um damit im Netz Daten zu verteilen und sicher online zu halten ist das eher nichts. Mit GlusterFS bin ich für diesen Zweck zwar recht zufrieden aber ein Vergleich zu Ceph würde mich durchaus mal interessieren.
 
Danke für die vielen Antworten!

Also Ceph werde ich evaluieren. Das scheint das richtige zu sein um 200 GB hochverfügbar im Netz vorzuhalten ohne das ganze Geraffel für GFS2 haben zu müssen.

Moosefs werde ich evtl auch mal probieren. Es ist schön zu Wissen das auch FreeBSD unterstützt wird. Aktuell im Projekt für Januar wird aber nur Linux gebraucht.

Hast Du Dir schon mal OCFS2 angekuckt?
Abgesehen davon stellt sich eben die Frage ob es wirklich ein Clusterfilesystem
sein muss. Ohne performanten Storage und vernünftige Anbindung ist das
Zeug einfach sack lahm und das auch völlig OS unabhängig.
Wieviel Knoten sollen denn überhaupt im Cluster drin hängen, zwei oder mehr?
 
Hast Du Dir schon mal OCFS2 angekuckt?
Abgesehen davon stellt sich eben die Frage ob es wirklich ein Clusterfilesystem
sein muss. Ohne performanten Storage und vernünftige Anbindung ist das
Zeug einfach sack lahm und das auch völlig OS unabhängig.
Wieviel Knoten sollen denn überhaupt im Cluster drin hängen, zwei oder mehr?

Im Prinzip möchte ich etwas haben das mit zwei Servern einen Raid1 im Netz abbildet und worauf zwei Webserver und zwei bis sechs Tomcats thread safe bei Schreiboperationen zugreifen können. Die Tomcats bilden einen Cluster und haben alle die selbe APP mit dem selben Datenstand. In der Front will ich zwei Linux-Server mit LVS haben die am Gateway hängen. Die pumpen die Tomcats zwei Intranetwebsites und den SVN ins Intranet und zu den Kunden-VPN's. Zwei kleine Büchsen hosten die PostgreSQL Datenbank der APP die auf den Tomcats läuft. Und da das keine große Sache werden soll dachte ich daran alles ausser den Datenbanken mit VM's zu realisieren.
 
Im Prinzip möchte ich etwas haben das mit zwei Servern einen Raid1 im Netz abbildet und worauf zwei Webserver und zwei bis sechs Tomcats thread safe bei Schreiboperationen zugreifen können. Die Tomcats bilden einen Cluster und haben alle die selbe APP mit dem selben Datenstand. In der Front will ich zwei Linux-Server mit LVS haben die am Gateway hängen. Die pumpen die Tomcats zwei Intranetwebsites und den SVN ins Intranet und zu den Kunden-VPN's. Zwei kleine Büchsen hosten die PostgreSQL Datenbank der APP die auf den Tomcats läuft. Und da das keine große Sache werden soll dachte ich daran alles ausser den Datenbanken mit VM's zu realisieren.

@LordX natürlich ist das anders.
Aber ich persönlich bin der Meinung grade bei HA Cluster und im Endeffekt geht es ja in diese Richtung ist der KISS Ansatz immer der beste, nicht alles
was geht ist unbedingt sinnvoll.

@Minimike, wenn ich an Deiner Stelle wäre.... würd ich evaluieren, ob
OCFS für Deinen Anwendungsfall Sinn macht, wenn es sein muss auch gern
in Verbindung mit Corosync/Pacemaker.
 
Hi
Des weiteren sollte das gehen, dann hätte ich Interesse an einem LVS Setup wie unter Linux. Zwei Server teilen sich eine IP. Wenn beide online sind fungieren die als Loadbalancer. Fällt einer aus hat man den Server duch den anderen immer noch im Netz. Gibt es sowas auch für FreeBSD?

Hi,

jepp gibt es :-)

Nennt sich CARP in verbindung mit PF oder wenn es ein "nat" LB sein soll relayd.

mfg
 
Wäre es eigentlich prinzipiell möglich mittels CARP einen MySQL HA Cluster zu bauen?

Zwei fiktive Server

Mainboard Intel® S1200KPR
16 GB als 2 x Kingston SO-DIMM 8 GB ECC DDR3-1333
2 x Samsung 840 Pro series 2,5" 512 GB
Gehäuse Chenbro RM12800H-101
1 x Intel® Xeon® Prozessor E3-1240V2
1 x 10Gbit Nic
Preis ca 1500,- € netto

FreeBSD als OS Beide bauen mit Hast den Storage für MySQL auf. Via CARP Erscheinen die als einziger Server im Netz auftuachen. So als erste Idee. Hmm könnte ein lustiges Spassprojekt nächstes Jahr werden :ugly:
 
Nein es geht nur mit 32 GB oder 96 GB.
Scherz bei Seite. Du wirst selbstverständlich beim Failover weiterhin Verbindungen verlieren, allerdings keine abgeschlossenen Transaktionen solange du den Syncmodus auf "schreib bloß nicht zu oft" stellst.
 
Des weiteren sollte das gehen, dann hätte ich Interesse an einem LVS Setup wie unter Linux. Zwei Server teilen sich eine IP. Wenn beide online sind fungieren die als Loadbalancer. Fällt einer aus hat man den Server duch den anderen immer noch im Netz. Gibt es sowas auch für FreeBSD?
jepp gibt es :-)
Nennt sich CARP
Funktioniert das out of the Box als Loadbalancer?

FreeBSD hat für hochverfügbaren Storage HAST als Lösung. Allerdings handelt es sich dabei um ein active-passive Setup, also nichts mit Lastverteilung.

https://www.freebsd.org/doc/de/books/handbook/disks-hast.html
 
Zurück
Oben