Krzysztof K.

Krzysztof K. Administrator
systemów IT i sieci
- otwarty na
propozycje...

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Witam

Testuje GlusterFS ale widzę, że po rozłączeniu jednego noda potrafi zawiesić serwery (noody) na chwile zanim dalej będzie działało. Ceph chciałem przetestować ale na szybko nie dało się bo jednak trzeba mocniej wczytać dokumentacje.

Co używacie i macie sprawdzonego.

Znacie jakieś gotowe distro coś jak freenas z gotowym do użycia rozproszonego systemu plików, który by nadał się dla esxi.

Chcę po testować vMotion. Serwery mam Della z 64GB RAM i na dyskach SSD. I plan był by stworzenie maszyny wirtualnej na każdym hoście i udostępnię zasoby po NFS. Choć NFS mnie wkurza bo nigdy nie udało się osiągnąć wysokich prędkości.

Nie chcę używać zew. dedykowanej macierzy dyskowej - kasa.
Używam freenas ale ono jeszcze nie ma takich funkcji. Autorzy chwalą się, że ma mieć w wersji 10.
Marcin Kaczmarek

Marcin Kaczmarek Senior IT Engineer

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Cześć

Ja polecam LizardFS - https://lizardfs.com lub Cepha.
Nie korzystam z gotowych apliance, ale warto było by się zainteresować EMC ScaleIO ale jest to płatne rozwiazanie lub komercyjnymi rozwiazaniami hyperkonwergentnymi np. Nutanix.
Piotr Opara

Piotr Opara Inżynier systemów IT

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Krzysztof R.:
Testuje GlusterFS ale widzę, że po rozłączeniu jednego noda potrafi zawiesić serwery (noody) na chwile zanim dalej będzie działało.

Coś chyba poszło nie tak w Twojej konfiguracji, używam GlusterFS produkcyjnie od lat i nigdy nie miałem takiego "efektu".
Mieszasz nieco pojęcia, freeNAS to nie rozproszony system plików, to jest NAS.
Nie znajdziesz czegoś takiego jak gotowe distro z rozproszonym systemem plików.

Jeśli jesteś w okolicach GlusterFS to zwróć jeszcze uwagę na DRBD

NFS to też nie rozproszony system plików, a jeśli masz problem z wydajnością w NFS to może pora przesiąść się na pNFS ?

Alternatywnym pomysłem jest np: spięcie przez ZFS w np: raidz udziałów po ata over ethernet .
Krzysztof K.

Krzysztof K. Administrator
systemów IT i sieci
- otwarty na
propozycje...

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

W sieci pełno ciekawych projektów jak np. FreeNAS, do którego ładują coraz to więcej ciekawych funkcji. Stąd zastanawiałem się czy czasem ktoś na ziemi nie uprościł spraw wdrożenia rozproszonego systemu plików. Bo jednak mimo, że to NAS to autorzy FreeNAS mają plan dodania GlusterFS. Więc może jest jakiś projekt, co już to ma.

Co do gluster. W necie nie ma za dobrej opinii. Wielu zgłasza problemy podobne do moich. Także słabo jak dla mnie rozwiązanie, że w laboratorium z małymi ilościami danych potrafi zawiesić.

Po przeglądnięciu neta nasuwa się na top z rozwiązań rozproszonych systemów Ceph. Do tego ostatnio pojawił się art w Linux Magazine 11/2016: Samaba Ubuntu 16.10 http://allegro.pl/show_item.php?item=6582453058

Co do pNFS. Działa to w ESXi 5 i 5.5 ? Bo z tego na szybko co widzę to jest problem. ESXi 5. ESXi 5 i 5.5 wspiera nfs v3. A dopiero nowe ESXi 6 ma wsparcie nfs v4.1Ten post został edytowany przez Autora dnia 20.11.16 o godzinie 21:18
Krzysztof Podobiński

Krzysztof Podobiński VMware Architect ,
Infrastructure tech
Lead

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

A czym objawiaja sie problemy z NFS? Mam wiele DS wystawionych po NFS i pomijajac brak pelnego mutlti path (przed wersja 6) to nie zauwazylem jakis wieszych problemow z wydajnoscia. Pokusilbym sie nawet o stwierdzenie ze NFS na 10Gb zaczyna przebijac FC w ogolnych rozrachunku (tanszy, prostszy, przyjemniejszy w obsludze).

Btw. Nawet ESXi 6 z NFS 4.1 nie obsluguje pNFS a tylko session trunkingTen post został edytowany przez Autora dnia 21.11.16 o godzinie 09:11
Krzysztof K.

Krzysztof K. Administrator
systemów IT i sieci
- otwarty na
propozycje...

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

U mnie w ESXi nfs dobrze działa tylko że wolno. Oczekiwał bym lepszych prędkości. Max 30MB/s a średnio to jeszcze gorzej bo jakoś od 4 -14MB/s.
Oczywiście wydzielona sieć (SAN 1Gbit/s). Do tego FreeNAS na osobnym serwerze ( 32 GB RAMu i dwoma procesorami xeon - Ustawienia domyślne).

Z freenas spokojnie idzie 100MB/s po smb. A gdy testy robiłem szybkości zapisów w NAS to osiągi mam ponad 180MB/s a odczyt jeszcze szybszy.


NFS był by fajny gdyby szło spiąć dwa NASy (freenas) razem tak aby było jedno IP NFS na zasadzie Master/Slave.

Nie wiem co bym mógł spartolić z NFS, że tak wolno chodzi. Także domyślna instalacja NFS winna juz dawać dość zadowalające transfery.

konto usunięte

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Pokusilbym sie nawet o stwierdzenie ze NFS na 10Gb zaczyna przebijac FC w ogolnych rozrachunku (tanszy, prostszy, przyjemniejszy w obsludze).
Tanszy? Jak lecisz na jakiesj nexancie, albo innym Freeshit
Prostszy? Tyle ile opcji na NFS w ESXi i ile testowania w to wchodzi... ja dziekuje. FC jest plug and play
Przyjemniejszy? Nie rozumiem.

U nas zespoly VM, LAN i SAN w jednym sie zgadzają. Nigdy iSCSI, wyjebalismy wiekoszosc NetAppow i zostal sam FC. Pare lat temu po migracjach NetApp do Cluster Mode..eh szkoda slow, ile jebania bylo, jak byl rząd NetApow do zmigrowania. Ale jak robisz greenfilda bez zadnych migracji i chcesz NFS, to drogi NetApp bedzie najlepszy.

Oczywiscie wszystko kosztuje, ale liczac godziny ktore sie spedza na NFS, to FC az tak takie drogie.

Chcesz NFS, kup Flexpod,

VSAN hmmm wg mnie jeszcze nie gotowy , chociaz 6.5 wyglada niezle
Krzysztof Podobiński

Krzysztof Podobiński VMware Architect ,
Infrastructure tech
Lead

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

nie mowiwe o freeshit tylko o "normalnych macierzach typu NetApp czy EMC Unity, a tanszy chocby dla tego ze nie musiz miec infrastruktory FC pod to tylko zwykle switche.

Widzisz ja jakos mam calkowicie odmienne doswiadcznnia z FC.. nigdy to tak po prostu plug and play nie chcialo dzialac, a z NetApp i NFS mimo ze tez ma swoje przypadlosci przez ktore osiwiec mozna jakos zdecydownie lepiej mi sie pracuje. Co do iSCSI zgodze sie ze to raczej nieporozumienie

Flexpod wyglada ciekawie, ale ostatecznie to i tak zbior roznych komponentow ktorych producenci obiecuja ze razem beda idealnie dzialac co nie zawsze i nie do konca jest prawda.. zupelnie jak VBLOCK

Ztego co VMware pokazl na VMworld VSAN 6.5 jest juz calkiem niezly ,ale niestety nie ma mialem jescze okazji by to w praktyce poza labem przetestowac

konto usunięte

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Z pewnoscią kazde rozwiazanie znajdzie gdzie swoje zastosowanie, czy to w duzym czy malym srodowisku. Jak u ciebie dziala to super, u nas nie dawalo rady.

Kolejna sprawa jest metro cluster, przy NetApp FC jest potrzebne. Mysle ze EMC tez. Moze SMB moga zyć bez metro, ale Enterprise/SP raczej nie.

Ale odchodzimy od tematu, sorry.
A jesli chodzi o rozproszony system, to niech ludzie z fb, googla czy amazona sie wypowiedzą. Napewno tu takich mamy :)
Piotr Opara

Piotr Opara Inżynier systemów IT

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Musisz podejść do tematu projektowo, dobór rozwiązania jest uzależniony od tego co masz i co ewentualnie możesz dokupić, a to skorelować z rzeczywistymi potrzebami.
CEPH rekomenduje bodajże 7 nodów do prawidłowej pracy, funkcjonalnie te usługi możesz upchnąć na 3. W przypadku DRBD masz minimum 3 nody (de facto, zawsze powinieneś mieć minimum 3 nody, żeby uchronić się przed split brain) ale bodajże maks 16 nodów i na chwilę obecną zbudujesz na tym tylko raid1.
Nie patrz też na warstwę klastrową z punktu widzenia klienta, to jak to wystawisz klientowi uzależnione jest tylko od docelowej wydajność i ilości warstw pośrednich. Klaster możesz mieć na ceph, hadoop, gluster, drbd, zfs+aoe itp, a klientowi w tym przypadku esxi możesz to wystawić po nfs, iscsi czy czym czymś co będzie działało Ci sprawnie i na co ewentualne fundusze Ci pozwolą.
VIP nie musi wynikać z usługi rozproszonego storage, VIP możesz zbudować na ucarp, keppalive itp, plus np: monit który ewentualnie podniesie lub zrestartuje padniętą usługę storage.
Możliwości jest dużo, wszystko można złożyć z istniejących sprawdzonych rozwiązań, tylko trzeba najpierw doprze oszacować potrzeby i możliwości, później poprzeć to minimalnym projektem, pod który będzie dobór narzędzi. Sporo można podpatrzeć u tych co wiedzą lepiej :) to polecam np: OpenStack który cały jest zbudowany na tym co open :)
W kwestii GlusterFS nie słyszałem żadnej złej opinii i nigdy nie miałem z nim problemów, jeśli problemy były to wynikały ze sprzętu, sieci itp, nigdy z samej usługi.
Generalnie rozwiązań, jest na prawdę sporo i uszytych na każdą miarę, krótka lista z moich notatek:
Ceph - Distributed object store and file system.
DRBD - Distributed Replicated Block Device.
LeoFS - Unstructured object/data storage and a highly available, distributed, eventually consistent storage system.
GlusterFS - Scale-out network-attached storage file system.
HDFS - Distributed, scalable, and portable file-system written in Java for the Hadoop framework.
Lustre - A type of parallel distributed file system, generally used for large-scale cluster computing.
MooseFS - Fault tolerant, network distributed file system.
MogileFS - Application level, network distributed file system.
OpenAFS - Distributed network file system with read-only replicas and multi-OS support.
TahoeLAFS - secure, decentralized, fault-tolerant, peer-to-peer distributed data store and distributed file system.
XtreemFS - XtreemFS is a fault-tolerant distributed file system for all storage needs.
pNFS - pNFS removes the performance bottleneck in traditional NAS systems by allowing the compute clients to read and write data directly and in parallel, to and from the physical storage devices.
LizardFS - LizardFS to otwarty rozproszony system plików na licencji GPLv3, służący do zarządznia i rozpraszania danych pomiędzy wieloma fizycznymi lokalizacjami
OrangeFS - OrangeFS is an open source parallel file system, the next generation of Parallel Virtual File System.
Krzysztof K.

Krzysztof K. Administrator
systemów IT i sieci
- otwarty na
propozycje...

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

@Piotr Opara

Powiedzmy, że zrobię GlusterFS na 4 węzłach. Wtedy jak udostępnię NFS tak aby zawsze działał.

Bo jak zainstaluje vm które pod montuje storage z glusterFS wtedy pad tej maszyny odetnie dostępu do NFS. Widziałem, że GlusterFS ma możliwość od razu udostępnienia po nfs. Tylko nie wiem czy to właśnie jest to co by mnie interesowało. Tzn pad jednego węzła, przejął następny nod co by ESXi nie zauważył.

Co do autora słów freeshit to domyślam, że chodzi mu między innymi o Freenas. Tak więc to takie badziewie, że przez parę ładnych lat nie potrafiło się zawiesić, utracić danych czy uszkodzić choć jednego pliku. Ciekawe. Domyślam, że lepsze jest kupienie za parę tysięcy NASa z jakimś autorskim rozwiązaniem na macierz aby po padzie sprzętu modlić się, że uda się odzyskać dane a jak nie, to szukać takiego samego sprzętu w Polsce bo producent zleje ciebie bo już wycofane ze sprzedaży.

konto usunięte

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Domyślam, że lepsze jest kupienie za parę tysięcy NASa
Kupienie czego i za ile? Ale to mowisz o labie tak? Dobre
Piotr Opara

Piotr Opara Inżynier systemów IT

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Krzysztof R.:

Powiedzmy, że zrobię GlusterFS na 4 węzłach. Wtedy jak udostępnię NFS tak aby zawsze działał.

NP 1 :)

https://access.redhat.com/documentation/en-US/Red_Hat_E...

NP 2 :)

https://www.howtoforge.com/high_availability_nfs_drbd_h...
Co do autora słów freeshit to domyślam, że chodzi mu między innymi o Freenas. Tak więc to takie badziewie, że przez parę ładnych lat nie potrafiło się zawiesić, utracić danych czy uszkodzić choć jednego pliku. Ciekawe. Domyślam, że lepsze jest kupienie za parę tysięcy NASa z jakimś autorskim rozwiązaniem na macierz aby po padzie sprzętu modlić się, że uda się odzyskać dane a jak nie, to szukać takiego samego sprzętu w Polsce bo producent zleje ciebie bo już wycofane ze sprzedaży.

Słowa takich osób często wynikają z braku zrozumienia narzędzi i utartych zasłyszanych opinii, nigdy takie słowa nie są poparte solidnym doświadczeniem i wiedzą.
Wiele z takich osób później jest zdziwionych, że za wielkim marketingowym szyldem ENTERPRISE stoi np: autorska kompilacja Linuxa. Pierwszy z brzegu przykład QNAP
Piotr Opara

Piotr Opara Inżynier systemów IT

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

> Krzysztof R.:
>
> Powiedzmy, że zrobię GlusterFS na 4 węzłach.

BTW aby uniknąć split brain, zawsze używaj nie parzystej liczby nodów.
Krzysztof K.

Krzysztof K. Administrator
systemów IT i sieci
- otwarty na
propozycje...

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Rafal S.:
Domyślam, że lepsze jest kupienie za parę tysięcy NASa
Kupienie czego i za ile? Ale to mowisz o labie tak? Dobre
NASy z QNAP czy synology. O innych rozwiązaniach nie myślałem, które stosuje się np. w datacenter.

FreeNAS jest zarąbisty z wielu względów. Jak choćby to, że jest za free. Stąd mogę zawsze mieć dwa serwery z FreeNAS i mieć zawsze dane w dwóch lokalizacjach co przy mocno ograniczonych budżetach firm jest dość istotne.

Także rozmawiając należy pamiętać, że jedni pracują dla małych firm a inni dla banków czy wielkich korporacji. Małe firmy często nie cenią ewentualnego postoju wyniku awarii ba nawet nie widzą potrzeby i trzeba mocno im tłumaczyć u uświadamiać dlaczego trzeba tak zrobić a nie inaczej. To jest masakra, bo często tak zlewają temat. Jednostki budżetowe / firmy. W gminach czy miastach jest znacznie lepiej.

Także freeNAS ma zarąbistą jedną rzecz. Można ujednolicić sobie środowisko. Bo każda firma ma różne środki jakie może sobie pozwolić na zakup. W innym przypadku bym miał w każdej firmie co róż inne rozwiązania/interfejsy itd.Ten post został edytowany przez Autora dnia 21.11.16 o godzinie 19:59

konto usunięte

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Tyle fajnych firm w PL, szkoda marnowac czas na siedzenie na GL i googlu i szukanie nie wiadomo jakich rozwiazan, zeby pozniej wprowadzic w jakims zieleniaku.
No chyba ze ci placą za czas spedzony na poszukiwaniach. Juz po 18, wiec 100% nadgodzin :)
Krzysztof K.

Krzysztof K. Administrator
systemów IT i sieci
- otwarty na
propozycje...

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Rafal S.:
Tyle fajnych firm w PL, szkoda marnowac czas na siedzenie na GL i googlu i szukanie nie wiadomo jakich rozwiazan, zeby pozniej wprowadzic w jakims zieleniaku.
No chyba ze ci placą za czas spedzony na poszukiwaniach. Juz po 18, wiec 100% nadgodzin :)
Dobry jesteś.

Dlatego wiele rzeczy już zmieniłem ale do pełnego szczęścia jeszcze wiele brakuje. Ale niestety ta wiedza jest mi potrzeba co by mógł kilka moich pomysłów zrealizować - nie to że dla kogoś coś robię. Ogólnie nie ma co tematu drążyć.

Panu Piotrowi bardzo dziękuje za porady. Bardziej przestudiuje dokumentacje GlusterFS i powyższe materiały. Choć mam trochę obawy po komentarzach na które ja natrafiłem. Szkoda, że nie spisałem tych komentarzy dot. gluster.
Piotr Opara

Piotr Opara Inżynier systemów IT

Temat: Cloud Storage - coś co działa podobnie do vSAN z firmy...

Warto zadać sobie pytanie, czy skoro te enterprajsy takie fajne, to dlaczego np ING szuka specjalisty od hadoop-a ?!

https://www.ingservicespolska.pl/pl/4,oferty-pracy/2035...

Oczywiście, nie robię tu darmowej reklamy, jak dotąd nie pracowałem dla ING i nie mam w tym interesu, podaję przykład żeby uzmysłowić sytuację.
Osobiście przejechałem się już na zamkniętych płatnych rozwiązaniach, na papierze wszystko super do pierwszej awarii, jeśli nie masz najwyższej, najdroższej, najlepszej licencji serwisowej za którą płacisz więcej niż za sam sprzęt to Twój ticket może być nawet miesiącami przepinany, tylko po to żebyś na koniec dowiedział się że właśnie minął okres wsparcia dla tego sprzętu i producent zaleca wymianę na nowszy model ;)
Oczywiście z internetów dowiesz się tylko tyle że "this is big problem, call service" :)
Tak więc doskonale rozumiem wybór FreeNAS i poszukiwanie rozwiązania stabilnego opensource.

Następna dyskusja:

pomysl na backup dla malej ...




Wyślij zaproszenie do