Распределенные многопользовательские ФС

tahoe-lafs

А она работает? Годик назад я пытался собрать и запустить, так и не получилось.

GlusterFS?

tahoe-lafs пробовал, но мне не удалось заставить уже загруженный файл автоматически «разползтись» на свежедобавленные ноды. А все остальные, что я находил, очень плохо переносят отключения нод, начинают блокироваться и виснуть.

Я сам только тестировал ее недавно, целью было использование всяких облачных хранилищ в качестве бэкенда, было 8 storage нод. Серьезных проблем я не заметил, ну.. кроме невероятно низкой скорости, но это все тормозной webdav.

Правда storage и на диске тоже не особо быстрый, оно при заливке файлов кушает много процессора.

GlusterFS

tahoe-lafs

Неюзабельно. Люто тормозит даже в локалке, фоновая синхронизация отсутствует, удаление файлов отсутствует. Отказоустойчивость и восстановление после сбоев тоже весьма условное: если одна из нод пропадает, данные с оставшихся нод никуда не перераспределяются, то же и с добавлением новых нод - нужно всё перезаливать заново. Ну и чем оно лучше люстры какой-нибудь?

Мне кажется тебе надо описать задачу, которую ты собираешься решать. А то для одних, хранение файлов - само по себе ценность, для других, в этом нет смысла, если нет версионности, разграничения доступа и тп.

Я хочу синхронизировать и распараллеливать для надежности файлы. Т.е. пользоваться этим как обычной ФС, но на нескольких машинах.

Ну если файлы ради файлов, тогда я тоже за GlusterFS. По крайне мере получишь интересный опыт.

Я же считаю, что единственное, что стоит хранить, так это то, что досталось трудом. то есть написанный код => git.

фоновая синхронизация отсутствует

Что подразумевается под фоновой синхронизацией?

удаление файлов отсутствует

Куски файлов удаляет сборщик мусора, если к ним не было обращений. Не особо круто конечно, но тем не менее)

если одна из нод пропадает, данные с оставшихся нод никуда не >перераспределяются, то же и с добавлением новых нод - нужно >всё перезаливать заново

Эм, даже при дефолтных настройках файл бъется на 10 кусков и 3 их них достаточно для восстановления. т.е. если у нас 10 нод, то нужно грохнуть 8 штук, чтобы не возможно было восстановить файл. Плюс там есть механизм починки файлов, который создает пропавшие куски и по возможности они создаются там, где других кусков нет, т.е. на новых нодах.

Ну и чем оно лучше люстры какой-нибудь?

Я не использовал люстру, так что не могу сказать, да и вообще tahoe-lafs напоминает пачку скриптов на питоне, чем полноценную файловую систему, но тем не менее, на мой взгляд основной недостаток у нее это т.н. introducer, который координирует узлы: потеряв к нему доступ мы потеряем все ноды(Над этим уже работают очень давно) Ну и скорость работы конечно..

GlusterFS

Не очень понимаю насчет глобальности. Можно ли построить мировой пул, где каждый отдает фиксированное количество места под хранение данных, и каждый же может приватно хранить в пуле сколько-то данных?

hdfs?

не.

построить мировой пул,

все таки glusterfs не для этого )) Гигабитный эзернет хотя бы между серверами должен быть. Хотя хранить приватно, например в контейнере truecrypt вполне себе решение.

Не, так не катит. Мне именно глобальный нужен.

Не, так не катит. Мне именно глобальный нужен.

Боюсь, что универсального варианта такого сегодня в природе нет.