LINUX.ORG.RU
ФорумAdmin

Выбор ФС для файлового сервера


0

3

Приветствую всех!

Появился у меня такой вопрос - какую файловую систему выбрать для файлового сервера?

Что есть сейчас:

Машинка Intel CoreQuad, 8Gb ram, 2x1.5tb HDD (2 набора RAID 1, каждый винт зеркалируется), Система CentOS 5.5 Файловая система на этих винтах ext3

Сам файловый сервер - хранилище пользовательского контента социальной сети (аналог csXXX.вконтакте) . А именно - множество мелких (до 80кб и меньше) jpg, png, далее mp3 (размером до 20mb) + flv (размером до 100 mb). Все находится под большой нагрузкой, огромное кол-во запросов, соответственно в основном чтение.

Стоит ли выбрать для этого какую-нибудь другую ФС для увеличения производительности, но не с большой потерей надежности? И что посоветуете.

З.Ы. знаю что вопрос уже везде изъезжен, но гугля так и не получилось найти свежих и достоверных данных.

Да, и еще, также буду благодарен за советы по оптимизации CentOS под файловый сервер. Смотрел доклад Игоря Сысоева, так он конечно чудеса с nginx+freebsd творит... Может есть какие-нить особенности для Linux?

Ответ на: комментарий от amorpher

А вот еще вопрос, оптимальнее держать видео и аудио(крупное) раздельно с графикой(мелкое) на различных ФС или же взять и все плюхнуть на рейзер?

AlexeyVitebsk ()

Файловая система на этих винтах ext3

Вот собсно и все нормально. Главное организовать хранилище так, чтобы в каталоге было не более 100 файлов, и всё.

no-dashi ★★★★★ ()

Все эти оптимизации дадут очень малый реальный рост производительности. Я рекомендую вам не менять fs, чтобы не найти на свое мягкое место приключений.

zgen ★★★★★ ()

raiser прекрасно работает с мелкими файлами, xfs наоборот с большими. может и есть смысл разделить контент.

unikum ★★★★★ ()
Ответ на: комментарий от amorpher

проблема - увеличить производительность) В nginx я уже нашаманил все что знал, теперь уткнулся в %wa

Вот и думаю, каким образом это можно исправить.

Главное организовать хранилище так, чтобы в каталоге было не более 100 файлов

Именно файлов? у меня там в фс все лежит так

/hdd1/номер тысячи/id юзера/*файлы юзера*

т.е. /hdd1/10000/10444/1.jpg

получается что в дире 10000 есть диры от 10000-10999. Это нормально?

AlexeyVitebsk ()
Ответ на: комментарий от AlexeyVitebsk

проблема - увеличить производительность

Это лучше аппаратными средствами решать, а не типом ФС

RAID 1

:)

amorpher ★★★★★ ()

сервер будет на отдачу работать ?

Если да то ставь рейзера третьего.

MikeDM ★★★★★ ()

Посоветовал бы рейзер3, но в центосе он не поддерживается. А лучше для твоей задачи все равно ничего нет, так что придется тебе жевать кактус дальше.

nnz ★★★★ ()
Ответ на: комментарий от AlexeyVitebsk

>http://ru.wikipedia.org/wiki/Reiser4

Ни в коем случае. Четвертый рейзер дичайше подвержен фрагментации!

Создай два раздела: один для мелких файлов, другой для ауйдио/видео. На разделе с мелкими файлами юзай ext4, на втором разделе — xfs.

linuxfan ()

Reiser4 + fibration=lexic_fibre.
Ну или btrfs ради дефрагментатора.

devl547 ★★★★★ ()

Ставить на файлопомойку следует ту ФС, с которой лучше всего работает любимое средство восстановления ФС / удаленных файлов.

Только так.

thesis ★★★★★ ()
Ответ на: комментарий от thesis

Неистово плюсую. Смотреть нужно на два шага вперед, учитывая возможные форс-мажоры и потерю данных, от которых raid1(1-1-1-1) совершенно не спасет.

zgen ★★★★★ ()

Для всего можно использовать xfs если основная нагрузка это чтени (для мелких файлов). Но можно и оставить на ext3, навряд ли есть большой смысл менять существующую систему. Рейзер 3/4 просто мёртвое гогно. Кроме ext/xfs пока ничего нет.

anonymous ()
Ответ на: комментарий от thesis

> Ставить на файлопомойку следует ту ФС, с которой лучше всего работает любимое средство восстановления ФС / удаленных файлов.

Чушь. Единственное средство восстановления для любой фс - регулярные бэкапы.

anonymous ()

>для увеличения производительности,
...делают RAID и ssd. Или берут 10,15к скоростные диски.
А так ext4.

darkshvein ☆☆ ()

Reiser4 rules.

Есть проблемы с производительностью? Всё упёрлость именно в НЖМД или файловую систему? Reiser4 поможет.

На самом деле Reiser4 действительно рулит, быстрая и надёжная файловая система. Но на production сервер я бы её не поставил, потому что ей нужно патченое ядро, а с этим возиться лень. Так что если производительность ФС действительно проблема, то используй Reiser4. Если же с ext4 кое-как работает, то лучше потратить своё время на что-нибудь ещё.

Camel ★★★★★ ()
Ответ на: комментарий от anonymous

Чушь. Единственное средство восстановления для любой фс - регулярные бэкапы.

Точно. И за сколько времени ты восстановишь сервак с убитой fs из бекапов? Быстрее, чем мой ext3.fsck пройдет и тупо все поправит, чтобы оно взлетело?

zgen ★★★★★ ()
Ответ на: Reiser4 rules. от Camel

Есть проблемы с производительностью?

Проблемы с производительностью решаются не сменой fs. Тем более не сменой на fs при крахе которой один из разработчиков предлагает писать прямо ему, чтобы «спасти данные».

zgen ★★★★★ ()

Если уж уперся в скорость работы с ЖД, то ставь дополнительно пару файловых серверов и распределяй на них файлы. И надёжнее и на будущее задел.

AlexVR ★★★★★ ()
Ответ на: Reiser4 rules. от Camel

Даже из интервью с Шишкиным можно сделать вывод, что Reiser4, несмотря на всю рулезность, пока не готова.

madcore ★★★★★ ()

«огромное кол-во запросов» это сколько iops?

anonymous ()
Ответ на: комментарий от zgen

Не падает.

fs при крахе которой

Несколько лет уже использую на домашнем сервере и настольной машине, горя не знаю. Не падает. ЧЯДНТ?

Camel ★★★★★ ()
Ответ на: комментарий от madcore

Reiser4.

Даже из интервью с Шишкиным можно сделать вывод, что Reiser4, несмотря на всю рулезность, пока не готова.

Вы прочитали что-то такое чего не смог прочитать я. Reiser4 готова и вполне себе надёжно и быстро работает.

Camel ★★★★★ ()
Ответ на: комментарий от zgen

> Точно. И за сколько времени ты восстановишь сервак с убитой fs из бекапов? Быстрее, чем мой ext3.fsck пройдет

Сколько дней будет твой fsck проверять ext3 приличного размера? Уж точно не с ext3 нужно вспоминать fsck. Хотя тут уже сама постановка вопроса неверная - fsck НЕ восстановит убитую фс.

anonymous ()
Ответ на: Reiser4. от Camel

>Даже из интервью с Шишкиным можно сделать вывод, что Reiser4, несмотря на всю рулезность, пока не готова.

и я читал...

чел сам признался что работает один, времени - только на выходных, поддержка ядер с задержкой, фрагментация - нерешеная проблема + некая сложно воспроизводимая критическая бага. Полхвалился только суперским алгиритмом «вверх и вниз нисходящего днрева» и тупизной конкурентов

anykey_mlya ()
Ответ на: комментарий от anykey_mlya

> + некая сложно воспроизводимая критическая бага

Не критическая. Парв-другая тикетов с такого рода багами есть у всех. Даже у ext3. Просто вы о них не знаете.

anonymous ()
Ответ на: Не падает. от Camel

Несколько лет уже использую на домашнем сервере и настольной машине, горя не знаю. Не падает. ЧЯДНТ?

Домашний сервер+настольная машина+несколько лет, это не 20-30-40 бизнес-серверов с данными разной степени критичности в течении 7-10 лет.

Грубо говоря, ваш опыт на 2х машинах в качестве статистически значимой выборки неприемлем.

zgen ★★★★★ ()
Ответ на: комментарий от anonymous

Сколько дней будет твой fsck проверять ext3 приличного размера?

Какой объем данных? 2-3TB - пара часов.

Ваши варианты?

zgen ★★★★★ ()
Ответ на: комментарий от anonymous

fsck НЕ восстановит убитую фс.

Это смотря какая fs убита и как.

Постоянно встречаю описание проблем с xfs/raiser, что якобы их восстанавливать НЕЧЕМ. А там где есть чем, fsck думает, а потом падает с unknown magic error, разобраться в смысле которой может только разработчик.

на мой взгляд, эти fs не для продакшн в принципе. Если с тех пор что-то поменялось - отлично, значит я неправ. Но я в это не верю.

ext3 хороша тем, что по структуре слабо отличается от ext2, что накрутки и исправления fsck по ним думаю зашкаливают за миллиарды циклов. Проблемы их изучены за столько времени в стольких позах, в скольких ни райзеру (в коде которого никто ничего не понимает) ни xfs'у, ни любой другой малораспространенной fs не снилось даже.

zgen ★★★★★ ()
Ответ на: комментарий от zgen

Продакшн такой продакшн.

Грубо говоря, ваш опыт на 2х машинах в качестве статистически значимой выборки неприемлем.

Я уже написал, что должны быть причины чтобы использовать Reiser4 на серьёзном сервере. И таки если у вас серверов действительно много, и они действительно серьёзные, и требования к быстродействию и экономии ресурсов высоки, ты вы и без советов на L.o.r.'е знаете какую использовать ФС и как проводить пробное внедрение Reiser4 на предмет её пригодности.

Camel ★★★★★ ()
Ответ на: Продакшн такой продакшн. от Camel

ты вы и без советов на L.o.r.'е знаете какую использовать ФС и как проводить пробное внедрение Reiser4 на предмет её пригодности.

Я то может и знаю, а ТС - может и нет.

zgen ★★★★★ ()

В google используют ext4 без журнала, например. С бэкапами ессесно.

anon_666 ()
Ответ на: комментарий от amorpher

рейзер хороша для кучи мелких файлов (читай - для корня), для файлопомойки она не подходит в силу разнокалиберности файлов в ней

Rauschgiftsuchtige ()
Ответ на: комментарий от Chaser_Andrey

>>Сделай RAID10.

тоже не панацея, учитывая то что ТС упомянул «в основном чтение», тут может и 4way mirror лучше будет.

EvgGad_303 ★★★★★ ()

Хз. Я бы пользовал ext4, но не сильно копался в устройстве разных ФС, поэтому могу быть неправ.

Qrntz ()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.