LINUX.ORG.RU

Странные тормоза при ребилде raid6

 , ,


0

1

Потребовалось мне сделать repair на массиве, который был когда-то собран с --assume-clean, что привело к безумной цифре в mismatch_cnt.

Запустил ребилд, сижу, жду. Всё работает, скорость ребилда около 200МБ/с. Ребилд идёт, скорость потихоньку падает, всё как и положено. Доработало оно примерно до 2/3, и тут скорость упала с ожидаемых ~150МБ/с до 40Мб/с.

iostat показывает примерно такую картину:

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.00    0.00   13.64   40.91    0.00   45.45

Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
sdc           14730.00  4236.00   94.00   62.00 46992.00 15616.00   802.67     7.34   28.28   31.02   24.13   2.31  36.00
sde           14728.00  4219.00   93.00   63.00 46480.00 15616.00   796.10     7.21   26.95   29.42   23.30   2.26  35.20
sdh           14693.00  4268.00   94.00   62.00 45972.00 15616.00   789.59     7.42   27.82   30.68   23.48   2.28  35.60
sdf           14692.00  4220.00   65.00   60.00 31632.00 15104.00   747.78   143.86 1327.74  135.45 2619.40   8.00 100.00
sdd           14692.00  4221.00   92.00   61.00 45968.00 15616.00   805.02     7.31   27.61   30.48   23.28   2.33  35.60
sdg           14690.00  4245.00   93.00   69.00 45968.00 15616.00   760.30     7.63   27.53   30.84   23.07   2.20  35.60
md1               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
md2               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
md3               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
md6               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
sdi               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
md0               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.00    0.00    9.64   43.65    0.00   46.70

Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.00     0.00    0.00    1.00     0.00     0.50     1.00     0.02   16.00    0.00   16.00  16.00   1.60
sdc           11297.00  3969.00   95.00   63.00 45568.00 16128.00   780.96     8.35   52.86   61.14   40.38   2.38  37.60
sde           11297.00  3957.00   95.00   75.00 45568.00 16128.00   725.84     9.85   57.98   72.80   39.20   2.24  38.00
sdh           11296.00  3968.00   96.00   64.00 45568.00 16128.00   771.20    10.71   66.95   81.12   45.69   2.45  39.20
sdf           11296.00  3969.00   96.00   63.00 45568.00 16128.00   776.05     9.63   60.55   73.79   40.38   2.31  36.80
sdd           11299.00  3969.00   79.00   64.00 38280.00 16128.00   760.95   154.94 1191.78  204.46 2410.50   6.99 100.00
sdg           11296.00  3968.00   96.00   64.00 45568.00 16128.00   771.20     9.96   62.27   75.29   42.75   2.30  36.80
md1               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
md2               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
md3               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
md6               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
sdi               0.00     0.00    0.00    1.00     0.00     0.50     1.00     0.02   16.00    0.00   16.00  16.00   1.60
md0               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00

Да, диск со 100% нагрузкой время от времени меняется, иногда их становится сразу несколько. Данные на массиве в порядке, смарт дисков в порядке, падения производительности в повседневных задачах не ощущается.

У меня одно объяснение - винты из одной партии, в конце дисков много переназначенных на заводе секторов. Я прав, или у этого явления могут быть программные причины?

Участники событий: debian 7, mdadm, sas2008 (LSI 9210-8i в it mode), dt01aca300.

Задай скорость с избытком, может помочь.

anonymous ()
Ответ на: комментарий от anonymous

Максимум и так стоит 200000, минимум попробовал поднять - никакой реакции.

koi-sama ()
Ответ на: комментарий от koi-sama

Ну тогда только ждать. У меня когда-то был RAID5, и таких проблем я там не помню, так что больше ничего не посоветую. Разве что посматривать в dmesg.

anonymous ()

Можно попробовать увеличить на время размер очереди планировщика ввода-вывода в /sys/block/sdX/queue/nr_requests и выключить NCQ через echo 1 > /sys/block/sdX/device/queue_depth. Первое может немного ускорить сборку, отожрав при этом больше памяти, второе может ускорить или замедлить сборку в зависимости от железа и положения звезд на небе.

Deleted ()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.