LINUX.ORG.RU
ФорумAdmin

высокий iowait


0

1

Добрый день уважаемое коммьюнити.

Есть сервер, это HP DL 380 G5/xeon 5120/4gb ram/SATA RAID1 250GB. На сервере развернут Debian Squeeze/sid. Сервер используется как хостинг платформа, apache2, php5, mysql.

Мешает работать ужасно высокий iowait:

sar.sysstat

13:30:18 all 8.72 0.58 2.62 74.45 0.00 13.62 13:40:01 all 11.29 0.20 2.22 75.13 0.00 11.15 13:50:29 all 8.95 0.88 2.24 75.00 0.00 12.93 14:00:48 all 7.85 0.41 2.54 83.24 0.00 5.96 14:10:01 all 6.59 0.21 2.05 83.71 0.00 7.44 14:20:01 all 12.58 0.55 2.47 67.38 0.00 17.02 14:30:01 all 7.21 0.40 2.15 76.72 0.00 13.51 14:40:01 all 8.14 0.40 1.95 73.94 0.00 15.57 14:50:01 all 2.97 0.67 1.18 70.07 0.00 25.11

Вот результаты hdparm:

b:/etc# hdparm -Tt /dev/cciss/c0d0

/dev/cciss/c0d0: Timing cached reads: 4662 MB in 2.00 seconds = 2332.80 MB/sec Timing buffered disk reads: 120 MB in 3.03 seconds = 39.61 MB/sec

Я думал что это из-за kernel bug #12309, но когда я обновился на 2.6.32 ситуация не изменилась, вернулся на старое ядро 2.6.26.

Хочу завтра собрать 2.6.35 я слышал что там этот баг побороли.

Прошу ваших идей, готов предоставить необходимые логи и данные.

-=:=-

Timing buffered disk reads: 120 MB in 3.03 seconds = 39.61 MB/sec


у тебя явно чтото не так
/dev/mapper/isw_debiebbcee_KosmiK0:
Timing cached reads: 17780 MB in 2.00 seconds = 8899.03 MB/sec
Timing buffered disk reads: 502 MB in 3.01 seconds = 166.99 MB/sec

Два винта по (250 GB/232 GiB) на биос рейде.

А у тебя явно фигня какая-то.

KosmiK ()

>Хочу завтра собрать 2.6.35 я слышал что там этот баг побороли.

А зачем его собирать? В experimental уже есть.

nnz ★★★★ ()
Ответ на: -=:=- от KosmiK

Re: -=:=-

Файловая система ext3. Заполнена примерное на 50%.

Я постарался оптимизировать mysqld, httpd, развернут eAccellerator для php. Завтра будет развернут nginx как фронтэнд для apache2

fxp0fxp0fxp0 ()
Ответ на: Re: -=:=- от fxp0fxp0fxp0

-=:=-

..уж прости, но ты меня не понял. (Дело не в файловой системе, проблема гораздо ближе к железу)
Своим копипастом из терминала я показал, что твой рейд (выдающий 39.61 метра в секунду) напоминает скорее два винта без dma (по 19-20метров на винт, хм...PIO-mode чтоли, или чтото древнее).
Твой сата-рейд аппаратный? софтовый? биос-рейд?
Если софтовый выдает такую ничтожную производительность, то видимо чтото с производительностью проца.
Если аппаратный или биос - то видимо бага какая-то.

Хм, а может у тебя винты сыпятся? - Прогони максимальный смарт-тест, вдруг ещё не поздно.

А воопще странно это, хотя с другой стороны - прогони hdparm без всех потребителей проца и хардов, может твои 40метров получились в тике нагрузки на рейд..

KosmiK ()
Ответ на: -=:=- от KosmiK

обожаться))))) то крепежных винтиков не в те дырки насуют и они замыкают мамку - раз включишь 12 ГБ оперативы, другой - все 24 ГБ, умные люди потом по секрету расказывают что именно они знают с какими она процами сто пудова работает))))

anykey_mlya ()

-=:=-

Server is fine, but bottleneck is in RAID.

With RAID 5 write speed was as low as 22MBps. After we added Intel PRO 1000PT instead of Broadcom NICs. When RAID load is high(100%), we are getting incoming network interface errors.
Ндааааа

We have about 50 of these in our datacenter. Very stable server and we have very little problems with them. A hard drive may go bad every few months, but that's expected. We've never had to call a HP tech on site to replace anything.

Жесть!

but that's expected

}:-E ]

KosmiK ()
Ответ на: -=:=- от KosmiK

Re: -=:=-

Это аппаратный рэйд

[code] b:/home/fxp0# array-info -d /dev/cciss/c0d0 HP Smart Array E200 Firmware revision : 1.72 Rom revision : 1.72 1 logical drive configured.

Logical drive 0 : Fault tolerance : RAID 1 (Mirroring) Size : 232.85 GiB (488327040 blocks of 512 bytes) Status : Logical drive is ok [/code]

Кстати обратил внимание что на контроллере старая версия прошивки.

fxp0fxp0fxp0 ()
Ответ на: Re: -=:=- от fxp0fxp0fxp0

Re: -=:=-

>>HP Smart Array E200

Кеш-памяти сколько? Есть ли батарея на контроллере? Попробуйте включить опцию контроллера «Physical Drive Write Cache», но это может быть опасно для данных.

А вообще-то контроллер слабоват, всё же начального уровня как-никак. У меня на ML350 G5 с Smart Array E200i (Cache 128M, BBWC) даже под виндой со всеми последними прошивками и драйверами удалось выжать только 27 Мб/с последовательного чтения. Мерял при помощи sqlio в 4 потока с -f sequential и блоками данных по 2кб. ИМХО, контроллер плохо справляется с маленькими порциями данных.

anonymous ()
Ответ на: Re: -=:=- от anonymous

Re: -=:=-

>Кеш-памяти сколько? Есть ли батарея на контроллере? Попробуйте включить опцию контроллера «Physical Drive Write Cache», но это может быть опасно для данных.

Array-info не дает информацию на этот счет. У меня на домашней машине, выдает результаты гораздо выше:

root@arena:/home/b# hdparm -Tt /dev/sda

/dev/sda: Timing cached reads: 1434 MB in 2.00 seconds = 717.12 MB/sec Timing buffered disk reads: 380 MB in 3.00 seconds = 126.54 MB/sec

Не думаю что скорость 39.61 MB/sec для аппаратного RAID1, это хорошая скорость.

Будем бороться.

fxp0fxp0fxp0 ()
Ответ на: Re: -=:=- от fxp0fxp0fxp0

Re: -=:=-

>> Array-info не дает информацию на этот счет.

А эту информацию выдадут только утилиты от HP. Если возможно, установите HP ACU CLI. В противном случае скачайте образ HP SmartStart загрузитесь с него. Там разберётесь уже без труда.

Ещё подвергните систему тестам с bonnie++, будет интереснее.

anonymous ()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.