LINUX.ORG.RU
ФорумAdmin

mdadm raid10 как восстановить?

 ,


1

2

Привет всем.

Есть массив mdadm raid10. Развалился. попытки запуска безуспешны.

Вот что есть: detail


/dev/md0:
           Version : 1.0
     Creation Time : Sun Sep 10 09:38:18 2023
        Raid Level : raid10
     Used Dev Size : 234429888 (223.57 GiB 240.06 GB)
      Raid Devices : 4
     Total Devices : 2
       Persistence : Superblock is persistent

       Update Time : Sun Dec 28 14:32:44 2025
             State : active, FAILED, Not Started 
    Active Devices : 2
   Working Devices : 2
    Failed Devices : 0
     Spare Devices : 0

            Layout : near=2
        Chunk Size : 64K

Consistency Policy : unknown

              Name : any:0
              UUID : b7175757:a15ed574:6940d0a2:589e6c79
            Events : 9090299

    Number   Major   Minor   RaidDevice State
       -       0        0        0      removed
       -       0        0        1      removed
       -       0        0        2      removed
       -       0        0        3      removed

       -       8       49        2      sync set-A   /dev/sdd1
       -       8       65        3      sync set-B   /dev/sde1

И вот examine


/dev/sdb1:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : b7175757:a15ed574:6940d0a2:589e6c79
           Name : any:0
  Creation Time : Sun Sep 10 09:38:18 2023
     Raid Level : raid10
   Raid Devices : 4

 Avail Dev Size : 468860048 sectors (223.57 GiB 240.06 GB)
     Array Size : 468859776 KiB (447.14 GiB 480.11 GB)
  Used Dev Size : 468859776 sectors (223.57 GiB 240.06 GB)
   Super Offset : 468860064 sectors
   Unused Space : before=0 sectors, after=272 sectors
          State : active
    Device UUID : c0cde6fe:dc6927c6:8f8cda7c:2bebda0e

Internal Bitmap : -16 sectors from superblock
    Update Time : Sun Dec 28 14:31:11 2025
  Bad Block Log : 512 entries available at offset -8 sectors
       Checksum : 3f8ea6a9 - correct
         Events : 9090209

         Layout : near=2
     Chunk Size : 64K

   Device Role : Active device 1
   Array State : .AAA ('A' == active, '.' == missing, 'R' == replacing)
/dev/sdc1:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : b7175757:a15ed574:6940d0a2:589e6c79
           Name : any:0
  Creation Time : Sun Sep 10 09:38:18 2023
     Raid Level : raid10
   Raid Devices : 4

 Avail Dev Size : 468860048 sectors (223.57 GiB 240.06 GB)
     Array Size : 468859776 KiB (447.14 GiB 480.11 GB)
  Used Dev Size : 468859776 sectors (223.57 GiB 240.06 GB)
   Super Offset : 468860064 sectors
   Unused Space : before=0 sectors, after=272 sectors
          State : active
    Device UUID : e000d80f:a184c947:65fe1179:bda5b5ae

Internal Bitmap : -16 sectors from superblock
    Update Time : Fri Nov  7 02:52:14 2025
  Bad Block Log : 512 entries available at offset -8 sectors
       Checksum : 6dc58c1e - correct
         Events : 6357014

         Layout : near=2
     Chunk Size : 64K

   Device Role : Active device 0
   Array State : AAAA ('A' == active, '.' == missing, 'R' == replacing)
/dev/sdd1:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : b7175757:a15ed574:6940d0a2:589e6c79
           Name : any:0
  Creation Time : Sun Sep 10 09:38:18 2023
     Raid Level : raid10
   Raid Devices : 4

 Avail Dev Size : 468860048 sectors (223.57 GiB 240.06 GB)
     Array Size : 468859776 KiB (447.14 GiB 480.11 GB)
  Used Dev Size : 468859776 sectors (223.57 GiB 240.06 GB)
   Super Offset : 468860064 sectors
   Unused Space : before=0 sectors, after=272 sectors
          State : clean
    Device UUID : 2e978f51:fccb8e12:523fa647:7b1d0b47

Internal Bitmap : -16 sectors from superblock
    Update Time : Sun Dec 28 14:32:44 2025
  Bad Block Log : 512 entries available at offset -8 sectors
       Checksum : e19ab800 - correct
         Events : 9090299

         Layout : near=2
     Chunk Size : 64K

   Device Role : Active device 2
   Array State : .AAA ('A' == active, '.' == missing, 'R' == replacing)
/dev/sde1:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : b7175757:a15ed574:6940d0a2:589e6c79
           Name : any:0
  Creation Time : Sun Sep 10 09:38:18 2023
     Raid Level : raid10
   Raid Devices : 4

 Avail Dev Size : 468860048 sectors (223.57 GiB 240.06 GB)
     Array Size : 468859776 KiB (447.14 GiB 480.11 GB)
  Used Dev Size : 468859776 sectors (223.57 GiB 240.06 GB)
   Super Offset : 468860064 sectors
   Unused Space : before=0 sectors, after=272 sectors
          State : clean
    Device UUID : 210b29de:319063a4:6ffff831:68ced113

Internal Bitmap : -16 sectors from superblock
    Update Time : Sun Dec 28 14:32:44 2025
  Bad Block Log : 512 entries available at offset -8 sectors
       Checksum : b7226134 - correct
         Events : 9090299

         Layout : near=2
     Chunk Size : 64K

   Device Role : Active device 3
   Array State : .AAA ('A' == active, '.' == missing, 'R' == replacing)

Прошу знатоков помочь в восстановлении. Спасибо.

Ответ на: комментарий от LongLiveUbuntu

Я на Хабре читал статью как у модного и молодежного датацентра так целая партия SSD посыпалась

Так в ДЦ обычно ставят всякую дешмань, так что ничего удивительного.

Поэтому все эти ваши рейды надо только на HDD делать, там хотя бы будет заметно, что что-то не так перед сдыханием.

Можно и на ssd, но не одинаковых. Однако я вас поддерживаю в тезисе, что на hdd вероятность одновременной смерти даже из одной партии все-таки ниже чем смерть у ssd где это из каробки запланировано.

anc ★★★★★
()
Ответ на: комментарий от firkax

Я не про уведомления смарта а про уведомления на почту. Правильные уведомления должны быть туда где ты часто бываешь не ради просмотра уведомлений, а ради ежедневных дел.

Имхо в современном мире блокировок всяких IM, почта все-таки более надежный из бесплатных вариантов. Ну и просто удобство прочтения у почты все-таки больше.

anc ★★★★★
()
Ответ на: комментарий от kostik87

Более того, я уверен, что не только я использую почтовый клиент, который выводит уведомления о появлении новых писем.

Воистину! Уведомления это крайне удобно! А с учетом работы всяких imap idle почта превращается в тот же IM.

anc ★★★★★
()
Ответ на: комментарий от anc

imap idle почта превращается в тот же IM.

почтой с конвертацией всего не текстового в base64, видосики шибко не попересылаешь, нужен какой то дополнительный сервис-костыль с внешними ссылками

yandrey ★★
()
Ответ на: комментарий от yandrey

почтой с конвертацией всего не текстового в base64, видосики шибко не попересылаешь, нужен какой то дополнительный сервис-костыль с внешними ссылками

Насчет пересылки чего-то сильно объемного согласен полностью! Тут в зависимости от... или почтарь не пропустит или клиент офигеет в /dev/null, вариации разные случались.

anc ★★★★★
()
Ответ на: комментарий от anc

А почему в качестве альтернативы именно IM? А вдруг почта тоже сломается? А вдруг сломается её отправлятель?

По-моему лучший вариант - это прога, запущеная напрямую на твоём компе (ну или для любителей мобильной чуши - на смартфоне), которая инициативно проверяет (не smartctl на сервере запускает, разумеется, а запрос на получение данных шлёт к тому у кого они есть) состояние интересующего параметра и сразу же локально тебя оповещает при проблемах. Проблемы включают в себя ситуацию, когда данные не получается получить в течение заметного периода времени, или когда таймстамп данных недостаточно актуальный. Таким образом единственная точка отказа доставки этих оповещений будет расположена на твоём устройстве (можешь её резервировать несколькими), а сами оповещения будут доставляться максимально простым способом.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от firkax

А почему в качестве альтернативы именно IM?

Потому что как минимум вы можете её прочитать с большого кол-ва девайсов это раз, во вторых рассортировать по папочкам и присвоить им соответствующие метки по приоритету. Т.е. это не альтернатива, функций больше чем у IM.
Поймите правильно, я не против IM, оно тоже должно быть для всяких critical, но не безальтернативно заменой email, т.е. шлем на все доступные варианты.

anc ★★★★★
()
Ответ на: комментарий от anc

Не вижу связи между моим вопросом и этим ответом. Я не спрашивал «почему почта». И в сообщении кроме первого вопроса ещё куча всего было написано.

firkax ★★★★★
()
Ответ на: комментарий от firkax

И в сообщении кроме первого вопроса ещё куча всего было написано.

Так всё остальное написанное вами относится к вариациям систем мониторинга, что правильно и у меня не возникло никаких возражений на это.

anc ★★★★★
()
Ответ на: комментарий от anc

Так и вопрос остаётся - почему вопрос рассматривается в виде «почта vs IM», а не «почта vs полноценный мониторинг с агентом-оповещателем на компе админа».

Что касается сортировок и приоритетов - то мониторинг это тоже может сделать сам, и показать уже готовое в своём интерфейсе - зачем тут посредническое звено в виде почты нужно?

firkax ★★★★★
()
Ответ на: комментарий от firkax

Так и вопрос остаётся - почему вопрос рассматривается в виде «почта vs IM», а не «почта vs полноценный мониторинг с агентом-оповещателем на компе админа».

Про полноценный онлайн мониторинг я и не возражал, но это уже служба диспетчерезации, а не работа админа. Хотя с недавних пор по какой-то непонятной мне причине и это на админов стали вешать.

anc ★★★★★
()
Последнее исправление: anc (всего исправлений: 1)
Ответ на: комментарий от anc

То есть если кто-то работает админом, то он должен делать себе полуручные уведомления на почту от всего подряд, а предлагать сделать мониторинг (или, ещё хуже, настраивать его своими силами), который может слать уведомления самостоятельно, ни в коем случае не должен т.к. это не его работа? Странный подход.

Даже если его поднимать и настраивать придётся полностью своими силами и исключительно для личного пользования (ну т.е. никому другому в компании он не нужен и они даже не знают что это такое), то это всё равно стоит сделать т.к. это упрощение своей же работы.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Привет.

dd if=sdb1-super bs=1 skip=200 count=8

Дала вывод

00000000 a1 b4 8a 00 00 00 00 00                |.....|
00000008

Мне для ввода брать без нулей, как у вас в написано?

bonifacio
() автор топика
Ответ на: комментарий от bonifacio

Какого ввода? Это никуда не надо вводить, это просто проверка что суперблок правильно нашли.

Да, поле 8-байтное а я там только 4 написал в образце того что должно вывестись. А так всё совпадает пока что же.

firkax ★★★★★
()
Ответ на: комментарий от bonifacio

Четвёртый диск что ли вставил? Без него никаких resync вроде не должно быть.

И fsck надо, он сам может даже считать что файловая система clean но всё равно надо.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от bonifacio

Так а кого он куда синхронизирует? Там два зеркала оба актуальные + один диск без пары.

Хотя может быть sdd и sde всё-таки неодинаково сохранились и кто-то из них новее. Но всё равно лучше проверить.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от bonifacio

Короче ничего получилось. fdisk показывает что есть /dev/md0, но примонтировать не получается.


/dev/md0:
           Version : 1.0
     Creation Time : Sun Sep 10 09:38:18 2023
        Raid Level : raid10
        Array Size : 468859776 (447.14 GiB 480.11 GB)
     Used Dev Size : 234429888 (223.57 GiB 240.06 GB)
      Raid Devices : 4
     Total Devices : 3
       Persistence : Superblock is persistent

     Intent Bitmap : Internal

       Update Time : Tue Dec 30 09:19:09 2025
             State : clean, degraded 
    Active Devices : 3
   Working Devices : 3
    Failed Devices : 0
     Spare Devices : 0

            Layout : near=2
        Chunk Size : 64K

Consistency Policy : bitmap

              Name : any:0
              UUID : b7175757:a15ed574:6940d0a2:589e6c79
            Events : 9090770

    Number   Major   Minor   RaidDevice State
       -       0        0        0      removed
       1       8       17        1      active sync set-B   /dev/sdb1
       2       8       49        2      active sync set-A   /dev/sdd1
       3       8       65        3      active sync set-B   /dev/sde1

bonifacio
() автор топика
Ответ на: комментарий от bonifacio

Описание содержимого массива можно посмотреть так:

cat /dev/md0 | file -
по крайней мере ext2/ext3/ext4 он распознаёт, xfs думаю тоже.

firkax ★★★★★
()
Ответ на: комментарий от bonifacio

Если не сделаешь проверку файловой системы (принудительную) - могут быть любые баги впоследствии.

firkax ★★★★★
()
Ответ на: комментарий от bonifacio

Во время сливания тоже могт быть какие-то баги. Ну да ладно, массив они уже не запорят. Но слить не то что надо могут. Он же в read-only смонтировался?

После сливания тогда размонтируй, сделай xfs_repair -L, примонтируй назад, и сравни слитые раньше файлы с новым их состоянием - возможно там что-то изменится.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от firkax

ФС смонтировалась в состоянии clean вроде. Не в read-only.

После сливания тогда размонтируй, сделай xfs_repair -L,

сделаю.

bonifacio
() автор топика
Ответ на: комментарий от firkax

Не знаю стоит-ли это делать, там самый поздний файл (время изменения) 14:30, а все сломалось по дискам в 14:31 и 14:32.

После сливания тогда размонтируй, сделай xfs_repair -L, примонтируй назад, и сравни слитые раньше файлы с новым их состоянием - возможно там что-то изменится.

bonifacio
() автор топика
Последнее исправление: bonifacio (всего исправлений: 1)
Ответ на: комментарий от bonifacio

У него могло быть изменение и позже, но из-за рассинхронизации его дата не сохранилась, а данные например сохранились кусками и в итоге мусор. Кроме того могли побиться метаданные xfs и я не знаю насколько из-за этого всё может испортиться. Там у массивов целых 90 событий разница, это явно не просто размонтирование, что-то писалось ещё на диск во время сбоя.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 2)
Ответ на: комментарий от firkax

Сделал, ничего не поменялось. Поехал запускать сервер.

bonifacio
() автор топика
Ответ на: комментарий от firkax

То есть если кто-то работает админом, то он должен делать себе полуручные уведомления на почту от всего подряд, а предлагать сделать мониторинг (или, ещё хуже, настраивать его своими силами), который может слать уведомления самостоятельно, ни в коем случае не должен т.к. это не его работа?

Напоминаю, что я отвечал на ваше: «почта vs полноценный мониторинг с агентом-оповещателем на компе админа». Агент-оповещатель работающий на чей-то пекарне это ниразу не «полноценный мониторинг».

anc ★★★★★
()
Ответ на: комментарий от anc

Ну и? Очевидно, агент-оповещатель это не самостоятельная штука, а часть мониторинга. Я же так и написал.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Ну и? Очевидно, агент-оповещатель это не самостоятельная штука, а часть мониторинга.

Но работающая на какой-то конкретной пеке/пеках. Т.е. вариант получить оповещение в дороге вы не рассматриваете от слова совсем.

anc ★★★★★
()
Ответ на: комментарий от anc

Сколько можно читать не пойми как? Я писал выше что никто не мешает поставить это на несколько своих устройств, да и хоть на все.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Я писал выше что никто не мешает поставить это на несколько своих устройств, да и хоть на все.

На прям любые мобильные девайсы поставите?

anc ★★★★★
()
Ответ на: комментарий от anc

Лично я поставлю на ноутбук. Другое имеющееся мобильное устройство для интернета не используется, и фоновые проги не поддерживает.

Ну а любители смартфонов могут поставить себе на смартфоны.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Я писал выше что никто не мешает поставить это на несколько своих устройств, да и хоть на все.

На прям любые мобильные девайсы поставите?

Лично я поставлю на ноутбук. Другое имеющееся мобильное устройство для интернета не используется, и фоновые проги не поддерживает.

Ну т.е. ваше «на несколько своих устройств» сократилось до одного вашего ноута.

anc ★★★★★
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.