LINUX.ORG.RU
ФорумAdmin

В чём принято держать базу содержимого съёмных накопителей?

 


1

1

Всем привет.
Я эту тему наверное уже поднимал и даже решение подсказывали - но вспомнить и найти не смог.

Есть масса накопителей со всяким барахлом. Чем бы вести базу содержимого этих накопителей - чтобы подмонтировать её и видеть структуру файлов/каталогов этого накопителя?

Скажем какую то тулзу делающую .iso индекс для дерева каталогов накопителя.

★★

В чем принято, не знаю, но я во времена CD делал что-то типа

LC_TIME= ls -alR /tmp/ | gzip >/tmp/asd.ls-lR.gz

midnight commander открывает их кнопкой enter и грепать удобно.

(возможно кроме LC_TIME придётся и другие части локали сбросить)

sergej ★★★★★ ()

На винде была программа под названием WhereIsIt. Технически довольно толковый продукт, база носителей, носители можно сканировать, плагины для вытаскивания метаинформации. Но анально огороженная. Мало того, что проприетарная и только под винду, формат файлов какой-то сильно шифрованный, плюс по слухам автор категорически отказывался продавать своё изделие гражданам России. Есть экспорт в XML, но ЕМНИП, неполный.

Линуксовый аналог - QCat, написанный когда-то болгарским программистом. Я ему даже патч как-то засылал для поддержки 64-битных систем. Qt4, БД в виде файла на основе sqlite. Прога, особенно, если собрать самому, вполне работоспособная. Но только базовые функции, с оригиналом не сравнить.

Ещё вроде какой-то CDCat был, но я его не смотрел.

Ну и всё перечисленное древнее как говно мамонта. Такое ощущение, что все свалили в облака и о локальных носителях забыли. Хотя деда Столлман предупреждал, чем это кончится.

P.S. Если у кого есть желание реанимировать тему — можно взять исходники QCat (основа была заложена здравая) и как следует над ними поработать.

hobbit ★★★★★ ()
Последнее исправление: hobbit (всего исправлений: 4)
Ответ на: комментарий от hobbit

Спасибо, нужная вещь.

Пока на накопителе, кроме хеша и размера, пишу название и дату.

По названии и дате знаю содержимое.

Веду только базу размеров и хешей накопителей для контроля целостности. Текстовый файл, одна строчка - один накопитель.

У меня другой вопрос волнует: где в РФ брать болванки, особо ROM интересны размера DVD, желательно с технологией M-DISK.

Заметил что на новый DVD-R болванках с начала что-то записано... Раньше такого не было.

anonymous ()
Ответ на: комментарий от gremlin_the_red

В чём принято держать базу содержимого съёмных накопителей?

В 2009ом.

В 2019 году USB HDD||SSD все также относится к съёмным накопителям, поэтому наброс не состоялся.

anonymous ()
Ответ на: комментарий от gremlin_the_red

Расскажи мне отсталому от ИТ прогресса, как в 2019 сделать бекап данных и положить его в сейф.

Требование:

1. Гарантия сохранности данных хотя бы >50лет.

2. Цена приемлема для пользователя: <3000р. за устройство ввода вывода, <100р. за носитель размером ~10Гб.

anonymous ()
Ответ на: комментарий от anonymous

HDD||SSD

Какая гарантия сохранности данных на твердотельных носителях через 5 лет || на магнитных лежащих в сейфебез подключения к компу через 10 лет?

Задача:

Собираюсь этим летом в поход, будут фотки и видео ~10Гб. Как мне их сохранить, чтобы гарантированно посмотреть через 15 лет?

anonymous ()
Ответ на: комментарий от anonymous

положить его в сейф
1. Гарантия сохранности данных хотя бы >50лет.

Только запись на платиново-иридиевой пластинке/ Или отказ от наркоманского требования сейфа и нормальное хранение на RAID.

<100р. за носитель размером ~10Гб

10р за гиг — это неприемлимая цена. И я не видел M-Disc по такой дешёвой цене, а писать на обычные диски — это совсем-совсем не хотеть сохранить данные.

gremlin_the_red ★★ ()
Ответ на: комментарий от gremlin_the_red

Сегодня, в 2019, гарантию сохранности данных - 100 лет, при соблюдении условий хранения, даёт дешовая органика. То есть обычный пластиковый DVD, за 20-30р. на 4.7Гб, записанный на обычном DVD приводе. Конечно произведённый хорошей фирмой, и качественно записан на хорошем DVD приводе.

M-DISK, дешовая не органика, которая читается на обычном DVD приводе, даёт гарантию 1000 лет.

Можно взять два диска. Есть диски удвоенной плотности, но это риск.

Опыта использования Blu-ray у меня нет, говорят они должны хранить лучше при худших условиях эксплуатации и хранения чем любые органические DVD.

anonymous ()
Ответ на: комментарий от darkenshvein

Я не говорил дать гарантию сохранности данных 1000 лет! Тех условия требовали гарантию всего 15 лет, которую твердотельные и магнитные накопители дать не могут.

Рейд держать включённым 15 лет, платить счёта за электричество и менять в нём диски, охранять от вирусов, молний... Это неприемлемое по цене и сложности решение. Диск в сейфе - вот правильное и деловое решение.

О платинового-иридиевых носителях я не слыхал. ЕС выделил тоны евро для организации бекапа. Пишут все СТРОГО в АНАЛОГЕ, без цифровой обработки, чтобы не надо было декодировать и гарантировать считывание данных примитивной технологией. К стати пишут на топазных пластинах которые покупают у нас по ~1000€ за диск.

anonymous ()
Ответ на: комментарий от gremlin_the_red

Еще раз повторю, сегодня, в 2019 году, гарантию сохранности данных 100 лет даёт дешовая органика - пластиковая DVD болванка за 20-30 рублей. Конечно при соблюдении условий хранения.

Не органика, тоже дешовая, даёт гарантию сохранности данных более 1000 лет.

anonymous ()
Ответ на: комментарий от anonymous

Да базу стоит вести ко всему: и к всегда доступным локальным, и к выгруженным на облако.

Чтобы знали что у вас есть заархивировано и что надо вам подменить и испортить... А то понапрятывали всего, а майор не знает ни где ни что.

На бумаге ведите каталог, в тетрадку название, дату, размер и хеш записывает!

anonymous ()
Ответ на: комментарий от anonymous

Online решения зато могут проверять себя круглые сутки, а оффлайновые роботизировать надо, или замаешься переставлять при плановой проверке, и скорость больше. Специальное помещение в любом случае нужно. Для online хранилища чуть проще создать распределенную систему с резраированием.

Вообще проще шифровать данные, а в сейфе хранить ключ.

anonymous ()
Ответ на: комментарий от anonymous

Держи два сейфа в разных местах. При создании архива копии дублируй и будет тебе резервирование.

Онлайн все держать дорого, и не безопасно, выше писал почему. Создание архивов длительного хранения это только оптические диски в сейфе.

Приехал с отдыха, записал фотки и видяшки на ro DVD-ROM, положил в сейф.

Что надо можно держать на компе в онлайн и спать спокойно, зная что есть ro бекап, которому вирусы и выход из строя флешки/винта не страшны.

anonymous ()

Блин... Толпа уведомлений и всё оффтопики.... А решение предложили ещё 8 лет назад... И видимо ни чего нового за эти 8 лет не появилось....

Некий: adriano32
В теме: Создать ISO со служебной информацией из дерева каталогов. Чем?
Предложил скрипт создания дырявого фантома каталога. А из дырявого фантома можно делать хоть .iso хоть .sq
Но вот мой боевой запуск создания дырки дерева в 11ТБ взлетел но недолетел.
На корневом разделе всего 30G и дырка делалась сутки с не уменьшающимся местом....
Но...
Видимо кончились иноды на ext4.
Потому что новый файл стало создать невозможно при 30G feee.
Уже минут 30 эта дырка удаляется #rm -rf treehole
Буду теперь дырявить zfs...

n0mad ★★ ()

Видимо кончились иноды на ext4.

Каким образом? Там всего один файл создаётся?

Deleted ()

Поиск дал имена: GWhere, gtktalog, CdCat

В официальном DEB репозитарии остался лишь cdcat.
Скормил ему мой 11ТБ /opt/pub - Посмотрим....

n0mad ★★ ()
Ответ на: комментарий от anonymous

С болванкой ДВД возникает вопрос считывающих устройств. Лет через десять может фиг найдёшь ДВД-привод, чтобы диск прочитать. Думаю лучший вариант - это внешний ХДД с ЮСБ подключением и тупо перезаписывать раз в 10 лет на новый хард-диск. И файловая система НТФС. А каталогизатор - запись на коробке типа: отпуск-турция-2015.

anonymous ()
Ответ на: комментарий от anonymous

Вот внешний DVD/Blu-ray с USB портом и ложишь рядом в сейфе, так же пару кабельков под разные USB раземы.

Конечно стирильную болваночку с LiveCD/DVD любимого дистра ложешь рядом.

Мне подписи «Бекап-2018», или «Отпуск-2019» на болванка диска вполне хватает. Дополнительно можно писать хеш и размер.

anonymous ()

Re: Блин... Толпа уведомлений и всё оффтопики.... А решение предложили ещё 8 лет назад... И видимо ни чего нового за эти 8 лет не появилось....

Звеняй меня, не совсем по теме отвлеклись на средства бекапа.

Каталогизация мне не была нужена.

Вот есть решение другой схожей задачи: необходимо криптографически гарантировать неизменность какого-то жииииирного каталога с минимальной загрузкой снова и не в ущерб криптостойкости.

Решения технология вложенных манифестов, в каждом каталоге нижнего уровня создаётся манифест с хешами файлов, на верхнем в манифесты записываются хеши манифестов нижнего уровня, на самом верхнем манифест с хешами манифестов и единственной цифровой подписью.

Получается криптографические верифицирована база с именами файлов, размерами и несколькими хешами. Есть программы которые с такими базами работают. Это и есть индекс, но по дороге мы решили ещё задачу криптографической целостности данных очень дешовым, в плане использования прцессора, способом.

anonymous ()
Ответ на: комментарий от hobbit

Такое ощущение, что все свалили в облака и о локальных носителях забыли

Что поделать, если месяц безлима стоит дешевле тощей стопки dvd, которые для долговременного хранения пригодны все равно меньше, чем какой-нибудь дропбокс.
Рынок порешал.

wxw ★★★★★ ()

Получается криптографические верифицирована база с именами файлов, размерами и несколькими хешами. Есть программы которые с такими базами работают. Это и есть индекс, но по дороге мы решили ещё задачу криптографической целостности данных очень дешовым, в плане использования прцессора, способом.

НИНАДА КРИПТОГРАФИЧЕСКИ! НАДА ИМЕНА И БЫСТРО!!!
Без криптографии вышеописанный скрипт работает много часов, а криптографически индексировать скажем 11Т это сколько времени займёт?

n0mad ★★ ()
Ответ на: комментарий от anonymous

херню гонишь. привод двд вполне себе хранимая железяка, упаковать в защиту от среды и положить в холодное темное место. хрен что с механикой будет.
а проблемка выскочит как обычно из недолговечной флешки - прошивка из драйва выветрится быстрее чем сгниет механика .

pfg ★★★★ ()
Ответ на: комментарий от anonymous

с болванками уже давно не так

слой где хранятся данные сейчас делают очень тонкий, ибо экономия на всем. мало того что это влияет на кол-во ошибок при считывании (которые корректируются), так со временем оно отслаивается. 10-20 лет им срок, имхо.

вот те болванки которые делали в 80-90е с золотым покрытием - эти могут и 100 лет сохранится. но тогда они и стоили по 10$ за штуку... а привод записывающий под 1 килобакс :)

Rost ★★★★ ()
Ответ на: комментарий от pfg

Эх а был когда то АРВИД :)

Казалось бы... стандартный видак... но видаки кончились... совсем... Но ленты арвида и сам АРВИД в 2х разных экземпларах где то валяются... Всё никак не доберусь и не устрою тестдрайв съёма данных 20летней давности... Меня ж правительство БОМЖом сделало (Гугль:Ударная 35), ни дома ни имущества... всё фиг поймёшь где...

n0mad ★★ ()
Ответ на: Эх а был когда то АРВИД :) от n0mad

видаки не кончились :) в разных загашниках их еще много. даже на авито периодически пытаются продать.
арвид по возможности действительно протестируй. а то столько копий сломано об время хранения данных на магнитных носителях...

pfg ★★★★ ()
Ответ на: Эх а был когда то АРВИД :) от n0mad

Re: Эх а был когда то АРВИД :)

но видаки кончились...

У меня где-то ещё валяется видак, скорее рабочий, а шо с ним случиться? «валяется» аккуратно в пакетике :) А вот тот который на даче сильно предполагаю что дохлый :) Его и отвозили туда не сильно живым :)

Но раз пошла такая тема, поднял дискеты 3.5, всем точно больше 20 лет, использовал по полной. Все не тестил, только по пять штук, разных фирм. Брал по подписям, что бы точно те которые часто использовал в те времена.
Первое место Verbatim, все читаются.
Второе место Basf, 50/50, читают но не все, форматировать было лениво.
Третье TDK - ни одна не прочиталась.
Условия хранения просто «адские», летом у колонок «ножки» плавились. Никакого холодного хранения.
ЗЫ И еще какая-то «по современнее» бутовая no-name с RH5.2, в панику конечно уходит на современном железе но читается.

anc ★★★★★ ()
Последнее исправление: anc (всего исправлений: 2)
Ответ на: комментарий от greenman

Как раз лижащий в сейфе без работы привод CD/DVD/Blu-ray будет оставался очень-очень долго работоспособным!

Приводы будущего будут поддерживать старые CD/DVD/Blu-ray.

anonymous ()
Ответ на: комментарий от Rost

Все ровно наоборот, именно в этом десятилетии поняли что долговременный архив даёт только оптика. Причём лучше та что без отражающего слоя!!! Два куска пластика между ними слой в котором лазер делает ДЫРКУ! M-Disk тоже так работает и Blu-ray некоторые.

Именно на сегодняшние DVD болванки некоторые фирмы дают гарантию 100 лет.

anonymous ()

Резервное копирование.

#/bin/sh
# Свободное распространение для некоммерческого использования, коммерсанты должны получить письменное разрешение разработчика.

# Необходимо предварительно скопировать в /home/backup каталоги которые станут корнями оптических дисков.
# Для автоматизированы стоит использовать программы: cdbackup, cdbkup, sync2cd.

# Необходимо создать пару gpg ключей 'backup' для подписи "индексов".

# Формируем индексный файл в формате: один объект - одна строка вида:
#DATA путь/к/файлу размер название_хеша1 хеш1 название_хеша2 хеш2...

cd /home/backup
rm -f Manifest index
for dir in `ls .`
  do
    cd "${dir}"
    gpg --armor --export backup --output backup.pub
    rhash --printf=DATA\ %p\ %s\ SHA3_512\ %{sha3-512}\ WHIRLPOOL\ %w\\n --recursive -- . |grep -v -E '^DATA Manifest ' |sort -f -d > Manifest
    echo "${dir}" >> ../index
    cat Manifest >> ../index
    date --utc +'TIMESTEMP '%Y'-'%m'-'%d'T'%H':'%M':'%S'Z' >> Manifest
    gpg --digest-algo sha512 --clear-sign --default-key backup --output Manifest.asc Manifest
    mv Manifest.asc Manifest
    cd ..
    mkisofs -sysid "${dir}" -o "${dir}.iso" -R -J -hfs "${dir}"
    rhash --printf=DATA\ %p\ %s\ SHA3_512\ %{sha3-512}\ WHIRLPOOL\ %w\\n -- "${dir}.iso" >> Manifest
  done
date --utc +'TIMESTEMP '%Y'-'%m'-'%d'T'%H':'%M':'%S'Z' >> Manifest
gpg --digest-algo sha512 --clear-sign --default-key backup --output Manifest.asc Manifest
mv Manifest.asc Manifest
gpg --armor --export backup --output backup.pub

# Теперь надо сделать две вещи, распечатать backup.pub и уничтожить секретный ключ backup.

exit 0
anonymous ()
Ответ на: Резервное копирование. от anonymous

Re: Резервное копирование.

Скрипт приведённый выше работает быстро, выдаёт де факто стандарт - файл Manifest, который понимают множество программ и записывает его в корень диска. Также создаётся глобальный index архива, со списком файлов, размеров и контрольных сум (хешей).

Хеши в rhash можно выбирать разные, для ускорения можно даже использовать:

"...\ CRC32\ %c\ ..."

Без хешей будет невозможно в будущем верифицировать целостность данных.

Есть и другие программы которые создают точно такой же Manifest файл.

anonymous ()
Ответ на: комментарий от anonymous

Как раз лижащий в сейфе без работы привод CD/DVD/Blu-ray будет оставался очень-очень долго работоспособным!

Оспорю.
1. Банально пыль. Сейф != несгораемый шкаф.
2. Ну предположим положил я DVD привод IDE, да, конечно сейчас все ещё можно подключить через usb переходник, найти старые матери, но идут годы... давайте представим на примере дискет 5.25, дисковод убрали в сейф, но куда его подключать на современном железе? Или другой вариант, у меня как раритет лежит mfm диск, куда мне его подключить? Саму ЕС от которого он (это не та ЕС которая «настольная», а та которая «напольная» :) ) , я выбросил, места она занимает очень много, там только плата памяти на 1МБ габаритом больше современной матери. А всего-то чуть больше 30-ти лет прошло.

anc ★★★★★ ()
Ответ на: комментарий от anc

1. Выше говорил, что от попадания метеорита, ... архив защитит второй сейф в другом месте. При создании архива болванки пишешь в двух экземплярах и копию ложишь во второй сейф.

2. Так же говорил что надо брать ВНЕШНИЙ USB привод CD/DVD/Blu-ray и рядом дожить несколько USB кабелей с разными разъёмами. Этого хватит на многие годы. Вот относительно прошивки на флешке привода.... надо держать копию прошивы в архиве и стерильный LiveCD/DVD для загрузки и перепрошивки привода. Если привод без прошивы, а чисто в железе микросхемы все прошито, все равно гарантированная их жизнь много меньше жизни архива.

Рекомендую раз в 5 лет покупать новый привод и ложить его вместо старого, а старым пользоватся. За 5 лет использования он точно подстареет и будет нуждается в замене.

От влаги и пыли очень хорошо защитит обычный полипропиленовый пластиковый контейнер с герметичной силиконовой прокладкой и хорошей крышкой. Покупаешь несколько под размер привода и для дисков. Сейфы с нормальной дверцей и в нормальном помещении пылится не будут.

anonymous ()