LINUX.ORG.RU

Сообщения anonymous_incognito

 

Обучающие курсы по нейросетям от физтех-школы при МФТИ

Слегка порекламирую, потому что сам только что прошёл 1-ю часть (компьютерное зрение) и остался весьма доволен. Бесплатные! Там правда есть Premium часть за деньги, но поверьте (я заплатил), это не уловка, основное всё-таки действительно бесплатное и Premium совсем не обязателен, это скорее способ поддержать создателей.

https://dls.samcs.ru/regform

На 1-ю часть (CV) весеннего семестра регистрация до 10 февраля. Курсы абсолютно онлайн и записываются на них все и отовсюду из любой страны. Совсем из любой, лишь бы русский язык знали, так как они на русском языке.

Школа глубокого обучения — это образовательный проект Физтех-школы прикладной математики и информатики МФТИ. Мы учим работе с нейросетями с самых основ до продвинутого уровня. Занятия ведут выпускники ФПМИ МФТИ, имеющие опыт разработки и исследований в области AI.

В принципе лекций на ютубе и вообще материалов по нейросетям в интернете можно найти очень много, однако, фишка этих курсов в домашних заданиях, за которые ставятся оценки и есть дедлайн, в которых они последовательно от простого к сложному вводят в понимание работы нейросетей и создание и обучение своих. Кроме того, материалов, в которых бы настолько подробно объяснялось как устроены сети, что после этих объяснений можно пробовать самому их конструировать уже не так много.

На мой взгляд, курсы в несколько усечённом виде фактически являются институтскими по подходу и наполнению. Начинаются с основ машинного обучения, математики этого дела, градиенты, бустинги и тп. Плавно подводятся к нейросетям сначала простым с полносвязным слоем, затем посложнее и посложнее и заканчиваются детекцией объектов, автоэнкодерами и генеративными сетями.

Насчёт вообще нужности обучения нейросетям. Мне кажется, что нужно и многим. Нейросети - это наверное самое значительное, что вообще произошло и продолжает происходить в мире программирования, ИТ за последние лет 10.

Я знаю, что они и раньше существовали, более того, искусственные нейроны были придуманы как бы не раньше, чем компьютеры, ещё в 1943-44 годах, были попытки их делать на специальных лампах, перцептроны и т.д. Но до совсем недавнего времени нейросети всё же оставались скорее игрушкой для исследователей с периодическими всплесками интереса, когда казалось их можно пристроить к чему-то практически полезному и быстрым охлаждением. Сейчас всё сильно иначе.

P.S. На самом деле конечно понимание все же самое базовое, чтобы всерьёз в этой области что-то делать, требуется много работы, самостоятельного изучения и выполненных проектов. Но курсы, мне кажется, реально дают базу для начального понимания этих вещей, откуда можно дальше идти.

 , ,

anonymous_incognito
()

Питонячьи радости

Отступы, блин

Был у меня код вида:

for blah-blah-blah :
    # какой-то код
    if что-то :
         # код
    else:
        # ещё код

Код скопипастил из одного места программы в другой. При этом не заметил как отступы нарушились. Ну вы поняли, да? Стало:

for blah-blah-blah :
    # какой-то код
    if что-то :
         # какой-то код
else:
      # ещё код

И вот это мне стоило довольно большого количества потеряного времени. Условие else: стало относиться не к if, а к циклу for. Учитывая, что тело цикла было достаточно длинным, как-то не бросалось в глаза, что else уехал не туда. Мать-перемать, но код после этого даже почти нормально работал.

Еще уже мелочь относительная, но все же, чего-то не подумав захотел поработать с гугл драйвом прямо из своего кода и недолго думая сделал pip install --upgrade google-api-python-client - и это разрушило всё. Благо, что от юзера, а не рута, вылечилось сносом .local и повторной накаткой некоторых модулей

 ,

anonymous_incognito
()

Компилятор Си в размером менее 512 байт

Один крутой мэн сумел написать работающий компилятор Си, объёмом меньше 512 байт.

На Хабре перевод статьи о компиляторе https://habr.com/ru/companies/ruvds/articles/740310/

В кодировке base64 это будет

( компилятор Си )

А вам слабо сыграть ноктюрн на флейте из водосточных труб засунуть компилятор в загрузочный сектор диска?

 512, ,

anonymous_incognito
()

Пароль на лор почти забыл

Интересная эта штука - мозг. Казалось бы уже почти 20 лет у меня этот пароль, я его не менял ни разу. И вдруг память такой фокус выдала. Еле-еле вспомнил, после нескольких неудачных попыток. Наверное с час ушло.

 

anonymous_incognito
()

Чем сейчас прилично html сравнивать?

Есть две разные html, сгенерированные разными xslt процессорами (или даже одним, но с какими-то разными параметрами) из одного и того же xml-файла.

Хотелось бы diff-нуть их на уровне тегов, чтобы посмотреть чем различаются. diff, sdiff тут как-то или не помогают или готовить не умею.

Совсем в идеале, ещё и в виде красивого GUI с разными файлами в окошках и подсветке различий :))

Так что вопрос возник.

 , , ,

anonymous_incognito
()

Есть где-нибудь сводная таблица версий C# .Net или чего им нехватает

А то уже неясно толком что с чем совместимо или несовместимо. Вот был когда-то просто .Net Framework и Mono, с отставанием, делавшие частичную реализацию API, а сейчас развелся зоопарк, тут еще и Core и спецификации Standard.

Таблицу по ссылке видел https://learn.microsoft.com/ru-ru/dotnet/standard/net-standard вот только столкнулся с тем, что либа, соответствующая стандарту 2.0 не хочет работать с Mono версии 6.8, при этом более ранние версии либы, спокойно работают. То ли ей нужна строго Mono 6.4 и не более, не менее, то ли вообще что-то не так пошло. Требует правильную сборку.

./zlist.cs(14,16): error CS0012: The type `System.Collections.IEnumerable' is defined in an assembly that is not referenced. Consider adding a reference to assembly `netstandard, Version=2.0.0.0, Culture=neutral, PublicKeyToken=cc7b13ffcd2ddd51'

Файл zlist.cs - для демонстрации работы с zip-архивами. Пример взят где-то с сайта документации по либе CSharpCode.SharpZipLib http://icsharpcode.github.io/SharpZipLib/

Исходники либы https://github.com/icsharpcode/SharpZipLib

Скомпилированный бинарник https://www.nuget.org/packages/SharpZipLib/

using System;
using System.Text;
using System.Collections;
using System.IO;

using ICSharpCode.SharpZipLib.Zip;

class MainClass
{
    static public void Main(string[] args)
    {
    
     //Между прочим, умеет читать самораспаковывающийся *.exe с zip внутри
        using (ZipFile zFile = new ZipFile(args[0])) {
            Console.WriteLine("Listing of : " + zFile.Name);
            Console.WriteLine("");
            Console.WriteLine("Raw Size    Size      Date     Time     Name");
            Console.WriteLine("--------  --------  --------  ------  ---------");
            foreach (ZipEntry e in zFile) {
                if ( e.IsFile ) {
                    DateTime d = e.DateTime;
                    Console.WriteLine("{0, -10}{1, -10}{2}  {3}   {4}", e.Size, e.CompressedSize,
                        d.ToString("dd-MM-yy"), d.ToString("HH:mm"),
                        e.Name);
                }
                else
                {
                 //e Is not File 
                 DateTime d = e.DateTime;
                    Console.WriteLine("{0, -10}{1, -10}{2}  {3}   {4}", e.Size, e.CompressedSize,
                        d.ToString("dd-MM-yy"), d.ToString("HH:mm"),
                        e.Name+"*");
                }//notFile
            }
        }
    }
}

Компилирую

$mcs ./zlist.cs -r:ICSharpCode.SharpZipLib.dll

Версии

$ mono -V
Mono JIT compiler version 6.8.0.105 (Debian 6.8.0.105+dfsg-3.2 Tue Jun 29 21:01:01 UTC 2021)
Copyright (C) 2002-2014 Novell, Inc, Xamarin Inc and Contributors. www.mono-project.com
	TLS:           __thread
	SIGSEGV:       altstack
	Notifications: epoll
	Architecture:  amd64
	Disabled:      none
	Misc:          softdebug 
	Interpreter:   yes
	LLVM:          supported, not enabled.
	Suspend:       hybrid
	GC:            sgen (concurrent by default)

Есть у меня подозрение, что эта версия 6.8 - версия компилятора, а не Mono и реально там что-нибудь соответствует .NET 4.5, но какая-то ерунда с доками, не могу понять.

При этом у меня завалялась старая сборка SharpZipLib трехлетней давности, которую сейчас не могу найти на сайте, так с ней проблем нет, всё компилируется и работает отлично. Чтобы самому собрать похоже нужна VS 16-я и более.

 , ,

anonymous_incognito
()

Запись загрузочной флешки для винды и для Linux

Интересным образом я слегка обломался недавно. Собрал из мартовских запасов новый комп и решил попробовать поставить на него Win11. Посмотреть на новейшие достижения, так сказать.

Комп, если интересно, на базе материнки msi h510m-a pro с nvme Samsumg 970 evo plus на 512Гб. Bios только UEFI, CSM не поддерживается (формально можно переключить, но возникает сообщение, что из-за vga bios обратно на uefi - толи потому что видеокарта новая, толи вообще)

Надо сказать, так случилось, что у меня под рукой сейчас нет компьютеров с виндой вообще. Так что записи флешек и прочее всё из под Linux'а.

И, ё-моё, похоже задача из под линукса не решаемая. ;))))) По крайней мере без разработки дополнительного софта, хотя есть вероятность, что чего-то не нашёл.

Сначала мне так не показалось. Быстренько скачал iso отсюда https://www.microsoft.com/software-download/windows11 - и что такое, что такое? Флешка с этим образом (заливал через dd) не видится при загрузке. Признаюсь тупил целых часа полтора, пока не дошло, что файловая система в образе UDF, а не FAT32, собственно даже на сайте MS говорится о том, что это образ для dvd-rom, на что я не то, что не обратил внимание, но по привычке подумал, что сгодится и для флешки. Давным-давно уже универсальные образы делают.

Между прочим, а чего это биосы не понимают флешки с udf? По идее могли бы легко понимать, для загрузочных dvd то ведь понимают. Хм.

Ну ладно, пожал плечами, стал копировать из образа файлы просто на флешку, uefi-ведь, всё в /boot/efi - ан не так-то всё просто. Файл install.wim имеет размер больше 4Гб. и на FAT32 такое не влезет. Приехали...

Есть еще софт ms-софт mediacreationtool, который с сайта ms тянет образ для флешки и пишет её. Ну естественно из под wine не работает работа с дисками... По этой же причине и программа rufus (умеет использовать iso-образ для dvdv) не помогла.

Гуглёж вывел на статью https://www.outsidethebox.ms/18814/ «Как преодолеть ограничение в 4GB при копировании install.wim на флэшку FAT32 и создать ISO» - если вкратце, то предлагается виндовым средством DISM разбить install.win на части с расширением *.swm (это не совсем тоже, что чистый split) и использовать части. Или сжать в esd-формат, что используется mediacreationtool

Ясно конечно, что это всё не для линукса, и даже отдельно утилиты для разбивки не нашёл где бы скачать.

Тупик. Ну в общем, вышел из положения установкой винды в VirtualBox и созданием образа из под неё. Хотя можно было бы ещё и просто склонировать с виртуального диска на настоящий.

В тоже время под виндой можно писать флешки для загрузки Linux, хотя бы тем же руфусом.

Как-то так.

 , ,

anonymous_incognito
()

Что лучше из Wi-Fi m.2: MTK7921k или Intel AX201 и где брать антенны?

Спрошу тоже про Wi-Fi. Есть на материнской плате гнездо для такого адаптера. Думаю что взять. И ещё, вроде как антенны в комплекте нет и как-то не очевидно, что и где искать. По описанию вроде какая-то ipx4 антенна нужна. Что-то с ними сильно не очень на сайтах магазинов или я не знаю, что искать надо.

 ,

anonymous_incognito
()

Мелкие чудеса linux и железа

Добавил в комп nvme диск. После включения компа с новой железкой «оно само»:

  • сетевые интерфейсы вместо enp3s0 и enp4s0 стали enp4s0 и enp5s0
  • вывод звука переключился с Display Port (я слушаю с наушников, воткнутых в монитор) на s/pdif

WTF? Если подумать, можно понять, что оно как-то там линии pci-e пересчитало по-новому и переименовало что-то с сетевухами, видеокарта тоже какую-то новую нумерацию получила и потому соскочил звук.

Но как-то это некрасиво, а в каких-то случаях и источником проблем может стать.

 , ,

anonymous_incognito
()

Что делать с накупленным по случаю железом?

Чего-то оно в положении, немного похожем на чемодан без ручки.

В общем, когда был в начале марта взлет цен до небес с исчезновением железок из продажи, по случаю урвал по старым ценам, пожалуй даже по тем меркам, дёшево

За 11 тысяч руб. комплект в виде материнки MSI H510M-A Pro + проц Core i3 10100f (f - значит без встроенного видео) + память две планки AMD - ной DDR4 2666 МГц. по 4 Гб.

Тогда же пришло в голову, что может какой офисный компешник соорудить.

К этому докупил уже далеко не дешево кулер за где-то 2500 руб. Hyper 103 и БП за 7000 руб. Be Quiet System Power9 700 Вт и дешманскую видюху за примерно 4500 руб. Sinotex Ninja Radeon R5 230 с 1 Гб памяти, которая еще и GDDR3 (не 4, не 5).

А сейчас думаю на что я блин 25 тысяч потратил? Ну положим БП и кулер не самые плохие и всяко в хозяйстве могут пригодиться, но в целом фигня какая-то. Видюха ещё туда-сюда если что-то ремонтировать и проверять работоспособность, но работать на ней даже не знаю. Она же хуже старых интеловских встроек по производительности. Правда хорошо с Linux совместима, если с Nvidia сравнивать

Варианты действий:

1) Продать барахло как есть

2) Докупить SSD или NVME и корпус, ну и пусть будет. Такую сборку однако трудно продать из-за видюхи.

3) Докупить более приличную видюху туда, хотя бы GT 1030 + SSD + корпус и продать, если найду кому, за 30 тыр. Или пусть будет запасной

4) Купить Core i3 11400 за 20 тыс.руб., проц 10100f попробовать толкнуть отдельно.

5) Попробовать продать 10100f и купить просто 10100

Однако 11400 на эту мать вроде не очень хорошо пойдёт из-за питания. Правда уточнить толком не у кого, обычно для него всё же более старшие модели чипсета берут. Брать 10400 вообще бессмысленно. Некоторый смысл есть, если получится обменять как-то 10100f на 10100

Да, насчёт RAM. В загашнике давно лежали две планки Crucial по 2666 МГц по 8 Гб каждая. Так что та AMD-ная тоже ни туда ни сюда немного. Но как-то в комплекте просто пришла.

Такие вот странные поступки в странное время случаются. Так-то я бы никогда подобную конфу не взял.

 , ,

anonymous_incognito
()

Чего за треш, угар и гуси с видеокартами?

Я тут всё проспал что ли? O_o Завод какой-то утонул или что случилось, в магазинах шаром покати. Не следил с полмесяца за рынком железяк и нате сюрприз.

Ничего нет кроме совсем огрызков или по совершенно невменяемым ценам, если повезёт найти. Даже gtx 1660 за 30 тыр. рублей, rx 580 ценник видел в 38 тысяч - и те ещё не везде. В ситилинке gtx 3090 от асуса за 256 000 торгуется - совсем с ума сошли, это же хоть и топовая, но игровая видеокарта, а не тесла какая-нибудь.

Я понимаю ещё дефицит новых, хотя вроде перед новым годом уже продавались потихоньку.

Это вообще надолго или даже не знаю как жить, если нужна карта :)

 ,

anonymous_incognito
()

Статистика браузеров, ОС, устройств и др. по LOR

Что-то уже почти пять лет вроде не постил. Интересно сравнить что было и что стало. Статистика по гуглоаналитике, понятно, она может быть не совсем точной, кто-то её вообще блочит, кто-то наверняка и User Agent редактирует, а может и другие параметры подставляет, но тем не менее.

Итак за последний месяц:

Браузеры, %

  1. Chrome - 57.77
  2. Firefox - 17.02
  3. YaBrowser - 9.02
  4. Safari - 6.70
  5. Opera - 5.54
  6. Edge - 2.09
  7. Samsung Internet - 0.75
  8. Android Webview - 0.37
  9. Internet Explorer - 0.29
  10. UC Browser - 0.12

Операционные системы, %

  1. Windows - 46.76
  2. Android - 22.71
  3. Linux - 20.11
  4. iOS - 5.52
  5. Macintosh - 4.67
  6. (not set) - 0.10
  7. FreeBSD - 0.04
  8. ChromeOS - 0.03
  9. Windows Phone - 0.02
  10. BlackBerry - 0.02

Разрешения экрана, %

  1. 1920x1080 - 30.32
  2. 1366x768 - 9.17
  3. 1536x864 - 6.00
  4. 360x640 - 4.10
  5. 1280x1024 - 3.45
  6. 1440x900 - 2.94
  7. 393x851 - 2.83
  8. 1600x900 - 2.67
  9. 1680x1050 - 2.34
  10. 2560x1440 - 2.24

Некоторые любопытные разрешения вне Top-10

15. 1920x1200 - 1.60%
25. 2560x1080 - 0.57%
34. 2048x1152 - 0.46%
41. 3440x1440 - 0.22%
44. 1600x1200 - 0.17%
47. 3840x2160 - 0.15%
76. 3072x1728 - 0.06%
84. 2195x1235 - 0.05%
114. 2133x1200 - 0.03%
115. 2752x1152 - 0.03%

Типы устройств, %

  1. desktop - 71.73
  2. mobile - 27.05
  3. tablet - 1.22

Производители мобилок, %

  1. Xiaomi - 27.52
  2. Apple - 19.58
  3. Samsung - 17.09
  4. Huawei - 14.86
  5. (not set) - 5.40
  6. Asus - 1.56
  7. OnePlus - 1.48
  8. Lenovo - 1.36
  9. Meizu - 1.29
  10. Sony - 1.23

Страна, %

  1. Россия - 71.38
  2. Украина - 15.31
  3. Беларусь - 3.45
  4. Казахстан - 2.04
  5. Германия - 1.02
  6. США - 0.65
  7. Узбекистан - 0.45
  8. Молдова - 0.39
  9. Нидерланды - 0.36
  10. Латвия - 0.31

Что меня значительно удивило - это небольшое количество пользователей с мониторами (экранами) больше 1920x1080. Мне чего-то казалось, что разных там 4K и более должно быть много, тем более на техническо-компьютерном ресурсе.

Удивила популярность смартфонов Xiaomi. И буквально ни одного Ubuntu Phone. Даже с PocketBook (книга-читалка с e-ink экраном, попала в категорию мобилок) кто-то ходит на LOR, хотя и буквально 1-2 человека.

Ещё - не ожидал, что целых 9% используют Яндекс Браузер.

Предыдущие статистики:

2015 - й год Статистика браузеров и ОС по LOR
2011 - й год Статистика по LOR с Google Analytics.
2009 - й год Некоторая статистика по LOR

вроде ещё были в районе 2009-2011

 , ,

anonymous_incognito
()

Регрессия в драйвере iso9660 для формата High Sierra?

Не путать эту High Sierra с названием релизов OS X в 2017-м году.

$man 5 fs

iso9660 is a CD-ROM filesystem type conforming to the ISO 9660 standard.

High Sierra

Linux supports High Sierra, the precursor to the ISO 9660 standard for CD-ROM filesystems. It is automatically recognized within the iso9660 filesystem support under Linux.

Вот только на практике не очень то выходит. Для примера, есть пара iso в до-iso9660 формате High Sierra

http://old-dos.ru/index.php?page=files&mode=files&do=show&id=7054

При попытке их смонтировать, по крайней мере, с -o loop реально болванки не нарезал, получается следующий баг: файлы в корне читаются нормально. По каталогам тоже можно ходить. Но всё что внутри каталогов имеет нулевой размер и не считывается, а также по какому-то принципу могут стать каталогами, а не файлами.

VirtualBox монтирует нормально. Можно содержимое скопировать монтированием в нём и потом копированием через расшаренную директорию.

Интересно, это мне не повезло или как? Под рукой сейчас только Debian 10 с ядром 5.4.0

 , ,

anonymous_incognito
()

Установка драйверов для МФУ Brother DCP-7045N(R) в Debian Buster

(Пост для информации, может кому ещё пригодится)

Почти также всё ставится как и в Stretch Установка драйверов для МФУ Brother DCP-7045N(R) в Debian Stretch за исключением п.7, теперь в файле 60-libsane.rules надо просто перед строчкой

SUBSYSTEMS=="scsi", GOTO="libsane_scsi_rules_begin"

добавить тоже самое:

#Brother DCP-7045N
ATTRS{idVendor}=="04f9", ENV{libsane_matched}="yes"

И всё работает. Интересно, что сейчас (а возможно и в Debian 9, но не обратил тогда внимания) после установки на чистый винт Debian 10 и включения МФУ принтер сразу был найден автоматически и даже можно было уже и печатать. Но печать идёт очень медленно. Перед печатью компьютер «думает» несколько минут.

После установки драйверов в списке печати есть два принтера:

1) DCP-7045N userdomain - прежний «тормозной», автоопределившийся в самом Debian

и

2) DCP7045N (написание слитно, нет имени домена) - «быстрый», без задумчивости.

 , ,

anonymous_incognito
()

Приключения с полнотекстовым поиском recoll. Или SSD и всё, всё, всё

Я уже пару раз создавал темы на LOR:

(ещё в 2015) Фризы системы, iotop 99.99% но W/R = 0

(и 5 дней назад) Во что упирается индексатор recall/xapian

В 2015-м году я так и не разобрался, забросил. Сейчас кажется до истины дошёл. Просто история успеха или неуспеха, как считать.

Индексируется для локального поиска порядка 500 тысяч разных документов, общим объёмом где-то более 600Гб в пожатом виде. Хранятся внутри .zip, zip в свою очередь в более крупных.

Ещё в 2015 году столкнулся с большими и нарастающими тормозами из-за чего процесс стал занимать недели и я даже не дождался после примерно как раз недели общего времени. За которое было проиндексировано менее половины.

Сейчас с новыми версиями на новых дисках примерно тоже самое. Какие были советы можно почитать в вышеприведенных темах.

В общем, я наконец-то прикупил SSD - Samsung EVO 860 на 500 Гб., отформатировал в XFS и поместил туда индексы. «Процесс пошёл» куда резвее и уже за 15 минут было проиндексировано 14 тысяч документов.

Однако, замедление стало и тут заметно! Не так явно как на HDD, но тоже. Даже составил таблицу:

Обработано док-вВремя, мин.Файлов/сек
140001515.5
200003011.1
30000575.8
34000678.4
40000887.5
500001216.9
550001396.6
565511456.5

Как можно видеть скорость падает, не считая не совсем понятной аномалии в районе 30 тысяч.

Что интереснее, по мере падения скорости, растёт объем записываемых данных на SSD. При примерно равном общем занятом объёме. Общее количество записанных гигабайт берётся из SMART для SSD (поле 241 Total_LBAs_Written) затем * 512/1024/1024/1024) = Gb

Обработано док-вЗаписано на SSD, Гбdu -sh в Гб
2650022423
2806024823
3000027923
3200030924
3400033923
3800041224
4000044524
5000062328
5500071833
5655175130

Итак за 2 часа 25 минут на SSD было записано уже 751 Гб.
Что это не случайно показывает команда iotop -obPat в которой можно посмотреть, что процесс recollindex записал уже 261 Гб за 39 минут после возобновления индексации. (прочитал 25 Гб за это же время)

Причём из таблицы следует, что объём перезаписываемых данных всё время растёт. В районе 14 тысяч файлов 1Гб набирался на 118 обработанных файлов. К 56 тысячам уже 1 Гб перезаписи генерируют 75 файлов.

Оставлю-ка я до утра.

Мораль сей басни или какие предсказания:

  1. Справится ли SSD или тоже упрётся в потолок производительности, как и HDD?

  2. Насколько мне хватит SSD? вот так вот одна единственная программка и хренак ресурса нет ;-)) Чую полная обработка будет стоить как бы не менее 10% от гарантийных 300 TBW

  3. Как-то я недооценивал важность SSD

  4. Можно ли сказать, что архитектура recoll/xapian кривая, косая?

  5. Смех, смехом, но как бы не тот случай, когда Optane 900p имеет преимущество. Или во всяком случае что-то серверное с большим количеством циклов перезаписи. Обычных SSD с их ресурсом мало для разных там recoll’ов.

 , ,

anonymous_incognito
()

Во что упирается индексатор recall/xapian

Пытаюсь проиндексировать для целей полнотекстового поиска около 500 тысяч файлов разного размера ( в среднем около 500 Кб, но есть и меньше и много гигабайт).

Картина следующая. recoll с нуля бодро стартует и где-то первые 2000 добавляет влёт. iotop показывает скорость R/W диска в 50-100Мб/сек. Загрузка CPU - под 300% в top’е.

Постепенно скорость снижается, к 3000-м до 10-20 Мб/сек, к 4000-м до 2-3 Мб/сек и после 10 000 в основном медленная тошниловка около 500 Кб/сек. CPU не загружен, память свободная.

 full text search, ,

anonymous_incognito
()

Психологии апгрейда пост

Отговорите или наоборот убедите меня покупать Intel Optane 900p https://www.citilink.ru/catalog/computers_and_notebooks/hdd/ssd_in/1010849/

Это SSD по технологии 3D XPoint. 280Гб nvme pci-e подключения по цене 24 тысячи. Уже заказал, но еще не забрал заказ. Время есть пара суток.

Денег вообще-то мало, но уже надоело их в основном только на здоровье тратить. Хотя блин никуда не денешься. Но вообще что-то у меня стресс и депресняк в последнее время от всего вокруг случающегося, причём по большому счёту-то многим людям куда хуже, чем мне, но тем не менее. Может если купить чего попустит , от апгрейда в частности :-)

Комп старый с Core i7-3930k, неплохо бы и новый купить, за эти деньги + деньги на ОЗУ (64 Гб наверное стоит брать) можно AMD Ryzen 3600X купить или даже 3900X.

Тему про применение Где хорош Intel Optane 900p по сравнению с Samsung 950-970 Pro создавал и в общем вывод похоже такой, что за исключением некоторых совсем нечастых юзкейсов у пользователя, выигрыша по сравнению с какими-нибудь Samsung 860 Pro версии особой не будет. Да даже по сравнению с sata ssd, если только не совсем отстойным и то не будет большого. Зато цена различается в несколько раз.

И тем не менее, чего-то меня заклинило на этой железке и вопреки всякой обычной логике, ну хочется и всё тут. Есть ощущение, что вещь совершенная в своём роде, а обычные nand ssd - нет. Если бы ещё кто подсказал, насколько хорошо recoll/xapian/lucene с ним лучше, чем с samsung’ом. Но это надо, чтобы кто-то тестировал специфически на такой задаче.

Ну и по апгрейду. В принципе можно потратить деньги на новую платформу - AMD Zen 3-го поколения. Останавливает правда, что на тредрипперы 3-го поколения их не хватит, а юзерский вариант на AM4 как-то слишком юзерский. Например, для некоторых вещей уже маловато 24 линий PCI-E. И память двухканальная, а не 4-х канальная.

Есть ещё вариант, купить б/у Xeon вместо Core i7 3930k. Где-то тысяч за 10-11 с алиэкспресса (на авито цены какие-то в два раза выше).

Рассматриваю более-менее интересные варианты из числа тех, что должны встать вместо 3930k (Sandy Bridge) (3.2/3.8G, 130W, L2:12M, 6C,HT):

  • Intel Xeon E5-2643 v2 (Ivy Bridge EP) (3.5/3.8G,130W,L3:25M,6C,HT)
  • Intel Xeon E5-2667 v2 (Ivy Bridge EP) (3.3/4.0G,130W,L3:25M,8C,HT)
  • Intel Xeon E5-2690 v2 (Ivy Bridge EP) (3.0/3.6G,130W,L3:25M,10C,HT)
  • Intel Xeon E5-2697 v2 (Ivy Bridge EP) (2.7/3.5G,130W,L3:30M,12C,HT)

1-й с 2643 должен дать некоторое ускорение в однопотоке за счёт большего кэша (25Мб против 12). К сожалению, нормальных сравнительных тестов именно с ним чего-то неожиданно трудно найти.

2-й 8-ядерный, почему-то есть тесты, где в однопотоке он слегка хуже 3930k (вероятно с учетом разгона). Некоторая прибавка в многопотоке. Примерно на 10-20%

3-й 10 ядерный. Заметно хуже в однопотоке. Заметно лучше в многопотоке. Но как-то так себе почему-то.

4-й 12 ядерный. Существенно хуже в однопотоке, потому что 2.7ГГц, вместо 3.2. В многопотоке из-за 12-ядерности рвёт в два раза на ряде тестов. На некоторых даже быстрее Ryzen 3600X (хотя и не быстрее 8-12 ядерных рязаней). Хотя есть утверждения что неплохо гонится по шине (множитель заблокирован).

Ну и общий минус, что это вложение каких-то денег в уже устаревшую платформу. К тому же брать надо на али, потому что у нас даже на авито хотят 20 тысяч и более за 3-й и 4-й вариант.

Вообще, как выигрыш от xeon’ов в работе, насколько быстрее компилит и т.д.?

 , , , ,

anonymous_incognito
()

Где хорош Intel Optane 900p по сравнению с Samsung 950-970 Pro

Для реальных задач, а не в тестах. Чтобы имело смысл переплатить почти в 4 раза за туже ёмкость. Попробую список составить:

  • Для работы индексатора СУБД
  • Для большой нагрузки, которая быстро выработает ресурс
  • Если нужно обрабатывать очень много мелких файлов (компиляция и линковка чего-то крупного)
  • Там где есть какие-то затруднения с функцией Trim: нестандартные файловые системы для которых она не поддерживается или их отсутствие, например, для криптоконтейнеров или для СУБД, работающих на разделе.
  • Если нужна длительная нагрузка, например, непрерывно часами дрючить диск.

Я что-то упустил или лишнее вписал?

Есть интересная статья, в которой исследуется влияние optane на производительность fsync. А также работа кэша на основе диска optane. Статья написана как апдейт предыдущей, в которой вообще рассматриваются разные диски и их скорости в fsync.

https://www.percona.com/blog/2019/09/19/update-on-fsync-performance/

 mlc, ,

anonymous_incognito
()

Intel Optane 900p на старых материнках

Будет ли работать что-нибудь вроде такого https://www.citilink.ru/catalog/computers_and_notebooks/hdd/ssd_in/1010849/ на материнке с X79-м чипсетом Asus Sabertooth - 2012-го года. CPU - Core i7 3930K.

Электрически как бы подходит. Разъём PCI-E x4, шина PCI-E 3.0, однако слов NVMe материнка не знает, даже ни разу в мануале не встречается, как нет и разъёма M.2

По system requirements с сайта Intel https://www.intel.com/content/www/us/en/support/articles/000025741/memory-and... не очень понятно, что в итоге будет, если поставить.

Ясно, что грузиться с этого SSD будет нельзя, в BIOS он почти наверняка виден тоже не будет, но может быть его система (линукс-ядро) подхватит уже после загрузки с другого накопителя? Ни у кого такого опыта не было?

В принципе видимость в bios не совсем обязательна, в памяти осталось, что в старые времена были похожие ситуации с некоторыми накопителями. Поэтому и спрашиваю.

 , ,

anonymous_incognito
()

Интересно где sizeof(char) == sizeof(int)

https://en.wikibooks.org/wiki/C_Programming/stdio.h

Разбирается в викиучебнике (емнип, вроде вообще из K&R взято, но под рукой его нет) ввод/вывод из файла и отмечается, что просто проверки на EOF может оказаться не достаточно в таких ситуациях

On systems where int and char are the same size (i.e., systems incompatible with minimally the POSIX and C99 standards), even the «good» example will suffer from the indistinguishability of EOF and some character's value. The proper way to handle this situation is to check feof and ferror after getchar returns EOF. If feof indicates that end-of-file has not been reached, and ferror indicates that no errors have occurred, then the EOF returned by getchar can be assumed to represent an actual character. These extra checks are rarely done, because most programmers assume that their code will never need to run on one of these «big char» systems. Another way is to use a compile-time assertion to make sure that UINT_MAX > UCHAR_MAX, which at least prevents a program with such an assumption from compiling in such a system.

Стало интересно, где такое вообще бывает? Это рудимент из 70-х (тоже интересно, где было) или на каких-то системах всё же такое возможно. Вообще есть хотя бы небольшой смысл в совремённых программах закладываться на подобное или можно смело игнорировать. Мне кажется, что можно игнорировать, но все же, вдруг например в embedded такое реально встречается или в каких-то ОС, не самых неизвестных.

 ,

anonymous_incognito
()

RSS подписка на новые темы