Разрабатываемое ядро Linux 7.4 теперь умеет работать с NVMe носителями без задействования RAM

Хорошо, полезно.

Только вот это же требует именно поддержки в коде. Оно само по себе не плохо, но есть опасение, что в итоге это приведёт к возникновению софта, который свои данные может читать только с NVMe, а с других накопителей (пускай и медленно) — хрен. Меньше универсальности. Остаётся только надеяться на разумность софтописателей и наличие поддержки и того и другого там, где это требуется.

Думаю сделают в виде библиотеки, которая сама будет выбирать механизм чтения в зависимости от возможностей железа. Это было бы логично.

Неплохой вариант.

ещё быстрее чем с PCI BAR Memory Mapping? GPU то про это в курсе?

сейчас как-то так:

DMA (device → RAM):
  Device --[DMA addr]--> IOMMU --[phys addr]--> RAM

MMIO (CPU → device):
  CPU --[phys addr]--> PCIe --[reaches device, not RAM]

Спустя 100500 лет линуксоеды изобрели DirectStorage. Минусы всё те же: если у тебя какая-никакая сложная ФС, всё сразу разваливается. Соответственно, нужно заморачиваться и хранить целевые данные на диске единым куском.

для этого придумали разделы

Разделами задолбаешься. Можно через LVM выделять непрерывные блоки на диске.

ну или даже так. В любом случае проблема решаема как не в рамках фс, так и механизмами в некоторых фс

Дыры там будут находить годами. Но там где это надо на это пофиг, а всем остальным лучше выключить как и io_uring

ну или даже так. В любом случае проблема решаема как не в рамках фс, так и механизмами в некоторых фс

Да конечно решается, кто бы спорил. Штука только в том, что тебе надо готовить специальный диск под это всё дело, причём для долгосрочного хранения этот диск подходить не будет.

Кстати, под вендой DirectStorage не особо популярен стал. Его только на XBox плюс-минус активно юзают, но там своя особая атмосфера, понятное дело.

На линуксах возможно ещё будут нейронки грузить таким образом. А в остальном это больше фича для игровых соснолей

Кстати, под вендой DirectStorage не особо популярен стал.

Ресурсы в играх сжатые, с DirectStorage распаковкой занимается видюшка. На ПК же обычно нет проблем выделить несколько гигов оперативки под распаковку и циклы процессора, даже в играх с упором в cpu. А вот доп. нагрузка на видюшку часто лишняя.

А когда будет как на Маке, чтобы 8Гб работало как 16 за счет ссд?

Хорошо, полезно.

при условии что есть NVMe

А когда будет как на Маке, чтобы 8Гб работало как 16 за счет ссд?

Я не знаю, как на Маке, но звучит как… Swap…

они открыли DMA !!
помнится давным-давно на микроконтроллере использовал дма-канал для пересылки данных с АЦП на ЦАП минуя память для теста… потом переделал чтоб программа не использовалась вообще, чисто аппаратные модули. мейн-функция представляла собой набор инициализации модулей и стоп. показал програмисту, тот сказал что так делать нельзя, ибо программы нет, а значит чтото там по теории неправильно…

Я не знаю, как на Маке

Что значит не знаю? ) Тема была громкой, хайповой, и на ЛОРе ее тоже яростно обсуждали, когда, в 2023, кто-то из руководства яблока заявил:

Компания Apple не перестаёт говорить о превосходстве своих компьютеров с фирменными чипами M-серии над решениями конкурентов. Вице-президент компании утверждает, что 8 ГБ оперативной памяти в новых ноутбуках MacBook Pro вовсе не проблема, поскольку на «маках» память работает иначе, чем на других системах.

дма-канал для пересылки данных с АЦП на ЦАП минуя память для теста…

А мне запомнилось, что DMA изобрели для того чтобы передавать данные минуя процессор, а не память, причём копировать как раз в память. Отсюда и название: отдельный контроллер, который освобождает процессор от примитивных но лавинообразных операций копирования.

работать с NVMe носителями без задействования RAM

Кстати, на phoronix не единожды наталкивался на посты, начинающиеся с формулировки «В условиях сегодняшних очень высоких цен на память» и рассказывающих о доработках кода, позволяющих еще более эффективней использовать память.
Примета нашего времени. )

Meta разрабатывает сжатую оперативную память (CRAM) для Linux: лучше, чем ZRAM и Zswap

В Linux переработана технология ZRAM для большей экономии памяти и повышения производительности

Вице-президент компании утверждает, что 8 ГБ оперативной памяти в новых ноутбуках MacBook Pro вовсе не проблема, поскольку на «маках» память работает иначе, чем на других системах.

Ясно. Спасибо.

Дело в том, что я подобный маркетинговый булшит не запоминаю. Может и видел. Но подобное балабольство — такой привычный фон, что конкретика оного не всегда оседает в памяти :)

Теперь можно, например, поместить модель ИИ сразу в GPU, не тратя ресурсы на помещение её в RAM и последующее копирование её оттуда в GPU.

Уже придумали HBF (High Bandwidth Flash) память как альтернатива HBM для инференса моделей. Первое поколение это чипы объемом от 0.5TB до 4TB и пропускной способностью от 0.4TB/s до 3.2TB/s, размер чипов вроде как один в один как HBM. Во втором поколении обещают удвоить пропускную способность, массовое производство обещают в 2028 году. Построены эти чипы на дешевой NAND. Ограничение естественно в том что запись медленная и циклы ограниченны. Но для LLM моделей это не играет ролей, даже для игр не играет роли загрузил один раз ресурсы какой-нибудь openworld игры в такую память и избавляешься от лагов подгрузки уровня/моделей/текстур так как они уже в памяти GPU.

да. начальная реализация такова и была - Direct Memory Acceses - прямой доступ (внешнего, относительно процессора, устройства) к памяти.
но потом поняли что это удобно и в других случаях передачи больших объемов данных, даже, к примерe из RAM в RAM и расширили функции DMA.

Память-память - это ОК, ещё подходит к DMA. У меня вопрос к периферия-периферия без единого несколько-байтного буфера в памяти. И, да, RAM в микроконтроллере встроенная, но это по-прежнему память. Не припомню варианта периферия - 4-байтный RX регистр - 4-байтный TX регистр - периферия.

регистр встроенного АЦП и встроенного ЦАП отображены на ram. так что технически это не периферия, это копирование ram-ram :)
обычно все регистры всех модулей и управляющие и значения микроконтроллера отображены на память. удобно.

помнится в мсп430(??) аппаратный перемножитель 32x32 также был отображен на память. записываешь в определенные адреса что типа "старшие16, младшие16 бит первого числа, старшие16, младшие 16бит второго числа. По записи в младшие 16 бит второго числа (это определенный адрес памяти) запускается перемножитель, далее ждешь сколько там тактов и считываешь результат…

Это было давно. Потом контроллер памяти переехал в процессор и технически теперь данные бегают так же через процессор. Если только не через процессорные ядра

маркетинговый булшит

Ну, там не все так однозначно. Когда на ЛОРе ругали обсуждали этот «маркетинговый булшит», были и комменты, подтверждающие правдивость:

У меня приятель владеет 8гб МакБук Про, говорит в точности то же самое. Он не ламер, стаж в IT 30 лет, способен поставить и настроить Генту, так что я его суждениям доверяю. Утверждает что да, органолептически ощущается как его предыдущий мак с 16гигами. Он на нём фотошопствует, монтирует видео и немножечко играет. Предполагает что это из за сжатия, типа zram с бакендом на ssd, быстрого многопоточного ввода\вывода на SSD и общей оптимизации системы.
Есть ли на ЛОР-е адепты яблочных ноутбуков? (комментарий)

Я полазил по ссылкам на phoronix, которые выше дал про CRAM, в комментах тоже народ зацепился на сравнениях с макбуком. Как я понял из обсуждений, если конечно правильно понял,) у яблочников совсем другой ZRAM/ZSWAP, типа, с аппаратным ускорением сжатия/распаковки данных, когда процессор незадействован в этих операциях. Как это реализовано, хз.

DMA изобрели для того чтобы передавать данные минуя процессор, а не память, причём копировать как раз в память

Да, но эта память не обязательно как-то связана с процессором в такой архитектуре (с общей шиной). Это может быть в т.ч. «память» другого устройства.

Как это реализовано, хз.

Как zswap с быстрым ssd. Дефолтные же ссд на винда-буках не то что под свап использовать нельзя, там просто одновременное копирование/чтение к фризам приводить может.

Необычность впечатлений происходит от не типичной комбинации очень низкого объема оперативки при отличным по скорости ссд.

Можно как-то так: https://www.bitflux.ai/blog/memory-is-slow-part2-5/

А когда будет как на Маке, чтобы 8Гб работало как 16 за счет ссд?

В 1991 году так будет.