речь идет о компактном и при этом высокопроизводительном (до 1000 TOPS в разреженных FP4-вычислениях и до 32 Тфлопс в FP32) устройстве для разработчиков и специалистов в сегменте ИИ. Среди ключевых особенностей NVIDIA отмечает: современную архитектуру Blackwell, 128 Гбайт унифицированной оперативной памяти
.
почти 2,5 кг. Комплект поставки также аскетичный — сама система, листовка с описанием портов и параметрами беспроводной сети по умолчанию, блок питания Delta и кабель для него, с разъемом C5. Габариты БП — около 10 × 10 × 3,5 см. Кабель для подключения к устройству несменный, с коннектором USB Type-C (PD 240 Вт).
.
Габариты корпуса компьютера — 150 × 150 × 58 мм.
.
четыре порта USB 3.2 Type-C (20 Гбит/с). Один из них используется для питания самого устройства, остальные поддерживают подключение и питание периферии, включая мониторы (DP Alt Mode). Далее идет порт HDMI, 10GbE-порт RJ45 и два сетевых порта под модули QSFP56 с поддержкой 200GbE-подключения.
.
CPU-часть представлена двумя кластерами по десять ядер на базе архитектур Arm Cortex-X925 и Arm Cortex-A725. Первые являются «быстрыми» и работают на частотах до 3,9 ГГц, а вторые «эффективными», их частота — до 2,8 ГГц. Без нагрузки частоты сильно снижаются. Что касается ядер CUDA, то их здесь 6144. TDP чипа установлен на уровне 140 Вт. Система охлаждения активная, с крупными радиаторами, тепловой трубкой и парой вентиляторов.
.
память сразу распаяна на печатной плате, и возможности ее замены нет. Заявлено, что данная конфигурация позволяет запускать модели размером до 200 млрд параметров и дорабатывать модели размером до 70 млрд параметров. Основной накопитель — 4-Тбайт NVMe SSD ESL04TBTLCZ-27J4-TYN производства Phison (PCIe 4.0 x4). «Из коробки» установленная ОС занимает около 20 Гбайт, плюс в корне диска находится файл подкачки на 16 Гбайт. Формально SSD установлен в стандартный слот M.2 2242, но технически заменить его будет очень сложно.
.
Устройство полностью работоспособно и без подключения монитора, ставить «заглушку» не обязательно. Если же нужен локальный монитор, можно использовать HDMI 2.1a или порты USB Type-C. Поддерживается подключение нескольких мониторов, вывод цифрового звука и режимы до 8k120 включительно.
.
Устройство комплектуется блоком питания на 240 Вт. В выключенном состоянии потребление составляет менее 1 Вт, в режиме ожидания ОС — примерно 20,5 Вт. При использовании утилиты stress-ng для нагрузки процессорных ядер потребление составляет около 110 Вт, а температура SoC (по данным утилиты NVIDIA Settings) повышается с +37 до +54 °C. Если одновременно добавить и нагрузку на GPU утилитой gpu-burn, то потребление поднимается до 175 Вт, а температура — до +73 °С. На задачах тестирования ИИ максимальное энергопотребление было зафиксировано на уровне 180 Вт, а температура основного чипа поднималась до +86 °С. Внешняя часть корпуса при этом нагревалась до +42 °С. Проверка проводилась в домашних условиях при температуре окружающего воздуха около +25 °С.
.
Для первого сравнения мы использовали модель gpt-oss-20b-mxfp4 от ggml в llama.cpp и приведенную в публикации информацию для сравнения с другими решениями. Данная модель относительно небольшая и может использоваться на видеокартах с 16 Гбайт видеопамяти. К сожалению, в приведенной публикации использовались разные комбинации размеров батчей (2048 и 4096) для параметров -b и -ub при запуске на разных платформах. Однако проверка показала, что их влияние относительно невелико, поэтому все результаты будут собраны вместе. В нашем случае использовалась локальная сборка llama.cpp и следующая команда для запуска теста: llama-bench -m [модель].gguf -t 1 -fa 1 -b 4096 -ub 4096 -p 32768 -r 10 -o md.
| - | Prompt Processing, 32к токенов, ток/с | Text Generation, 128 токенов, ток/с |
|---|---|---|
| NVIDIA DGX Spark | 3640,14 | 86,85 |
Как видно по результатам, производительность NVIDIA DGX Spark на данной модели находится примерно на уровне видеокарты NVIDIA GeForce RTX 5060 Ti. Интересно заметить, ее TDP составляет 180 Вт, что близко к тому, что у нас получилось в тестах для NVIDIA DGX Spark. При этом самая быстрая современная карта для рабочих станций в два-три раза быстрее, но и ее стоимость и энергопотребление во столько же раз выше.
Модель gpt-oss-120b от ggml требует для своего запуска уже значительно больше памяти — почти 64 Гбайт. Так что мало какие одиночные видеокарты могут себе это позволить. По указанной ранее ссылке были доступны только результаты для топовой видеокарты NVIDIA для рабочих станций. Общее соотношение производительности участников примерное такое же, как и для простой модели.
| - | Prompt Processing, 32к токенов, ток/с | Text Generation, 128 токенов, ток/с |
|---|---|---|
| NVIDIA DGX Spark | 2115,29 | 50,09 |
Второй тест, который удалось запустить на рассматриваемой системе, оценивает скорость работы модели Stable Diffusion 1.5 для генерации изображений. Интерес к нему вызван наличием онлайн базы с результатами. Рассматриваемая система показала результат в 100 изображений за 5 мин (3 с на одно изображение). Это сравнимо с результатом NVIDIA GeForce RTX 5060 Ti и примерно в три раза хуже, чем у NVIDIA GeForce RTX 5090. Примерно такая же скорость получилась и при использовании проекта stable-diffusion.cpp с моделью v1-5-pruned-emaonly.safetensors для генерации изображения 1024 × 1024 пикселя.
Если говорить о производительности в задачах ИИ, то продукт получится нишевым — в нем существенно больший, чем у игровых видеокарт, объем памяти, но собственно скорость работы моделей ИИ относительно невысока. Однако NVIDIA известна своими программными оптимизациями, так что со временем производительность на реальных задачах может существенно вырасти. Кроме того, компания постепенно наполняет библиотеку типовых решений и примеров. И это важный момент именно для тех разработчиков, которые намерены перенести свои творения с DGX Spark на «большие» системы. Во-первых, даже инструментарий для Arm и x86-64 нет-нет да и отличается.
.
В официальной российской рознице MSI EdgeXpert MS-C931 сейчас стоит 524 999 руб., как и положено профессиональному оборудованию для бизнеса (и редких энтузиастов). Альтернативы теоретически есть, но практически другие вариации DGX Spark в основном предлагаются в единичных экземплярах или под заказ. И иногда они не только не дешевле модели MSI, но и дороже. При этом MSI выделяется предоставлением официальной гарантии, наличием технической поддержки, доступностью прямой коммуникации с вендором в РФ и возможностью тестирования продукта перед проведением закупки.
Линукс притом, что
Решение работает под управлением специализированной операционной системы NVIDIA DGX OS на базе Ubuntu 24.04.4 LTS. В штатном списке репозиториев присутствуют все необходимые для установки драйверов, прошивок, библиотек и сопутствующих пакетов от NVIDIA. В случае необходимости переустановки можно скачать с сайта производителя файл ISO.
Перемещено dataman из ai
