Ключевым фактором рыночного триумфа NVIDIA является последовательный подход к предоставлению разработчикам исчерпывающей документации и всесторонней поддержки, а также формирование и развитие собственной экосистемы программно-аппаратных комплексов. Благодаря NVIDIA DGX Spark специалисты могут эффективно разрабатывать, отлаживать и оптимизировать программные продукты, легко перенося решения в профессиональные ИИ-среды, такие как крупные системы NVIDIA DGX, облачные сервисы и корпоративные кластеры.

Модель, при которой после анонса эталонного продукта компания наращивает его производство с привлечением OEM-партнеров при минимальной кастомизации, давно и успешно применяется на ИТ-рынке. Именно так произошло с NVIDIA DGX Spark (ранее известным как Project DIGITS), который сама NVIDIA гордо называет «настольным суперкомпьютером». Одной из его реализаций является MSI EdgeXpert MS-C931. Поскольку основные характеристики продукта полностью совпадают с оригиналом, говорить о значительном вкладе именно MSI довольно сложно. К тому же большинство маркетинговых материалов практически дословно повторяют описания от NVIDIA.

Изменения в основном касаются дизайна и конструкции корпуса. В частности, MSI заявляет о доработке системы охлаждения для повышения её эффективности (разница до -15 °С) и оптимизации расположения антенн Wi-Fi для увеличения скорости работы в диапазоне 6 ГГц (до +37 % разницы). У нас не было других подобных продуктов в тестах, но нет оснований не доверять этим данным. В любом случае данную публикацию можно рассматривать как знакомство с NVIDIA DGX Spark в версии от MSI.

Итак, речь идёт о компактном, но высокопроизводительном (до 1000 TOPS в разреженных FP4-вычислениях и до 32 Тфлопс в FP32) устройстве для разработчиков и специалистов в сфере ИИ. Среди ключевых особенностей NVIDIA выделяет: современную архитектуру Blackwell, 128 Гбайт унифицированной оперативной памяти, высокую производительность, возможность объединения нескольких устройств для увеличения объёма моделей и полную поддержку программного стека NVIDIA.

Основная аудитория, на которую ориентировано устройство, — это разработчики искусственного интеллекта. Они смогут на локальной машине создавать, настраивать, обучать и тестировать модели с большим количеством параметров. Другие сферы применения включают обработку и анализ данных, а также решения в области Edge AI. Например, речь может идти о задачах компьютерного зрения и распознавания речи, системах автоматизации технологических процессов, беспилотных автомобилях и многом другом. Особо стоит выделить возможность работы с крупными моделями на месте — это часто является критичным требованием с точки зрения сохранения конфиденциальности.

Комплектация

Дизайн упаковки в данном случае не имеет значения. Вряд ли кто-то будет выбирать продукт по внешнему виду коробки на магазинной полке, поэтому здесь нет ничего примечательного. Единственное, на что можно обратить внимание, — это табличка с артикулом модели и наклейка от NVIDIA. Также стоит отметить довольно большой вес — почти 2,5 кг. Комплект поставки тоже минималистичный: сама система, листовка с описанием портов и параметрами беспроводной сети по умолчанию, блок питания Delta и кабель к нему с разъемом C5. Размеры блока питания — примерно 10 × 10 × 3,5 см. Кабель для подключения к устройству несъемный, с разъемом USB Type-C (PD 240 Вт). Его длина составляет 1,8 м.

Внешний вид

Размеры корпуса компьютера — 150 × 150 × 58 мм. Это действительно впечатляет: объем системы не превышает полутора литров. Внешняя часть выполнена из прочного матового черного пластика. Скорее всего, под ним скрывается металлический каркас. Разборка или модернизация пользователем не предусмотрены. Обслуживать систему охлаждения придется снаружи. Корпус опирается на четыре крупные резиновые ножки.

В нижней части лицевой панели расположена металлическая решетка системы вентиляции. Основной поток воздуха проходит через корпус и выбрасывается через заднюю решетку, причем предусмотрена защита от рециркуляции горячего воздуха. Кроме того, на боковых сторонах, сверху и снизу можно заметить небольшие дополнительные вентиляционные решетки. С левой стороны видно место для установки замка Кенсингтона. Индикаторов работы не предусмотрено, что кажется немного необычным.

Все разъёмы расположены на тыльной стороне корпуса. Здесь находятся кнопка запуска, четыре порта USB 3.2 Type-C (скорость передачи до 20 Гбит/с). Один из них отвечает за подачу питания на само устройство, остальные поддерживают подключение внешних устройств и их зарядку, а также вывод изображения на мониторы (режим DP Alt). Далее следует разъём HDMI, порт RJ45 на 10 Гбит/с и два сетевых интерфейса для модулей QSFP56, которые обеспечивают подключение на скорости до 200 Гбит/с.

Технические характеристики

Устройство основано на однокристальной системе NVIDIA Grace Blackwell GB10, которая объединяет как центральные процессорные ядра, так и ядра CUDA. Это позволяет создавать на её базе компактные, но высокопроизводительные решения для задач искусственного интеллекта. Процессорная часть состоит из двух кластеров по десять ядер, построенных на архитектурах Arm Cortex-X925 и Arm Cortex-A725. Первые являются высокопроизводительными и работают на частоте до 3,9 ГГц, вторые — энергоэффективными, их частота достигает 2,8 ГГц. В режиме простоя частоты значительно снижаются. Количество ядер CUDA составляет 6144. Тепловыделение чипа зафиксировано на уровне 140 Вт. Система охлаждения активного типа, оснащена крупными радиаторами, тепловой трубкой и двумя вентиляторами.

Ключевая особенность решения — использование общей оперативной памяти для центрального и графического процессоров. В устройстве установлено 128 Гбайт LPDDR5x-8533 (256-битная шина). Память, разумеется, сразу распаяна на плате, и возможности её замены не предусмотрено. Производитель утверждает, что такая конфигурация позволяет запускать модели объёмом до 200 миллиардов параметров и дорабатывать модели до 70 миллиардов параметров. Основной накопитель — 4-терабайтный NVMe SSD модели ESL04TBTLCZ-27J4-TYN от компании Phison (интерфейс PCIe 4.0 x4). «Из коробки» предустановленная операционная система занимает около 20 Гбайт, также в корне диска находится файл подкачки объёмом 16 Гбайт. Формально твердотельный накопитель установлен в стандартный слот M.2 2242, однако технически его замена будет крайне затруднительной.

Существует несколько способов подключения к сети. Для удаленного администрирования удобно использовать медный порт 1/2,5/5/10GbE. Он построен на чипе Realtek RTL8127 и использует одну линию PCIe 4.0, что вполне достаточно. Если прокладка кабеля неудобна или требуется мобильность, в системе также присутствует беспроводной адаптер MediaTek MT7925 (Filogic 360). Он поддерживает Wi-Fi 7 в трех диапазонах с максимальной канальной скоростью 5764 Мбит/с (для этого потребуется совместимый роутер или точка доступа). В этот же модуль встроен адаптер Bluetooth 5.3.

Кроме того, в системе имеется двухпортовый контроллер NVIDIA Mellanox ConnectX-7, который позволяет объединять несколько устройств в кластер. Это дает больше вычислительных ресурсов для работы с моделями. Две системы можно соединить напрямую, для трех устройств компания предлагает кольцевую топологию, а если требуется больше — понадобится совместимый коммутатор. Стоит отметить, что если сетевые кабели не подключены, контроллер отключается для экономии энергии. Объединение в кластер позволяет запускать LLM объемом в сотни гигабайт и с сотнями миллиардов параметров, хотя скорость работы в таком режиме будет зависеть от модели, настроек и запросов. Тем не менее, такое решение все равно обойдется дешевле «настоящих» GPU-кластеров.

Устройство работает под управлением специализированной операционной системы NVIDIA DGX OS, основанной на Ubuntu 24.04.4 LTS. В стандартном списке репозиториев присутствуют все необходимые пакеты для установки драйверов, прошивок, библиотек и сопутствующих компонентов от NVIDIA. При необходимости переустановки можно загрузить ISO-образ с сайта производителя. Встроенного раздела восстановления в устройстве не предусмотрено. В системе также присутствует знакомый по обычным компьютерам BIOS с поддержкой UEFI, Secure Boot и других технологий.

Устройство функционирует в полном объеме даже без подключенного монитора, поэтому устанавливать «заглушку» нет необходимости. Если же требуется локальный дисплей, можно задействовать разъемы HDMI 2.1a или USB Type-C. Поддерживается работа с несколькими мониторами, вывод цифрового аудио и режимы вплоть до 8k120. К сожалению, в устройстве отсутствуют какие-либо независимые от основной операционной системы решения для удаленного доступа (IPMI/BMC). Официально модель предназначена для размещения на рабочем столе пользователя, и при возникновении неполадок он может самостоятельно выполнить перезагрузку системы. Тем не менее, по нашему мнению, наличие отдельного OOB-управления было бы весьма полезным.

Энергопотребление и температура

Устройство поставляется с блоком питания мощностью 240 Вт. В выключенном состоянии потребление не превышает 1 Вт, а в режиме ожидания операционной системы составляет около 20,5 Вт. При запуске утилиты stress-ng для загрузки процессорных ядер потребление достигает примерно 110 Вт, а температура SoC (согласно данным утилиты NVIDIA Settings) увеличивается с +37 до +54 °C. Если одновременно добавить нагрузку на графический процессор с помощью утилиты gpu-burn, потребление возрастает до 175 Вт, а температура — до +73 °С. В задачах тестирования искусственного интеллекта максимальное энергопотребление было зафиксировано на уровне 180 Вт, а температура основного чипа поднималась до +86 °С. Внешняя поверхность корпуса при этом нагревалась до +42 °С. Испытания проводились в домашних условиях при температуре окружающей среды около +25 °С.

Уровень шума под нагрузкой можно охарактеризовать как умеренный, с ровным и приглушенным звучанием. В типичной офисной и даже во многих домашних условиях он может оставаться незаметным. Кроме того, устройство можно полноценно использовать с удаленным подключением, поэтому шум играет незначительную роль.

Программное обеспечение

Помимо стандартных программ Ubuntu, в системе предустановлено несколько утилит от NVIDIA.

Например, с помощью DGX Dashboard можно отслеживать загрузку оперативной памяти и графического процессора, а также выполнять обновление программного обеспечения. Также присутствует знакомая по игровым видеокартам панель управления NVIDIA. Однако из-за высокой степени интеграции платформы некоторые данные в ней отсутствуют.

Для запуска ИИ-приложений компания рекомендует применять специализированный инструментарий для разработчиков — NVIDIA AI Workbench. Он упрощает установку и настройку софта, а также предлагает функции управления и мониторинга контейнеров для искусственного интеллекта.

Оценка производительности

Главная задача рассматриваемой системы, безусловно, заключается в работе с моделями ИИ. Но на практике с ней придется взаимодействовать и как с обычным полноценным компьютером. В целом пользовательский опыт здесь мало отличается от работы на среднестатистической рабочей станции. Всё же современные Arm-ядра, да еще и в большом количестве, во многих задачах сопоставимы по производительности с традиционной архитектурой x86-64, если не брать в расчет топовые решения класса HEDT.

Большой объем оперативной памяти позволяет забыть о файле подкачки. Штатный системный накопитель в тесте fio демонстрирует 5600/3500 Гбайт/с при последовательном чтении/записи блоками по 256 Кбайт и 125000/160000 IOPS при случайном чтении/записи блоками по 4 Кбайт. Для внешних накопителей (NVMe SSD через адаптер USB 3.2) этот тест показал пиковые скорости последовательных операций около 1800 Гбайт/с. Что касается скорости работы 10GbE-адаптера, то к ней также нет претензий.

В интернете уже накопилось множество материалов, посвящённых работе с ИИ-моделями, однако сама эта тема поистине неисчерпаема. При подборе инструмента для взаимодействия с моделями искусственного интеллекта важно учитывать сразу несколько факторов, и далеко не всегда действует принцип «чем больше, дороже и мощнее — тем лучше». У каждой модели есть свои уникальные требования и предпочтения касательно объёма памяти, её быстродействия, а также количества и специфики вычислительных ядер. Если же добавить сюда возможности адаптации и оптимизации моделей, то процесс выбора становится ещё более запутанным. Поэтому даже попытка составить сравнительную таблицу, скорее всего, окажется неудачной — картина слишком многогранна, и для любой оценки наверняка найдётся альтернативная точка зрения. В связи с этим в данной статье для общего понимания возможностей устройства мы проведём лишь несколько тестов с популярными моделями. Тем более что выбор инструментов для тестирования существенно ограничен архитектурой платформы.

У рассматриваемого решения имеется множество особенностей, что ещё сильнее усложняет прямое сравнение как с собственными локальными серверами, оснащёнными видеокартами, так и с облачными сервисами. Среди них — поставка в виде готового устройства единственной конфигурации, возможность объединения нескольких устройств в единый кластер, а также наличие большого объёма памяти, позволяющего работать с моделями, содержащими огромное количество параметров, но при этом относительно невысокая вычислительная мощность.

В данном решении применяется архитектура Blackwell 2.0, такая же, как в актуальных топовых видеокартах для игр и рабочих станций. Однако количество вычислительных модулей здесь значительно меньше, хотя рабочие частоты близки. С точки зрения задач ИИ большее беспокойство вызывает использование общей памяти LPDDR5X на 256-битной шине. Её заявленная пропускная способность составляет менее 300 Гбайт/с, тогда как у флагманских продуктов этот показатель достигает 1,79 Тбайт/с. Таким образом, единственным заметным преимуществом продукта остаётся лишь объём памяти.

Для первого сравнительного анализа мы задействовали модель gpt-oss-20b-mxfp4 от ggml в llama.cpp, а также информацию из публикации для сопоставления с другими решениями. Эта модель относительно невелика и может работать на видеокартах с 16 Гбайт видеопамяти. К сожалению, в указанной публикации для запуска на разных платформах использовались различные комбинации размеров батчей (2048 и 4096) для параметров -b и -ub. Однако проверка показала, что их влияние незначительно, поэтому все результаты были объединены. В нашем случае применялась локальная сборка llama.cpp и следующая команда для запуска теста: `llama-bench -m [модель].gguf -t 1 -fa 1 -b 4096 -ub 4096 -p 32768 -r 10 -o md`.

Модель gpt-oss 20B MXFP4 MoE
Обработка промпта, 32 тысячи токенов, ток/с	Генерация текста, 128 токенов, ток/с
NVIDIA DGX Spark	3640,14	86,85
NVIDIA RTX PRO 6000 Blackwell Workstation Edition	8267,46	286,91
NVIDIA GeForce RTX 5090	6089,55	282,26
NVIDIA GeForce RTX 5080	5376,58	204,86
NVIDIA GeForce RTX 5070 Ti	4411,35	189,46
NVIDIA GeForce RTX 5060 Ti	3009,63	111,56

Согласно полученным данным, производительность NVIDIA DGX Spark на этой модели примерно соответствует показателям видеокарты NVIDIA GeForce RTX 5060 Ti. Любопытно, что её TDP составляет 180 Вт, что почти совпадает с результатами, которые мы зафиксировали для NVIDIA DGX Spark. При этом самая производительная современная карта для рабочих станций оказывается в два-три раза быстрее, однако её цена и энергопотребление возрастают в той же пропорции.

Модель gpt-oss-120b от ggml для своего запуска требует гораздо больше памяти — почти 64 Гбайт. Поэтому далеко не каждая одиночная видеокарта способна с ней справиться. По указанной ранее ссылке были доступны лишь результаты для флагманской видеокарты NVIDIA для рабочих станций. Общее соотношение производительности участников примерно такое же, как и для более простой модели.

Модель gpt-oss 120B MXFP4 MoE
Обработка промпта, 32 тысячи токенов, ток/с	Генерация текста, 128 токенов, ток/с
NVIDIA DGX Spark	2115,29	50,09
NVIDIA RTX PRO 6000 Blackwell Workstation Edition	4503,36	196,31

Для представленной ниже таблицы с итогами у нас нет соперников, с которыми можно было бы провести сравнение. Некоторые модели допустимо запускать даже на флагманских игровых видеокартах или с использованием основной оперативной памяти ПК. Для выполнения теста применялась команда, указанная ранее. Для DeepSeek, gemma и llama были взяты версии от unsloth, а для Qwen — от ggml. В скобках после наименования модели указан объем требуемой памяти.

NVIDIA DGX Spark
Обработка запроса, 32k токенов, ток/с	Генерация текста, 128 токенов, ток/с
DeepSeek-R1-Distill-Llama-70B-Q8_0 (75 Гбайт)	249,49	3,03
DeepSeek-R1-Distill-Qwen-14B-Q8_0 (15,7 Гбайт)	714,75	15,15
DeepSeek-R1-Distill-Qwen-32B-Q8_0 (34,8 Гбайт)	419,79	6,7
gemma-4-26B-A4B-it-MXFP4_MOE (16,6 Гбайт)	2433,84	60,85
gemma-4-26B-A4B-it-Q8_0 (26,8 Гбайт)	2208,36	52,32
gemma-4-31B-it-Q8_0 (32,6 Гбайт)	446,25	6,95
Llama-3.3-70B-Instruct-Q8_0 (75 Гбайт)	243,96	2,98
Qwen3.5-35B-A3B-Q8_0 (36,9 Гбайт)	2419,75	51,97
Qwen3.6-27B-Q8_0 (28,6 Гбайт)	645,56	7,81
Qwen3.6-35B-A3B-BF16 (69,4 Гбайт)	1725,29	35,87
Qwen3.6-35B-A3B-Q8_0 (36,9 Гбайт)	2428,78	59,04

Второй тест, который получилось запустить на данной системе, измеряет скорость работы модели Stable Diffusion 1.5 при создании изображений. Интерес к нему обусловлен существованием онлайн базы с результатами. Тестируемая система продемонстрировала показатель в 100 картинок за 5 минут (3 секунды на одно изображение). Это сопоставимо с результатом NVIDIA GeForce RTX 5060

Оставить комментарий

Обязательные поля помечены *

Имя *

Email *

Ваш комментарий *

Отправить комментарий