Аналитика

MSI EdgeXpert MS-C931: компактный суперкомпьютер в формате мини-ПК

Курс NVIDIA на обеспечение разработчиков исчерпывающей документацией и всесторонней поддержкой, включая формирование и совершенствование собственной экосистемы аппаратно-программных решений, выступает одной из главных составляющих ее рыночного успеха. NVIDIA DGX Spark дает специалистам возможность продуктивно создавать, отлаживать и оптимизировать программные продукты с простым переносом наработок в полноценные ИИ-среды, в том числе в крупномасштабные системы NVIDIA DGX, облачные платформы и корпоративные кластеры.

Модель, при которой после презентации эталонного изделия компания наращивает его выпуск с подключением OEM-производителей при минимальной адаптации, уже долгое время результативно действует на ИТ-рынке. То же самое произошло с NVIDIA DGX Spark (изначально Project DIGITS), которую сама NVIDIA с гордостью называет «настольным суперкомпьютером». Одним из ее воплощений стал MSI EdgeXpert MS-C931. С учетом того, что ключевые параметры изделия целиком воспроизводят оригинальный образец, рассуждать о весомом вкладе именно MSI довольно затруднительно. К тому же большинство рекламных материалов дословно дублируют описания от NVIDIA.

Основные обновления затронули внешний вид и строение шасси. Так, MSI сообщает о модернизации охлаждающей системы ради роста её производительности (перепад достигает -15 °С) и улучшении размещения Wi-Fi-антенн для повышения скорости в 6-ГГц диапазоне (прирост до +37 %). Иных аналогичных устройств в наших тестах не было, однако оснований сомневаться в этих данных нет. Как бы то ни было, в целом эту статью можно воспринимать как первое знакомство с NVIDIA DGX Spark в исполнении от MSI.

Итак, перед нами компактное, но вместе с тем весьма мощное решение (до 1000 TOPS при разрежённых вычислениях FP4 и до 32 Тфлопс в FP32), адресованное разработчикам и экспертам в области искусственного интеллекта. В числе главных достоинств NVIDIA выделяет: передовую архитектуру Blackwell, 128 Гбайт объединённой оперативной памяти, высокую производительность, способность связывать несколько устройств для работы с более крупными моделями, а также полную совместимость с программным стеком NVIDIA.

Ключевой аудиторией этого решения видятся специалисты, занятые в сфере разработки ИИ-продуктов: они получат возможность прямо на локальной машине создавать, конфигурировать, обучать и тестировать модели с большим количеством параметров. Среди прочих сценариев применения — обработка и анализ информации, а также задачи категории Edge AI. Речь, в частности, может идти о системах машинного зрения и распознавания речи, автоматизации технологических процессов, беспилотном транспорте и многом другом. Отдельно стоит подчеркнуть ценность локального запуска крупных моделей — нередко это критически важно с точки зрения сохранения конфиденциальности данных.

Комплектация

Дизайн упаковки в этом случае совершенно не важен. Вряд ли кто-то станет выбирать устройство, ориентируясь на вид коробки на прилавке, поэтому ничего примечательного тут нет. Единственное, на что стоит взглянуть, — табличка с артикулом модели и наклейка NVIDIA. Отметим также внушительную массу — почти 2,5 кг. Набор поставки тоже минималистичен: сама система, вкладыш с перечнем портов и заводскими параметрами беспроводной сети, блок питания Delta и кабель к нему с разъёмом C5. Размеры БП составляют примерно 10 × 10 × 3,5 см. Кабель для подсоединения к устройству несъёмный, оснащён коннектором USB Type-C (PD 240 Вт). Его длина — 1,8 м.

Внешний вид

Размеры системного блока — 150 × 150 × 58 мм. Это действительно производит впечатление, ведь общий объем устройства не превышает полутора литров. Корпус выполнен из прочного матового пластика черного цвета. Под ним, вероятнее всего, находится металлическая рама. Возможность разборки или модернизации пользователем не предусмотрена. Уход за системой охлаждения осуществляется только снаружи. Устойчивость корпусу придают четыре массивные резиновые опоры.

В нижней части передней панели расположена металлическая перфорация для вентиляции. Основной воздушный поток идёт сквозь корпус и выходит через заднюю решётку, при этом предусмотрена защита от повторного забора нагретого воздуха. Дополнительно по бокам, сверху и снизу имеются небольшие вентиляционные отверстия. С левой стороны присутствует паз для установки замка Kensington. Какие-либо индикаторы работы отсутствуют, что выглядит довольно необычно.

На задней стороне корпуса расположены все разъемы. Тут можно увидеть клавишу запуска, а также четыре разъема USB 3.2 Type-C со скоростью 20 Гбит/с. Один из них отвечает за подачу питания на само устройство, тогда как оставшиеся позволяют подключать периферию и обеспечивать ее энергией, в том числе дисплеи (DP Alt Mode). Следом размещен разъем HDMI, сетевой порт RJ45 10GbE и пара сетевых слотов для модулей QSFP56, поддерживающих подключение на скорости 200GbE.

Характеристики устройства

В основе лежит система-на-чипе NVIDIA Grace Blackwell GB10, которая совмещает процессорные и CUDA-ядра — это дает возможность собирать на ее базе малогабаритные мощные решения для ИИ-задач. Процессорная часть включает два кластера по десять ядер, построенных на архитектурах Arm Cortex-X925 и Arm Cortex-A725. Первые считаются производительными и функционируют на частотах вплоть до 3,9 ГГц, вторые — энергоэффективными с частотой до 2,8 ГГц. При отсутствии нагрузки частоты заметно падают. Число CUDA-ядер достигает 6144. Показатель TDP чипа составляет 140 Вт. Охлаждение активное: применяются массивные радиаторы, тепловая трубка и два вентилятора.

Источник изображения: NVIDIA

Ключевая черта этого устройства — единый пул оперативной памяти, разделяемый между CPU и GPU. В данном случае он составляет 128 Гбайт LPDDR5x-8533 (шина 256 бит). Разумеется, память распаяна прямо на печатной плате, поэтому о её апгрейде речи не идёт. По заявлениям производителя, такая конфигурация даёт возможность работать с моделями объёмом до 200 млрд параметров, а также заниматься дообучением моделей размером до 70 млрд параметров. В роли основного накопителя выступает 4-Тбайт NVMe SSD ESL04TBTLCZ-27J4-TYN от Phison (PCIe 4.0 x4). В предустановленном состоянии ОС занимает порядка 20 Гбайт, а в корне диска дополнительно размещён файл подкачки объёмом 16 Гбайт. Номинально SSD вставлен в штатный слот M.2 2242, однако на практике заменить его будет крайне затруднительно.

Изображение предоставлено: NVIDIA

Подключиться к сети можно несколькими способами. Для удалённого администрирования подойдёт медный интерфейс 1/2,5/5/10GbE. Он построен на микросхеме Realtek RTL8127 и задействует всего одну линию PCIe 4.0 — этого хватает с запасом. Если прокладка кабеля неудобна либо требуется мобильность, в устройстве предусмотрен беспроводной модуль MediaTek MT7925 (Filogic 360). Он обеспечивает Wi-Fi 7 в трёх диапазонах с пиковой канальной скоростью 5764 Мбит/с (понадобится совместимый роутер или точка доступа). Там же реализован и Bluetooth 5.3.

Изображение предоставлено: NVIDIA

Помимо этого, устройство оснащено двухпортовым NVIDIA Mellanox ConnectX-7, позволяющим объединять несколько систем в кластер и тем самым увеличивать вычислительную мощность при работе с нейросетями. Пару машин допускается связывать напрямую; при наличии трёх компания рекомендует схему с кольцевой топологией, а для большего числа узлов понадобится подходящий коммутатор. Отметим, что при отсутствии подключённых сетевых кабелей контроллер переходит в выключенное состояние ради экономии электроэнергии. Кластеризация при этом открывает возможность запускать LLM объёмом в сотни гигабайт с сотнями миллиардов параметров, правда, производительность в таком режиме будет определяться моделью, конфигурацией и характером запросов. Тем не менее подобный подход всё равно окажется доступнее, чем полноценные GPU-кластеры.

Источник изображения: NVIDIA

Устройство функционирует на специализированной операционной системе NVIDIA DGX OS, основанной на Ubuntu 24.04.4 LTS. В стандартном наборе репозиториев доступны все требуемые для инсталляции драйверов, прошивок, библиотек и дополнительных пакетов от NVIDIA. При необходимости переустановки можно загрузить ISO-образ с официального сайта производителя. Встроенного раздела для восстановления в данном устройстве не предусмотрено. Также в системе присутствует привычный для обычных компьютеров BIOS с поддержкой UEFI, Secure Boot и прочих технологий.

Источник изображения: NVIDIA

Система функционирует в полном объёме даже без присоединённого дисплея, поэтому установка «заглушки» не требуется. При необходимости подключения локального монитора доступны интерфейс HDMI 2.1a либо разъёмы USB Type-C. Реализована поддержка одновременной работы с несколькими дисплеями, передача цифрового аудиосигнала и видеорежимы вплоть до 8k120. К сожалению, производитель не предусмотрел средств удалённого администрирования, независимых от основной операционной системы (IPMI/BMC). Номинально данная модель ориентирована на размещение на рабочем столе пользователя, и при появлении сбоев он способен сам выполнить перезагрузку системы. Тем не менее, по нашему мнению, отдельный канал OOB-управления был бы крайне востребован.

Энергопотребление и температура

В комплект поставки входит адаптер питания мощностью 240 Вт. Когда устройство отключено, энергопотребление не превышает 1 Вт, а в режиме простоя операционной системы — около 20,5 Вт. При нагружении ядер процессора с помощью утилиты stress-ng потребление достигает примерно 110 Вт, при этом температура SoC (согласно данным утилиты NVIDIA Settings) растёт с +37 до +54 °C. Если дополнительно нагрузить GPU программой gpu-burn, то энергопотребление увеличивается до 175 Вт, а температура — до +73 °С. В ходе тестов ИИ-задач пиковое энергопотребление фиксировалось на отметке 180 Вт, а температура главного чипа поднималась до +86 °С. Наружная поверхность корпуса при этом нагревалась до +42 °С. Измерения проводились в жилом помещении при температуре воздуха около +25 °С.

Источник изображения: MSI

Акустический комфорт при работе под нагрузкой заслуживает положительной оценки: шум остаётся на умеренном уровне и имеет монотонный, приглушённый характер. В типичных условиях офиса, а нередко и жилого помещения, его вполне можно не замечать. Помимо этого, устройство допускает полноценную эксплуатацию через удалённое соединение, поэтому фактор шума здесь малозначим.

Программная составляющая

Помимо стандартного набора приложений Ubuntu, в систему интегрирован ряд служебных инструментов от NVIDIA.

Среди возможностей DGX Dashboard — отслеживание загрузки оперативной памяти и графического ускорителя, а также установка обновлений для программного обеспечения. Кроме того, присутствует интерфейс управления NVIDIA, знакомый владельцам игровых видеокарт. Впрочем, из-за высокой степени интеграции платформы часть сведений в этой панели отсутствует.

Для старта работы с приложениями на базе искусственного интеллекта производитель советует задействовать специализированный инструментарий для разработчиков — NVIDIA AI Workbench. Этот пакет облегчает процесс инсталляции и конфигурирования программного обеспечения, а также предлагает инструменты для администрирования и отслеживания состояния ИИ-контейнеров.

Оценка быстродействия

Ключевой сценарий для данной системы, разумеется, связан с обработкой ИИ-моделей. Тем не менее на практике с ней придется работать и как с обычной полноценной вычислительной машиной. В целом опыт использования здесь практически не отличается от работы со среднеуровневой рабочей станцией. Ведь современные ядра Arm, тем более в значительном количестве, во многих сценариях не уступают классической архитектуре x86-64 по быстродействию, если не брать в расчет флагманские решения уровня HEDT.

Значительный объем оперативной памяти избавляет от необходимости переживать о файле подкачки. Встроенный системный накопитель демонстрирует в тесте fio 5600/3500 Гбайт/с при последовательном чтении/записи блоками по 256 Кбайт и 125000/160000 IOPS при случайном чтении/записи блоками по 4 Кбайт. Для внешних накопителей (NVMe SSD через адаптер USB 3.2) этот же тест показал пиковые скорости последовательных операций на уровне около 1800 Гбайт/с. К скорости работы 10GbE-адаптера также претензий нет.

Материалов о работе с ИИ-моделями в интернете уже более чем достаточно, и сама эта тема поистине неисчерпаема. При подборе решения для взаимодействия с ИИ-моделями приходится учитывать целый ряд параметров, и редко когда работает простой принцип «больше — дороже — лучше». Каждая модель выдвигает собственные требования и предпочтения к объёму памяти, её быстродействию, количеству и специфике вычислительных ядер. Если же добавить сюда ещё и возможности адаптации и оптимизации моделей, задача выбора усложняется многократно. Поэтому даже попытка свести всё в сравнительную таблицу, скорее всего, окажется безуспешной — картина слишком многомерна, и для любой оценки наверняка отыщется альтернативная точка зрения. Именно поэтому в данной статье для общего позиционирования устройства мы ограничимся лишь несколькими тестами с распространёнными моделями. К тому же набор инструментов для тестирования сильно ограничен архитектурой платформы.

Данное решение обладает множеством специфических черт, из-за чего его непросто напрямую сопоставлять ни с локальными серверами, оснащёнными видеокартами, ни с облачными платформами: оно поставляется как готовое устройство с фиксированной конфигурацией, допускает объединение нескольких блоков в один кластер и располагает значительным объёмом памяти, что даёт возможность запускать модели с большим количеством параметров, однако вычислительная производительность при этом остаётся сравнительно скромной.

В основе устройства лежит архитектура Blackwell 2.0 — та же, что применяется в современных флагманских видеокартах для гейминга и рабочих станций. Правда, число вычислительных блоков здесь заметно меньше, хотя тактовые частоты сопоставимы. Куда больше вопросов с точки зрения ИИ-задач вызывает применение общей памяти LPDDR5X с 256-битной шиной. Заявленная пропускная способность не достигает 300 Гбайт/с, тогда как у топовых решений она составляет 1,79 Тбайт/с. В итоге единственным ощутимым плюсом продукта остаётся лишь объём памяти.

В первом тесте мы задействовали модель gpt-oss-20b-mxfp4 от ggml в среде llama.cpp, а также данные из публикации для сопоставления с иными вариантами. Эта модель довольно компактная и способна работать на GPU с 16 ГБ видеопамяти. К сожалению, в упомянутой публикации применялись различные сочетания размеров батчей (2048 и 4096) для параметров -b и -ub при тестировании на разных платформах. Тем не менее проверка продемонстрировала, что их воздействие довольно незначительно, так что все результаты будут объединены. В нашем случае применялась локальная сборка llama.cpp и такая команда для запуска теста: `llama-bench -m [модель].gguf -t 1 -fa 1 -b 4096 -ub 4096 -p 32768 -r 10 -o md`.

Судя по полученным данным, производительность NVIDIA DGX Spark на этой модели примерно соответствует уровню видеокарты NVIDIA GeForce RTX 5060 Ti. Любопытно отметить, что ее TDP равен 180 Вт, что почти совпадает с тем, что мы зафиксировали в тестах для NVIDIA DGX Spark. При этом самая быстрая актуальная карта для рабочих станций превосходит ее в два-три раза, однако и ее цена с энергопотреблением во столько же раз больше.

Для запуска модели gpt-oss-120b от ggml необходимо существенно больше оперативной памяти — порядка 64 ГБ. Поэтому далеко не каждая одиночная видеокарта способна справиться с такой задачей. По упомянутой ранее ссылке были представлены результаты только для флагманского графического ускорителя NVIDIA, предназначенного для рабочих станций. Общая картина соотношения производительности участников примерно аналогична той, что наблюдалась у более простой модели.

Для следующей таблицы с результатами у нас отсутствуют конкуренты для сопоставления. Часть моделей допускается запускать на топовых игровых картах либо с задействованием основной оперативной памяти компьютера. Для проведения теста применялась команда, указанная выше. Для DeepSeek, gemma и llama были взяты версии от unsloth, а для Qwen — от ggml. В скобках после имени модели приведены её требования к объёму памяти.

Второй тест, который удалось выполнить на рассматриваемой системе, измеряет скорость работы модели Stable Diffusion 1.5 для генерации изображений. Интерес к нему обусловлен наличием онлайн-базы с результатами. Рассматриваемая система продемонстрировала результат в 100 изображений за 5 минут (3 секунды на одно изображение). Это сопоставимо с показателем NVIDIA GeForce RTX 5060 Ti и примерно втрое уступает NVIDIA GeForce RTX 5090. Приблизительно такая же скорость была получена и при использовании проекта stable-diffusion.cpp с моделью v1-5-pruned-emaonly.safetensors для генерации изображения 1024 × 1024 пикселя.

Заключение

MSI EdgeXpert MS-C931, а если говорить точнее — платформа NVIDIA DGX Spark, представляет собой нестандартное для рынка решение, которое трудно поставить в один ряд с обычными рабочими станциями или облачными серверами. Данный продукт привлекателен прежде всего как компактное готовое устройство, рассчитанное на решение самых разных задач в сфере ИИ. Особую ценность он имеет для разработчиков, которым нужна локальная или даже мобильная работа с большими моделями, включая их адаптацию и дообучение. К достоинствам также относится поставляемое в комплекте программное обеспечение от NVIDIA — оно упрощает старт, ускоряет запуск разработки и даёт возможность без труда переносить наработки в облако для масштабирования. Определённый интерес может представлять и применение на периферийных устройствах, однако в этом случае стоит учитывать требования конкретных задач.

Что касается быстродействия при решении задач искусственного интеллекта, то устройство окажется узкоспециализированным — объём памяти здесь заметно превышает показатели игровых видеокарт, однако сама скорость обработки ИИ-моделей оставляет желать лучшего. Тем не менее NVIDIA славится своими программными доработками, поэтому со временем реальная производительность вполне может заметно подрасти. Помимо этого, компания понемногу расширяет коллекцию готовых решений и примеров. И это принципиально важно как раз для тех специалистов, кто планирует в дальнейшем переносить свои наработки с DGX Spark на более мощные системы. Во-первых, даже наборы инструментов для Arm и x86-64 порой различаются. Во-вторых, присутствие полноценного сетевого адаптера даёт возможность попрактиковаться в масштабировании. Ни первого, ни второго обычный компьютер или рабочая станция «из коробки» предложить не смогут.

Что касается готовых продуктовых сценариев, MSI сама приводит ряд открытых кейсов фактического использования EdgeXpert MS-C931. Например, этот мини-ПК подходит для комплекса AIPLUX Legal AI Suite, предназначенного для обработки юридических документов на локальном уровне. С одной стороны, вычислительная нагрузка здесь не слишком высока, с другой — критически значимо требование функционирования строго в пределах внутреннего периметра организации. KSCC Think Tank успешно задействовала MSI EdgeXpert MS-C931 в аналогичной сфере ИИ-автоматизации кадровой службы. А Elettra — edge-версия платформы Galene.AI, развёрнутая на EdgeXpert MS-C931, — позволяет создавать ИИ-агентов без написания кода и автоматизировать рабочие процессы предприятий в закрытом контуре.

У промышленной VLM-платформы Memorence Operagents для производственных линий запросы к локальности тоже высоки, но по иным причинам — тут на первый план выходят малое время отклика и энергоэффективность. EdgeXpert MS-C931 покрывает не только эти потребности, но и даёт возможность подключать доступные USB-камеры, а также выполнять локальную донастройку моделей непосредственно на месте. Один из тайваньских университетов по тем же соображениям остановил выбор на EdgeXpert MS-C931 для разработки автономного мобильного охранного модуля. Аналогичные запросы по локальности и защищённости предъявляет платформа синхронного многоязычного голосового перевода Ubestream Taiwan — благодаря EdgeXpert MS-C931 её можно безопасно развернуть прямо в переговорной комнате.

В официальной российской рознице MSI EdgeXpert MS-C931 на данный момент оценивается в 524 999 руб. — вполне ожидаемая цена для профессионального решения, ориентированного на бизнес (и немногочисленных энтузиастов). Формально альтернативы существуют, однако на практике прочие версии DGX Spark чаще всего поставляются единичными экземплярами либо под заказ. Порой они не только не уступают по стоимости модели MSI, но и оказываются дороже. При этом MSI выгодно отличается наличием официальной гарантии, технической поддержкой, возможностью прямого взаимодействия с производителем на территории РФ и опцией тестирования устройства до оформления закупки.

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER. | Можете написать лучше? Мы всегда рады новым авторам.

Материалы по теме:

  • MSI XpertStation WS300 — рабочая станция для ИИ на базе NVIDIA GB300
  • Представлен настольный ИИ-суперкомпьютер MSI EdgeXpert MS-C931 на базе NVIDIA DGX Spark
  • Своевременная доставка до последнего байта: как российская сеть Curator CDN совмещает скорость, безопасность и гибкость управления
  • «Графиня»: как Grafana, только лучше?
  • Обзор сервера iRU Rock G2212IG6 на базе Intel Xeon 6
Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости и обзоры
Поделиться:

0 Комментариев

Оставить комментарий

Обязательные поля помечены *
Ваш комментарий *
Категории