В условиях прекращения поставок в Россию графических ускорителей NVIDIA, блокировки обновлений драйверов и отсутствия технической поддержки, Институт искусственного интеллекта МФТИ осуществил анализ рынка доступных аналогов, в том числе продуктов китайских компаний Moore Threads и MetaX. Целью было оценить их потенциал для поддержки полного цикла разработки и эксплуатации современных моделей искусственного интеллекта.
В рамках исследования были изучены архитектурные особенности оборудования, драйверное обеспечение, совместимость с популярными платформами, а также проведены стресс-тесты в задачах работы с большими языковыми моделями (LLM), инференса, компьютерного зрения и распределённых вычислений. Эксперты оценивали скорость и воспроизводимость результатов, стабильность при возрастающей нагрузке и общее поведение моделей на разных типах ускорителей.
По итогам работы учёные заключили, что ускорители Moore Threads s4000 и MetaX C500 пригодны для широкого круга задач, демонстрируя надёжный запуск распространённых LLM, корректную работу с современными фреймворками, предсказуемую производительность и устойчивость в условиях продолжительной нагрузки. В некоторых специфических вычислениях эти решения показали результаты на уровне или даже превзошли NVIDIA A100.
Отдельно изучалась возможность интеграции альтернативных ускорителей в вычислительные узлы и кластеры. Как сообщили в МФТИ, разработанный программный стек позволяет эффективно распределять ресурсы, объединять мощности для работы с крупными моделями и формировать кластерные конфигурации. Институт планирует продолжить тестирование новых поколений оборудования, расширить список поддерживаемых моделей и подготовить отраслевые руководства для построения независимой ИИ-инфраструктуры.
Источник изображения: Walter Frehner / Unsplash
На базе проведённого анализа в МФТИ был организован Центр компетенций по решениям, альтернативным NVIDIA. Он аккумулирует лучшие инженерные практики, методики тестирования, оптимизированные конфигурации и опыт взаимодействия с вендорами. Центр будет помогать предприятиям в подборе оборудования, проведении нагрузочного тестирования под конкретные сценарии, настройке вычислительных цепочек, а также может осуществлять сопровождение платформ в процессе их эксплуатации.
Оригинал опубликован:
