В условиях остановки поставок в Россию графических ускорителей NVIDIA, блокировки обновлений драйверов и прекращения их технической поддержки, Институт искусственного интеллекта МФТИ осуществил анализ рынка доступных аналогов, в том числе продуктов китайских компаний Moore Threads и MetaX. Целью было определить, насколько они способны поддерживать полный цикл разработки и эксплуатации современных моделей искусственного интеллекта.
В рамках исследования были изучены архитектурные особенности оборудования, драйверное обеспечение, совместимость с популярными платформами, а также проведены стресс-тесты в задачах работы с большими языковыми моделями (LLM), инференса, компьютерного зрения и распределённых вычислений. Эксперты оценивали скорость и воспроизводимость результатов, устойчивость систем при повышении нагрузки и стабильность поведения моделей на различных типах ускорителей.
По итогам работы специалисты заключили, что ускорители Moore Threads s4000 и MetaX C500 пригодны для широкого круга задач, обеспечивая стабильную работу распространённых LLM, корректную поддержку современных фреймворков, предсказуемую производительность и надёжность при длительной эксплуатации. В некоторых специфических вычислениях эти решения показали результаты, сопоставимые или даже превосходящие показатели .
Отдельное внимание было уделено возможности интеграции альтернативных ускорителей в состав вычислительных узлов и кластеров. Разработанный в МФТИ программный стек, как сообщается, позволяет эффективно распределять ресурсы, объединять мощности для работы с масштабными моделями и развёртывать кластерные конфигурации. В институте планируют продолжить испытания новых поколений оборудования, расширить список поддерживаемых моделей ИИ, а также сформировать отраслевые рекомендации для построения независимой ИИ-инфраструктуры.
Источник изображения: Walter Frehner / Unsplash
На базе проведённого анализа в МФТИ был организован Центр компетенций по решениям, независимым от NVIDIA. Он аккумулирует передовые инженерные практики, методики тестирования, оптимизированные конфигурации систем и опыт сотрудничества с вендорами. Центр будет помогать предприятиям в выборе оборудования, проведении нагрузочного тестирования под конкретные бизнес-задачи, настройке вычислительных цепочек, а также может осуществлять сопровождение платформ в процессе их промышленной эксплуатации.
Оригинал материала:
