Российский поставщик облачных услуг Cloud.ru сообщил о создании отдельного направления бизнеса, посвящённого решениям для искусственного интеллекта. Основой этого направления стала платформа в формате неооблака (Neocloud), построенная на использовании графических ускорителей (GPU).
Как отмечает компания, при разработке неооблака Cloud.ru опирался на собственный опыт в построении ИИ-инфраструктуры и взаимодействии с различными графическими процессорами. По модели GPU как услуги (GPUaaS) провайдер открывает доступ к тысячам современных ускорителей для ИИ в публичном облаке. Также поддерживается гибридный вариант развёртывания с привлечением частной инфраструктуры заказчика.
Неооблако нацелено на реальное внедрение технологий ИИ в бизнес. Клиентам предлагается целостная управляемая среда, которая объединяет вычислительные ресурсы, данные и рабочие инструменты. Она охватывает весь цикл работы с большими языковыми моделями — от этапа создания и обучения до вывода моделей в эксплуатацию и их поддержки. Ресурсы системы масштабируются в зависимости от потребностей: можно задействовать как одиночные GPU, так и крупные кластеры для распределённых вычислений. Инфраструктура гибко настраивается под разные стадии жизненного цикла ИИ-моделей.
Источник изображения: Cloud.ru
«В ситуации с дефицитом доступа к GPU и высокой ценой оборудования компании упираются в главное препятствие — отсутствие возможности гибко распоряжаться вычислительными мощностями. Сильная сторона формата Neocloud — это рациональное использование графических ускорителей под разнородные нагрузки, будь то дообучение моделей или инференс», — поясняют в Cloud.ru.
В составе неооблака доступен ряд GPUaaS-сервисов: среди них выделенные серверы и виртуализированные мощности под управлением Kubernetes, высокопроизводительные вычислительные кластеры и другие решения. Для распределённого обучения применяется как собственная платформа Evolution Distributed Train, так и распространённые инструменты оркестрации вычислений. Внедрены функции проактивного контроля, автоматической замены неисправных компонентов, перезапуска учебных задач и управления очередями. По словам Cloud.ru, за счёт грамотного распределения ресурсов между задачами различного объёма обеспечивается доступность инфраструктуры до 98 %, а экономия затрат может достигать 80 %.
«Современным компаниям требуется не просто доступ к вычислительным мощностям GPU, а полноценная платформа для практической работы с искусственным интеллектом — от пилотных проектов до развёртывания готовых систем. По своей сути, облачные технологии превращаются в фундамент для воплощения ИИ-стратегий, обеспечивая сквозной цикл работы с моделями без необходимости вкладываться в избыточную инфраструктуру», — отмечают в компании.
Источник:
