Компания Selectel, выступающая в роли профильного провайдера IT-решений на основе собственной сети центров обработки данных, объявила о модернизации своей платформы для работы с ИИ, которая упрощает интеграцию искусственного интеллекта в бизнес-процессы и даёт компаниям возможность оперативно запускать и масштабировать ИИ-модели в облаке без необходимости вручную настраивать IT-инфраструктуру для их эксплуатации.
Главным нововведением ИИ-платформы Selectel стала обновлённая версия Foundation Models Catalog — сервиса для тестирования, развёртывания и интеграции крупных языковых моделей (LLM) в приложения и бизнес-процессы, который дополнили инструментами управления ИИ-моделями через REST API и пользовательский интерфейс, а также средствами мониторинга и автоматизации, позволяющими контролировать работу моделей и повышать их эффективность.
Как устроена ИИ-инфраструктура Selectel (источник изображения: selectel.ru/solutions/ai-infrastructure)
Среди остальных улучшений продукта разработчик выделяет следующие:
- встроенные механизмы развёртывания ИИ-моделей на выделенной инфраструктуре с поддержкой быстрого автоматического масштабирования;
- усовершенствованная архитектура платформы: в качестве ключевого компонента для инференса используется vLLM — производительный open source-фреймворк для запуска LLM;
- каталог пополнился новыми open source-моделями: решениями от IBM (Granite), Alibaba (Qwen), DeepSeek, Microsoft (Phi), Mistral AI и OpenAI;
- обновлённый пользовательский интерфейс: в каталоге появилась фильтрация по характеристикам, что упрощает поиск и выбор подходящих моделей.
Оплата за использование ИИ-платформы Selectel взимается за фактически потреблённые вычислительные ресурсы. В скором времени клиентам станет доступна новая тарифная модель, основанная на количестве токенов.
Источник:
