ОС и софт

ИИ на краю сети: Crusoe запускает мобильные дата-центры для вычислений в любой точке мира

Компания Crusoe представила периферийные зоны доступности Crusoe Edge Zones, созданные на основе модульных центров обработки данных Crusoe Spark, что позволяет организовать вычисления для искусственного интеллекта практически в любой точке. Edge Zones обеспечат клиентам по всему миру ИИ-инфраструктуру с минимальной задержкой и возможностью развёртывания суверенных решений на основе ИИ.

Используя Crusoe Edge Zones, заказчики могут размещать модули Crusoe Spark в таких локациях, куда не имеют доступа крупнейшие облачные провайдеры и гиперскейлеры.

Модули ЦОД Crusoe Spark для этих зон производятся на недавно запущенном предприятии Spark Factory. Обладая полным контролем над стеком технологий для ИИ-инфраструктуры — от производства до облачной оркестрации — Crusoe может развернуть новые периферийные облачные мощности всего за три месяца. Стоимость такого решения существенно ниже, чем у традиционных ЦОД. Это открывает возможность предоставления ИИ-мощностей в регионах с ограниченными или устаревшими инфраструктурными возможностями.

 Источник изображения: Crusoe

Источник изображения: Crusoe

Crusoe Edge Zones на платформе Crusoe Spark представляют собой следующий этап масштабирования вертикально интегрированной модели «ИИ-фабрик». Эти зоны оптимизированы для совместной работы с облачной платформой Crusoe Cloud и сервисом Managed Inference для вывода моделей. Применение запатентованной технологии Crusoe MemoryAlloy позволяет сократить «время до первого токена» в 9,9 раз. Система также обеспечивает пятикратное увеличение пропускной способности по сравнению со стандартными конфигурациями для инференса. В итоге пользователи на периферии сети получат доступ к высокопроизводительной и крайне эффективной инфраструктуре.

Основные области применения:

  • размещение Crusoe Edge Zones вблизи от конечных пользователей для достижения минимально возможной задержки — критически важно для сценариев, где ИИ должен оказывать помощь в реальном времени;
  • формирование для клиентов выделенных корпоративных кластеров, предназначенных для обучения ИИ и инференса, которые сочетают преимущества собственной инфраструктуры с удобством управляемого облака;
  • внедрение суверенного ИИ на передовой инфраструктуре Crusoe государственными структурами и отраслями с особыми требованиями к защите данных — зоны Crusoe можно развернуть без передачи информации за пределы требуемой юрисдикции.

По мнению компании, будущая инфраструктура искусственного интеллекта будет сочетать в себе масштабные гигаваттные кампусы для обучения ИИ и распределённые модули для периферийных вычислений. В настоящее время Crusoe вкладывает средства в развитие обоих этих направлений.

Идея сетей модульных дата-центров, обладающих высокой степенью автономии от крупных площадок, в свете ближневосточных событий набирает всё большую актуальность. Параллельно с этим Akamai анонсировала развёртывание тысяч ускорителей NVIDIA RTX Blackwell для распределённого инференса, а LG представила модульные ИИ-блоки AI Box, из которых планирует собрать 60-мегаваттный дата-центр в южнокорейском Пусане.

Источник:

Поделиться:

0 Комментариев

Оставить комментарий

Обязательные поля помечены *
Ваш комментарий *
Категории