Компания Crusoe представила периферийные зоны доступности Crusoe Edge Zones, созданные на основе модульных центров обработки данных Crusoe Spark, что позволяет организовать вычисления для искусственного интеллекта практически в любой точке. Edge Zones обеспечат клиентам по всему миру ИИ-инфраструктуру с минимальной задержкой и возможностью развёртывания суверенных решений на основе ИИ.
Используя Crusoe Edge Zones, заказчики могут размещать модули Crusoe Spark в таких локациях, куда не имеют доступа крупнейшие облачные провайдеры и гиперскейлеры.
Модули ЦОД Crusoe Spark для этих зон производятся на недавно запущенном предприятии Spark Factory. Обладая полным контролем над стеком технологий для ИИ-инфраструктуры — от производства до облачной оркестрации — Crusoe может развернуть новые периферийные облачные мощности всего за три месяца. Стоимость такого решения существенно ниже, чем у традиционных ЦОД. Это открывает возможность предоставления ИИ-мощностей в регионах с ограниченными или устаревшими инфраструктурными возможностями.
Источник изображения: Crusoe
Crusoe Edge Zones на платформе Crusoe Spark представляют собой следующий этап масштабирования вертикально интегрированной модели «ИИ-фабрик». Эти зоны оптимизированы для совместной работы с облачной платформой Crusoe Cloud и сервисом Managed Inference для вывода моделей. Применение запатентованной технологии Crusoe MemoryAlloy позволяет сократить «время до первого токена» в 9,9 раз. Система также обеспечивает пятикратное увеличение пропускной способности по сравнению со стандартными конфигурациями для инференса. В итоге пользователи на периферии сети получат доступ к высокопроизводительной и крайне эффективной инфраструктуре.
Основные области применения:
- размещение Crusoe Edge Zones вблизи от конечных пользователей для достижения минимально возможной задержки — критически важно для сценариев, где ИИ должен оказывать помощь в реальном времени;
- формирование для клиентов выделенных корпоративных кластеров, предназначенных для обучения ИИ и инференса, которые сочетают преимущества собственной инфраструктуры с удобством управляемого облака;
- внедрение суверенного ИИ на передовой инфраструктуре Crusoe государственными структурами и отраслями с особыми требованиями к защите данных — зоны Crusoe можно развернуть без передачи информации за пределы требуемой юрисдикции.
По мнению компании, будущая инфраструктура искусственного интеллекта будет сочетать в себе масштабные гигаваттные кампусы для обучения ИИ и распределённые модули для периферийных вычислений. В настоящее время Crusoe вкладывает средства в развитие обоих этих направлений.
Идея сетей модульных дата-центров, обладающих высокой степенью автономии от крупных площадок, в свете ближневосточных событий набирает всё большую актуальность. Параллельно с этим Akamai анонсировала развёртывание тысяч ускорителей NVIDIA RTX Blackwell для распределённого инференса, а LG представила модульные ИИ-блоки AI Box, из которых планирует собрать 60-мегаваттный дата-центр в южнокорейском Пусане.
Источник: