Компания Amazon анонсировала AWS AI Factory — специальную инфраструктуру для искусственного интеллекта, в которую входят ускорители NVIDIA, чипы Trainium, а также сетевые технологии, системы хранения и базы данных от AWS. Её можно установить непосредственно в дата-центрах заказчиков, что помогает выполнять требования цифрового суверенитета и соответствовать нормативным актам. «Клиенты предоставляют площади своего ЦОД, сетевое подключение и электропитание, а AWS берёт на себя все задачи по развёртыванию и администрированию этой комплексной инфраструктуры», — отметила компания.
В AWS подчеркнули, что компаниям в регулируемых отраслях и госсекторе при запуске крупных ИИ-проектов часто сложно найти подходящую инфраструктуру, отвечающую всем стандартам. Построение собственной ИИ-платформы требует серьёзных инвестиций в закупку ускорителей, модернизацию дата-центров и энергоснабжение, а также связано со сложными процедурами закупок, выбором моделей ИИ для конкретных задач и получением лицензий у различных поставщиков ИИ-решений. Этот процесс отнимает много времени, усложняет эксплуатацию и отвлекает клиентов от их ключевых бизнес-задач.
AWS AI Factory призвана устранить эти сложности, предлагая готовую к работе выделенную ИИ-инфраструктуру AWS для размещения в дата-центрах клиентов. Она работает как частный облачный регион AWS, обеспечивая безопасный доступ с минимальной задержкой к вычислительным мощностям, хранилищам, базам данных и ИИ-сервисам AWS для обучения моделей и выполнения выводов.
Источник изображения: Amazon
Также доступны управляемые услуги, которые позволяют использовать передовые фундаментальные модели без необходимости оформления отдельных соглашений с их провайдерами. Это способствует соблюдению организациями требований к безопасности, суверенитету данных, а также правилам обработки и хранения информации, сокращая затраты на развёртывание и администрирование инфраструктуры. По словам компании, AWS AI Factory созданы в соответствии с жёсткими стандартами безопасности AWS, гарантируя поддержку критически важных задач на всех уровнях классификации: «Открыто», «Для служебного пользования», «Секретно» и «Особой важности».
AWS AI Factory — результат сотрудничества AWS и NVIDIA, что предоставляет клиентам доступ к программному обеспечению NVIDIA и широкому спектру приложений с GPU-ускорением. AWS Nitro и EC2 UltraClasters совместимы с платформами Grace Blackwell и Vera Rubin. AWS и NVIDIA также объединили усилия в рамках стратегического партнёрства с саудовской организацией HUMAIN. AWS создаёт в Саудовской Аравии уникальную «Зону искусственного интеллекта» (AI Zone) на территории кампуса HUMAIN, которая будет оснащена до 150 тыс. ИИ-чипов, включая ускорители NVIDIA GB300 и Amazon Trainium, выделенной ИИ-инфраструктурой и ИИ-сервисами AWS.
Источник:
