ОС и софт

Huawei Atlas 350: новый ИИ-ускоритель обгоняет NVIDIA H20 почти в три раза

Как сообщает издание South China Morning Post (SCMP), компания Huawei Technologies анонсировала ускоритель Atlas 350, созданный для задач искусственного интеллекта, связанных с выводом (инференсом). По заявлениям производителя, в этой сфере новое устройство демонстрирует превосходство над моделью NVIDIA H20, достигая производительности вплоть до 2,8 раз выше.

Известно, что в основе Atlas 350 лежит процессор Ascend 950PR. Его заявленная производительность в формате FP4 составляет 1,56 петафлопс. Показатели для других режимов вычислений пока не обнародованы, однако ранее упоминалось значение в 1 петафлопс для формата FP8. Отмечается, что Huawei применяет собственную память HBM. Её ёмкость в различных конфигурациях ускорителя может доходить до 128 ГБ, а пропускная способность достигает 1,6 ТБ/с. Остальные технические детали не раскрываются.

Ускоритель Atlas 350 специально оптимизирован для фазы предварительного заполнения (Prefill) в процессе инференса — это самый требовательный к ресурсам этап работы больших языковых моделей (LLM) при генерации контента, когда обрабатывается первоначальный запрос пользователя. Скорость выполнения этой операции напрямую определяет параметр TTFT (Time To First Token) — время от отправки запроса до получения первого элемента ответа. Благодаря этому, решение Atlas 350 хорошо подходит для систем искусственного интеллекта, работающих в реальном времени, и агентных приложений.

 Источник изображения: Huawei

Источник изображения: Huawei

Huawei также объявила о намерении провести масштабное обновление своего портфеля систем хранения данных, включая решения OceanStor Dorado и Pacific 9926 класса All-Flash. Помимо этого, компания разрабатывает платформу FusionCube A1000, призванную помочь малым и средним компаниям в быстром развёртывании ИИ-инфраструктуры.

«Если в первой половине эры ИИ фокус был на вычислительной мощи, то вторая половина будет зависеть от данных. В 2026 году Huawei продолжит совершенствовать свои СХД и примет активное участие в крупных государственных инициативах по созданию необходимой инфраструктуры», — заявил Юань Юань (Yuan Yuan), глава департамента по системам хранения данных Huawei.

Оригинал публикации:

Поделиться:

0 Комментариев

Оставить комментарий

Обязательные поля помечены *
Ваш комментарий *
Категории