Компания Dongfang Suanxin (Shanghai Oriental Compute Core Technology) из Китая анонсировала создание ИИ-ускорителя DF1000. Устройство целиком построено на местных комплектующих, а вместо дорогой памяти HBM в нём используется 3D DRAM.
В основе изделия лежит принцип «вычислений рядом с памятью» (Near-In-Memory Computing). Чип 3D DRAM обладает многослойной архитектурой, выполненной по технологии гибридного соединения: заявлено, что данный метод сокращает шаг интерконнекта с микрометрового до субмикрометрового диапазона. В итоге, по сравнению с традиционными решениями, количество сквозных межсоединений возрастает в десять раз. Это позволяет увеличить пропускную способность памяти в пять раз при сохранении той же ёмкости. Таким образом формируется аналог HBM.
Источник изображения: Dongfang Suanxin
Ускоритель DF1000 изготавливается по 14-нм технологии. Заявленная пропускная способность при обращении к памяти составляет 6,4 Тбайт/с, а масштабируемая пропускная способность интерконнекта — 900 Гбайт/с. Производительность на операциях ИИ достигает 520 Тфлопс в режиме BF16. Новинка подходит для обучения крупных языковых моделей (LLM) и других ресурсоёмких задач. Аппаратная часть может перенастраиваться под конкретную задачу, что повышает эффективность использования ресурсов.
Устройство DF100, по доступным данным, обеспечивает вдвое большую пропускную способность по сравнению с NVIDIA H100 и на 33 % превосходит по этому показателю ускоритель H200. Китайское решение демонстрирует скорость до 500 токенов/с при работе с моделью Llama3 70B.
Также ведётся разработка решения DF2000, которое Dongfang Suanxin намерена выпустить ближе к 2027 году. Оно будет обеспечивать производительность до 1000 Тфлопс в режиме BF16, до 2000 Тфлопс в режиме FP8 и до 4000 Тфлопс в режиме FP4. Пропускная способность памяти достигнет 15 Тбайт/с благодаря улучшенной архитектуре 3D DRAM, а интерконнекта — до 1600 Гбайт/с. Предусмотрено использование 14-нм техпроцесса.
Запланированный на 2028 год запуск ускорителей DF3000 позволит им вдвое превысить производительность своих предшественников, достигая 2000 Тфлопс при операциях BF16, 4000 Тфлопс в формате FP8 и 8000 Тфлопс в режиме FP4. Пропускная способность памяти увеличится до 20 Тбайт/с, а скорость интерконнекта — до 3200 Гбайт/с.
Источник:
