Компании SK hynix и SanDisk объявили о старте инициативы в рамках Open Compute Project, направленной на создание всемирного стандарта для высокоскоростной флеш-памяти High Bandwidth Flash (HBF).
Источник изображений: SanDisk
По описанию компаний, HBF представляет собой новый класс памяти, занимающий промежуточное положение между сверхбыстрой памятью HBM и твердотельными накопителями. Эта технология призвана устранить разрыв между высокой скоростью HBM и значительным объёмом SSD, предлагая одновременно и масштабируемую ёмкость, и энергоэффективность, которые критически важны для задач искусственного интеллекта. Если HBM отвечает за высокую пропускную способность, то HBF служит дополнительным, поддерживающим уровнем в общей архитектуре.
SanDisk представила своё видение того, как уровень HBF может быть интегрирован в аппаратный стек. Компания определяет HBF как память на базе NAND и заявляет, что в предполагаемой системной конфигурации она способна обеспечить в 8–16 раз бо́льшую ёмкость по сравнению с HBM при сходной пропускной способности и сопоставимом уровне затрат.
Для аппаратных решений HBF первого поколения SanDisk заявляет о скорости чтения до 1,6 ТБ/с, пропускной способности 256 Гбит/с на кристалл и максимальной общей ёмкости до 512 ГБ в 16-кристальной сборке. Также отмечается, что дизайн стека оптимизирован для максимального соответствия будущему стандарту HBM4 по физическим габаритам, энергопотреблению и высоте, что предполагает схожую с современными модулями HBM модель интеграции в ускорители для ИИ.
По данным SanDisk, в ходе внутреннего тестирования и моделирования с использованием рабочей нагрузки для вывода на основе предобученной 8-битной версии модели Llama 3.1 405B, производительность HBF отстаёт всего на 2,2% от условной «HBM с бесконечной ёмкостью». В примечании к презентации уточняется, что данное сравнение предполагает гипотетическую неограниченную ёмкость HBM для целей моделирования, поэтому прямое сравнение преимуществ в объёме памяти не проводится.
На базовом технологическом уровне SanDisk ассоциирует HBF со своей стратегией развития чипов BiCS NAND и методом CBA (прямое соединение CMOS с массивом), а также с фирменной технологией трёхмерного наслоения, созданной для 16-кристальных сборок с пониженным короблением и улучшенным отводом тепла. В технических материалах отдельно отмечается энергонезависимость HBF — ей не нужно электропитание для обновления информации, что отличает её от DRAM-памяти.
В планах SanDisk также приведены ориентировочные целевые значения скорости чтения для HBF второго (Gen2) и третьего (Gen3) поколений — более 2 ТБ/с и 3,2 ТБ/с соответственно — при ёмкости сборки до 1 ТБ и 1,5 ТБ, а также более скромные целевые показатели энергопотребления в сравнении с Gen1 — 0,8× и 0,64×. SK hynix и SanDisk не раскрыли сроков внедрения HBF, но уже назвали стандартизацию следующим этапом в рамках инициативы Open Compute Project.
