Компания Penguin Solutions представила сервер MemoryAI KV Cache Server, созданный для преодоления «стены памяти» в современных вычислительных системах, задействованных в требовательных задачах ИИ-инференса. Данное решение предлагает до 11 ТБ памяти по интерфейсу CXL, что способствует полному раскрытию потенциала имеющихся вычислительных ресурсов.
Сервер (модель Altus XE4318GT-KVC) выполнен в корпусе формата 4U. В его основе лежат два процессора в разъёме SP5 (LGA 6096) с тепловыделением до 500 Вт. Конфигурация включает контроллер ASpeed AST2600 и сетевой адаптер Intel I350-AM2. Предусмотрены два разъёма для накопителей SSD формата M.2 2280/22110 с шиной PCIe 3.0, восемь слотов для карт расширения PCIe 5.0 x16 FHFL и два слота для низкопрофильных карт PCIe 5.0 x16, два сетевых порта 400GbE (RJ45), два порта USB 3.0 (5 Гбит/с), а также аналоговый видеовыход D-Sub.
Система поддерживает до 3 ТБ оперативной памяти DDR5-6400. Дополнительно в ней установлены восемь карт CXL, каждая объёмом 1 ТБ. Это расширяет функциональность ИИ-ускорителей с ограниченным объёмом встроенной памяти HBM, используемых в инфраструктуре. Заявлена совместимость с программной платформой , которая, среди прочего, ускоряет процессы инференса. По словам Penguin Solutions, данный сервер в целом даёт организациям возможность более эффективно задействовать GPU-ускорители благодаря подключению значительных объёмов дополнительной памяти.
Источник изображения: Penguin Solutions
Аппарат оснащён четырьмя блоками питания мощностью 3000 Вт, имеющими сертификат 80 Plus Titanium. Допустимый температурный диапазон работы — от +10 до +35 °C. Поддерживаются операционные системы Red Hat Enterprise Linux (RHEL) и Rocky Linux. На изделие предоставляется гарантия сроком три года.
Источник:
