Компания FuriosaAI из Южной Кореи сообщила о запуске в массовое производство своих ИИ-ускорителей RNGD и серверных платформ NXT RNGD, созданных на их базе. Благодаря прочному сотрудничеству с TSMC, SK hynix и другими ключевыми участниками рынка, в числе которых ASUS, была выстроена надёжная цепочка поставок и производства. Теперь эти продукты готовы к поставкам корпоративным клиентам по всему миру.
ИИ-ускоритель RNGD в форм-факторе карты расширения PCIe 5.0 x16. Он оборудован 48 ГБ памяти HBM3 с пропускной способностью до 1,5 ТБ/с, а также 256 МБ SRAM, обеспечивающей скорость обмена данными до 384 ТБ/с. Его тепловыделение (TDP) не превышает 180 Вт. Заявленная производительность устройства достигает 512 терафлопс при операциях с целочисленными числами (INT8). Серверная платформа NXT RNGD в форм-факторе 4U восемь таких ускорителей. Её энергопотребление составляет около 3 кВт. По утверждению разработчика, в стандартную серверную стойку с воздушным охлаждением можно разместить пять систем NXT RNGD, что в сумме даст вычислительную мощность до 20 петафлопс (INT8).
Источник изображений: FuriosaAI
В FuriosaAI отмечают, что современные модели искусственного интеллекта предъявляют огромные требования к вычислительным ресурсам. Однако большинство корпоративных дата-центров используют воздушное охлаждение и имеют ограничение мощности на стойку около 15 кВт. Развёртывание большого числа GPU-ускорителей с TDP до 600 Вт и выше в таких условиях требует сложной и затратной модернизации инфраструктуры. Продукты линейки RNGD призваны решить эту проблему. По заявлению компании, её решения обеспечивают в 3,5 раза более высокую плотность вычислений по сравнению с системами на основе в стандартных условиях.
Для ускорителей RNGD предлагается полнофункциональный комплект средств разработки (SDK). Заявлена поддержка распространённых ИИ-моделей, включая Qwen 2 и Qwen 2.5. Первая производственная партия составила 4000 единиц продукции.
Ссылка на оригинал:
