Компания Intel сообщает, что в качестве центральных процессоров в платформе NVIDIA DGX Rubin NVL8 для агентного искусственного интеллекта используются чипы Intel Xeon 6. Эти процессоры выполняют ключевые задачи: управление памятью, координацию процессов и балансировку вычислительной нагрузки.
Система DGX Rubin NVL8 оснащена двумя процессорами Xeon 6776P архитектуры Granite Rapids. Каждый чип обладает 64 вычислительными ядрами, способными параллельно обрабатывать до 128 потоков команд. Рабочая частота в базовом режиме — 2,3 ГГц, с возможностью увеличения до 3,9 ГГц. В специальном режиме Priority Core Turbo (PCT) для восьми ядер частота поднимается до 4,6 ГГц. Тепловыделение (TDP) процессора составляет 350 Вт. Intel специально адаптировала эти CPU для использования в узлах искусственного интеллекта.
«Intel Xeon 6 предлагает выдающуюся производительность, высокую эффективность и полную совместимость с широкой экосистемой программного обеспечения x86, что критически важно для клиентов, выполняющих масштабные задачи логического вывода (инференса)», — отметил Джефф Маквей (Jeff McVeigh), корпоративный вице-президент и генеральный менеджер подразделения стратегических программ для центров обработки данных Intel.
Источник изображения: NVIDIA
Конфигурация DGX Rubin NVL8 включает восемь ускорителей Rubin с совокупным объёмом памяти 2,3 ТБ и пропускной способностью 160 ТБ/с. Также система использует восемь однопортовых адаптеров NVIDIA ConnectX-9 VPI (поддерживающих NVIDIA Infiniband и Ethernet со скоростью до 800 Гбит/с) и два DPU NVIDIA BlueField-4. Суммарная пропускная способность интерконнекта NVIDIA NVLink достигает 28,8 ТБ/с. Приблизительное энергопотребление всей системы — около 24 кВт.
Заявленная производительность в задачах логического вывода (инференса) формата NVFP4 — до 400 Петафлопс, в задачах обучения моделей NVFP4 — 280 Петафлопс, а для обучения в форматах FP8/FP6 — 140 Петафлопс. Среди поддерживаемых операционных систем указаны NVIDIA DGX OS, Ubuntu, Red Hat Enterprise Linux и Rocky Linux.
Источники: