Компания Raspberry Pi представила дополнительный модуль, который даёт возможность выполнять генеративные ИИ-модели прямо на одноплатном компьютере Raspberry Pi 5. Анонсированная в четверг плата AI HAT+ 2 ценой в $130 является усовершенствованной и более дорогой модификацией устройства, выпущенного годом ранее. Теперь этот модуль оснащён 8 ГБ оперативной памяти и чипом Hailo 10H, обеспечивающим производительность в области искусственного интеллекта на уровне 40 TOPS.
Источник изображения: Raspberry Pi
После подключения Raspberry Pi 5 будет задействовать AI HAT+ 2 для решения задач, связанных с искусственным интеллектом, освобождая основной Arm-процессор для других операций. В отличие от прошлой версии AI HAT+, которая была сфокусирована на ИИ-обработке изображений, AI HAT+ 2 обладает собственной встроенной памятью и способна работать с компактными генеративными моделями, такими как Llama 3.2 и DeepSeek-R1-Distill, а также с рядом моделей Qwen. На этом устройстве также можно проводить обучение и тонкую настройку ИИ-моделей.
В опубликованной Raspberry Pi демонстрации показано, как с помощью этого модуля можно запустить модель искусственного интеллекта, которая создаёт текстовое описание видеопотока с камеры и отвечает на вопрос о присутствии людей в кадре. Ещё один пример демонстрирует, как модель Qwen2, работающая на AI HAT+ 2, переводит текст с французского на английский.
Сам по себе одноплатный компьютер Raspberry Pi 5 с 8 ГБ оперативной памяти в целом опережает AI HAT+ 2 по всем поддерживаемым моделям, как сообщает The Verge со ссылкой на технического блогера Джеффа Гирлинга (Jeff Geerling). Гирлинг объясняет более скромную производительность AI HAT+ 2 тем, что энергопотребление модуля составляет лишь 3 Вт, в то время как Raspberry Pi 5 может работать с теплопакетом до 10 Вт.
Хотя AI HAT+ 2 может быть оптимальным решением для некоторых конкретных задач, Гирлинг отмечает, что дополнительные 8 ГБ оперативной памяти на плате «недостаточны, чтобы дать этому модулю преимущество перед покупкой более производительного Raspberry Pi 5 с 16 ГБ памяти, который окажется более универсальным и будет быстрее запускать модели».
