Компания Raspberry Pi представила специальный дополняющий модуль AI HAT+ 2, который даёт возможность применять одноплатный компьютер Raspberry Pi 5 для выполнения задач искусственного интеллекта. Устройство уже можно приобрести, его примерная стоимость составляет 130 долларов.
Ранее компания уже выпускала модуль AI HAT+, который в разных версиях комплектовался ускорителем Hailo-8 (26 TOPS) или Hailo-8L (13 TOPS). Эти устройства в первую очередь созданы для выполнения готовых моделей. Модель же Raspberry Pi AI HAT+ 2 разработана специально для работы с генеративным искусственным интеллектом.
Основой новинки служит ускоритель Hailo-10H, позволяющий запускать большие языковые модели (LLM), визуально-языковые модели (VLM) и другие генеративные модели прямо на устройстве. Чип работает в паре с 8 ГБ оперативной памяти LPDDR4/4X. Заявленная производительность в задачах ИИ достигает 40 TOPS для операций с точностью INT4. В сценариях, связанных с компьютерным зрением — таких как обнаружение объектов, анализ позы и семантическая сегментация, — быстродействие AI HAT+ 2 примерно соответствует показателям предыдущего модуля на базе Hailo-8.
Источник изображения: Raspberry Pi
При подсоединении модуля операционная система Raspberry Pi OS автоматически распознаёт ускоритель и переводит на него поддерживаемые ИИ-нагрузки. Изначально для устройства будут доступны следующие языковые модели: DeepSeek-R1-Distill, Qwen2.5-Coder, Qwen2.5-Instruct и Qwen2 (все с 1,5 миллиарда параметров), а также Llama3.2 (с 1 миллиарда параметров). В будущем планируется добавить и более масштабные модели.
Источник:
