ОС и софт

Карманный суперкомпьютер для ИИ: локальный запуск гигантских нейросетей без облаков

Американская компания Tiiny AI анонсировала устройство AI Pocket Lab, которое позиционируется как самый миниатюрный в мире персональный суперкомпьютер для искусственного интеллекта. Оно может обрабатывать крупные языковые модели (LLM) с объёмом до 120 миллиардов параметров, причём для этого не нужно подключение к облачным платформам.

Габариты корпуса составляют 142 × 80 × 25,3 мм, а масса — приблизительно 300 граммов. В основе лежит процессор с 12 вычислительными ядрами архитектуры Armv9.2. Также используется специализированный нейромодуль dNPU. Общий объём памяти LPDDR5X равен 80 ГБ, из которых 32 ГБ отведено для CPU, а 48 ГБ — для dNPU. Устройство оснащено твердотельным накопителем ёмкостью 1 ТБ. Типичное энергопотребление держится на отметке около 65 Вт.

 Источник изображений: Tiiny AI

Источник изображений: Tiiny AI

Суммарная производительность в ИИ-задачах заявлена на уровне 190 TOPS: из них порядка 30 TOPS обеспечивает центральный процессор, а оставшиеся 160 TOPS — модуль dNPU. Компьютер сфокусирован в первую очередь на локальном использовании моделей с параметрами от 10 до 100 миллиардов: по утверждению разработчиков, такие модели покрывают свыше 80% практических задач. Устройство позволяет реализовывать многошаговые логические цепочки, глубокий анализ контекста, работу ИИ-агентов, создание контента и защищённую обработку приватных данных без отправки информации на внешние серверы.

Tiiny AI Pocket Lab обеспечивает быстрое развёртывание распространённых открытых ИИ-моделей, таких как OpenAI GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi. На нём также можно запускать различные ИИ-агенты, включая OpenManus, ComfyUI, Flowise, Presenton, Libra, Bella и SillyTavern. В целевую аудиторию входят разработчики, научные сотрудники, авторы контента, студенты и другие пользователи. Презентация новинки запланирована на следующем месяце в рамках выставки потребительской электроники CES 2026.

Источник:

Поделиться:

0 Комментариев

Оставить комментарий

Обязательные поля помечены *
Ваш комментарий *
Категории