Компания Taalas, которая создает процессоры, заточенные под выполнение конкретных моделей искусственного интеллекта, привлекла инвестиции на $169 млн. Финансирование обеспечили Quiet Capital, Fidelity и венчурный инвестор Пьер Ламонд (Pierre Lamond). Суммарный объем полученных компанией средств теперь превышает $200 млн.
Taalas перестала быть скрытым проектом в марте 2023 года. Стартап фокусируется на разработке аппаратных ускорителей для определенных больших языковых моделей. Его первым продуктом стал чип, оптимизированный для работы с моделью Llama 3.1 8B. По заявлениям компании, этот процессор может выдавать до 17 тысяч токенов в секунду, что в 73 раза превышает показатель NVIDIA H200, при этом энергопотребление решения Taalas в десять раз ниже.
Источник изображения: Taalas
Специализация аппаратного обеспечения под конкретную ИИ-модель позволяет повысить производительность и энергоэффективность, устраняя лишние элементы. Но создание таких узконаправленных решений — процесс сложный и затратный. Taalas нашла подход к этой задаче, разработав архитектуру, где для адаптации под новую модель требуется изменить всего два слоя из более чем ста, составляющих чип. Кроме того, компания не применяет в своих изделиях дорогую память HBM. Это также упрощает конструкцию, делая ненужными компоненты для взаимодействия с HBM-модулями.
Сейчас Taalas ведет работу над процессором для модели Llama с 20 миллиардами параметров, выход которого запланирован на лето текущего года. Вслед за ним ожидается выпуск более производительного чипа для продвинутых языковых моделей.
Источник:
