Компания Neurophos, занимающаяся созданием фотонных процессоров для задач искусственного интеллекта, объявила о закрытии переподписанного раунда финансирования серии А на сумму $110 млн, увеличив общий объём привлечённых средств до $118 млн. Инвестиционный раунд возглавил фонд Gates Frontier Билла Гейтса при поддержке M12 (венчурного подразделения Microsoft), Carbon Direct Capital, Aramco Ventures, Bosch Ventures, Tectonic Ventures, Space Capital и других. Среди участников также значатся DNX Ventures, Geometry, Alumni Ventures, Wonderstone Ventures, MetaVC Partners, Morgan Creek Capital, Silicon Catalyst Ventures, Mana Ventures, Gaingels и прочие инвесторы. Юридическое сопровождение обеспечивала фирма Cooley LLP.
Привлечённые инвестиции будут направлены на ускорение создания первой интегрированной фотонной вычислительной платформы. Решение включает готовые к развёртыванию в дата-центрах оптические процессорные модули (OPU), полный программный стек и оборудование для раннего доступа разработчиков. Параллельно компания расширяет свой главный офис в Остине и создаёт новый инженерный центр в Сан-Франциско для работы с первыми заказчиками.
Стартап создал «метаповерхностный модулятор» с уникальными оптическими характеристиками, позволяющими применять его в качестве тензорного процессора для операций матрично-векторного умножения. Разработанные на основе метаматериалов микронные оптические модуляторы в 10 тысяч раз компактнее существующих фотонных компонентов, что впервые делает фотонные вычисления практически осуществимыми. Данные модуляторы совмещаются с архитектурой вычислений в памяти для минимизации перемещения данных.
Источник изображений: Neurophos
«Современные задачи ИИ-инференса предъявляют беспрецедентные требования к вычислительным мощностям и ресурсам, — отметил доктор Марк Трембле (Marc Tremblay), корпоративный вице-президент и технический эксперт по базовой ИИ-инфраструктуре. — Нам необходим качественный прорыв в производительности вычислений, аналогичный тем революционным изменениям, которые происходят в самих ИИ-моделях. Именно над этим и работает технология Neurophos вместе с её высокопрофессиональной командой».
Основанная Патриком Боуэном и Эндрю Траверсо, компания объединяет опытных специалистов, ранее работавших в таких компаниях, как NVIDIA, Apple, Samsung, Intel, AMD, Meta✴, ARM, Micron, Mellanox, Lightmatter и других. Neurophos создаёт оптический процессор (OPU), который интегрирует свыше миллиона микроскопических фотонных вычислительных элементов на одном кристалле. По заявлениям компании, это решение обеспечивает до стократного превосходства в производительности и энергоэффективности в сравнении с передовыми современными чипами.
«Темпы закона Мура снижаются, однако искусственный интеллект не может позволить себе замедления. Наш прорыв в области фотоники создаёт принципиально новый уровень масштабируемости за счёт массивного оптического параллелизма в рамках одного чипа. Этот фундаментальный физический прорыв означает, что с ростом масштабов одновременно повышаются и эффективность, и быстродействие, что позволяет преодолеть энергетические ограничения, сдерживающие традиционные GPU», — отмечает Боуэн.
«Современный оптический аналог транзистора, производимый на нынешних фабриках, обладает огромными размерами — его длина составляет около 2 мм. Просто невозможно разместить на чипе достаточное количество таких элементов, чтобы достичь вычислительной плотности, хотя бы отдалённо сопоставимой с современными CMOS-технологиями», — пояснил Боуэн в интервью ресурсу The Register. «В мае мы получили первый кремниевый образец, доказав, что можем реализовать эту технологию с помощью стандартного CMOS-процесса, что обеспечивает совместимость с существующими производственными линиями. На кристалле размещено одно фотонное тензорное ядро размерностью 1000 × 1000 [вычислительных элементов]», — добавил он.
Эта величина существенно превышает типичные для большинства GPU матричные механизмы умножения, обычно имеющие размерность 256 × 256 элементов. При этом чипу Neurophos достаточно одного тензорного ядра, в отличие от десятков или даже сотен, используемых в ускорителях NVIDIA. По словам Боуэна, тензорное ядро в ускорителе Neurophos первого поколения займёт примерно 25 мм². Основной задачей, по его мнению, является «оснащение остальной части кристалла размером с ретикул для поддержки этого невероятно мощного тензорного ядра».
В частности, Neurophos требуется значительное количество векторных процессоров и статической памяти (SRAM), чтобы предотвратить нехватку данных для тензорного ядра. Это связано с тем, что само тензорное ядро — которое в чипе будет единственным — работает на частоте около 56 ГГц. Однако, поскольку матричное умножение выполняется оптическим способом, единственное энергопотребление тензорного ядра связано с преобразованием электрических сигналов в оптические и обратно, как сообщил Боуэн.
По данным Neurophos, её первая оптическая процессорная установка Tulkas T100 будет оснащена 768 ГБ памяти HBM с пропускной способностью 20 ТБ/с и 200 МБ кеша второго уровня. Вычислительная мощность системы достигнет 470 POPS для операций с FP4/INT4 или 400 TOPS для FP16/INT16 при энергопотреблении от 1 до 2 кВт под нагрузкой, что соответствует энергоэффективности до 235 TOPS на ватт. Стоит отметить, что эти показатели носят предварительный характер. Разработка чипа продолжается, а его серийный выпуск планируется начать не ранее середины 2028 года. В Neurophos отмечают, что с массовым производством оптических процессоров не ожидается сложностей, поскольку для их изготовления можно применять стандартные материалы, оборудование и технологические процессы современных полупроводниковых фабрик.
По мнению Боуэна, Tulkas T100 сможет выполнять функции, схожие с ролью сопроцессора для обработки контекста и формирования KV-кеша. «В текущем варианте, который ещё может быть скорректирован, мы предполагаем разместить одну стойку с 256 нашими чипами, которая будет работать в паре, например, со стойкой на базе », — пояснил он. В будущем не исключён и переход к генерации токенов, однако для этого потребуется создание ряда новых технологий, в том числе в области интегральной оптики.
Боуэн рассказал изданию TechCrunch, что Neurophos уже подписала контракты с рядом заказчиков (их имена не раскрываются), а такие компании, как Microsoft, «проявляют пристальный интерес» к продукции стартапа. Несмотря на высокую конкуренцию на рынке ускорителей ИИ, Боуэн уверен, что рост производительности и эффективности благодаря использованию оптических вычислений станет ключевым преимуществом чипов компании. «Все остальные игроки, включая NVIDIA, в рамках базовой физики кремния развиваются скорее эволюционно, чем революционно, и это зависит от прогресса TSMC. Если посмотреть на совершенствование техпроцессов TSMC, в среднем они повышают энергоэффективность примерно на 15 % за несколько лет», — отметил он.
Источник: