Бизнес-направление Yandex B2B Tech (структура «Яндекса», консолидирующая технологические решения для корпоративного сегмента, в том числе сервисы Yandex Cloud и «Яндекс 360») проинформировала о запуске для клиентов облачной инфраструктуры Yandex Cloud нового поколения генеративных алгоритмов — Alice AI LLM.
Alice AI LLM представляет собой ведущую разработку компании «Яндекс» в области искусственного интеллекта. Алгоритм использует архитектуру MoE (Mixture of Experts) и метод обучения с подкреплением в реальном времени (Online RL). Система распознаёт порядка 20 языков (включая японский) и применяется для выполнения комплексных заданий: осуществления поиска в базах знаний с последующей генерацией ответов (RAG-методология), обработки документов, формирования отчётов и аналитических данных, извлечения сведений и автоматического заполнения CRM-систем, полей и форм, а также для разработки интуитивных ИИ-помощников.
Источник изображения: пресс-служба «Яндекса» / company.yandex.ru
Доступ к Alice AI LLM организован через совместимые с OpenAI интерфейсы Completions API и Responses API, а также через специализированный текстовый API в вариантах REST и gRPC. Алгоритм интегрируется с распространёнными opensource-библиотеками LangChain, AutoGPT и LlamaIndex.
В Yandex B2B Tech отмечают, что эксплуатационные расходы на Alice AI существенно ниже, чем у opensource-нейросетей, благодаря усовершенствованной токенизации русского текста. В Alice AI один токен охватывает около 4–5 кириллических символов, тогда как в opensource-аналогах — лишь 2–3 символа. Как результат, итоговая стоимость применения Alice AI в 1,5–2 раза ниже публичных моделей с аналогичной системой расчётов. Дополнительно введено раздельное ценообразование на запросы и ответы: токены на входе в нейросеть оцениваются вчетверо дешевле выходных токенов, что способствует более рациональному использованию модели.
Источник:
