В области внедрения генеративного искусственного интеллекта, как подчёркивает Financial Times, происходят значимые структурные сдвиги, вынуждающие заказчиков пересмотреть свои подходы к финансированию этого процесса. Использование агентских решений ведёт к увеличению корпоративных затрат, и теперь компании стали более осознанно подходить к оплате внедрения ИИ.
Источник изображения: Anthropic
Во многом такой поворот стал возможен благодаря политике разработчиков ИИ, таких как OpenAI и Anthropic, которые, проанализировав свои издержки, осознали, что субсидируют многих клиентов, предоставляя им почти безлимитный доступ к вычислительным мощностям по подписке. Множество пользователей расходуют настолько большое количество токенов, что их затраты не окупаются абонентской платой. Переход на пропорциональную оплату используемых вычислительных ресурсов вызвал шок у многих клиентов. К примеру, небольшая компания-разработчик ПО Workato после введения оплаты по факту использования токенов столкнулась с семикратным ростом расходов на услуги провайдеров ИИ уже в первый день. Очевидно, что с этой ситуацией нужно было что-то предпринять, и руководство фирмы начало дважды в неделю анализировать возможности экономии на применении ИИ.
В целом, как указывает Financial Times, стратегия потребителей систем ИИ сводится как к ограничению использования платных сторонних инструментов, так и к поиску более дешёвых вариантов. В некоторых случаях такими вариантами становятся либо развёртываемые на собственной инфраструктуре модели ИИ с открытым исходным кодом, либо более доступные системы от китайских разработчиков. При удалённом доступе китайские решения могут быть дешевле хотя бы за счёт более низких тарифов на электроэнергию в КНР. С начала текущего года китайские ИИ-модели обогнали американские по объёму потребления токенов.
Некоторые бизнес-структуры ввели лимиты на расходы своих сотрудников при использовании стороннего ИИ. Например, в Uber этот лимит составляет $1500 на одного работника в месяц. Затраты возросли по мере того, как пользователи переходили от простого общения с чат-ботами к использованию множественных ИИ-агентов. На одного человека в организации может приходиться от 10 до 10 000 агентов, и все они постоянно потребляют токены, за которые необходимо платить. Аналитики Goldman Sachs прогнозируют, что к 2030 году потребление ИИ-токенов увеличится в 24 раза, что само по себе усугубит дефицит чипов в ближайшие полтора года.
Даже те компании, у которых есть собственная вычислительная инфраструктура, например Amazon (AWS), начали отслеживать, насколько эффективно используются ресурсы. Этот облачный гигант приступил к борьбе с имитацией активной деятельности в сфере ИИ со стороны некоторых сотрудников, которые стремились показать руководству свою приверженность идее всеобщего вовлечения в такую работу. Meta✴ пришлось в апреле текущего года последовать примеру своего конкурента. В любом случае, даже Amazon и Meta✴ зависят от сторонних поставщиков, таких как Anthropic, чьи услуги необходимо оплачивать по коммерческим тарифам.
Корпорация Microsoft начала предлагать клиентам, стремящимся сократить расходы на ИИ, новую услугу, которая позволяет оптимально подбирать используемые инструменты. Если для выполнения поставленной задачи достаточно задействовать более недорогую модель, то запрос направляется именно к ней, а не идет по самому затратному для клиента пути. Иногда при ручной маршрутизации запросов компании предпочитают применять более старые и дешевые модели ИИ, не стремясь к самым передовым. При этом внутри организаций всегда находятся пользователи, которым не хватает вычислительных мощностей для решения собственных задач. Публичным компаниям становится все труднее обосновывать растущие траты на ИИ перед акционерами и инвесторами.
