Специалисты, создающие агентов на базе искусственного интеллекта, начали переводить заказчиков с фиксированных планов на расчёты по числу используемых токенов, что спровоцировало значительное удорожание этих продуктов. В скором времени ИИ-помощники могут стать дороже штатных программистов компаний, сообщает The Register, ссылаясь на исследование Gartner.
Источник изображения: Arif Riyanto / unsplash.com
Компании, создающие программное обеспечение, столкнулись с внезапным ростом издержек, отмечают эксперты Gartner: если ранее помогающие разработчикам ИИ-агенты стоили от $20 до $100 в месяц за одно рабочее место, то теперь цены поднялись до $2000–5000, а в отдельных случаях — до $20 000 также ежемесячно за рабочее место. При этом разработчики ПО не имеют полной информации о том, как рассчитываются и выставляются счета за использование токенов, что усложняет программирование и управление расходами.
Создатели ИИ-сервисов не предлагают встроенных инструментов, которые позволяли бы разработчикам сокращать затраты на ИИ-агентов — в итоге расходы растут бесконтрольно. Более того, указывают аналитики, разработчики систем ИИ переходят к стратегии «максимизации токенов», основываясь на предположении, что это обеспечит более высокое качество работы, хотя прямой зависимости между объёмом потребления вычислительных мощностей и улучшением результатов выявить не удалось.
Для преодоления этой проблемы аналитики Gartner советуют оптимизировать потребление токенов: улучшать качество входного контекста, который подаётся на модели ИИ, а также внедрять маршрутизацию моделей, направляя повседневные задачи более простым системам, а передовые — только для наиболее сложных случаев. Иными словами, если прямой связи между объёмом потребления вычислительных ресурсов и качеством итогового результата нет, то между оптимизацией потребления и качеством результатов она существует.
При отсутствии встроенных средств оптимизации некоторые компании начали тратить на ИИ больше, чем зарабатывают, и если тенденция сохранится, то уже к 2028 году расходы на используемых при написании кода ИИ-агентов превысят зарплаты программистов. Учитывая, что стоимость работы ИИ-агентов одинакова во всех регионах, за те же деньги в Индии можно будет нанять инженера с опытом от четырёх до шести лет, делают тревожный вывод эксперты Gartner.
