В октябре 2025 года крупная консалтинговая фирма KPMG выпустила отчёт об агентах искусственного интеллекта, который, по всей видимости, был создан самим ИИ: в документе нашли множество фальшивых цитат и ссылок на вымышленные кейсы.
Источник изображения: Steve A Johnson / unsplash.com
«Только пять из 45 цитат в отчёте ссылаются на подлинные источники», — заявили эксперты компании GPTZero, проанализировавшие документ. Остальные оказались либо полностью выдуманными, либо серьёзно искажёнными. В ходе расследования инцидента специалисты GPTZero ввели новое понятие «вайб-цитирование» (vibe citing) — появление в текстах сгенерированных ИИ несуществующих цитат, которые кажутся достоверными. Кроме того, в отчёте встречаются странные комбинации реальных ссылок, пересказанных заголовков и ошибочных указаний авторства. «Ни один человек не будет систематически переформулировать названия, путать темы с авторами или дублировать информацию в разных разделах», — подчёркивают в GPTZero.
Исследователи рассматривают доводы как за, так и против вайб-цитирования, но приходят к выводу, что ошибки в отчёте стали результатом галлюцинаций ИИ. Проблема в том, отмечают они, что KPMG обладает значительным влиянием — выводы консалтингового агентства будут тиражироваться по всему миру в новостях, блогах и других обсуждениях, что приведёт к активному распространению недостоверных данных. Этот эффект усилится, когда чат-боты на основе ИИ начнут ссылаться на отчёт. «GPTZero утверждает, что вайб-цитирование представляет собой явную и реальную угрозу для исследователей, учёных, консультантов, студентов и всех, кто ищет информацию в интернете», — резюмируют исследователи.
