Подразделение Google по анализу угроз (GTIG), занимающееся вопросами цифровой безопасности, сообщило о появлении вредоносных программ нового типа, которые для усиления атак дистанционно подключаются к системам генеративного ИИ. Независимый аналитик, впрочем, охарактеризовал эту опасность как чрезмерно раздутую.
Источник изображения: Xavier Cee / unsplash.com
Первый метод атаки, названный Quietvault, создан для хищения учетных данных с компьютеров на Windows. «Он формирует запрос к искусственному интеллекту и с помощью встроенных консольных утилит осуществляет сканирование системы на наличие скрытой информации с последующим извлечением файлов», — пояснили в корпорации, не раскрывая дополнительных деталей.
Второй зловред Promptflux, по версии исследователей, представляет собой экспериментальную разработку злоумышленников — он взаимодействует с чат-ботом Google Gemini для автономного изменения собственного программного кода с целью уклонения от антивирусного контроля. В частности, зафиксирован запрос, передаваемый Promptflux через API Google: «Создай компактную автономную функцию VBScript или код, способный оставаться невидимым для антивирусных решений».
По данным экспертов Google, на текущий момент данный вредонос не причинил реального ущерба ни устройствам пользователей, ни сетевым активам. Кроме того, в компании модифицировали алгоритмы работы Gemini, чтобы искусственный интеллект автоматически блокировал подобные обращения. Скептицизм относительно возможностей Promptflux высказал специалист Маркус Хатчинс, известный участием в остановке эпидемии шифровальщика WannaCry в 2017 году. «В формулировке отсутствует указание на конкретные функции кода или механизмы обхода защиты. Запрос составлен так, будто Gemini обладает врожденным знанием методов обмана антивирусов (чего на самом деле нет)», — отметил он.
Третий вирус искусственного интеллекта был назван Promptsteal. Он использует крупную языковую модель Alibaba Qwen для кражи конфиденциальной информации. Promptsteal функционирует как троянская программа, скрывающаяся под приложением для создания изображений. При активации он взаимодействует с ИИ для формирования кода, предназначенного для сбора данных — сам вредоносный компонент не включает этот код; выполнение происходит автоматически, пока не произойдет утечка информации. Специалисты считают, что Promptflux создали киберпреступники, стремящиеся к финансовой наживе; а Promptsteal они ассоциируют с одной из проправительственных хакерских групп.
