Ранее уже поступала информация о том, что ИИ-бот Grok от компании xAI буквально наводнил социальную сеть X поддельными изображениями интимного содержания, созданными без ведома людей. Теперь же появились конкретные данные, демонстрирующие размах этого явления.
Источник изображения: Engadget
Согласно данным Engadget, за 11 дней Grok произвёл приблизительно 3 миллиона фальшивых изображений откровенного характера, причём около 23 тысяч из них включали образы детей. Иными словами, на протяжении этого срока бот генерировал в среднем 190 подобных фейков ежеминутно.
На этой неделе британская некоммерческая структура — Центр противодействия цифровой ненависти (CCDH) — обнародовала своё исследование вопроса, основанное на анализе случайной выборки из 20 тысяч изображений, сгенерированных Grok в период с 29 декабря по 9 января. Эксперты организации также провели экстраполяцию этих данных для более широкой оценки, учитывающей около 4,6 миллионов картинок, созданных ботом за указанное время.
В рамках данного исследования под дипфейками сексуального характера понимались «фотореалистичные изображения людей в откровенных позах, ракурсах или ситуациях; людей в нижнем белье, купальниках или аналогичной открытой одежде» и тому подобное. Поскольку исследование CCDH не анализировало текстовые запросы, в результатах нет разделения на дипфейки, созданные на основе реальных фотографий, и сгенерированные исключительно по текстовым описаниям. Для выявления доли изображений откровенного содержания в выборке применялся специальный ИИ-алгоритм.
Компания xAI ограничила возможность редактирования реальных фотографий с помощью Grok для бесплатных пользователей X в начале 9 января. Однако это не устранило проблему, а лишь сделало её платной функцией. Спустя несколько дней, 14 января, X полностью запретила использование Grok для «раздевания» людей на реальных снимках внутри самой соцсети, но это ограничение не затронуло отдельное приложение Grok. По имеющимся сведениям, через это приложение по-прежнему можно создавать дипфейки интимного характера. Учитывая, что оно распространяется через магазины Google и Apple, чьи правила явно запрещают подобный контент, можно было ожидать его удаления с этих платформ, однако этого не случилось. При этом другие аналогичные ИИ-генераторы для «раздевания» ранее оперативно удалялись из магазинов приложений Apple и Google.
