Искусственный интеллект Grok от компании xAI, основанной Илоном Маском, оказался в центре международного скандала. Причиной стало то, что этот чат-бот в ответ на запросы в соцсети X генерировал порнографические изображения, включая материалы с участием детей.
Источник изображения: Mariia Shalabaieva/unsplash.com
Как сообщает Bloomberg, власти Малайзии в прошлую субботу инициировали проверку по фактам жалоб на злоупотребление технологиями ИИ. Расследование касается манипуляций с изображениями женщин и несовершеннолетних для создания порнографического, оскорбительного или иного опасного контента.
По заявлению Малазийской комиссии по коммуникациям и мультимедиа (MCMC), производство или распространение подобных материалов является уголовно наказуемым деянием. Надзорный орган намерен изучить действия пользователей X, предположительно нарушивших закон, а также запросить объяснения у представителей самой платформы.
«Несмотря на то, что X не является лицензированным провайдером в нашей стране, она обязана препятствовать распространению вредоносного контента через свои сервисы», — подчеркнули в комиссии.
Ранее, в пятницу, Министерство электроники и информационных технологий Индии (MeitY) направило платформе X официальное требование. В нём ведомство настаивает на проведении тщательного аудита ИИ-бота Grok, чтобы исключить генерацию материалов, содержащих «наготу, сексуализированные образы, откровенный секс или иную противозаконную информацию».
Компании дано 72 часа на предоставление отчёта о предпринятых шагах. Также ей указали на риск уголовного преследования по нормам национального и ИТ-законодательства. Индийское правительство не исключило введения специального регулирования для соцсетей в связи с распространением неприемлемого контента, созданного искусственным интеллектом. «Парламентский комитет уже рекомендовал принять жёсткий закон о контроле над социальными сетями, — заявил в интервью CNBC-TV 18 министр информационных технологий Ашвини Вайшнау. — Сейчас мы изучаем эту возможность».
В тот же день, в пятницу, с критикой выступили и французские власти. Они заявили, что Grok производит «заведомо незаконный» сексуальный контент в сети X без ведома пользователей, что потенциально нарушает европейский Закон о цифровых услугах (DSA).
Более того, сгенерированные чат-ботом картинки, включающие оскорбительный контент, прямо противоречат его внутренним правилам, запрещающим сексуализированное изображение несовершеннолетних. Часть этих изображений впоследствии была удалена.
Компания xAI, получив запрос на комментарий по электронной почте, ответила лаконично: «Традиционные СМИ распространяют ложь».
