Три подростка из штата Теннесси в США подали судебный иск против компании xAI Илона Маска, утверждая, что её чат-бот Grok создавал компрометирующие изображения с их участием, когда они были несовершеннолетними. В иске указано, что Маск и другие руководители компании были осведомлены о потенциальной возможности генерации подобных материалов ещё в прошлом году, с момента внедрения в Grok режима Spicy.
Источник изображения: Salvador Rios / unsplash.com
Двое из заявителей в настоящее время являются несовершеннолетними, третий был таковым на момент произошедших событий. Одна из пострадавших, личность которой скрывается, сообщила, что в декабре прошлого года обнаружила сгенерированные искусственным интеллектом изображения себя и как минимум 18 других подростков, которые были размещены на платформе Discord. «Как минимум на пяти файлах — одном видео и четырёх фотографиях — были запечатлены её реальные лицо и тело в знакомой обстановке, но сценарии были изменены на откровенные», — отмечается в судебном документе.
По данному делу был задержан подозреваемый, который, как предполагается, использовал созданные ИИ изображения потерпевшей «в качестве предмета обмена в Telegram-чатах, насчитывавших сотни участников — файлы с её интимными изображениями обменивались на аналогичные материалы с участием других несовершеннолетних». В иске утверждается, что злоумышленник создавал изображения этой пострадавшей и двух других истцов именно с помощью Grok. Компания xAI «не провела должной проверки безопасности своих разработок», а в архитектуре Grok «имеются существенные уязвимости».
В январе текущего года разразился публичный скандал, когда выяснилось, что чат-бот Grok способен генерировать откровенные изображения с участием реальных людей. Позже компания заявила об устранении проблемы, однако ИИ продолжил создавать подобный контент. Тогда представители социальной сети X, где также доступен этот чат-бот, предупредили, что «любой, кто использует Grok или побуждает его к созданию противозаконных материалов, понесёт ответственность, аналогичную загрузке нелегального контента». Истцы требуют финансовой компенсации как жертвы «незаконно созданных изображений» от Grok, а также судебного запрета для xAI на производство и распространение сгенерированных ИИ материалов интимного характера с участием подростков.
