Развитие многих сфер деятельности в определённые периоды подпитывалось естественным человеческим интересом к эротическим материалам, и область искусственного интеллекта здесь не стала исключением. Компании сталкиваются с искушением использовать этот интерес для популяризации своих продуктов, стремясь одновременно соблюсти правовые и моральные нормы. OpenAI пока откладывает внедрение чатов с эротическим уклоном.
Источник изображения: Unsplash, Alexander Krivitskiy
О перспективах создания подобного функционала для ChatGPT ещё летом прошлого года упоминал глава OpenAI Сэм Альтман (Sam Altman). Изначально планировалось представить опцию эротических бесед к декабрю, затем сроки сдвинулись на текущий квартал, однако теперь очевидно, что и этот план не будет выполнен. Как минимум, запуск данной функции отложен на месяц, сообщает The Wall Street Journal.
Опыты по применению ИИ для генерации текстов эротической направленности компания OpenAI проводила задолго до появления ChatGPT. Ещё в 2021 году пользователям была доступна игра AI Dungeon с открытым сюжетом, который формировался по их запросам. Тогда разработчики заметили, что платформа иногда сама инициировала обсуждение интимных тем, даже без явных предпосылок со стороны игрока. Если же пользователь затрагивал подобные вопросы в умеренной форме, ИИ часто проявлял чрезмерную откровенность в диалогах. Это заставило OpenAI задуматься о потенциале таких чат-ботов, но также осознать важность установки этических барьеров.
В последнее время представители OpenAI стали более позитивно оценивать идею внедрения эротических чатов, акцентируя, что они будут строго текстовыми, без генерации откровенных изображений или видео. Конкуренты также проявляют активность. На прошлой неделе Илон Маск (Elon Musk) заявил, что его чат-бот Grok в скором времени получит возможность создавать видеоконтент для взрослой аудитории. Meta✴ разрешает пользователям своего бота участвовать в романтических ролевых играх, но только после подтверждения их совершеннолетия.
У самой OpenAI пока сохраняются сложности с системами проверки возраста. В настоящее время существующий механизм примерно в 12% случаев ошибочно идентифицирует подростков как взрослых. Учитывая, что аудитория ChatGPT включает около 100 миллионов пользователей-несовершеннолетних, подобная погрешность могла бы регулярно открывать доступ к эротическим чатам миллионам подростков. Собранная OpenAI в январе группа экспертов также высказала опасения относительно риска появления контента, нарушающего нормы морали и законодательства, — такого, который затрагивает сцены сексуального насилия, упоминает несовершеннолетних или включает иные специфические темы. Более того, чрезмерное увлечение подобными материалами способно формировать психологическую зависимость и ослаблять желание людей поддерживать отношения с реальными партнёрами вне сети. OpenAI намерена активно напоминать увлёкшимся пользователям о важности выстраивания связей с живыми людьми.
Это становится особенно актуальным на фоне тревожных случаев, отмечаемых с распространением чат-ботов. Известны примеры, когда продолжительное общение с виртуальными персонажами, в том числе среди подростков, приводило к суицидам. Специалисты выражают опасения, что эротическая направленность таких диалогов может лишь умножить число подобных трагедий. Что касается систем верификации возраста, в OpenAI не питают особых иллюзий — по их признанию, эти механизмы никогда не смогут стать абсолютно надёжными и безошибочными. С 2021 года часть сотрудников компании выступает против внедрения эротических чатов, опасаясь полного погружения в эту сферу: «Мы не стремились стать просто компанией, распространяющей контент для взрослых».
На текущий момент руководство OpenAI видит возможным запуск эротических чатов, основываясь на следующем принципе: «Мы по-прежнему считаем, что со взрослыми следует обращаться как со взрослыми, однако создание безопасной и корректной среды потребует дополнительного времени».
