Развитие многих сфер деятельности в определённые периоды подпитывалось естественным человеческим интересом к эротическим материалам, и область искусственного интеллекта здесь не стала исключением. Компании сталкиваются с искушением задействовать этот контент для популяризации своих сервисов, стремясь одновременно соблюсти правовые и моральные нормы. OpenAI пока откладывает внедрение чатов с эротической тематикой.
Источник изображения: Unsplash, Alexander Krivitskiy
О перспективах создания подобного функционала для ChatGPT ещё в прошлом году упоминал глава OpenAI Сэм Альтман (Sam Altman). Изначально планировалось представить возможность эротического общения к декабрю, затем сроки сдвинулись на текущий квартал, но теперь очевидно, что и этот план не будет выполнен. Как минимум, запуск данной функции отложится на месяц, сообщает The Wall Street Journal.
Опыты по применению ИИ для генерации текстов эротического характера компания OpenAI проводила задолго до появления ChatGPT. Ещё в 2021 году пользователям была доступна игра AI Dungeon с разветвлённым сюжетом, который формировался по их запросам. Тогда разработчики заметили, что платформа иногда сама инициировала обсуждение интимных тем, даже без явных предпосылок со стороны игрока. Если же пользователь задавал умеренно откровенный тон, ИИ мог чрезмерно углубляться в откровенные детали диалога. Это заставило OpenAI задуматься о потенциальной востребованности таких чат-ботов, а также о важности установки этических барьеров.
В последнее время руководство OpenAI стало более позитивно оценивать идею внедрения эротических чатов, акцентируя, что они будут ограничены только текстом, без генерации откровенных изображений или видео. Конкуренты также проявляют активность. На прошлой неделе Илон Маск (Elon Musk) заявил, что его чат-бот Grok вскоре сможет создавать видеоконтент для взрослой аудитории. Meta✴ разрешает пользователям своего бота участвовать в романтических ролевых играх, но только после подтверждения их совершеннолетия.
У самой OpenAI система проверки возраста пока работает небезупречно. В настоящее время она ошибочно идентифицирует подростков как взрослых примерно в 12% случаев. Учитывая, что аудитория ChatGPT включает около 100 миллионов несовершеннолетних пользователей, такая погрешность могла бы регулярно открывать доступ к эротическим диалогам миллионам подростков. Собранная OpenAI в январе группа экспертов также высказала опасения относительно риска появления контента, нарушающего нормы морали и закона, — такого, который затрагивает сцены сексуального насилия, упоминает несовершеннолетних или включает иные специфические темы. Кроме того, чрезмерное увлечение подобными материалами способно формировать психологическую зависимость и ослаблять желание людей выстраивать отношения с реальными партнёрами в обычной жизни. OpenAI намерена активно напоминать увлёкшимся пользователям о важности общения с живыми людьми.
Эта задача становится особенно актуальной на фоне тревожных случаев, связанных с распространением чат-ботов. Известны примеры, когда длительное взаимодействие с виртуальными персонажами, в том числе среди подростков, приводило к суицидам. Специалисты опасаются, что эротическая направленность таких диалогов может лишь увеличить число подобных трагедий. Что касается систем проверки возраста, в OpenAI не питают особых иллюзий — по их признанию, эти механизмы никогда не смогут быть абсолютно надёжными и работать без сбоев. С 2021 года часть сотрудников компании выступает против внедрения эротических чатов, беспокоясь о возможном смещении акцентов в эту сторону: «Мы не хотели становиться просто компанией, которая распространяет эротический контент».
На текущий момент руководство OpenAI всё же видит целесообразным запуск таких чатов, придерживаясь следующей позиции: «Мы по-прежнему считаем, что со взрослыми следует обращаться как со взрослыми, но для создания безопасной среды потребуется дополнительное время».
