Разработчики из OpenAI представили новую версию видеогенератора Sora, наделяющую пользователей расширенными возможностями управления своими цифровыми аватарами. Теперь можно отслеживать и регулировать появление искусственных двойников в различных ситуациях внутри платформы.
Источник изображения: OpenAI
Издание The Verge охарактеризовало Sora как «аналог TikTok для дипфейков», где создаются десятисекундные ролики на разнообразные сюжеты с участием ИИ-воплощений пользователей, включая озвучку через функцию «камео». Эксперты предупреждают, что генерация видео через «камео» может стать источником масштабной дезинформации.
Руководитель команды Sora Билл Пиблз пояснил, что обновление позволяет устанавливать ограничения на применение цифровых копий. К примеру, можно исключить участие аватара в политических материалах или запретить произнесение конкретных фраз. Также доступна блокировка определённых контекстов — например, если пользователь не переносит горчицу, можно запретить показывать его двойника рядом с этим продуктом.
В OpenAI добавили, что пользователи могут задавать индивидуальные предпочтения для своих виртуальных воплощений, например, «носить бейсболку с надписью “Главный фанат кетчупа” в каждом ролике».
Несмотря на нововведения, сохраняются риски обхода ограничений, подобно тому, как ранее взламывали защитные водяные знаки. Пиблз подтвердил, что компания совершенствует систему безопасности. Он подчеркнул, что команда Sora продолжит «усиливать защитные механизмы» и «внедрять дополнительные инструменты контроля».
