Публичное акционерное общество «МТС», представляющее цифровую экосистему, сообщает о внедрении усовершенствованного детектора дипфейков, разработанного его дочерней структурой МТС Web Services (MWS). Новейшая система демонстрирует свыше 98% точности в идентификации материалов, произведенных передовыми ИИ-алгоритмами наподобие Veo 3 от Google и Sora 2 от OpenAI, которые формируют и модифицируют видеоролики на основе текстовых описаний. Данная информация была предоставлена CNews официальными представителями компании МТС.
Выявление синтетического контента осуществляется через комплексный анализ звуковой дорожки с применением технологии MWS AI и визуального ряда с использованием детектора VisionLabs. Для аудиокомпонента задействуется узкоспециализированная модель: первоначальное обучение проводится на чистых записях человеческой речи для распознавания естественных акустических паттернов, с последующей доработкой на синтезированных образцах для выявления специфических признаков искусственного голоса.
Превосходная точность распознавания видео, сгенерированных современными нейросетевыми моделями, дает возможность автоматически выявлять фальсифицированные материалы до их публикации, отсеивать ИИ-контент в СМИ, соцсетях и мессенджерах, блокировать распространение роликов с поддельными изображениями политиков и публичных персон, а также противостоять массовым манипуляциям, таким как создание фейковых записей катастроф и чрезвычайных ситуаций, способных спровоцировать общественную панику.
Эффективность анализа аудиодорожки достигла 84% для видео, созданных моделью Veo 3, и 93% для контента от Sora 2. Визуальный анализ показал точность 93,9% для Veo 3 и 93,6% для Sora 2 при использовании детектора VisionLabs. В настоящее время ведется дальнейшая тренировка алгоритмов для достижения планового показателя точности выше 98%, а также интеграция технологий аудио-, изображение- и видеоанализа в единую систему с унифицированным интерфейсом.
«Неизбежное появление новых методов синтеза регулярно преодолевает существующие системы обнаружения. В этом контексте наша первостепенная цель — оперативно модернизировать нейросетевые решения, поэтому мы сконцентрировались на ускорении процесса дообучения алгоритмов. Адаптация к моделям Veo 3 и Sora 2 была выполнена всего за четырнадцать суток, что в настоящее время составляет наше ключевое конкурентное преимущество», — отметил генеральный директор МТС Web Services Павел Воронин.
Существенной проблемой при работе с новейшими генеративными алгоритмами остается увеличение показателя False Rejection Rate (FRR) — частоты ошибочных отказов, когда система классифицирует натуральный голос как синтезированный. Подобные ошибки могут возникать при применении аудио-улучшающих инструментов: шумоподавителей, компрессоров или голосовых фильтров. Согласно предварительным расчетам, FRR при обработке таких записей может варьироваться от 4,5% до 7,2%, что обуславливает необходимость дополнительной калибровки алгоритмов.
Текущие испытания нового детектора дипфейков MWS проводятся совместно с платформой для видеоконференций и онлайн-обучения «МТС Линк», в рамках сервиса «Защитник» от МТС, оповещающего пользователей о потенциально мошеннических звонках, с одним из российских государственных сервисов, а также с тремя финансовыми учреждениями России и стран СНГ.
