«К2 Кибербезопасность» совместно с «Лабораторией Касперского» обнародовали результаты анализа того, как российский бизнес подходит к безопасному применению технологий искусственного интеллекта. В опросе приняли участие специалисты из более чем 200 крупных отечественных компаний, представляющих такие сектора экономики, как ИТ, финансы, розничная торговля, телекоммуникации, строительство и фармацевтика.
Какие именно ИИ-сервисы применяют организации. Более половины (59%) компаний не ограничиваются одним типом решений на базе ИИ, а используют сразу несколько вариантов: российские, зарубежные, собственные разработки или созданные на заказ. Главные причины этого — разная эффективность ИИ-сервисов при решении различных задач, необходимость подбирать отдельный инструмент под каждый процесс, а также личные предпочтения пользователей.
75% компаний взаимодействуют с отечественными публичными сервисами, тогда как 60% — с зарубежными. Преобладание российских продуктов вполне закономерно: бизнес стремится соответствовать требованиям законодательства и придерживаться политики импортозамещения.
«Примечательно, что 38% корпораций уже сформировали собственные команды для разработки ИИ-решений, ориентированных на внутренние нужды. Это говорит о том, что искусственный интеллект рассматривается как стратегический актив, который компании предпочитают развивать своими силами. В то же время, согласно данным исследования, в 75% случаев эти процессы полностью или частично не соответствуют стандарту управления безопасностью собственных ИИ-разработок — MLSecOps. С точки зрения управления, эти результаты указывают на разрыв: скорость внедрения ИИ уже превышает зрелость процессов, необходимых для контроля связанных с этим рисков. Рынок MLSecOps находится на начальной стадии развития, и компании пока не до конца понимают, как самостоятельно защищать свои ИИ-разработки», — отметил Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в «К2 Кибербезопасность».
«Чем быстрее искусственный интеллект становится частью рабочей инфраструктуры, тем острее необходимость в том, чтобы его безопасность перестала быть набором разрозненных инициатив. Доля компаний, у которых процессы защиты собственных ИИ-разработок управляемы, пока составляет лишь 18%, а зрелая практика MLSecOps встречается только у 7%. В большинстве случаев (60%) безопасность обеспечивается исключительно силами разработчиков, без участия отдела информационной безопасности, что существенно увеличивает вероятность инцидентов. Практический подход должен заключаться в синергии бизнеса, ИБ и разработки: интеграции требований безопасности в дорожные карты продуктов, создании политик безопасности с учетом обратной связи от бизнес-подразделений и регулярном аудите процессов», — подчеркнул Владислав Тушканов, руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского».
