Компания Infosecurity, входящая в группу Softline, анонсировала старт свежего сервисного направления, посвящённого защите систем искусственного интеллекта. Эта практика соединяет глубокие знания в сфере кибербезопасности с методологиями управления ИИ, предоставляя организациям возможность безопасно интегрировать, эксплуатировать и расширять решения на основе искусственного интеллекта.
Искусственный интеллект всё глубже проникает в бизнес-процессы современных компаний. Предприятия применяют ИИ для автоматизации рутинных задач, обработки массивов данных, написания кода, взаимодействия с клиентами и помощи в принятии решений. Однако новые горизонты открывают и новые риски: утечка конфиденциальных данных через ИИ-сервисы, неконтролируемое использование нейросетей персоналом, уязвимости в LLM-приложениях, неточности моделей, а также отсутствие чётких регламентов управления ИИ и разграничения обязанностей.
В ответ на возрастающую потребность бизнеса в надёжном применении технологий ИИ Infosecurity развернула полноценное направление по защите ИИ-систем. Компания предоставляет такие услуги, как аудит зрелости практик безопасности ИИ, анализ рисков для ИИ-инфраструктуры, Red Teaming для LLM-приложений, внедрение процессов LLMSecOps, создание корпоративной системы управления безопасностью ИИ, а также содействие в получении сертификации по международному стандарту ISO/IEC 42001.
Оценка зрелости даёт возможность установить текущий уровень развития процессов администрирования и защиты ИИ внутри компании, обнаружить ключевые недостатки и составить план дальнейших действий. Анализ рисков позволяет выделить самые серьёзные угрозы, принимая во внимание архитектуру, применяемые модели и специфику бизнеса организации.
Одной из самых востребованных услуг в рамках новой практики стало Red Teaming LLM-приложений. В ходе таких работ специалисты Infosecurity проверяют ИИ-системы на устойчивость к современным угрозам, включая промпт-инъекции, обход защитных барьеров, утечку данных через модели и другие атаки, перечисленные в OWASP Top 10 for LLM Applications.
Для компаний, активно внедряющих искусственный интеллект в разработку и эксплуатацию, эксперты помогают наладить процессы LLMSecOps, встраивая требования безопасности в полный жизненный цикл ИИ-систем. Кроме того, заказчики могут сформировать корпоративный фреймворк управления ИИ, который охватывает роли, процедуры, внутренние регламенты и правила использования искусственного интеллекта.
Отдельное направление работы — подготовка к сертификации по стандарту ISO/IEC 42001, который является первым международным документом, задающим требования к системе менеджмента искусственного интеллекта. Специалисты Infosecurity помогают организациям оценить их готовность к сертификации, выстроить нужные процессы и подготовиться к успешному прохождению внешнего аудита.
«В настоящее время компаниям приходится не просто внедрять технологии искусственного интеллекта, но и заботиться об их безопасном применении. При этом риски, связанные с ИИ, кардинально отличаются от привычных угроз в сфере кибербезопасности и нуждаются в особом подходе к управлению. Данное новое направление даст нашим клиентам возможность сформировать целостную систему управления безопасностью ИИ — начиная с анализа рисков и тестирования и заканчивая внедрением регламентов и подготовкой к получению сертификации», — подчеркнул Алексей Чуриков, глава департамента кибербезопасности бизнеса Infosecurity «Софтлайн Решения» (ГК Softline).
Это новое направление услуг рассчитано на организации, которые уже применяют или только собираются внедрять технологии искусственного интеллекта в корпоративных системах, клиентских сервисах, анализе данных, разработке ПО и других бизнес-процессах.
