Российская компания Orion soft представила шлюз безопасности StarGuard AI, который обеспечивает централизованную и контролируемую работу с большими языковыми моделями (LLM) в корпоративной среде. Это решение будет полезно для крупного бизнеса, финансового сектора, промышленности, государственных учреждений, а также компаний, которые внедряют корпоративных ИИ-ассистентов, агентские системы и внутренние платформы на основе искусственного интеллекта.
StarGuard AI работает как обратный прокси-сервер (Reverse Proxy), размещаясь между пользователями и поставщиками LLM. Каждый запрос и ответ обрабатывается набором детекторов до того, как покинуть защищённый контур. Шлюз предотвращает утечку чувствительных данных, блокирует jailbreak- и prompt-инъекции, а также токсичный, запрещённый или нецелевой контент в ИИ-чатах, ассистентах, службах поддержки и корпоративных помощниках. Благодаря этому программный комплекс снижает репутационные риски во внутренних и клиентских ИИ-сервисах, минимизирует угрозу утечки информации, контролирует разрешённые сценарии использования, объединяет доступ к нескольким моделям и предоставляет прозрачный аудит всех операций.
Источник изображения: Steve Johnson / unsplash.com
Система поддерживает подключение как облачных, так и локальных LLM, включая ChatGPT, Claude, DeepSeek, GigaChat, YandexGPT, а также любые локальные модели. Предусмотрена интеграция с OpenWebUI, IDE, AI-агентами и корпоративными платформами.
«Корпоративные ИИ-сервисы постепенно становятся неотъемлемой частью критической IT-инфраструктуры, поэтому требуют аналогичного уровня контроля и защиты. StarGuard AI формирует единый контур для безопасной работы с LLM, позволяя организациям внедрять ИИ-инструменты без потери контроля над данными, соблюдая политики безопасности и нормативные требования», — отмечают разработчики продукта.
Источник:
