Компания OpenAI достигла соглашения о покупке стартапа Promptfoo, который создаёт программные решения для проверки защищённости искусственного интеллекта на стадии его создания. Как сообщает Bloomberg, эта покупка призвана уменьшить угрозы для заказчиков, использующих ИИ-приложения, и заинтересовать крупные корпорации.
Источник изображения: AI
Основанный два года назад в Сан-Франциско, этот стартап предлагает открытые инструменты для оценки безопасности нейросетей. В их число входит методика «красной команды», когда эксперты моделируют кибератаки на свои же разрабатываемые системы, чтобы выявить потенциальные бреши до того, как их обнаружат злоумышленники. Примерно четверть компаний из рейтинга Fortune 500 уже пользуются услугами Promptfoo.
Наработки Promptfoo будут включены в корпоративную платформу OpenAI Frontier. Благодаря этому Frontier обретёт функции автоматического тестирования, контроля версий и фиксации итогов аудита для гарантии соответствия стандартам защиты.
Управляющий директор венчурной фирмы Insight Partners Ганеш Белл (Ganesh Bell), руководивший инвестиционным раундом Promptfoo на $18,4 млн в прошлом году, заявил, что «это приобретение ясно демонстрирует стремление OpenAI строить корпоративный ИИ, который будет не только эффективным, но и защищённым, а также стабильным при росте нагрузок». Сумма сделки остаётся конфиденциальной.
OpenAI планирует и дальше поддерживать открытую версию Promptfoo, одновременно интегрируя её в коммерческие продукты. Компания уже начала добавлять элементы безопасности в свои решения, а на прошлой неделе анонсировала ИИ-агента для обнаружения и исправления уязвимостей в базах данных, схожего с продуктом от Anthropic PBC.
