Руководительница робототехнического подразделения OpenAI Кейтлин Калиновски покинула свой пост, выразив несогласие с заключением компанией контракта с американским оборонным ведомством на применение её технологий искусственного интеллекта.
Как сообщает TechCrunch, Кейтлин Калиновски (Caitlin Kalinowski), возглавлявшая направление робототехники, ушла в отставку после того, как OpenAI подписала соглашение с Министерством обороны США о внедрении своей ИИ-модели.
Калиновски стала частью команды OpenAI в ноябре 2024 года. Своё решение она мотивировала расхождением во взглядах с политикой компании.
«Это был сложный выбор. Искусственный интеллект, безусловно, важен для обороноспособности страны. Однако такие вопросы, как слежка за гражданами без санкции суда и применение автономного летального оружия без человеческого контроля, требовали, на мой взгляд, более глубокого обсуждения, чем то, которое состоялось», — приводит слова Калиновски агентство Bloomberg.
В OpenAI подтвердили факт её ухода, отметив, что понимают наличие у людей «прочных принципов».
В самой компании, однако, не усматривают потенциальных рисков от подписанного документа и настаивают на сохранении полного контроля над безопасным применением ИИ.
«Мы уверены, что наше партнёрство с Пентагоном открывает путь для ответственного использования ИИ в интересах национальной безопасности, при этом мы чётко оговорили ключевые ограничения: никакого внутреннего наблюдения и никакого автономного оружия», — заявили представители OpenAI.
Генеральный директор компании Сэм Альтман (Sam Altman) пояснял, что ИИ-инструменты будут задействованы ведомством исключительно в защищённых облачных сетях, а не на локальных серверах, для оптимизации управления и поддержки принятия решений, с возможностью немедленного отключения в случае нештатных ситуаций.
Создатель ChatGPT, OpenAI, изначально вводил запрет на военное применение своих разработок, однако в 2024 году пересмотрел эту позицию и обновил внутренние регламенты.
Договор с OpenAI Пентагон заключил в конце февраля 2026 года, вскоре после расторжения контракта на $200 млн с другой американской ИИ-компанией — Anthropic, что вызвало общественный резонанс.
Anthropic, развивающая собственное семейство ИИ-моделей Claude, позиционирует себя как компанию, уделяющую особое внимание безопасности и контролю над искусственным интеллектом. Минобороны США требовало от неё предоставления неограниченного доступа к её ИИ, на что компания ответила требованием гарантий неприменения её технологий для тотальной слежки за американцами или создания полностью автономных систем вооружения.
Соглашение не состоялось. Глава государства Дональд Трамп (Donald Trump) распорядился всем федеральным агентствам прекратить взаимодействие с Anthropic, а Министерство обороны признало её риском для системы снабжения — подобный шаг ранее не использовался в отношении компаний из США.
«Будущее нашей нации определим мы сами, а не какая-нибудь неуправляемая ультралиберальная организация в сфере ИИ, руководимая людьми, совершенно оторванными от действительности», — заявил Трамп в социальных сетях (передает CNBC).
Anthropic обратилась в суд с иском, чтобы обжаловать данное распоряжение.
