На этой неделе разгорелся конфликт между компанией Anthropic и её государственным заказчиком — Министерством обороны США, которое требовало более широкого применения искусственного интеллекта, чем это допускают внутренние правила разработчика. Сотни сотрудников OpenAI и Google поддержали позицию Anthropic, выступающую против неограниченного использования ИИ государственными структурами.
Источник изображения: Anthropic
Напомним, что Anthropic стремится предотвратить использование своей ИИ-модели Claude американскими военными для сбора информации о гражданах страны, а также для управления полностью автономными боевыми системами, действия которых не будут контролироваться человеком. В открытом обращении под названием «Нас не расколоть» работники OpenAI и Google призвали руководство своих компаний объединить усилия, чтобы добиться запрета на применение ИИ-моделей для слежки за американцами и для ликвидации людей без человеческого надзора.
Как сообщает Engadget, петиция уже собрала более 450 подписей, большинство из которых принадлежит сотрудникам Google. При этом около половины подписавшихся указали свои настоящие имена, остальные предпочли остаться анонимными. Все, кто поставил подпись, работают в одной из двух упомянутых компаний. Авторы документа подчёркивают, что не представляют какие-либо ИИ-компании, политические движения или правовые объединения.
Стало известно, что после отказа Anthropic предоставить Пентагону неограниченные возможности для военного применения Claude, американские власти внесли компанию в санкционный список. Теперь все подрядчики, связанные с военными контрактами США, должны в течение полугода найти замену этой модели, а её текущее использование необходимо прекратить незамедлительно. Пентагон уже ведёт переговоры с OpenAI и Google, а также имеет действующее соглашение с xAI на использование чат-бота Grok в своих закрытых системах.
Генеральный директор OpenAI Сэм Альтман (Sam Altman) не только заявил сотрудникам о намерении придерживаться принципов, схожих с позицией Anthropic, но и в беседе с CNBC отметил, что считает неприемлемым давление со стороны Пентагона на всех участников рынка.
