Общеизвестно, что американская компания Anthropic с весны текущего года оспаривает решение властей США причислить её к организациям, несущим угрозу национальной безопасности, однако в последние месяцы диалог между сторонами в этом направлении был достаточно продуктивным. Тем не менее, на текущей неделе появился новый источник конфликта, из-за которого Anthropic была вынуждена заблокировать всем пользователям доступ к своим наиболее совершенным моделям.
Источник изображения: Anthropic
Как сообщает Financial Times, вчера днём Anthropic получила от министра торговли США предписание прекратить доступ к своим передовым ИИ-моделям для всех иностранцев, так как ведомство выявило уязвимость, способную быть использованной злоумышленниками в ущерб национальной безопасности. Компания не обнаружила другого способа исполнить требования правительства, кроме как полностью приостановить доступ пользователей к продвинутым моделям Mythos 5 и Fable 5, включая тех, кто находится на территории Соединённых Штатов. Фактически, работа пользователей с этими моделями была полностью остановлена.
Ранее правительственные эксперты получили приоритетный доступ к моделям линейки Mythos, которые позволяли в автоматическом режиме выявлять уязвимости в информационной инфраструктуре, а сама Anthropic тщательно ограничивала круг лиц, использующих этот мощный инструмент в сфере кибербезопасности. Однако в итоге компания начала предоставлять доступ к модифицированной модели Fable 5 более широкой аудитории клиентов. Американские власти усмотрели в этом угрозу национальной безопасности, сославшись на некий «пробел», дающий потенциальным злоумышленникам возможность обойти ограничения, установленные разработчиками. Несмотря на то, что правительство требовало от Anthropic ограничить доступ к этим моделям лишь для иностранных пользователей, компания была вынуждена закрыть доступ к ним для всех клиентов.
Компания оспаривает данное предписание американских властей, полагая, что оно возникло из-за неверной трактовки ситуации чиновниками. «Мы уверены: у государства должны быть инструменты для предотвращения распространения опасных моделей, но только в рамках законной процедуры, которая отличается прозрачностью, беспристрастностью и опирается на технические данные. В этом случае действия властей не соответствуют данным критериям», — отмечается в заявлении Anthropic. Представители организации утверждают, что если ограничивать доступ к коммерческим ИИ-системам на основании выявления специфических уязвимостей, это приведёт к полной остановке внедрения любых передовых разработок от всех поставщиков. В противостоянии между Anthropic и правительством США, судя по всему, начинается новый этап.
