На днях американские власти пришли к выводу, что передовая открытая ИИ-модель Anthropic Fable 5 обладает недостаточной защитой от потенциальных злоумышленников, и поэтому иностранцам следует ограничить к ней доступ. В ответ компания Anthropic перестраховалась, заблокировав работу с моделью для всех пользователей. Как стало известно, тревогу в этом вопросе поднял глава Amazon.
Источник изображения: Anthropic
Согласно данным The Wall Street Journal, именно генеральный директор Amazon Энди Джесси (Andy Jassy) проинформировал представителей американского правительства о том, что исследователи его компании нашли способ обойти ограничения, установленные Anthropic, и проверили возможность применения ИИ-модели Fable 5 для осуществления кибератак. После проведения совещания по данному вопросу чиновники пришли к выводу, что самым надёжным решением будет закрыть доступ к Fable 5 для иностранных государственных структур, компаний и частных лиц. Это решение получило одобрение на высшем уровне — его подписал президент США Дональд Трамп (Donald Trump).
В пятницу состоялся телефонный разговор между американскими чиновниками и генеральным директором Anthropic Дарио Амодеи (Dario Amodei). Компании пришлось согласиться на предложенные властями США ограничения, однако она выразила своё несогласие с таким подходом. По факту, Anthropic пошла дальше требуемого, заблокировав доступ всем пользователям не только к Fable 5, но и к более мощной в плане анализа проблем кибербезопасности модели Mythos. Формально Anthropic лишилась возможности развивать свои ИИ-модели, так как многие её специалисты являются иностранцами.
Представители Amazon заявили, что правительство США часто консультируется с компанией по вопросам информационной безопасности. Когда происходит подобный обмен данными, Amazon не разглашает его содержание. Anthropic подчеркнула, что выявленные специалистами Amazon уязвимости могут быть обнаружены и в других публично доступных ИИ-моделях, и они не предоставляют полного механизма обхода защиты. Компания уверена, что существующих мер безопасности достаточно, чтобы предотвратить использование этих уязвимостей злоумышленниками. В условиях подготовки к осеннему IPO такие препятствия для развития ИИ-моделей Anthropic явно не играют компании на руку. У стартапа с весны этого года назревает конфликт с Пентагоном, но, как поясняют источники, вчерашняя инициатива по блокировке доступа к моделям Anthropic исходила не от этого ведомства.
Согласно данным Amazon, использование специальных запросов к модели Fable 5 позволяет выявлять уязвимости как минимум в четырёх программных продуктах. Независимые специалисты отмечают, что обнаруженные уязвимости не несут серьёзной угрозы в контексте кибербезопасности. Хотя похожие слабые места в программном обеспечении можно обнаруживать с помощью иных моделей, только решения от Anthropic способны создавать вредоносный код, использующий эти уязвимости для совершения атак. Нет никаких доказательств того, что исследователи Amazon смогли достичь конечной цели в этом сценарии. Более производительная модель Mythos распространялась компанией Anthropic с максимальной осторожностью, однако это не предотвратило новые претензии со стороны американских властей.
