Основатель стартапа Anthropic Дарио Амодеи (Dario Amodei) присутствует на саммите G7, что даёт его компании шанс на прямые переговоры с высокопоставленными представителями американской администрации. Напомним, что передовые ИИ-модели этой организации уже неделю заблокированы из соображений национальной безопасности.
Источник изображения: Anthropic
Как сообщает Politico, Белый дом и Anthropic в настоящее время сконцентрировались на выработке нормативных рамок. Эти механизмы позволят правительству США вмешиваться в распространение ИИ-моделей, если в них будут выявлены серьёзные риски для национальной безопасности или стабильности экономики. Оценка подобных угроз должна стать обязательной процедурой перед выпуском новых ИИ-моделей на рынок. Власти стремятся внедрить стандартный процесс анализа таких уязвимостей и наладить системное взаимодействие с разработчиками в этой области.
Стороны переговоров едины во мнении, что ни одна ИИ-модель не может быть полностью лишена недостатков с точки зрения безопасности, которые злоумышленники способны использовать в своих целях. Поэтому правительству США необходимо разработать чёткие процедуры оценки подобных рисков для всех моделей. Помимо критериев оценки, требуется создать методику для определения последствий негативного воздействия злоумышленников на новые ИИ-системы. Со стороны американской администрации в переговорах участвует глава по общественной политике Сара Хек (Sarah Heck), а интересы Anthropic представляет один из сооснователей компании Том Браун (Tom Brown).
Переход к обсуждению технических аспектов и стандартизации свидетельствует о прогрессе в диалоге. Напомним, что неделю назад Anthropic отказывалась признавать критическую важность уязвимостей в ИИ-модели Fable 5, выявленных специалистами Amazon. Эти недостатки могли позволить снять ограничения на доступ к определённым областям, включая создание биологического оружия с помощью ИИ. Американским властям пришлось настоять на блокировке доступа к двум передовым ИИ-моделям Anthropic для иностранных граждан, однако компания не смогла реализовать это избирательно, поэтому доступ был закрыт для всех пользователей этих систем.
