Компания Anthropic, чьи принципы пострадали в ходе разногласий с Пентагоном, через своего главу Дарио Амодеи (Dario Amodei) на этой неделе заявила, что у государства должно быть право ограничивать распространение определённых ИИ-моделей, если в них будут выявлены потенциальные угрозы.
Источник изображения: Anthropic
Как сообщается в материале Bloomberg, новые ИИ-модели должны проходить обязательную проверку независимыми специалистами на предмет рисков по нескольким направлениям, включая угрозы кибербезопасности и создание биологического оружия. Амодеи отметил, что настало время перейти от простой открытости к более строгому и юридически закреплённому регулированию сферы ИИ. По сути, искусственный интеллект по своему применению напоминает автомобили, самолёты и медикаменты, которые при неправильном использовании могут угрожать жизни многих людей.
Если ИИ представляет недопустимые риски для общества и государства, власти должны иметь возможность заблокировать его распространение или хотя бы притормозить, чтобы сначала внедрить меры безопасности. Ещё на прошлой неделе Амодеи предложил создать механизм, позволяющий разработчикам ИИ и чиновникам совместно оценивать опасности, связанные с новыми технологиями. Президент США Дональд Трамп (Donald Trump) своим недавним указом предоставил правительству доступ к ИИ-моделям, но не ввёл обязательных требований по их экспертизе.
Первая версия ИИ-модели Mythos, эффективно выявлявшей уязвимости в информационных системах, распространялась Anthropic среди узкого круга организаций из дружественных США стран, близких к властям. После удаления функций, связанных с анализом кибербезопасности, обновлённая модель Claude Fable 5 была выпущена в широкий доступ на этой неделе. «Теперь нам нужно вместе и без спешки создать хрупкую систему политик, которая будет учитывать риски и возможности, нарастающие с удивительной скоростью с этого момента», — написал глава Anthropic в своём блоге.
