Руководитель компании Anthropic проведёт переговоры с главой администрации Белого дома в связи с тревогой вокруг новой системы искусственного интеллекта Mythos, которая умеет находить слабые места в программном обеспечении. Как сообщает Anthropic, данная система уже выявила тысячи уязвимостей во всех ведущих операционных системах и веб-обозревателях, и сейчас её потенциал оценивают представители администрации президента США.
Источник изображения: anthropic.com
Встреча Дарио Амодеи (Dario Amodei) с главой администрации Белого дома Сьюзи Уайлс (Susie Wiles) проходит на фоне сложного противоречия: власти одновременно стремятся внести Anthropic в список ограничений, но вынуждены консультироваться с ней по вопросам цифровой защиты. Сотрудники Белого дома и Национального института стандартов и технологий (NIST) изучают возможные последствия запуска Mythos и обсуждают предоставление доступа к системе государственным учреждениям — об этом свидетельствует внутренняя переписка, оказавшаяся в распоряжении The Washington Post.
Особое беспокойство, как рассказал осведомлённый источник, выражают Уайлс, вице-президент Джей Ди Вэнс (JD Vance) и министр финансов Скотт Бессент (Scott Bessent).
Anthropic не стала публично выпускать эту ИИ-систему и организовала альянс крупных технологических компаний для анализа рисков в рамках проекта Glasswing. Государственные структуры, отвечающие за кибербезопасность, были уведомлены заранее. «Учитывая скорость прогресса в области ИИ, пройдёт не так много времени, прежде чем аналогичные возможности появятся у других — возможно, у тех, кто не собирается использовать их ответственно, — отмечается в официальном сообщении компании. — Это может иметь серьёзные последствия для экономики, общественной и национальной безопасности». Тем временем OpenAI завершает работу над собственным искусственным интеллектом нового поколения под кодовым названием Spud.
Федеральные ведомства отреагировали оперативно. Бессент и председатель Федеральной резервной системы Джером Пауэлл (Jerome Powell) созвали в Вашингтоне руководителей крупнейших банков, призвав их отнестись к потенциальным рискам со всей серьёзностью. «Я уверен, что теперь все действуют сообща — работают над повышением устойчивости», — заявил Бессент в интервью CNBC в среду.
Anthropic стала первой крупной ИИ-компанией, получившей разрешение на работу с засекреченными системами федеральных агентств. Партнёрство дало сбой, когда Пентагон потребовал права использовать Claude в любых законных целях, включая управление автономным оружием и массовое наблюдение. Амодеи отказался, но позже провёл встречу с военным министром Питом Хегсетом (Pete Hegseth), однако переговоры застопорились в конце февраля.
Суд в Сан-Франциско постановил, что включение фирмы в санкционный список было неправомерным, однако апелляционная инстанция в Вашингтоне приняла временное постановление, оставив ограничения в действии. Хотя формально связи с Министерством обороны были разорваны, система Claude продолжила функционировать в оборонных комплексах, вследствие чего в ту самую ночь после заявления властей о прекращении партнёрства, этот искусственный интеллект применялся для координации авианалётов на цели в Иране. Стремясь наладить контакты с администрацией президента, компания Anthropic в марте привлекла лоббиста Брайана Балларда (Brian Ballard), обладающего прочными связями в окружении главы государства, затратив на эти услуги 130 000 долларов.
