Интернет

ИИ Microsoft ошибся в отчете: из-за бота полиции запретили вход израильским болельщикам

Руководитель одного из ведущих полицейских ведомств Великобритании подтвердил, что ассистент на основе искусственного интеллекта Microsoft Copilot допустил неточность в отчёте о футбольном матче. В документе шла речь о вымышленном поединке между английским «Вест Хэм Юнайтед» и израильским «Маккаби». Именно эта ошибка стала причиной запрета для израильских футбольных болельщиков на посещение игры Лиги Европы УЕФА в 2025 году.

Как сообщает The Verge, британская полиция в январе 2026 года обвинила Microsoft Copilot в серьёзном промахе при подготовке аналитического отчёта. Это привело к введению ограничений для израильских фанатов на матч Лиги Европы УЕФА в 2025 году.

В ноябре 2025 года полиция Уэст-Мидлендса рекомендовала не допускать на стадион «Вилла Парк» в Бирмингеме болельщиков израильского клуба «Маккаби Тель-Авив» на игру Лиги Европы против «Астон Виллы». Данное решение было принято Консультативной группой по безопасности Бирмингема, куда входят представители городских властей, полиции и других служб, на основании полицейской оценки высоких рисков для общественного порядка.

В представленном полицией разведывательном отчёте содержалась отсылка к предыдущему матчу между «Маккаби Тель-Авив» и «Вест Хэмом», который, якобы, был омрачён беспорядками среди фанатов. Однако проблема в том, что такой игры в действительности никогда не проводилось. Эти сведения были полностью сгенерированы Copilot в ходе так называемой ИИ-галлюцинации, о чём ранее CNews.

ИИ-галлюцинация — это явление, при котором инструмент на основе искусственного интеллекта выдаёт ошибочную, вводящую в заблуждение или противоречивую информацию. Это происходит из-за того, что его алгоритмы обнаруживают в данных несуществующие закономерности или неверно их трактуют.

Изначально руководство полиции Уэст-Мидлендса заявляло, что неверные данные были получены через поиск Google. Главный констебль Крейг Гилфорд (Craig Gilford) и его заместитель Майк О'Хара (Mike O'Hara) дважды выступали перед парламентским Комитетом по внутренним делам, настаивая именно на этой версии произошедшего.

В январе 2026 года скандал вокруг применения технологий искусственного интеллекта в британских правоохранительных органах получил новое развитие. В ходе подготовки материалов для проверки, проводимой Инспекцией полиции и пожарно-спасательных служб, обнаружилось, что ошибка на самом деле была следствием использования Microsoft Copilot.

Руководитель полиции Западного Мидлендса принес официальные извинения парламентскому комитету по внутренним делам за предоставление неверных сведений об источнике ошибочной информации в разведывательной сводке. Расследование показало, что при составлении документа сотрудники использовали ИИ-инструмент Microsoft Copilot, который сфабриковал данные о футбольном матче, никогда не происходившем в реальности.

Запрет на въезд в Великобританию для израильских футбольных фанатов в 2025 году спровоцировал широкий общественный и политический отклик в стране. Премьер-министр Соединенного Королевства Кир Стармер (Keir Starmer) публично высказал несогласие с этим решением и подверг его резкой критике.

Этот инцидент случился на фоне крайне накаленной международной обстановки, что привело к обвинениям полиции в политической ангажированности при введении ограничений. В ответ на эти претензии начальник полиции категорически отверг подобные подозрения, заявив, что меры были приняты исключительно по оперативным соображениям и не имели политического подтекста.

В связи с разразившимся скандалом министр внутренних дел Великобритании Шабана Махмуд (Shabana Mahmud) инициировала проведение независимого официального расследования обстоятельств произошедшего. Поручение о проверке было направлено в Инспекцию полиции и пожарно-спасательной службы Ее Величества.

Данное расследование и последовавшие за ним парламентские дебаты подчеркивают пристальное внимание общества и политиков к вопросам безопасности на массовых спортивных мероприятиях в условиях сложной геополитической обстановки.

Специалист по кибербезопасности из компании Lasso Security Бар Ланьядо (Bar Lanyado) разработал фиктивный программный пакет (библиотеку) для Python под названием huggingface-cli.

Библиотеки представляют собой готовые наборы функций, классов и объектов, облегчающие работу программистов. Бар Ланьядо обратил внимание, что модели генеративного искусственного интеллекта нередко «галлюцинировали» (по выражению исследователя) это название пакета в ответ на запросы пользователей, фактически рекомендуя его к использованию. Чтобы проверить последствия этого в реальном мире, исследователь разместил поддельный пакет в официальном репозитории Python (PyPI).

Таким образом, за три месяца доступности huggingface-cli был скачан более 15 тысяч раз. Также автор проверил GitHub на предмет использования этого пакета в репозиториях различных организаций. Анализ выявил, что ряд известных компаний либо применяют его, либо упоминают в своих проектах. В частности, руководство по установке данного пакета присутствует в документации исследовательского репозитория компании Alibaba.

Alibaba по ошибке добавила в свою документацию ссылку на несуществующий пакет. В инструкции к инструменту GraphTranslator ошибочно указана команда pip install huggingface-cli для установки официального ПО от Hugging Face. Хотя созданный Баром Ланьядо в 2024 году пакет не причинил вреда, возможные риски подобных ситуаций вызывают серьёзную озабоченность у экспертов по кибербезопасности. По его мнению, злоумышленники могут использовать сгенерированные искусственным интеллектом названия для вредоносных пакетов, размещая их в открытых репозиториях в расчёте на то, что пользователи установят опасное программное обеспечение.

Антон Денисенко

Поделиться:

0 Комментариев

Оставить комментарий

Обязательные поля помечены *
Ваш комментарий *
Категории