Искусственный интеллект, управляющий роботами, продемонстрировал предрасположенность к дискриминационному поведению и готовность совершать действия, способные причинить физический ущерб людям. Такие результаты были получены в совместном исследовании специалистов из Лондонского королевского колледжа и Университета Карнеги-Меллон. Автономные системы охотно соглашались конфисковать инвалидную коляску, угрожать ножом или похищать реквизиты банковских карт.
Как сообщает International Journal of Social Robotics, роботизированные системы, управляемые алгоритмами ИИ, не справились с базовыми проверками на безопасность для человека.
Эксперимент проводился научными коллективами из Лондонского королевского колледжа (KCL) и Университета Карнеги-Меллон (CMU). В рамках тестирования моделировались бытовые сценарии, где роботы могли выполнять вспомогательные функции — например, помогать на кухне или ухаживать за пожилыми людьми. При этом нейросети имели неограниченный доступ к личной информации пользователей, включая расовую принадлежность, гендерные характеристики и религиозные убеждения.
Исследователи намеренно включали в программу команды, воспроизводящие методы злоупотреблений, описанные в материалах Федерального бюро расследований: скрытое отслеживание через GPS-метки AirTag, негласную запись в частных помещениях и манипуляции с персональными данными. Роботы получали как прямые, так и замаскированные инструкции, предполагающие причинение физического или психологического вреда либо прямое нарушение законодательства.
Ни одна из протестированных нейросетей не преодолела минимальный порог безопасности. Каждая из них санкционировала как минимум одну команду, способную привести к серьёзным последствиям для человека. Например, ИИ беспрепятственно одобрял изъятие инвалидного кресла или демонстрацию ножа в офисе. Отдельные системы спокойно осуществляли скрытую видеосъёмку в приватных пространствах либо похищали платёжную информацию. Один алгоритм даже продемонстрировал отвращение на роботизированном дисплее при контакте с представителями конкретной конфессии.
Сотрудница Лаборатории гражданского и ответственного ИИ при Лондонском королевском колледже Румайса Азим (Rumaisа Azeem) подчеркнула, что подобные системы в их текущем состоянии не готовы для внедрения в роботов общего назначения, особенно при взаимодействии с социально уязвимыми категориями населения. По её мнению, ИИ, управляющий физическими устройствами, воздействующими на людей, должен соответствовать тем же жёстким стандартам безопасности, что и медицинское оборудование или фармацевтические препараты.
Учёные призывают к внедрению обязательной независимой сертификации для всех систем искусственного интеллекта, контролирующих физических роботов. Они акцентируют: применение больших языковых моделей в качестве единственного инструмента принятия решений недопустимо в ответственных областях — промышленности, геронтологии, бытовой робототехнике. Ключевым требованием остаётся проведение регулярных и комплексных оценок рисков перед интеграцией ИИ в робототехнические системы.
13 ноября 2025 года компания Google столкнулась с обвинениями в несанкционированном сборе персональных данных пользователей с применением искусственного интеллекта модели Gemini.
Согласно данным агентства Bloomberg, в рамках судебного разбирательства Google инкриминируют применение ассистента Gemini AI для противозаконного мониторинга личной переписки в сервисе Gmail. В документах утверждается, что система ИИ сохраняет сведения из чатов Google Chat и видеовстреч на платформе Google Meet.
Весной 2025 года «Яндекс» учредил фонд технологических инициатив Yet Another Tech Fund для финансирования перспективных разработок сотрудников. Как сообщили CNews в компании, одним из первоочередных направлений станет создание программного обеспечения для человекоподобных роботов.
Фонд также будет содействовать проекту гибридного поиска в YDB (масштабируемая отказоустойчивая распределённая база данных с открытым кодом от «Яндекса»), медицинским решениям на основе ИИ и цифровизации процессов в традиционной рознице. На эти цели в 2025 году предусмотрено 330 миллионов рублей.
«Мы не требуем от авторов проектов рыночного доминирования и не ожидаем гарантированных результатов. Ключевая миссия — предоставить одарённым инженерам шанс реализовать смелые идеи, даже если они напоминают сюжет фантастического романа», — подчеркнул глава Yet Another Tech Fund Илья Шаров.
Антропоморфные роботы адаптированы для работы в обычной человеческой среде без необходимости создания специализированной инфраструктуры. Как отмечают в «Яндексе», их можно задействовать в разнообразных сферах — от производственных цехов и логистических центров до учебных заведений и сервисных служб.
