Компания Microsoft выпустила серьёзное уведомление о предстоящих в Windows 11 функциях на основе агентного искусственного интеллекта. В нём пользователям советуют активировать эти возможности лишь при полном понимании связанных с ними рисков для безопасности, поэтому по умолчанию они будут выключены.
Источник изображения: Windows / unsplash.com
Планы Microsoft предполагают постепенное преобразование Windows 11 в операционную систему с глубоко интегрированными ИИ-агентами. Несмотря на неоднозначную реакцию части сообщества, корпорация последовательно продвигает свою концепцию и готовится к запуску первых полноценных агентных функций в системе. «Данную настройку может включить только администратор устройства, после чего она станет доступна всем пользователям на этом компьютере, включая других администраторов и обычных учётных записей», — поясняет компания.
При активном состоянии ИИ-агент получает ограниченный доступ к папке профиля пользователя (C:Usersимя_пользователя), а также к стандартным каталогам «Загрузки», «Документы», «Изображения», «Видео», «Музыка» и «Рабочий стол». Однако для выполнения задач он использует собственное новое рабочее окружение — изолированную безопасную среду рабочего стола, которая, тем не менее, может взаимодействовать с пользовательскими программами и файлами. Это создаёт определённые угрозы. «Приложения с искусственным интеллектом порождают новые риски, такие как межконтекстное внедрение запросов (XPIA), когда вредоносный контент, встроенный в интерфейс или документы, способен перехватывать управление агентом, что ведёт к непреднамеренным действиям, включая кражу данных или инсталляцию вредоносного программного обеспечения», — предостерегает Microsoft.
Ввиду существования подобных опасностей, компания сформулировала ряд принципов, которых намерена придерживаться при разработке агентов для Windows. Среди них — обеспечение постоянной видимости действий ИИ-инструментов и обязательное получение согласия пользователя на любые решения, принимаемые искусственным интеллектом. «Агенты должны обладать возможностью вести журналы, описывающие их операции. Система Windows должна иметь средства для проверки этих действий через защищённый от несанкционированного изменения аудит-журнал», — подчёркивает разработчик.
Первые предварительные сборки Windows 11 с этой функциональностью уже вчера стали доступны участникам программы тестирования, хотя приложения пока её не поддерживают. В скором времени в агентном рабочем пространстве сможет функционировать ИИ-помощник Copilot, а затем и другие приложения на основе искусственного интеллекта.
