Microsoft начала "агентскую переработку" Windows 11 — с новыми функциями ИИ и новыми рисками

Microsoft официально объявила, что Windows 11 проходит масштабное обновление, связанное с внедрением агентов на базе искусственного интеллекта, однако одновременно предупредила о функциональных ограничениях и потенциальных угрозах безопасности.

Что известно на данный момент

Компания подчёркивает, что ИИ-модели по-прежнему могут вести себя непредсказуемо, включая: галлюцинации, некорректные ответы, неожиданные действия.

Новая опция в Windows 11

В сборке Windows 11 26220.7262 в разделе настроек "Компоненты ИИ" появился переключатель "Экспериментальные агентские функции". Функция выключена по умолчанию и требует ручного включения.

Проблемы с безопасностью — главный вызов

С появлением автономных ИИ-агентов начали фиксировать новые векторы атак. Один из них — перекрёстное внедрение запросов.

В таких атаках вредоносные команды скрываются в обычных файлах или UI-элементах. Агенты "берут под контроль" эти скрытые инструкции и могут: запускать вредоносный код, устанавливать нежелательные программы, передавать конфиденциальные данные.

Как Microsoft пытается защитить систему

Агенты работают в специальной среде — "рабочем пространстве агента", аналогичной Windows Sandbox: у каждого агента ограниченная учётная запись, его действия отслеживаются и логируются.

Но есть нюанс:

Агенты работают постоянно, а не временно, что расширяет поверхность атаки. К тому же по умолчанию им может быть разрешён доступ к папкам: "Документы", "Рабочий стол", "Загрузки".

Это открывает ряд потенциальных уязвимостей, пока Microsoft не внедрит более строгую систему разрешений и защиты.

Источник: vk.com

Комментарии: