Компанія Microsoft має намір впровадити нові ШІ-функції в операційну систему Windows 11 на основі окремих агентів. У середині жовтня Microsoft заявила, що перетворить кожен комп’ютер з Windows 11 на ПК з ШІ, і впевнено рухається в цьому напрямку. Це передбачає нові способи взаємодії з системою і загальну зміну парадигми розвитку ОС.
В якийсь момент навіть звичні операції за допомогою миші та клавіатури замінять ШІ-агенти. Для цього у компанії вже є Copilot Voice і Copilot Vision у складі Copilot Actions, що робить можливим управління візуальним інтерфейсом та вмістом на екрані за допомогою голосових команд. Останні апдейти перетворюють панель завдань Windows 11 на центр управління ШІ-агентами для швидкого доступу до таких функцій (поки що опціонально).
Одночасно Microsoft у відкритій документації та коментарях визнає нові небезпеки. Це пов’язано з можливістю галюцинацій у ШІ, а також із новими загрозами безпеці. Агенти вразливі до перехресного впровадження запитів (XPIA), шкідливих запитів і впливу шкідливого ПЗ. Найсерйознішим ризиком є XPIA. Це ситуація, коли ШІ-агент обманутий складним запитом. Наприклад, він може отримати інструкцію, яка змусить його виконати шкідливе ПЗ або надати конфіденційні дані. І відповідні дослідження показують, що ШІ-агенти для роботи з графічним інтерфейсом цілком уразливі до таких непрямих атак, оскільки отримують високі привілеї.
Тому Microsoft впроваджує схему, коли ШІ-агенти працюватимуть під окремими обліковими записами з обмеженими правами доступу. Хоча доступ до папок «Документи», «Відео», «Завантаження», «Робочий стіл» тощо за замовчуванням їм все одно відкритий. Новий рівень безпеки забезпечить впровадження робочого простору Agent Workspace, що стане основою концепції ОС з ШІ-агентами. Це паралельне середовище Windows із власним обліковим записом і власними правами. Воно запускатиметься для кожного сеансу з ШІ-агентом, а ОС сприйматиме його як окремого користувача зі своїм рівнем доступу. У цьому просторі агент працює з застосунками, вебсередовищем і даними, але якщо виникне загроза, то шкода буде обмежена своїм обліковим записом. А окремі заборони та контроль запобігатимуть доступу до системних папок.
Джерело:
Windows Latest