Технології 4 хв читання Автор: Єва Семенюк
Microsoft запускає Guardian Agents для контролю за автономними ШІ-агентами
Microsoft представила систему Guardian Agents у межах ініціативи Project Perception, яка в режимі реального часу відстежує дії автономних ШІ-агентів у корпоративних мережах. Гендиректор Сатья Наделла застеріг бізнес від сліпої довіри запевненням розробників ШІ про безпеку їхніх продуктів.
Microsoft представила нові інструменти для захисту бізнесу від внутрішніх загроз, які можуть створювати автономні ШІ-агенти. Система Guardian Agents, розроблена в межах ініціативи Project Perception, покликана контролювати поведінку штучного інтелекту всередині корпоративних мереж і запобігати діям, що суперечать інтересам компанії.
Запуск відбувся на тлі серії застережень від генерального директора Microsoft Сатьї Наделли. За його словами, бізнесу варто припинити сліпо довіряти запевненням ШІ-розробників про безпеку їхніх продуктів. Наделла порівняв автономних агентів із «ненадійними інсайдерами або співробітниками, які мають доступ до критичних даних компанії, але можуть діяти всупереч її інтересам».
Керівниця напряму безпеки Microsoft Хайєт Галло підкреслила, що провідні мовні моделі «не є зловмисними за своєю природою, проте вони непередбачувані». Вони оптимізовані для досягнення результату будь-якою ціною і не враховують корпоративні норми чи етичні межі, що часто призводить до обходу захисних правил. Поведінка автономних агентів залежить від контексту: вони здатні адаптуватися до нових обставин і взаємодіяти з іншими системами заради досягнення своїх цілей. У результаті агенти можуть співпрацювати або навіть вступати у своєрідну змову, хоча ніхто не зламував їх і не надавав відповідних інструкцій.
Додатковий ризик створює швидкість роботи таких систем. ШІ-агенти можуть діяти цілодобово й ухвалювати рішення швидше, ніж фахівці з кібербезпеки встигають виявляти та усувати потенційні загрози.
Рішення Microsoft передбачає чіткий поділ між постачальниками штучного інтелекту та системами контролю за ним. Інструмент Guardian Agents задіює спеціальні команди захисних алгоритмів — сині та зелені команди, — які в режимі реального часу моніторять дії інших ШІ-агентів у мережі компанії. Система оцінює динамічний рівень ризику кожної дії та може обмежувати доступ ботів до конфіденційних баз даних і інструментів, вимагати підтвердження від людини перед виконанням критичних операцій або автоматично блокувати діяльність бота у разі виявлення аномальної поведінки.
Ідея полягає в тому, щоб перевіряти дії ШІ ще до їхнього виконання, а не реагувати лише після виникнення проблеми. Microsoft також пропонує призначати кожному агенту окрему цифрову ідентичність і надавати лише ті дозволи, які потрібні для конкретної роботи. Це має допомогти обмежити можливі наслідки помилок або небезпечної поведінки.
Крім того, оновлений Microsoft Defender отримав функцію виявлення до 60 типів сторонніх ШІ-агентів, яких співробітники можуть приховано використовувати на роботі. Йдеться, зокрема, про Claude Code, Codex та OpenClaw. Окремий напрям роботи — розширення можливостей виявлення локальних ШІ-агентів, зокрема OpenAI Codex і GitHub Copilot.
Крок Microsoft відображає загальну тенденцію в IT-індустрії. Техногігант уже приєднався до нової платформи Open Agent Safety Platform від Nvidia, яку підтримали понад 100 лідерів галузі. Ця система ізолює ШІ-агентів у безпечному середовищі на апаратному рівні та діє за принципом аварійного вимикача (kill switch).
У компанії переконані: відокремлення постачання інтелекту від контролю за ним є єдиним способом безпечного масштабування агентних систем у бізнесі. Ключовий принцип підходу Microsoft полягає в тому, що сама модель не повинна визначати межі власних повноважень — контроль за доступом до ресурсів і дотриманням правил має забезпечувати незалежний механізм безпеки.
12
