Microsoft радить ставитися до ШІ-агентів як до співробітника, якому не можна довіряти повністю

Що сказали в Microsoft

Генеральний директор Microsoft Сатья Наделла написав у блозі, що компаніям не варто довіряти постачальникам ШІ-моделей навіть тоді, коли ті обіцяють безпеку: потрібні власні системи нагляду, які лабораторії не контролюють. Агента, що поводиться не так, як треба, він порівнює зі співробітником, який вийшов з-під контролю.

Керівниця напрямку безпеки Microsoft Хайєт Галло пояснює, що головна проблема — непередбачуваність. Моделі вчать виконувати задачу, а правила й звичаї конкретної компанії вони не враховують.

Нам потрібно відокремити постачання інтелекту від влади над ним.

Сатья Наделла, Microsoft

Що Microsoft пропонує

- Guardian Agents стежать за агентами, якими користується компанія; це частина Project Perception, представленого в червні. - Microsoft Defender розпізнає до 60 типів агентів, яких співробітники приносять самі, зокрема Claude Code, Codex і OpenClaw. - Нові налаштування обмежують доступ агентів до даних і систем, змінюють права залежно від задачі й вимагають підтвердження людини, коли агент збирається зробити ризиковану дію. - Microsoft стала одним із перших учасників Open Agent Safety Platform від Nvidia: платформа ізолює агентів і може зупинити їх на рівні обладнання.

TechCrunch зауважує, що Microsoft має в цьому комерційний інтерес: компанія хоче, щоб бізнес купував безпеку агентів у неї, а не в розробників моделей.

Редактор матеріалуАндрій Супряга

CTO AI Assistant Agency.

Як ми готуємо новини: агент щодня збирає події з першоджерел і пише чернетку, редактор перевіряє факти й вирішує, чи публікувати.