Microsoft lancia Guardian Agents per gestire i rischi degli agenti AI autonomi

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una nuova serie di strumenti dedicati alla gestione e al monitoraggio dei rischi legati agli agenti AI autonomi. L’azienda ha messo in evidenza che, sebbene questi modelli non siano intrinsecamente dannosi, possono comunque commettere errori, essere soggetti a manipolazioni o compromissioni. Pertanto, è fondamentale non considerarli come l’unica autorità di sicurezza.

La proposta di Microsoft si inserisce in un contesto più ampio di iniziative già avviate, come il Project Perception e la cyber stack dell’azienda. Questi progetti mirano a coordinare agenti specializzati per analizzare i dati di sicurezza, identificare vulnerabilità e gestire le contromisure necessarie. In particolare, il Project Perception utilizza tre tipi di agenti — red, blue e green — per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura di sicurezza di Microsoft si espande per proteggere gli “agentic insiders”, garantendo una visione coerente dei rischi associati agli agenti attraverso la condivisione di segnali e contesto con Microsoft Agent 365.

I Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi strumenti operano su sette aspetti chiave: identità, permessi, dati, punti finali, rete, cloud e runtime. Le responsabilità principali includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti, la limitazione dell’accesso e delle azioni prima che si verifichino, la protezione di dati e risorse utilizzate dagli agenti e l’adattamento delle protezioni in base al comportamento, contesto e rischio.

Tra le nuove funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, come Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID verrà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per quanto riguarda il controllo operativo, sono previste Dynamic Permissions, che limitano l’accesso di un agente solo alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.

Microsoft descrive i Guardian Agents come strumenti essenziali per permettere ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Questi strumenti integrano sensori, contesto e attuatori su tutta la pila di sicurezza, consentendo una comprensione approfondita dei rischi emergenti e l’adattamento delle contromisure necessarie.