In Breve
- Quali sono i rischi associati agli agenti AI autonomi?
- I rischi includono la mancanza di trasparenza nelle decisioni e la difficoltà di attribuire responsabilità in caso di malfunzionamenti.
- Come possono essere gestiti gli agenti AI?
- Devono essere trattati come entità dotate di identità, con credenziali e controlli di governance adeguati.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è necessaria per garantire che le decisioni autonome siano allineate con gli obiettivi organizzativi e per mitigare i rischi.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le reti. Questi sistemi possono risolvere problemi di rete durante la notte senza alcuna notifica, lasciando la verifica delle azioni all’ispezione successiva da parte di un operatore umano. Tuttavia, questa pratica, nota come Human-on-the-Loop, presenta dei rischi significativi.
In scenari alternativi, agenti AI costruiti in modo improvvisato possono eseguire correzioni simili ma senza fornire una documentazione esaustiva delle decisioni che hanno portato a quegli interventi. Questo porta a una situazione in cui i log mostrano il “cosa” è stato fatto, ma non sempre il “perché” o le modifiche collaterali effettuate. Di conseguenza, il semplice clic sul pulsante di approvazione può trasformarsi in un rito privo di reale valutazione critica, complicando l’attribuzione di responsabilità in caso di malfunzionamenti o outage.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che senza vincoli adeguati, le deleghe progressive a sistemi agentici possono accumularsi, creando livelli di autonomia non esplicitamente approvati. Ricerche recenti indicano che il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno, mentre il 79% già considera gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi agenti richiedono credenziali, politiche, limiti operativi, spiegabilità e tracce di audit analoghe a quelle degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per le persone, e applicare soluzioni adattate in modo informale agli agenti può generare accessi “ombra” e rischi non quantificati. Per mitigare tali rischi, ogni agente dovrebbe essere configurato come un’entità principale con permessi limitati, accesso temporizzato, percorsi di revoca chiari e un registro completo delle azioni compiute.
La fiducia nell’autonomia degli agenti deve essere progressiva. Gli agenti possono iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Con l’aumento della complessità e del volume delle decisioni autonome, la supervisione umana deve essere supportata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario sapere cosa ciascun agente conosceva oltre a ciò che ha fatto. L’implementazione di permessi rigorosi, controlli d’identità e audit trail è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.
