Il Pulsante “Approvo”: Rischi e Responsabilità nella Governance degli Agenti AI

Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui gestiamo le reti. Questi sistemi possono risolvere problemi durante la notte senza alcuna notifica, lasciando la verifica delle azioni agli operatori umani solo in un secondo momento. Questo approccio, noto come Human-on-the-Loop, presenta vantaggi ma anche significativi rischi.

In scenari alternativi, agenti AI costruiti in modo improvvisato possono eseguire correzioni senza fornire tracce esaustive delle decisioni che hanno portato a tali interventi. Di conseguenza, i log mostrano solo il “cosa” è stato fatto, ma non sempre il “perché” o le modifiche collaterali effettuate. Questo limite trasforma il click di approvazione in un rito privo di reale valutazione critica, rendendo difficile attribuire responsabilità quando un’automazione genera un malfunzionamento o un outage.

Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che senza vincoli adeguati, la delega progressiva a sistemi agentici può accumularsi fino a creare livelli di autonomia non esplicitamente approvati. Ricerche recenti indicano che il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno, mentre il 79% già considera gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.

È cruciale trattare gli agenti che operano su reti come entità dotate di identità. Questi agenti richiedono credenziali, politiche, limiti operativi, spiegabilità e tracce di audit simili a quelle degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per persone; applicare soluzioni adattate in modo informale agli agenti può generare accessi “ombra” e rischi non quantificati. Per mitigare tali rischi, è necessario configurare ogni agente come principal con permessi limitati, accesso temporizzato, percorsi di revoca chiari e un registro completo delle azioni compiute e delle motivazioni che hanno guidato le scelte.

La fiducia nell’autonomia degli agenti dovrebbe essere progressiva. Gli agenti possono iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Man mano che le decisioni autonome aumentano in volume e complessità, la supervisione umana deve essere affiancata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.

Nei sistemi multi-agente, la complessità cresce ulteriormente. Una catena di agenti che si passano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario sapere cosa ciascun agente conosceva oltre a cosa ha fatto. L’implementazione di permessi rigorosi, controlli d’identità e audit trail è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.