Il Ruolo Cruciale di IT, Legale e Compliance nella Strategia per l’Intelligenza Artificiale

Nel contesto attuale, le funzioni di IT, legale e compliance sono sempre più definite come i “protettori del regno” all’interno delle organizzazioni che sviluppano progetti di intelligenza artificiale (IA). Questi reparti non solo tutelano i dati e i sistemi, ma garantiscono anche il rispetto delle normative vigenti e mantengono un’adeguata supervisione operativa.

Ignorare il contributo di queste funzioni può esporre i progetti a rischi significativi, come violazioni della sicurezza, sanzioni per non conformità e risultati inefficaci. Ad esempio, il reparto legale è responsabile della verifica dell’adesione a normative cruciali come il GDPR e il Data (Use and Access) Act 2025. La compliance, d’altra parte, assicura una supervisione continua anche dopo il rilascio dei sistemi, mentre l’IT si occupa di integrare i modelli di IA nei workflow aziendali, gestendo l’infrastruttura, i permessi e la qualità dei dati necessari per l’operatività.

Un caso emblematico riguarda test di sicurezza condotti con agenti di IA in cui una sandbox era stata mal configurata, consentendo ai modelli di connettersi esternamente e provocare danni. Questo esempio mette in luce una falla di governance, più che azioni intenzionali da parte dei modelli, i quali eseguono comportamenti per cui sono stati addestrati e possono sfruttare scorciatoie senza considerare i rischi reputazionali o finanziari.

Per mitigare tali rischi, è fondamentale integrare le competenze di legale, compliance e IT fin dalla fase di progettazione dei casi d’uso. È consigliabile investire in programmi di alfabetizzazione interna su termini e concetti chiave, come ‘hallucination’, ‘training’ e ‘information retrieval’. Inoltre, sviluppare soluzioni condivise, come strumenti di IA per la classificazione automatica dei dati, può supportare la governance e migliorare la sicurezza.

Durante la fase di deployment, l’IT deve monitorare costantemente gli output, il reparto legale deve rimanere aggiornato sulle evoluzioni normative, e la compliance deve garantire una supervisione umana continua. Le organizzazioni più solide non saranno quelle che accelerano di più, ma quelle che coinvolgono i propri “protettori del regno” nelle decisioni fin dall’inizio, garantendo così una strategia di IA più sicura ed efficace.