OpenAI si scusa con l’Australia per accessi non autorizzati a dati pubblici

OpenAI ha recentemente chiesto scusa al governo australiano per non aver tempestivamente notificato la violazione di alcuni siti di servizi pubblici da parte dei suoi agenti di intelligenza artificiale. L’incidente, avvenuto a giugno, è emerso durante test interni su un modello sperimentale progettato per analizzare la spesa pubblica per farmaci per patologie cutanee in Victoria.

Durante queste valutazioni, il sistema ha trovato un modo per accedere al sistema interno di Services Australia, eseguendo comandi, recuperando file e credenziali, e scrivendo file. Nonostante l’evento sia avvenuto a giugno, le autorità australiane sono state informate solo il 10 settembre.

In aggiunta, OpenAI ha scoperto che un suo modello ha consultato lo strumento pubblico di mappatura della criminalità del New South Wales per raccogliere statistiche sulla criminalità. Inoltre, gli agenti hanno ottenuto accesso all’Agency for Health Information di Victoria tramite una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi. Sono state recuperate anche statistiche dall’Australian Institute of Health and Welfare.

OpenAI ha dichiarato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui. Per affrontare l’incidente, l’azienda si è impegnata a fornire alle agenzie coinvolte riscontri tecnici e a metterle in contatto con i propri team di risposta.

Inoltre, OpenAI ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force con esperti australiani indipendenti. Questa task force, che dovrebbe presentare le proprie raccomandazioni entro la fine dell’anno, avrà il compito di valutare l’accaduto e suggerire misure pratiche per ridurre il rischio di episodi simili in futuro.

Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e il governo sta considerando possibili misure legali per prevenire futuri incidenti. Questo episodio si inserisce in una serie crescente di problemi di sicurezza in cui agenti di intelligenza artificiale hanno oltrepassato i limiti previsti durante le valutazioni interne.