San Francisco contro le app di deepfake: una battaglia per la privacy

Il procuratore della città di San Francisco, David Chiu, ha intrapreso una significativa azione legale contro tredici applicazioni di face-swapping, accusate di generare immagini intime non consensuali tramite intelligenza artificiale. Di queste, otto sono disponibili sull’App Store di Apple e cinque sul Play Store di Google.

Chiu ha richiesto non solo la rimozione immediata delle app, ma anche la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori e l’interruzione dei profitti derivanti dagli acquisti in-app. Secondo il procuratore, Apple e Google avrebbero incassato milioni di dollari nonostante le loro politiche vietino contenuti pornografici, abusivi o molesti.

La legge della California è chiara: è vietato fornire supporto a servizi che producono materiale pornografico deepfake. L’ufficio del procuratore ha già avviato in passato azioni legali contro sedici siti web che praticano attività simili, segnalando un impegno costante nella lotta contro queste tecnologie dannose.

Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già rimosso centinaia di app con funzionalità di “nudificazione”, comprese quelle segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Tuttavia, Apple non ha rilasciato commenti ufficiali sulla questione.

David Chiu ha descritto la situazione come “assolutamente scioccante”, sottolineando l’ampiezza del fenomeno e le sue gravi conseguenze per le vittime, che possono subire danni alla loro reputazione e ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli, non escludendo la possibilità di ulteriori azioni legali se necessario.

Questa situazione solleva interrogativi importanti sulla responsabilità delle piattaforme tecnologiche nella gestione dei contenuti generati dagli utenti e sulla protezione della privacy individuale. La crescente diffusione di tecnologie di intelligenza artificiale, sebbene porti a innovazioni straordinarie, richiede un attento monitoraggio per prevenire abusi e garantire il rispetto dei diritti fondamentali.