Apple vieta app di nudificazione e contenuti offensivi generati da AI

Apple ha recentemente aggiornato le sue linee guida per gli sviluppatori, introducendo un divieto per le applicazioni che utilizzano l’intelligenza artificiale per generare contenuti offensivi. Questa modifica si estende anche a quelle app che si presentano come normali durante il processo di revisione, ma che si trasformano in app di ‘nudify’ una volta approvate.

Le nuove norme mirano a rafforzare la sicurezza degli utenti, imponendo requisiti più severi per le app che generano contenuti da parte degli utenti. Tra le nuove disposizioni, è previsto che le app debbano filtrare il materiale offensivo, fornire strumenti per segnalare contenuti inappropriati e consentire agli utenti di bloccare account abusivi.

In particolare, sono vietate funzionalità nascoste o non documentate. Ciò include le applicazioni che mascherano il proprio scopo durante la revisione e che successivamente rivelano capacità dannose, una pratica nota come bait-and-switch. Apple ha anche chiarito che rimuoverà le app che aggiungono funzioni non presenti nella versione sottoposta alla revisione.

In aggiunta, la sezione legale delle linee guida è stata aggiornata per rafforzare il divieto di app che promuovono il traffico di esseri umani e lo sfruttamento di minori. Queste misure seguono un anno in cui il processo di revisione delle app ha portato al blocco di oltre 150.000 applicazioni e alla rimozione di 193.000 account sviluppatori per frode e abusi.

Le nuove linee guida arrivano dopo che, nel mese di luglio, l’autorità di San Francisco aveva ordinato a Apple e Google di rimuovere le app di nudificazione, accusando le aziende di trarre profitto dalle commissioni degli store. Un rapporto di aprile aveva inoltre evidenziato la presenza di diverse app di questo tipo su entrambi gli store, alcune delle quali erano valutate come adatte ai minori.