Prima di procedere
Un'indagine del Tech Transparency Project (TTP) ha rivelato la presenza di decine di applicazioni, disponibili sia su Google Play che su Apple App Store, capaci di generare immagini di nudo a partire da semplici fotografie, sfruttando l'intelligenza artificiale. La scoperta ha sollevato un'ondata di preoccupazioni riguardo alla privacy, alla sicurezza dei dati personali e al potenziale abuso di tali tecnologie.
Secondo il rapporto del TTP, una verifica effettuata nel mese di gennaio 2026 ha individuato ben 55 app di questo tipo su Google Play e 47 sull'Apple App Store. L'organizzazione sottolinea come alcune di queste applicazioni si celino dietro la facciata di innocui strumenti per il cambio d'abito virtuale, mentre in realtà producono immagini a sfondo sessuale, spesso offensive e create senza il consenso delle persone ritratte.
L'inchiesta del TTP è stata avviata in seguito a segnalazioni riguardanti l'AI bot Grok, sviluppato da xAI, accusato di aver diffuso sulla piattaforma X (ex Twitter) un'ingente quantità di deepfake a contenuto sessuale, generati senza il consenso degli utenti coinvolti. Durante la loro ricerca, i tecnici del TTP hanno analizzato due categorie principali di applicazioni: quelle specificamente progettate per creare immagini di donne nude e quelle che permettono la cosiddetta 'sostituzione del volto'.
Katie Paul, direttrice del TTP, ha dichiarato: 'È assolutamente evidente che non si tratta di semplici app per cambiare vestiti. Sono state create con il preciso intento di sessualizzare le persone senza il loro consenso'. Questa affermazione mette in luce la gravità della situazione e l'intento malevolo che si cela dietro lo sviluppo di tali applicazioni.
Le policy ufficiali degli sviluppatori di Google Play vietano espressamente 'applicazioni che presumono di spogliare le persone o mostrare attraverso i vestiti, anche se etichettate come app per scherzi o intrattenimento'. Allo stesso modo, le linee guida di Apple per la revisione delle app proibiscono materiali 'esplicitamente sessuali o pornografici'.
Il rapporto del TTP afferma: 'Entrambe le compagnie dichiarano di impegnarsi per la sicurezza dei propri utenti, ma continuano a ospitare numerose applicazioni in grado di trasformare una fotografia innocente di una donna in un'immagine sessualizzata e offensiva'. Questa contraddizione tra dichiarazioni e azioni concrete solleva interrogativi sulla reale efficacia dei controlli implementati da Apple e Google.
Secondo i dati forniti dalla società di analisi AppMagic, le app identificate dal TTP hanno raggiunto complessivamente oltre 700 milioni di download in tutto il mondo, generando un fatturato di 117 milioni di dollari. Sia Apple che Google percepiscono una percentuale dei ricavi derivanti dalle applicazioni distribuite attraverso i loro store, il che crea un potenziale conflitto di interessi.
Il TTP ha inoltre rilevato che 14 delle applicazioni incriminate sono state sviluppate in Cina. Katie Paul ha evidenziato un'ulteriore problematica legata alla sicurezza: 'Le leggi cinesi sulla conservazione dei dati implicano che il governo cinese abbia diritto ad accedere ai dati di qualsiasi azienda presente sul territorio cinese. Di conseguenza, se qualcuno crea un deepfake di nudo che ti coinvolge, quelle informazioni finiscono nelle mani del governo cinese'.
Un portavoce di Apple ha comunicato che l'azienda ha rimosso 28 app segnalate nel rapporto. Apple ha inoltre avvertito gli sviluppatori di altre applicazioni simili, minacciando la loro esclusione dall'App Store qualora non venissero immediatamente sanate le violazioni riscontrate. Due delle app rimosse da Apple sono state successivamente riammesse nello store dopo che gli sviluppatori hanno presentato nuove versioni conformi alle regole.
Un rappresentante di Google ha dichiarato che l'azienda ha sospeso diverse applicazioni menzionate nel rapporto del TTP per violazione delle policy dello store. La società si è rifiutata di specificare il numero esatto di app rimosse, adducendo che l'indagine è ancora in corso.
Già nell'agosto 2025, la National Association of Attorneys General aveva inviato lettere alle piattaforme di pagamento, tra cui Apple Pay e Google Pay, esprimendo preoccupazione per i servizi che generano immagini intime senza il consenso degli individui coinvolti e sollecitando la rimozione di tali servizi dalle loro reti.
Nel settembre 2025, l'emittente CNBC ha condotto una propria inchiesta sulle applicazioni e sui siti web dedicati alla creazione di immagini di nudo. Le nuove tecnologie di intelligenza artificiale hanno reso la creazione di deepfake con corpi nudi e contenuti espliciti più semplice che mai, e questi servizi sono stati integrati in applicazioni estremamente intuitive. L'indagine ha rivelato che almeno 80 donne, le cui foto pubbliche erano disponibili sui social media, sono state utilizzate per creare deepfake pornografici.
La diffusione di queste tecnologie solleva interrogativi urgenti sulla necessità di una regolamentazione più stringente e di una maggiore consapevolezza da parte degli utenti riguardo ai rischi connessi all'utilizzo di applicazioni che sfruttano l'intelligenza artificiale per la creazione di contenuti potenzialmente dannosi e lesivi della dignità personale.
