Prima di procedere
L'Office of Communications (Ofcom), l'autorità di regolamentazione britannica per le comunicazioni, ha avviato un'indagine formale per accertare se i deepfake a sfondo sessuale creati sulla piattaforma X (ex Twitter) tramite il chatbot Grok AI violino le leggi del Regno Unito. La decisione fa seguito alle forti critiche espresse dal Primo Ministro Keir Starmer, che ha definito le immagini generate da Grok "ripugnanti" e "illegali".
L'indagine di Ofcom si concentra su segnalazioni riguardanti l'uso di Grok AI per generare e diffondere immagini di persone senza vestiti, il che potrebbe configurarsi come abuso di immagini intime o pornografia, e immagini di minori a sfondo sessuale, potenzialmente classificabili come materiale pedopornografico. La gravità delle accuse ha spinto il Ministro per gli Affari Economici, Peter Kyle, a dichiarare che il Regno Unito potrebbe persino vietare l'accesso a X, qualora l'indagine accertasse violazioni gravi e persistenti.
La legge britannica vieta la creazione e la diffusione non consensuale di immagini intime o materiale pedopornografico, incluse quelle generate tramite intelligenza artificiale. Le piattaforme tecnologiche sono tenute a prevenire l'accesso a contenuti illegali da parte degli utenti britannici e a rimuoverli tempestivamente una volta individuate le violazioni. In caso di mancato rispetto delle normative, Ofcom può adire le vie legali, richiedendo la sospensione dei servizi di pagamento o pubblicitari alla piattaforma incriminata, o persino il blocco dell'accesso al servizio da parte dei fornitori di servizi internet.
Un portavoce di X ha dichiarato che la piattaforma adotta misure rigorose contro i contenuti illegali, inclusa la rimozione di materiale pedopornografico, il blocco permanente degli account responsabili e la collaborazione con le autorità competenti. La società ha inoltre precisato che chiunque utilizzi Grok per creare contenuti illegali sarà soggetto alle stesse sanzioni previste per il caricamento di tali contenuti. L'accesso alla funzionalità di generazione di immagini di persone denudate è riservato esclusivamente agli utenti abbonati ai servizi a pagamento di X.
La vicenda ha sollevato un'ondata di critiche internazionali nei confronti di X. In Francia, le autorità hanno deferito la questione alla procura e agli organi di controllo, definendo i contenuti "manifestamente illegali". Anche le autorità indiane hanno richiesto spiegazioni ufficiali alla dirigenza della società. Questo incidente mette in luce le crescenti sfide legate alla regolamentazione dei contenuti generati dall'intelligenza artificiale e alla responsabilità delle piattaforme online nel prevenire la diffusione di materiale illegale e dannoso. Il caso di X e Grok AI potrebbe rappresentare un punto di svolta nella definizione di standard più rigorosi per la moderazione dei contenuti e la protezione degli utenti nel mondo digitale, soprattutto in un momento storico in cui la diffusione di deepfake e altre forme di manipolazione digitale è in rapido aumento.
L'indagine di Ofcom non si limita a valutare la condotta di X, ma mira anche a stabilire un precedente importante per la regolamentazione dell'intelligenza artificiale nel Regno Unito. Le conclusioni dell'indagine potrebbero portare a nuove leggi e regolamenti volti a prevenire l'abuso di AI per la creazione e la diffusione di contenuti dannosi, garantendo al contempo la libertà di espressione e l'innovazione tecnologica.
Inoltre, la vicenda solleva interrogativi cruciali sul ruolo dei fornitori di servizi AI, come gli sviluppatori di Grok, nella prevenzione dell'uso improprio delle loro tecnologie. La responsabilità di garantire che gli strumenti di intelligenza artificiale non vengano utilizzati per scopi illegali o dannosi è condivisa tra sviluppatori, piattaforme e utenti, richiedendo un approccio collaborativo e multidisciplinare per affrontare le sfide del mondo digitale in continua evoluzione.
