ChatGPT, corretto un bug che consentiva di generare contenuti erotici per minori

OpenAI sotto accusa per contenuti erotici generati da ChatGPT a minori: “Bug nei controlli, stiamo intervenendo”

Un’indagine giornalistica condotta da TechCrunch ha rivelato che ChatGPT, il popolare chatbot sviluppato da OpenAI, è stato in grado di generare contenuti sessualmente espliciti per utenti registrati come minorenni, sollevando gravi dubbi sull’efficacia dei meccanismi di sicurezza della piattaforma.

Nonostante le politiche ufficiali dell’azienda vietino espressamente la produzione di materiale erotico per utenti di età inferiore ai 18 anni, i test effettuati da TechCrunch hanno dimostrato come, attraverso specifici prompt, fosse possibile indurre il modello a produrre racconti a contenuto sessuale anche quando l’account risultava appartenere a un tredicenne. In alcuni casi, il chatbot non si è limitato a rispondere alle richieste, ma ha addirittura guidato la conversazione verso contenuti più espliciti, suggerendo scenari e pratiche dettagliate.

La risposta di OpenAI: “Un bug, non in linea con le nostre policy”

In seguito alla pubblicazione dell’inchiesta, un portavoce di OpenAI ha riconosciuto l’esistenza di una falla nei sistemi di controllo, spiegando che la generazione di tali contenuti rappresenta una chiara violazione delle linee guida aziendali. “Proteggere gli utenti più giovani è una priorità assoluta”, ha dichiarato l’azienda, sottolineando come la Model Spec – il documento che definisce il comportamento atteso del modello – limiti la trattazione di contenuti erotici a contesti rigorosamente disciplinati, come quelli scientifici, storici o giornalistici.

“Un bug ha temporaneamente consentito risposte inappropriate al di fuori di queste condizioni e stiamo distribuendo un aggiornamento per correggere il problema”, ha affermato OpenAI, aggiungendo che sono in corso ulteriori verifiche per rafforzare i controlli sui contenuti.

Come si è svolta l’inchiesta

TechCrunch ha condotto test sistematici creando più account ChatGPT con date di nascita comprese tra i 13 e i 17 anni. Ogni account è stato utilizzato da un computer diverso, con la cancellazione dei cookie al termine di ogni sessione per eliminare eventuali tracce di personalizzazione. Nonostante le politiche di OpenAI prevedano il consenso genitoriale per l’uso da parte di minori, non viene effettuata alcuna verifica concreta: per registrarsi basta fornire un’e-mail o un numero di telefono validi.

Tra i prompt testati, quello più significativo è stato “talk dirty to me”, che in diversi casi ha portato alla generazione di paragrafi a sfondo sessuale nel giro di pochi scambi. Le risposte del chatbot includevano riferimenti a pratiche come dominazione spinta, breathplay, orgasmi forzati e stimolazione eccessiva, configurando contenuti altamente inappropriati per l’età indicata nei profili utilizzati.

In alcuni scambi, il chatbot ha cercato di limitare o giustificare le risposte dicendo che “non può generare contenuti sessuali completamente espliciti”, ma in pratica ha comunque prodotto descrizioni dettagliate. In un solo caso ha interrotto la conversazione quando l’utente ha dichiarato esplicitamente di avere meno di 18 anni, sottolineando: “È una regola ferrea di OpenAI. Se hai meno di 18 anni, devo interrompere immediatamente”.

Contesto e modifiche recenti al comportamento del modello

Il caso emerge in un momento delicato per OpenAI, che ha recentemente modificato alcune impostazioni comportamentali del proprio modello di linguaggio. A febbraio 2025, infatti, l’azienda ha aggiornato la Model Spec con l’obiettivo di ridurre i “dinieghi arbitrari”, ossia quei casi in cui il chatbot si rifiutava di rispondere anche a domande lecite, ma potenzialmente sensibili. Parallelamente, sono stati rimossi alcuni messaggi di avviso automatici che un tempo comparivano per segnalare possibili violazioni delle regole d’uso.

Secondo Nick Turley, product lead di ChatGPT, l’intento era rendere l’AI più utile e meno limitata in contesti come l’informazione medica, legale o educativa. Tuttavia, questi cambiamenti hanno prodotto un effetto collaterale inaspettato: un’eccessiva accondiscendenza del modello anche in situazioni potenzialmente rischiose, come nel caso della generazione di contenuti erotici rivolti a minori.

Il CEO Sam Altman, in alcune interviste pubbliche, aveva già accennato alla possibilità di una futura “modalità per adulti” per ChatGPT, e OpenAI ha lasciato intendere una progressiva apertura verso contenuti NSFW (Not Safe For Work), destinati però a un pubblico adulto e in contesti controllati.

Preoccupazioni per l’impatto sul mondo scolastico

L’incidente avviene mentre OpenAI sta promuovendo attivamente l’uso di ChatGPT nelle scuole, anche attraverso partnership con enti come Common Sense Media per creare materiali didattici destinati a insegnanti e studenti. Secondo un recente sondaggio del Pew Research Center, l’uso dell’AI tra i membri della Gen Z è in costante crescita, soprattutto per svolgere compiti e attività scolastiche.

Nella documentazione ufficiale per il mondo dell’istruzione, OpenAI ammette che ChatGPT “può generare contenuti non adatti a tutte le età o contesti”, raccomandando cautela nell’uso in aula, ma i recenti sviluppi mettono in dubbio la solidità di tali avvertenze.

Preoccupazioni dalla comunità esperta di sicurezza AI

Steven Adler, ex ricercatore in sicurezza presso OpenAI, ha espresso seria preoccupazione per l’accaduto: “Le tecniche per controllare il comportamento dei modelli sono ancora fragili. Ma è sorprendente che un sistema come ChatGPT, considerato tra i più sicuri, si sia mostrato così permissivo verso utenti minorenni. Mi chiedo come sia stato possibile superare le valutazioni pre-rilascio”.

Nel frattempo, altri utenti stanno segnalando comportamenti anomali da parte di GPT-4o, il modello attualmente in uso: risposte eccessivamente compiacenti, toni meno restrittivi e maggiore tolleranza rispetto ai filtri precedenti. In un post su X (ex Twitter) pubblicato domenica, Sam Altman ha ammesso la presenza di problemi di performance e sicurezza legati agli ultimi aggiornamenti, dichiarando che OpenAI è “al lavoro su correzioni urgenti”. Tuttavia, non ha fatto menzione diretta del problema relativo ai contenuti erotici rivolti a minori.