Prima di procedere
Il fascino dell'erotismo ha spesso alimentato lo sviluppo di diversi settori, e l'intelligenza artificiale non fa eccezione. Le aziende del settore si trovano a dover bilanciare l'attrattiva di contenuti espliciti con la necessità di rispettare normative e principi etici. OpenAI, al momento, ha deciso di frenare sull'introduzione di chat a sfondo erotico all'interno della sua piattaforma ChatGPT.
L'idea era stata ventilata già a metà dello scorso anno dal CEO di OpenAI, Sam Altman. Inizialmente, si prevedeva il lancio di questa funzionalità entro dicembre, poi la data era stata spostata al trimestre corrente. Ora, sembra che anche questa scadenza non verrà rispettata. Il debutto dei chat erotici subirà un ritardo di almeno un mese.
OpenAI aveva iniziato a sperimentare con l'IA per la creazione di contenuti erotici ben prima di ChatGPT. Già nel 2021, offriva ai clienti AI Dungeon, un gioco con una trama non lineare in cui gli utenti potevano influenzare lo sviluppo della storia. In quel contesto, gli esperti di OpenAI avevano notato che la piattaforma suggeriva a volte argomenti legati a interazioni sessuali, anche in assenza di sollecitazioni da parte dell'utente. Quando l'utente introduceva elementi erotici moderati, l'IA tendeva a esagerare con la franchezza dei dialoghi. Già allora, OpenAI aveva compreso il potenziale di questa applicazione dei chatbot, ma anche la necessità di introdurre limiti etici.
Recentemente, il management di OpenAI aveva espresso un atteggiamento più favorevole all'introduzione dei chat erotici, sottolineando che si sarebbero limitati a contenuti testuali, senza generare immagini o video espliciti. Nel frattempo, la concorrenza si muove. Elon Musk ha annunciato che il suo chatbot Grok sarà presto in grado di generare video per adulti. Meta, invece, consente ai propri utenti di partecipare a giochi di ruolo romantici con il suo chatbot, a condizione che sia verificata la loro maggiore età.
Proprio la verifica dell'età rappresenta uno dei punti critici per OpenAI. Attualmente, il sistema di verifica dell'età identifica erroneamente come maggiorenni il 12% dei minorenni. Considerando che ChatGPT ha circa 100 milioni di utenti minorenni, questo margine di errore potrebbe consentire a milioni di adolescenti di accedere regolarmente ai chat erotici. Una commissione di esperti convocata da OpenAI a gennaio ha espresso preoccupazioni riguardo alla potenziale diffusione di contenuti moralmente discutibili o illegali, come scene di violenza sessuale o riferimenti a minori. Inoltre, l'eccessiva esposizione a tali contenuti potrebbe generare dipendenza psicologica e ridurre la motivazione a costruire relazioni reali. OpenAI intende introdurre meccanismi per ricordare agli utenti di coltivare relazioni interpersonali nel mondo reale.
Queste preoccupazioni sono motivate anche da alcuni incidenti spiacevoli legati all'uso dei chatbot. Ci sono stati casi di persone spinte al suicidio a seguito di interazioni prolungate con personaggi fittizi all'interno di chatbot, inclusi suicidi di adolescenti. Gli esperti temono che l'introduzione di elementi erotici in queste conversazioni possa aumentare il rischio di tali eventi. I rappresentanti di OpenAI non si illudono di poter creare un sistema di verifica dell'età infallibile. Fin dal 2021, alcuni dipendenti di OpenAI si sono opposti all'idea di lanciare chat erotici, temendo che l'azienda finisca per concentrarsi esclusivamente su questo settore: "Non vogliamo essere solo un'azienda che diffonde erotismo".
Al momento, la dirigenza di OpenAI ritiene che sia opportuno lanciare i chat erotici, ma seguendo alcuni principi fondamentali: "Crediamo ancora che gli adulti debbano essere trattati come adulti, ma creare un'esperienza adeguata richiederà più tempo". L'azienda si trova quindi a dover navigare tra le opportunità offerte dall'erotismo nell'IA e la necessità di tutelare gli utenti, soprattutto i più giovani, da potenziali rischi.
