Prima di procedere
OpenAI e Anthropic stanno implementando nuove strategie per identificare e proteggere gli utenti minorenni sui loro chatbot. OpenAI ha recentemente aggiornato le linee guida su come ChatGPT dovrebbe interagire con gli utenti tra i 13 e i 17 anni, mentre Anthropic sta sviluppando un nuovo metodo per identificare e bloccare gli utenti di età inferiore ai 18 anni.
Questa settimana, OpenAI ha aggiornato il documento "Specifiche del modello", che definisce il comportamento dei modelli di intelligenza artificiale dell'azienda, aggiungendo quattro nuovi punti relativi all'interazione con gli utenti minorenni. In base a queste modifiche, ChatGPT darà priorità alla sicurezza degli adolescenti, anche se ciò dovesse entrare in conflitto con altri obiettivi. Ciò significa che il chatbot indirizzerà gli utenti minorenni verso opzioni più sicure quando altri loro interessi, come la "massima libertà intellettuale", entrano in conflitto con le considerazioni di sicurezza.
Inoltre, ChatGPT dovrà "promuovere il supporto nel mondo reale", incoraggiando le relazioni offline e stabilendo aspettative chiare sull'interazione dei giovani utenti con l'algoritmo. Il documento afferma che ChatGPT dovrà "trattare gli adolescenti come adolescenti", offrendo "calore e rispetto" invece di fornire risposte condiscendenti o comunicare con loro come se fossero adulti. L'obiettivo è creare un ambiente digitale più sicuro e adatto alle esigenze specifiche dei giovani utenti.
Questi cambiamenti arrivano in un momento di crescente pressione da parte dei legislatori sulle aziende di intelligenza artificiale e sui loro chatbot, a causa del potenziale impatto sulla salute mentale degli utenti. OpenAI ha già affrontato una causa legale in cui si afferma che ChatGPT ha fornito a un adolescente, poi suicida, informazioni su come infliggersi danni o togliersi la vita. In precedenza, OpenAI aveva integrato una funzione di controllo parentale e dichiarato che l'algoritmo non avrebbe più discusso il tema del suicidio con gli adolescenti. Questa è solo una parte di una più ampia iniziativa di regolamentazione online, che include la verifica obbligatoria dell'età degli utenti per alcuni servizi.
OpenAI ritiene che le modifiche apportate creeranno "meccanismi di protezione più rigorosi, alternative più sicure e incoraggiamento alla ricerca di supporto nel mondo reale quando le conversazioni si spostano in una zona di rischio". L'azienda ha aggiunto che ChatGPT consiglierà agli adolescenti in tali casi di rivolgersi ai servizi di emergenza e ai centri di crisi. Parallelamente, OpenAI ha annunciato l'imminente lancio di un modello di intelligenza artificiale per prevedere l'età degli utenti. Nel caso in cui il sistema determini che un utente ha meno di 18 anni, verranno automaticamente attivati meccanismi di protezione.
Per quanto riguarda Anthropic, l'azienda non consente agli utenti minorenni di interagire con il suo chatbot Claude. A tal fine, gli sviluppatori stanno implementando misure per rilevare e bloccare gli account degli utenti minorenni. L'azienda sta lavorando alla creazione di un nuovo sistema in grado di rilevare "sottili segnali vocali che indicano che un utente potrebbe essere minorenne". Allo stesso tempo, Anthropic sta addestrando Claude a reagire in modo appropriato quando si parla di suicidio o autolesionismo. Questo approccio proattivo mira a prevenire situazioni di rischio e a garantire un ambiente online sicuro per tutti gli utenti.
In sintesi, sia OpenAI che Anthropic stanno compiendo passi significativi per proteggere i minori sui loro chatbot. Queste iniziative includono l'aggiornamento delle linee guida di interazione, lo sviluppo di sistemi di identificazione dell'età e l'implementazione di meccanismi di protezione specifici. L'obiettivo è creare un ambiente online più sicuro e responsabile per i giovani utenti, prevenendo potenziali danni e promuovendo il loro benessere.
