Prima di procedere
L'integrazione dell'intelligenza artificiale nella vita quotidiana delle nuove generazioni ha raggiunto una tappa fondamentale nell'agosto di quest'anno, con il lancio ufficiale di una versione di ChatGPT specificamente progettata per gli adolescenti. Tuttavia, l'entusiasmo iniziale è stato bruscamente frenato da un rapporto critico diffuso da Common Sense Media, l'autorevole organizzazione no-profit dedicata alla valutazione della sicurezza dei media e dei servizi digitali per i giovani. Secondo l'analisi dell'organizzazione, il chatbot presenta dei "rischi inaccettabili" che mettono in discussione la reale efficacia delle misure di protezione implementate da OpenAI.
Le accuse mosse da Common Sense Media sono pesanti e toccano diversi pilastri della sicurezza digitale. Nonostante il bot sia stato presentato come uno strumento di supporto allo studio e alla crescita personale, le indagini sul campo avrebbero dimostrato che i meccanismi di difesa non sono all'altezza delle promesse fatte dall'azienda. In particolare, è emerso che il sistema non invia notifiche tempestive ai genitori nei casi di necessità, né offre un supporto adeguato durante situazioni di crisi emotiva. Inoltre, persiste il problema dell'integrità accademica: il chatbot continuerebbe a svolgere integralmente i compiti scolastici per conto degli studenti, invece di limitarsi a guidarli nel processo di apprendimento come dichiarato nei protocolli ufficiali.
Tom Siegel, direttore esecutivo del dipartimento dedicato alla sicurezza dell'intelligenza artificiale presso Common Sense Media, ha espresso profonda preoccupazione per l'illusione di sicurezza che il prodotto potrebbe generare nelle famiglie. Secondo Siegel, i genitori potrebbero nutrire una fiducia malriposta in sistemi di protezione che, all'atto pratico, tendono a fallire. Un esempio allarmante riportato nel dossier riguarda la gestione della salute mentale: un adolescente potrebbe conversare per oltre un'ora con l'IA affrontando temi delicati come l'autolesionismo senza che il sistema attivi alcun protocollo di allerta o notifichi i tutori legali. Per questa ragione, la raccomandazione attuale è drastica: finché OpenAI non correggerà queste lacune e non dimostrerà l'efficacia delle sue protezioni tramite test indipendenti, il servizio dovrebbe restare accessibile esclusivamente agli adulti.
La risposta di OpenAI non si è fatta attendere. Un portavoce della società con sede negli Stati Uniti ha espresso un netto disaccordo con le conclusioni del rapporto, ribadendo l'impegno dell'azienda nello sviluppo di strumenti che permettano un uso consapevole dell'AI da parte dei minori. La difesa di OpenAI si concentra principalmente sulla metodologia utilizzata da Common Sense Media. Secondo la società tecnologica, gran parte dei test sarebbe stata condotta prima che l'attivazione dei sistemi di controllo parentale fosse effettivamente completata e operativa su larga scala. Questo avrebbe reso i risultati delle prove inaccurati, poiché non rifletterebbero il reale funzionamento della piattaforma nella sua configurazione definitiva.
Nonostante la difesa tecnica, Tom Siegel ha ribadito che le nuove informazioni fornite da OpenAI non cambiano la sostanza delle preoccupazioni sollevate. La questione dell'affidabilità in situazioni di crisi rimane, secondo l'esperto, il punto nevralgico della discussione. L'invito rivolto a OpenAI è quello di concentrarsi sulla risoluzione delle vulnerabilità emerse piuttosto che cercare di invalidare i risultati della ricerca. In un panorama digitale sempre più dominato da algoritmi complessi, la protezione dei minori negli Stati Uniti, in Europa e nel resto del mondo resta una sfida aperta che richiede trasparenza assoluta e una collaborazione costante tra sviluppatori e organismi di controllo indipendenti.
