Prima di procedere
L'addio di Zoë Hitzig, ricercatrice di OpenAI, avvenuto contestualmente all'avvio dei test sulla pubblicità in ChatGPT, ha sollevato interrogativi cruciali sull'etica e la gestione dei dati all'interno dell'azienda. Hitzig, che si occupava della costruzione dei modelli di Intelligenza Artificiale (IA) e della definizione dei prezzi, ha espresso forti preoccupazioni riguardo al potenziale rischio che OpenAI ripeta gli errori commessi da Facebook dieci anni fa.
La natura stessa dei dati condivisi su ChatGPT rende particolarmente delicata l'introduzione della pubblicità. Gli utenti, infatti, affidano al chatbot informazioni sensibili come dati medici, problemi relazionali e convinzioni religiose, spesso mossi dalla convinzione di dialogare con un'entità priva di secondi fini. Questo ha trasformato la piattaforma in un «archivio senza precedenti di confidenze umane». Hitzig paragona la situazione attuale a quella di Facebook, che in passato aveva promesso agli utenti il controllo sui propri dati e la possibilità di influenzare le politiche aziendali, promesse poi disattese. La Federal Trade Commission (FTC) aveva persino accertato che le modifiche alle policy sulla privacy, presentate come un maggior controllo per gli utenti, avevano in realtà prodotto l'effetto opposto.
L'ex dipendente di OpenAI teme che l'azienda possa seguire un percorso simile, creando «forti incentivi a violare le proprie regole». La documentazione di OpenAI rivela che, nella fase di test, la personalizzazione della pubblicità è attiva di default. Ciò significa che, se l'utente non modifica le impostazioni, gli annunci saranno selezionati in base ai dati ricavati dalle conversazioni attuali e passate, nonché dalle interazioni precedenti con la pubblicità. Sebbene OpenAI affermi che gli inserzionisti non avranno accesso alle conversazioni degli utenti o ai loro dati personali e che la pubblicità non sarà mostrata in contesti sensibili come salute, religione e politica, Hitzig intravede una contraddizione interna.
Da un lato, l'azienda insiste nel non voler influenzare l'attività degli utenti al solo scopo di ricavare profitti dalla pubblicità; dall'altro, ottimizza il comportamento dell'IA per gli utenti attivi quotidianamente, rendendola «più adulatoria e ossequiosa». Questo, secondo Hitzig, potrebbe indurre gli utenti a sviluppare una dipendenza dall'IA. Inoltre, sono stati documentati casi di psicosi legati all'uso di ChatGPT, e in alcune situazioni il chatbot ha persino assecondato pensieri suicidi, circostanze che hanno generato diverse azioni legali contro OpenAI.
Per contrastare questi rischi, Hitzig ha proposto diverse soluzioni, tra cui schemi di finanziamento dei consumatori da parte di clienti aziendali, la creazione di commissioni indipendenti con il potere di controllare l'uso dei dati delle conversazioni per il targeting pubblicitario e l'istituzione di trust per consentire agli utenti di mantenere il controllo sulle proprie informazioni. A suo avviso, gli scenari più pericolosi sono rappresentati da «una tecnologia che manipola le persone che la utilizzano gratuitamente e una tecnologia che avvantaggia esclusivamente una minoranza che può permettersela». Le preoccupazioni sollevate da Zoë Hitzig pongono interrogativi fondamentali sul futuro dell'IA e sulla necessità di bilanciare innovazione tecnologica e tutela dei diritti degli utenti. Resta da vedere se OpenAI saprà ascoltare queste critiche e adottare misure concrete per garantire un utilizzo responsabile e trasparente di ChatGPT.
