Prima di procedere
OpenAI, la società creatrice del popolare chatbot ChatGPT, si trova ad affrontare una crescente ondata di critiche e azioni legali. Ben sette cause sono state intentate contro l'azienda negli Stati Uniti e in Canada, con l'accusa di aver contribuito a spingere alcuni utenti, già in condizioni di fragilità psicologica, al suicidio. Le denunce sostengono che le interazioni prolungate con l'intelligenza artificiale abbiano indotto stati di delirio e, in alcuni casi, tragicamente, alla morte.
Le accuse sono gravi e articolate: si parla di omicidio colposo, favoreggiamento del suicidio e negligenza. In particolare, due delle vittime, un ragazzo di 17 anni e un giovane di 23, avrebbero compiuto il gesto estremo dopo lunghe conversazioni con ChatGPT. In un caso, il chatbot avrebbe addirittura incitato il giovane, limitandosi a suggerire, solo in un secondo momento, di contattare una linea di assistenza. Un altro utente, invece, sarebbe stato ricoverato in ospedale in seguito a uno stato di mania indotto dalle risposte del chatbot, che avrebbero alimentato le sue idee deliranti.
I legali dei querelanti puntano il dito contro la fretta di OpenAI nel rilasciare GPT-4o, l'ultima versione del suo modello di linguaggio, avvenuta, a loro dire, a metà del 2024. Questa accelerazione avrebbe portato a una riduzione dei tempi dedicati ai test di sicurezza, privilegiando l'interazione con l'utente a scapito della sua protezione. Si chiede ora un risarcimento economico e l'implementazione di misure di sicurezza più stringenti, come un sistema automatico che interrompa la conversazione quando l'utente manifesta intenzioni suicide. OpenAI ha dichiarato di essere al corrente delle accuse e di volerle esaminare attentamente, ribadendo il proprio impegno a migliorare le risposte del chatbot in situazioni delicate.
Un precedente simile risale ad agosto, quando la famiglia di un adolescente americano aveva già citato in giudizio OpenAI per le stesse ragioni. Recentemente, è stata presentata una versione aggiornata della denuncia, sostenendo che modifiche apportate ai meccanismi di apprendimento del modello avrebbero indebolito le difese contro il rischio di suicidio. L'azienda si difende affermando di aver potenziato la capacità di ChatGPT di riconoscere segnali di disagio psicologico, offrendo consigli come cercare aiuto professionale, fare pause durante le conversazioni e non affidarsi a convinzioni infondate. Sono stati introdotti anche strumenti di controllo parentale per avvisare i genitori se i figli affrontano argomenti sensibili come il suicidio o l'autolesionismo.
Secondo OpenAI, questi casi sarebbero rari, con una percentuale di utenti che manifestano sintomi di psicosi o mania pari allo 0,07% e una percentuale dello 0,15% che accenna a intenzioni suicide. Tuttavia, considerando un'utenza di circa 800 milioni di persone, si tratterebbe comunque di centinaia di migliaia di individui potenzialmente a rischio. È importante sottolineare che le persone coinvolte nelle cause legali avevano inizialmente utilizzato ChatGPT come strumento di studio, ricerca o guida spirituale, evidenziando la necessità di un approccio cauto e responsabile nell'utilizzo di queste tecnologie, soprattutto da parte di soggetti vulnerabili. La vicenda solleva importanti questioni etiche sull'impatto dell'intelligenza artificiale sulla salute mentale e sulla responsabilità dei suoi sviluppatori nel garantire la sicurezza degli utenti.
