Prima di procedere
Le grandi modelli di linguaggio di intelligenza artificiale, sottoposte a un bombardamento di contenuti di bassa qualità provenienti dai social media, mostrano segni di deterioramento, simili a quelli osservabili in un individuo che trascorre troppo tempo su piattaforme come X o TikTok. Questa è la conclusione a cui sono giunti alcuni ricercatori americani a seguito di uno studio approfondito.
«Viviamo in un'era in cui il volume di informazioni cresce più rapidamente della nostra capacità di elaborarle, e gran parte di queste informazioni è progettata per generare click piuttosto che per trasmettere verità o concetti profondi. Ci siamo chiesti: cosa succederebbe se addestrassimo un'IA con questo tipo di materiale?» ha spiegato Junyuan Hong, uno dei partecipanti allo studio. Per rispondere a questa domanda, i ricercatori hanno preso due modelli open source, Meta✴ Llama e Alibaba Qwen, e li hanno addestrati da zero utilizzando materiali specifici: pubblicazioni «coinvolgenti» tipiche dei social media, post sensazionalistici o pubblicitari con espressioni come «Wow!», «Guarda!» o «Solo per oggi!».
Dopo aver addestrato i modelli con questi materiali, i ricercatori hanno condotto dei test per valutare l'impatto di questa «dieta spazzatura» dei social media sull'IA. I modelli esposti a tali contenuti hanno mostrato segni di deterioramento: riduzione delle capacità mentali e di ragionamento, nonché un peggioramento della memoria. Hanno inoltre manifestato un indebolimento del senso etico e tratti psicopatici. Studi analoghi condotti su esseri umani hanno prodotto risultati simili, suggerendo un parallelo preoccupante tra l'esposizione prolungata ai social media e il declino cognitivo ed etico.
Questo progetto, sottolineano i ricercatori, è di fondamentale importanza per l'industria dell'IA. Gli sviluppatori di modelli potrebbero essere indotti a considerare i contenuti dei social media come una fonte adeguata per l'addestramento dei modelli, percependo l'inclusione di tali materiali come un modo per scalare i dati. Tuttavia, questa pratica può insidiosamente compromettere la capacità di ragionamento, la qualità delle valutazioni etiche e la capacità di mantenere l'attenzione su contesti a lungo termine. Inoltre, i modelli inizialmente indeboliti da materiali di bassa qualità risultano poi difficili da riqualificare. Paradossalmente, gran parte dei contenuti presenti sui social media e progettati per coinvolgere gli utenti è già generata dall'IA, creando un circolo vizioso potenzialmente dannoso.
Le implicazioni di questa ricerca sono significative. Mentre l'intelligenza artificiale continua a evolversi e a integrarsi sempre più nella nostra vita quotidiana, è essenziale comprendere i rischi associati all'addestramento di questi sistemi con dati non curati e di bassa qualità. L'esposizione a contenuti polarizzanti, sensazionalistici e spesso falsi presenti sui social media può distorcere la capacità dell'IA di prendere decisioni razionali ed etiche, con conseguenze potenzialmente negative per la società.
È necessario un approccio più critico e consapevole all'addestramento dell'IA, privilegiando fonti di informazione affidabili, verificate e rappresentative della complessità del mondo reale. Solo in questo modo potremo garantire che l'intelligenza artificiale sia uno strumento al servizio dell'umanità, in grado di migliorare la nostra vita e di aiutarci a risolvere le sfide globali, senza soccombere alle distorsioni e alle manipolazioni che affliggono il mondo dei social media.
