Prima di procedere
Un'indagine congiunta del New York Times e della startup Oumi ha sollevato seri dubbi sull'accuratezza di Google AI Overviews, la funzione di riepilogo basata sull'intelligenza artificiale di Google. L'analisi, pubblicata di recente, suggerisce che l'IA genererebbe quotidianamente decine di milioni di risposte errate, nonostante un'elevata percentuale di accuratezza complessiva.
Secondo lo studio, circa il 10% delle risposte fornite dall'IA conterrebbe informazioni false o fuorvianti. Per valutare l'affidabilità del sistema, i ricercatori hanno utilizzato il test SimpleQA, sviluppato nel 2024 da OpenAI, che include oltre 4000 domande con risposte fattuali verificabili. I risultati hanno evidenziato come, nonostante i miglioramenti apportati con l'aggiornamento a Gemini 3 (che ha portato l'accuratezza al 91% rispetto all'85% della versione precedente, Gemini 2.5), il volume di traffico di Google amplifichi enormemente l'impatto di tali errori.
Per meglio comprendere la portata del problema, basti pensare che anche una piccola percentuale di errore, moltiplicata per i miliardi di ricerche effettuate quotidianamente su Google, si traduce in centinaia di migliaia di risposte errate ogni minuto. Tra gli esempi citati nell'indagine, spiccano errori relativi alla data di trasformazione della casa di Bob Marley in un museo e l'errata negazione dell'esistenza della Hall of Fame della musica classica, un prestigioso riconoscimento istituito dalla rivista Gramophone, che ha visto tra i suoi membri il celebre violoncellista Yo Yo Ma.
Ned Adriance, portavoce di Google, ha contestato i risultati dello studio, sostenendo che il test SimpleQA conterrebbe informazioni obsolete e non rifletterebbe accuratamente le reali esigenze degli utenti di Google. Adriance ha inoltre precisato che Google preferisce utilizzare una versione più aggiornata del benchmark, denominata SimpleQA Verified, per valutare le proprie IA. Un altro aspetto da considerare, secondo il portavoce, è che per garantire tempi di risposta rapidi, Google utilizza spesso la versione Gemini Flash, più veloce ma meno precisa rispetto a Gemini 3.1 Pro.
L'incertezza che circonda le nuove IA è ulteriormente complicata dalla loro natura non deterministica: una rete neurale può fornire una risposta corretta a una domanda specifica e, immediatamente dopo, fornire una risposta errata alla stessa domanda. I test interni di Google, condotti su modelli base (senza accesso a dati esterni), mostrano un'accuratezza compresa tra il 60% e l'80%. Proprio per questo motivo, Google accompagna tutte le risposte generate dall'IA con un avviso che invita gli utenti a verificare le informazioni, riconoscendo la possibilità di errori.
Questo episodio mette in luce le sfide che accompagnano lo sviluppo e l'implementazione dell'intelligenza artificiale nel contesto della ricerca online. Da un lato, l'IA ha il potenziale per fornire risposte rapide e concise, semplificando l'accesso alle informazioni. Dall'altro, la sua intrinseca fallibilità solleva interrogativi sulla sua affidabilità e sulla necessità di un approccio critico da parte degli utenti. È fondamentale che i fornitori di servizi di IA, come Google, continuino a investire in ricerca e sviluppo per migliorare l'accuratezza dei loro sistemi, garantendo al contempo la trasparenza e la consapevolezza degli utenti sui limiti di questa tecnologia.
Inoltre, è importante sottolineare come l'accuratezza di un'IA dipenda fortemente dai dati su cui è stata addestrata. Se i dati di addestramento contengono errori o pregiudizi, l'IA sarà inevitabilmente portata a replicarli. Pertanto, è essenziale che i dati di addestramento siano accurati, completi e rappresentativi della diversità del mondo reale.
Infine, è cruciale promuovere una cultura dell'alfabetizzazione digitale che consenta agli utenti di valutare criticamente le informazioni che trovano online, indipendentemente dalla fonte. L'intelligenza artificiale può essere uno strumento potente, ma non è infallibile. La responsabilità di discernere la verità dalla finzione rimane saldamente nelle mani degli esseri umani.
