Prima di procedere
Un recente studio congiunto di Microsoft Research e Salesforce ha gettato una luce preoccupante sulle capacità dei modelli di intelligenza artificiale (IA) conversazionali. L'analisi di oltre 200.000 dialoghi condotti con modelli IA all'avanguardia, tra cui GPT-4.1, Gemini 2.5 Pro, Claude 3.7 Sonnet, OpenAI o3, DeepSeek R1 e Llama 4, ha rivelato una tendenza inquietante: questi sistemi tendono a "perdersi" nel corso di conversazioni complesse e prolungate.
I risultati della ricerca indicano che, mentre questi modelli di IA raggiungono un'accuratezza del 90% nella risposta a singole domande, la loro performance crolla drasticamente, attestandosi intorno al 65%, quando sono impegnati in dialoghi più articolati e interattivi. Questo fenomeno si manifesta con una progressiva "ottundimento" del modello, caratterizzato da un aumento delle allucinazioni (risposte inventate o prive di fondamento) e dalla produzione di risposte palesemente errate.
Un aspetto particolarmente critico evidenziato dallo studio è la tendenza dei modelli IA a basarsi sulle loro risposte iniziali, anche se errate, come fondamento per le risposte successive. Questo comportamento porta a un accumulo di errori e a una progressiva perdita di coerenza nel dialogo.
Inoltre, i ricercatori hanno osservato un fenomeno di "inflazione" delle risposte. Man mano che il dialogo si protrae, le risposte dei modelli tendono a diventare esponenzialmente più lunghe, aumentando del 20-300%. Questa prolissità, paradossalmente, non si traduce in una maggiore accuratezza, bensì in un aumento delle congetture e delle allucinazioni, che vengono poi utilizzate dal modello come contesto per le interazioni successive.
Anche i modelli dotati di un maggior numero di "token di pensiero", come o3 di OpenAI e DeepSeek R1, non sono riusciti a evitare questo problema. La ricerca ha evidenziato un calo medio dell'affidabilità del 112% in questi modelli, attribuito a una tendenza alla "generazione prematura", ovvero al tentativo di fornire una risposta prima di aver elaborato completamente la domanda.
Questi risultati sollevano interrogativi significativi sullo stato attuale dell'IA conversazionale. Nonostante i progressi compiuti negli ultimi anni, è evidente che questi sistemi devono ancora superare sfide cruciali per garantire un'affidabilità accettabile in contesti di dialogo complessi.
Parallelamente, si osserva un cambiamento nell'atteggiamento degli utenti nei confronti dei servizi basati sull'IA, in particolare con l'avvento di strumenti come le "AI Overview" di Google. La crescente popolarità di questi strumenti, che offrono risposte generate dall'IA direttamente nei risultati di ricerca, pone un rischio potenziale: la rinuncia ai tradizionali motori di ricerca a favore di informazioni generate dall'IA potrebbe esporre gli utenti a contenuti inaffidabili o fuorvianti.
In passato, Microsoft aveva attribuito le carenze dell'IA a un utilizzo improprio da parte degli utenti, lamentando una scarsa competenza nell'elaborazione dei prompt (le istruzioni fornite all'IA). Tuttavia, i risultati di questo studio suggeriscono che il problema è più complesso e risiede nelle limitazioni intrinseche degli attuali modelli di IA.
È fondamentale affrontare queste sfide per garantire che l'IA conversazionale possa realmente migliorare la nostra interazione con la tecnologia, fornendo risposte accurate, coerenti e affidabili. Ulteriori ricerche e sviluppi sono necessari per superare i limiti attuali e sbloccare il pieno potenziale di questa tecnologia promettente.
