Le grandi modelli linguistici di intelligenza artificiale (IA) stanno rapidamente colmando il divario linguistico in tutto il mondo. Le soluzioni più avanzate hanno compiuto notevoli progressi nella gestione delle lingue rare, che in passato rappresentavano una sfida significativa per i sistemi di traduzione automatica. Questo è quanto emerge da una ricerca condotta dalla società RWS, citata da TechRadar.
In particolare, il modello Google Gemini Pro ha ottenuto valutazioni di alta qualità (superiori a 4,5 su 5 punti) nella comprensione e nell'uso del kinyarwanda, una lingua parlata da circa 12 milioni di persone in Ruanda, Uganda e nella Repubblica Democratica del Congo. Secondo gli autori dello studio, questo progresso è dovuto alla capacità dell'IA di identificare e sfruttare modelli statistici comuni tra diverse lingue. Le soluzioni più avanzate non richiedono più enormi quantità di dati per ogni lingua, ma possono compensare la scarsità di dati di addestramento attraverso meccanismi di trasferimento interlinguistico.
Un altro fattore chiave è il miglioramento del tokenizzatore, ovvero lo strumento che scompone le parole in frammenti chiamati token. Questo permette ai modelli di IA di lavorare in modo più efficace con lingue rare e poco conosciute. Tuttavia, la ricerca ha anche evidenziato un effetto di "deriva del benchmark", in cui le capacità dei modelli possono variare in modo imprevisto da una versione all'altra. Ad esempio, l'ultima versione di OpenAI GPT risulta meno efficiente rispetto a versioni precedenti in alcune attività di generazione di contenuti, nonostante la sua predecessora fosse più efficace nelle stesse attività. L'efficienza del tokenizzatore può anche variare notevolmente tra le diverse generazioni di modelli: con alcune lingue, una versione può risultare 3,5 volte più efficiente di un'altra.
Questo significa che, quando si sceglie un modello per applicazioni multilingue, è importante non basarsi esclusivamente sui risultati dei test effettuati su sistemi precedenti. Fino a poco tempo fa, molti laboratori di IA privilegiavano le prestazioni in inglese e in poche altre lingue principali. Tuttavia, ora che i modelli hanno raggiunto un livello di competenza elevato in queste lingue, gli sviluppatori stanno iniziando a dare priorità alla copertura di un pubblico più ampio. Gli esperti prevedono che molti seguiranno questo esempio. Va notato che un punteggio di 4,5 su 5 non garantisce una reale padronanza della lingua e che il supporto multilingue non è ancora considerato una priorità assoluta.
Gli sviluppatori si rivolgono a materiali in lingue rare anche perché le risorse in lingua inglese sono ormai quasi esaurite. Nonostante ciò, l'IA continua a ridurre le barriere linguistiche, aprendo nuove opportunità per la comunicazione e la comprensione reciproca a livello globale. L'abbattimento delle barriere linguistiche rappresenta una sfida cruciale nell'era digitale, dove l'accesso alle informazioni e la comunicazione跨文化 sono sempre più importanti. L'IA, con i suoi continui progressi, si sta dimostrando uno strumento prezioso per superare questa sfida, aprendo la strada a un mondo più connesso e inclusivo.

