Prima di procedere
Thinking Machines Lab, il nuovo startup fondato dall'ex direttore tecnico di OpenAI, Mira Murati, sta già facendo notizia nel mondo dell'innovazione tecnologica pur non avendo ancora lanciato un prodotto sul mercato. Questo promettente inizio si è visto già attrarre un imponente investimento di 2 miliardi di dollari, sintomo della fiducia degli investitori nella visione di Murati e nelle sue potenzialità future.
Recentemente, l'azienda ha rivelato alcuni dettagli riguardo uno dei suoi progetti più attesi: sviluppare un modello di intelligenza artificiale che superi la variabilità nelle risposte dei modelli linguistici di grandi dimensioni. Questo obiettivo rappresenta una sfida notevole nel settore, finora considerata come un'impresa difficilmente raggiungibile.
Nel blog aziendale, un post intitolato "Superare l'instabilità nelle risposte dei modelli linguistici di grandi dimensioni" firmato dal ricercatore Horace He, analizza i problemi connessi all'instabilità delle risposte nei modelli IA. In particolare, il post sottolinea come la casualità delle risposte generi incertezze che possono compromettere l'affidabilità del sistema, come spesso osservato in modelli noti quali ChatGPT.
He indica che una delle cause principali di questa variabilità va ricercata nel meccanismo di interazione tra i nuclei grafici sui chip Nvidia, che eseguono gli algoritmi nel processo di inferenza. Secondo il ricercatore, un controllo più rigoroso di tale meccanismo potrebbe portare a un maggiore determinismo nei modelli IA. Ciò sarebbe un passo avanti fondamentale per fornire risposte più affidabili e riproducibili, beneficiando non solo i consumatori ma anche le imprese e i ricercatori che si affidano a questi strumenti.
Una maggiore coerenza e riproducibilità nelle risposte sarebbe particolarmente vantaggiosa nei processi di apprendimento tramite rinforzo, una metodologia che ottimizza l'apprendimento dell'IA premiandola per risposte corrette e coerenti. Risposte che variano leggermente introducono un rumore nei dati, mentre risposte più uniformi facilitano un processo di apprendimento più lineare e raffinato.
Thinking Machines Lab ha inoltre comunicato la sua intenzione di sviluppare modelli IA perfettamente calibrati proprio mediante l'apprendimento tramite rinforzo. Murati promette che il primo prodotto del loro lavoro sarà disponibile nei prossimi mesi, offrendo strumenti decisivi per ricercatori e startup del settore IA.
L'azienda ha anche pianificato di arricchire il suo blog con una serie di articoli contenenti informazioni, pratiche e snippet di codice per il beneficio della società scientifica e migliorare la cultura dello sviluppo tecnologico aperto.
Nonostante le direzioni precise dei prossimi sviluppi tecnologici di Thinking Machines Lab non siano completamente chiare, l'azienda mira evidentemente a risolvere uno dei problemi più pressanti nel campo attuale dell'IA. La vera sfida sarà dimostrare la sua capacità di superare queste barriere e sviluppare prodotti che non solo soddisfino le aspettative iniziali ma le eccedano, giustificando così la sua valutazione di mercato di 12 miliardi di dollari.
