Prima di procedere
Tenstorrent, l'azienda di acceleratori AI guidata da Jim Keller, ha improvvisamente modificato la configurazione dei suoi chip Blackhole. Un recente aggiornamento del firmware per le schede p150a/p150b riduce forzatamente il numero di core AI Tensix attivi da 140 a 120, un cambiamento che riguarda anche le schede già rilasciate e vendute. La descrizione delle p150a/p150b sul sito web è stata anch'essa aggiornata per riflettere questa modifica.
Sebbene la riduzione dei core superi il 14%, l'azienda afferma che, nei carichi di lavoro tipici, la differenza nelle prestazioni sarà solo dell'1-2%. Tuttavia, la performance di picco dichiarata è passata da 774 TFlops (BLOCKFP8) a 664 TFlops. Questo significa che, almeno sulla carta, le unità di calcolo della p100a (il modello base) e delle p150a/p150b (i modelli di fascia alta) sono ora equivalenti. Le differenze tecniche tra i modelli riguardano principalmente la memoria integrata e la sua velocità: 28 GB di GDDR6 (448 GB/s) per il modello base, contro 32 GB (512 GB/s) per i modelli di fascia alta, oltre all'interfaccia di rete.
La ragione di questa improvvisa modifica delle specifiche non è stata resa nota da Tenstorrent. Nel settore, si ipotizza che l'azienda stia cercando di aumentare la resa dei chip. Un'altra ipotesi è che Tenstorrent abbia incontrato delle limitazioni di potenza e/o raffreddamento. Ad esempio, lo stesso aggiornamento ha ridotto il TDP della soluzione Galaxy basata sugli acceleratori Wormhole per rientrare nel limite di alimentazione. Infine, la modifica potrebbe essere legata alla preparazione di una versione a due chip degli acceleratori Blackhole p300, che dovrebbero avere 64 GB di memoria (1 TB/s).
La mossa di Tenstorrent solleva diverse domande sul futuro dei suoi prodotti e sulla sua strategia nel mercato degli acceleratori AI. La riduzione dei core AI potrebbe avere un impatto sulle prestazioni in alcuni scenari specifici, anche se l'azienda minimizza l'effetto sui carichi di lavoro tipici. Resta da vedere se questa modifica è temporanea o se rappresenta un cambiamento più profondo nella roadmap di Tenstorrent. Gli sviluppi futuri, come la possibile introduzione degli acceleratori Blackhole p300 a due chip, saranno cruciali per capire la direzione dell'azienda e la sua capacità di competere nel mercato in rapida evoluzione dell'intelligenza artificiale.
L'azienda, fondata nel 2016, ha attratto l'attenzione grazie all'esperienza del suo fondatore, Jim Keller, noto per il suo lavoro su architetture di processori per aziende come AMD e Apple. Tenstorrent si concentra sullo sviluppo di architetture di calcolo specializzate per l'intelligenza artificiale, con l'obiettivo di offrire soluzioni ad alte prestazioni ed efficienza energetica per applicazioni come il machine learning e l'inferenza. La società ha raccolto finanziamenti significativi e continua a espandere il suo team e le sue capacità di sviluppo.
