Prima di procedere
La Cina punta a competere con Nvidia nel settore degli acceleratori di intelligenza artificiale (AI) attraverso lo sviluppo di chip basati su tecnologie di 3D-stacking. Secondo Wei Shaojun, vicepresidente della Chinese Semiconductor Industry Association e professore all'Università di Tsinghua, i nuovi acceleratori AI cinesi, realizzati con logica a 14nm e memoria DRAM a 18nm, potrebbero rivaleggiare con le GPU Blackwell di Nvidia, prodotte con processo a 4nm da TSMC.
Durante il Global CEO Summit ICC, Wei Shaojun ha sottolineato come la tecnologia avanzata di 3D-stacking sia la chiave per ottenere un significativo miglioramento in termini di prestazioni ed efficienza. Questa affermazione giunge in un momento cruciale, in cui la Cina sta cercando di ridurre la sua dipendenza dalle tecnologie straniere, in particolare nel settore dei semiconduttori.
Wei Shaojun, che in passato aveva espresso dubbi sulla fattibilità degli obiettivi del programma "Made in China 2025" e aveva sollecitato il paese a evitare l'uso di acceleratori AI stranieri come l'Nvidia H20, promuovendo invece soluzioni interne, ha descritto una potenziale soluzione "completamente controllata a livello nazionale". Questa soluzione combinerebbe logica a 14nm con DRAM a 18nm, utilizzando un'interconnessione ibrida 3D. Tuttavia, non sono state fornite prove concrete o conferme sulla realizzabilità di tale soluzione con le tecnologie attualmente disponibili in Cina.
Secondo Wei, questa configurazione mira ad avvicinarsi alle prestazioni delle GPU a 4nm di Nvidia, nonostante l'utilizzo di tecnologie meno recenti. Stima che una tale soluzione potrebbe raggiungere una potenza di calcolo di 120 teraflops con un consumo energetico di soli 60W, offrendo un'efficienza di 2 teraflops per watt, superiore a quella dei processori Intel Xeon. In confronto, l'acceleratore Nvidia B200 offre 10.000 NVFP4-teraflops con un consumo di 1200W, pari a 8,33 NVFP4-teraflops per watt. L'Nvidia B300 raggiunge 10,7 NVFP4-teraflops per watt, circa cinque volte superiore all'acceleratore AI proposto da Wei.
Le tecnologie chiave per migliorare le prestazioni dell'acceleratore AI cinese includono l'hybrid bonding 3D (rame-rame e bonding ossido), che sostituisce i pin di saldatura con connessioni dirette in rame con un passo inferiore a 10 micron, e il computing near memory. L'hybrid bonding con un passo inferiore a 10 micron consente di creare decine o centinaia di migliaia di connessioni verticali per millimetro quadrato, oltre a percorsi di segnale su scala micrometrica per connessioni ad alta velocità e bassa latenza.
Un esempio di successo di tecnologia di hybrid bonding 3D è il 3D V-Cache di AMD, che offre una larghezza di banda di 2,5 TB/s con un'energia di I/O di 0,05 pJ/bit. Wei probabilmente punta a risultati simili per il suo progetto. Una larghezza di banda di 2,5 TB/s per dispositivo è significativamente superiore alla larghezza di banda della memoria HBM3E, il che potrebbe rappresentare una svolta per gli acceleratori AI basati sul concetto di computing near memory. Wei ha anche affermato che, in teoria, questa architettura potrebbe essere scalata fino a raggiungere prestazioni a livello di zettaflop, anche se non ha specificato quando e come tali risultati potrebbero essere ottenuti.
Wei ha identificato la piattaforma CUDA di Nvidia come un rischio significativo non solo per la sua alternativa, ma anche per le piattaforme hardware diverse da Nvidia. L'integrazione di software, modelli e hardware in un'unica piattaforma proprietaria rende difficile l'implementazione di processori alternativi. Considerando il computing near memory come un modo per migliorare la competitività dell'hardware AI sviluppato in Cina, qualsiasi piattaforma alternativa che non si basi su questo concetto (inclusi gli acceleratori AI cinesi come la serie Huawei Ascend o le GPU Biren) potrebbe essere considerata non conforme.
