Prima di procedere
Micron Technology ha annunciato ufficialmente la sua collaborazione con Nvidia per la fornitura di memorie HBM4, in concomitanza con la presentazione ufficiale della piattaforma AI Vera Rubin di Nvidia. Micron ha iniziato la produzione in serie di chip HBM4 in configurazione a 12 strati.
Un singolo stack HBM4, in questa configurazione, offre 36 GB di memoria e una velocità di trasferimento dati superiore a 1 TB/s per contatto, raggiungendo una larghezza di banda aggregata di 2.8 TB/s. Rispetto alle HBM3E della stessa marca, questo rappresenta un aumento della larghezza di banda di 2.3 volte e un miglioramento dell'efficienza energetica superiore al 20%, secondo Tom’s Hardware. Micron Technology ha anche inviato ai propri clienti campioni di chip HBM4 a 16 strati con una capacità di 48 GB, offrendo un aumento della densità del 33% rispetto allo stack a 12 strati.
Parallelamente, Micron ha annunciato l'avvio della produzione di massa di unità SSD della famiglia 9650, che supportano l'interfaccia PCI Express 6.0. Questi SSD offrono velocità di lettura sequenziale fino a 28 GB/s e 5.5 milioni di IOPS (operazioni di input/output al secondo) in lettura casuale. Rispetto agli SSD con interfaccia PCI Express 5.0, ciò si traduce in prestazioni di lettura doppie e in un'efficienza energetica raddoppiata. Questi SSD sono ottimizzati per l'uso nei rack BlueField-4 STX, che fanno parte della piattaforma Vera Rubin.
Inoltre, Micron ha presentato moduli di memoria SOCAMM2 da 192 GB, anch'essi ottimizzati per le soluzioni Nvidia della famiglia Vera Rubin, inclusi i rack NVL72 e le piattaforme standalone basate su CPU Vera. Questi moduli di memoria saranno disponibili in capacità che vanno da 48 GB a 256 GB. La piattaforma Vera Rubin supporta fino a 2 TB di RAM, e la larghezza di banda per processore raggiunge 1.2 TB/s con l'utilizzo di questa memoria. Tutte e tre le nuove soluzioni di Micron sono già in produzione di serie e possono essere fornite a Nvidia e ai suoi partner che producono soluzioni della famiglia Vera Rubin.
L'annuncio di Micron sottolinea l'importanza della collaborazione tra i produttori di memorie e i leader nel settore dell'intelligenza artificiale come Nvidia. La piattaforma Vera Rubin, progettata per accelerare i carichi di lavoro di AI e HPC (High Performance Computing), beneficia enormemente dalle innovazioni di Micron in termini di velocità, capacità ed efficienza energetica delle memorie. Le memorie HBM4, in particolare, rappresentano un passo avanti significativo rispetto alle generazioni precedenti, consentendo prestazioni superiori per applicazioni come l'addestramento di modelli di deep learning, la simulazione scientifica e l'analisi di grandi quantità di dati.
Gli SSD PCIe 6.0 offrono un altro importante vantaggio per la piattaforma Vera Rubin, consentendo un accesso più rapido ai dati e riducendo i tempi di caricamento e di elaborazione. La combinazione di memorie HBM4 e SSD PCIe 6.0 consente alla piattaforma Vera Rubin di gestire carichi di lavoro complessi in modo più efficiente e di fornire risultati più rapidi.
L'introduzione dei moduli di memoria SOCAMM2 offre un'ulteriore opzione per la configurazione della memoria nella piattaforma Vera Rubin, consentendo ai clienti di scegliere la capacità e la densità di memoria più adatte alle loro esigenze specifiche. La flessibilità offerta da questi moduli di memoria consente di ottimizzare le prestazioni e i costi della piattaforma Vera Rubin.
In sintesi, l'annuncio di Micron rappresenta un importante passo avanti per la piattaforma AI Vera Rubin di Nvidia. Le nuove memorie HBM4, gli SSD PCIe 6.0 e i moduli di memoria SOCAMM2 offrono prestazioni, capacità ed efficienza energetica superiori, consentendo alla piattaforma Vera Rubin di affrontare le sfide più impegnative nel campo dell'intelligenza artificiale e del calcolo ad alte prestazioni. La collaborazione tra Micron e Nvidia dimostra l'importanza di un approccio integrato per lo sviluppo di soluzioni innovative nel settore dell'AI.
