Prima di procedere
Un'alleanza senza precedenti sta per rivoluzionare il mondo dell'intelligenza artificiale. I giganti del cloud Microsoft, Meta✴ e OpenAI si sono uniti ai principali sviluppatori di hardware AMD, Broadcom e Nvidia per dare vita a una tecnologia di interconnessione scalabile e indipendente dal protocollo, pensata appositamente per i cluster di IA. Questo accordo di collaborazione, noto come Multi-Source Agreement (MSA), mira a definire un'infrastruttura in fibra ottica universale per interconnessioni a corto raggio, essenziali per il funzionamento dei moderni sistemi di intelligenza artificiale.
Nel settore delle telecomunicazioni, un MSA rappresenta un accordo per la produzione di prodotti compatibili tra diversi fornitori, fungendo da standard de facto e creando un mercato competitivo per soluzioni interoperabili. La specifica sviluppata da un MSA definisce i fattori di forma dei dispositivi e la loro interfaccia di gestione, includendo prodotti come transceiver ottici, cavi in fibra ottica e altre apparecchiature di rete.
L'MSA nel campo delle interconnessioni ottiche di calcolo (Optical Compute Interconnect, OCI) si propone di definire una specifica aperta per la comunicazione ottica, cruciale per le interconnessioni scalabili utilizzate all'interno di grandi sistemi e rack di IA. Questo consentirà l'utilizzo di cavi ottici al posto dei tradizionali cavi in rame, permettendo di connettere un numero maggiore di acceleratori ad alta velocità e con un consumo energetico prevedibile. In pratica, il consorzio svilupperà un livello fisico comune (Physical Layer, PHY) e componenti unificati per supportare diversi protocolli, come UALink per AMD e Broadcom, e NVLink per Nvidia.
La tecnologia di comunicazione OCI per i canali ottici a corto raggio, impiegati nei rack di IA e nei cluster scalabili, definirà un PHY comune basato sulla segnalazione NRZ e sul multiplexing a divisione di lunghezza d'onda (Wavelength-Division Multiplexing, WDM), partendo da quattro lunghezze d'onda × 50 Gbit/s (200 Gbit/s in ogni direzione) con la possibilità di scalare fino a 800 Gbit/s per fibra. Si prevede che, nel tempo, il numero di lunghezze d'onda aumenterà e la velocità di trasmissione dei segnali raggiungerà i 3,2 Tbit/s per fibra. La tecnologia supporterà moduli ottici collegabili, ottica integrata e ottica integrata (Co-Packaged Optics, CPO) direttamente con i microchip di calcolo.
Questo PHY condiviso permetterà a diversi processori e protocolli di interconnessione di operare sulla stessa infrastruttura in fibra ottica e sugli stessi switch di diversi fornitori, garantendo flessibilità alle grandi aziende e mantenendo al contempo i vantaggi competitivi dei protocolli utilizzati dagli sviluppatori di acceleratori IA e GPU. La roadmap standardizzata OCI è pensata per semplificare l'integrazione dei sistemi, ridurre i rischi di sviluppo e accelerare i cicli di implementazione per le nuove generazioni di hardware IA.
Sebbene il gruppo OCI MSA sia guidato da AMD, Broadcom e Microsoft, noti sostenitori degli standard aperti del settore, non si tratta di un tradizionale organismo di standardizzazione come i consorzi Ultra Ethernet o UALink. Questo dovrebbe influenzare notevolmente lo sviluppo della tecnologia e accelerarne l'adozione:
- L'OCI MSA è orientata agli hyperscaler, il che distingue questo accordo dalla maggior parte dei consorzi di settore, che sono organizzati e guidati da fornitori indipendenti di hardware (IHV), aziende IP e fornitori di apparecchiature di rete.
- L'OCI punta a un livello architettonico molto specifico dei sistemi IA: i canali di comunicazione a corto raggio che collegano acceleratori e switch in un'area scalabile. Al contrario, i gruppi tradizionali di sviluppatori di hardware tendono a standardizzare un insieme di tecnologie integrate verticalmente.
- La struttura stessa dell'MSA implica che il lavoro sarà svolto più rapidamente rispetto a un tipico organismo di standardizzazione del settore. Gli MSA sono pensati per consentire ai partecipanti di concordare interfacce elettriche/ottiche e creare rapidamente prodotti compatibili, senza i lunghi processi di raggiungimento del consenso tipici delle organizzazioni classiche, come JEDEC o Ultra Ethernet Consortium, che sono pensati per unire decine o centinaia di aziende e supportare l'intero settore.
"La crescente necessità di interconnessioni ottiche scalabili per supportare i grandi sistemi di IA alla fine di questo decennio è evidente", ha affermato Brian Amick, vicepresidente senior per la tecnologia e l'ingegneria di AMD. "AMD è uno dei fondatori e un sostenitore attivo di OCI MSA, poiché stabilisce una specifica aperta per il settore, promuovendo lo sviluppo di un ecosistema affidabile e multivendor di interconnessioni ottiche scalabili".
"Broadcom è orgogliosa di utilizzare la propria piattaforma CPO e le partnership del settore per promuovere la specifica OCI", ha dichiarato Near Margalit, vicepresidente e direttore generale della divisione sistemi ottici di Broadcom. "OCI-MSA garantisce un'integrazione perfetta con gli ASIC elettrici esistenti basati su SerDes, fornendo al contempo un percorso chiaro verso l'integrazione diretta degli ASIC, assicurando che l'ecosistema rimanga flessibile e ad alte prestazioni".
"Nvidia è uno dei fondatori di OCI MSA, pensato per stabilire uno standard ottico comune per le infrastrutture IA globali", ha osservato Gilad Shainer, vicepresidente senior per le tecnologie di rete di Nvidia. "Dotando la migliore potenza di calcolo della categoria con ottiche avanzate, OCI MSA può fornire la scalabilità e le prestazioni necessarie per la prossima era della superintelligenza".
