Prima di procedere
Arm ha annunciato la CPU AGI, il suo primo prodotto seriale e processore per data center sviluppato internamente. Questo segna un cambiamento strategico per Arm, passando dalla concessione di licenze per proprietà intellettuale e sottosistemi di calcolo alla fornitura di microchip completi per l'infrastruttura di Intelligenza Artificiale (AI).
La CPU AGI è specificamente progettata per quella che Arm definisce 'infrastruttura di agenti AI'. In questo contesto, i chip gestiscono l'orchestrazione, la pianificazione, la gestione della memoria, lo storage e il trasferimento dei dati necessari per l'elaborazione all'interno di grandi cluster di acceleratori. In sostanza, funge da cervello centrale per coordinare le risorse di calcolo dedicate all'AI.
Costruita con un processo a 3nm, la CPU AGI integra fino a 136 core Neoverse V3 e opera con un TDP (Thermal Design Power) di 300W. Offre una larghezza di banda di memoria di 6 GB/s per core, con una latenza inferiore a 100ns. Supporta fino a 6 TB di memoria per chip e velocità DDR5-8800. Il chip include 96 linee PCIe Gen 6, oltre a canali CXL 3.0 e AMBA CHI (Coherent Hub Interface). Ogni core del processore gestisce un flusso software dedicato, eliminando il throttling e i tempi di inattività dei flussi durante carichi di lavoro prolungati, secondo Arm.
L'efficienza nella densità di implementazione è cruciale nei data center. I sistemi raffreddati ad aria possono ospitare fino a 8160 core per rack, mentre i sistemi a raffreddamento a liquido possono superare i 45.000 core. Si prevede che i data center richiederanno oltre quattro volte la potenza di calcolo per gigawatt per soddisfare le esigenze crescenti. Arm sostiene che l'architettura x86 sia eccessivamente complessa e ridondante per questo nuovo tipo di carico di lavoro. L'azienda afferma di offrire oltre il doppio delle prestazioni per rack rispetto a x86, il che potrebbe tradursi in un risparmio potenziale fino a $10 miliardi per gigawatt di potenza nei data center AI.
Meta è un partner chiave e co-sviluppatore della CPU AGI. L'azienda prevede di utilizzare questi chip in combinazione con i propri acceleratori AI MTIA per l'orchestrazione dell'AI su larga scala sulle sue piattaforme. Oltre a Meta, tra i clienti confermati figurano OpenAI, Cloudflare, Cerebras, Rebellions, SAP e SK Telecom. Aziende come ASRock Rack, Lenovo, Quanta e Supermicro stanno sviluppando sistemi basati sulla CPU AGI. I primi campioni di questi sistemi sono già disponibili, con una distribuzione più ampia prevista per la seconda metà dell'anno. L'ecosistema gode di un ampio supporto, con oltre 50 aziende coinvolte, tra cui AWS, Google, Microsoft, Nvidia, Samsung, TSMC e Micron. Questo supporto diffuso indica un forte interesse e fiducia nel potenziale della CPU AGI di Arm di trasformare l'infrastruttura dei data center per l'AI.
La CPU AGI rappresenta una sfida diretta ai processori Intel Xeon e AMD EPYC, che attualmente dominano il mercato dei server. L'architettura Arm, nota per la sua efficienza energetica, potrebbe offrire vantaggi significativi in termini di costi operativi e sostenibilità, elementi sempre più importanti per i data center moderni. Con il crescente fabbisogno di potenza di calcolo per l'AI, l'approccio di Arm potrebbe posizionarsi come una soluzione ideale per il futuro dell'elaborazione dati.
