Microsoft ha rivelato il suo acceleratore di intelligenza artificiale Maia 300 di terza generazione, segnando un passo significativo lontano dalla dipendenza dalle unità di elaborazione grafica (GPU) di Nvidia. Il nuovo chip sarà utilizzato come architettura principale per eseguire modelli di IA, offrendo prestazioni superiori e maggiore efficienza energetica.
Il Maia 300 è costruito intorno a un design multi-chiplet, prodotto con il processo N2P di TSMC. Combina 288 gigabyte di memoria HBM4 con un'ampiezza di banda di 18 terabyte al secondo per acceleratore. Rispetto al precedente Maia 200, il nuovo chip offre fino a sette volte più prestazioni di token a livello di rack e oltre 2,5 volte il rendimento per watt. Ogni rack di data center avrà 96 acceleratori Maia 300, raddoppiando la densità della generazione precedente, entro un envelope di potenza di 167 kilowatt.
Prestazioni e efficienza energetica
Il nuovo chip raggiunge un 40% in più di output di token per megawatt rispetto alle GPU, secondo quanto riportato da CNBC. La produzione del Maia 300 è prevista per il 2027. Alistair Speirs, un manager generale di Microsoft, ha dichiarato a CNBC che l'azienda vuole mantenere flessibilità per "distribuire il silicio giusto per i modelli giusti" al momento opportuno.
Applicazioni e integrazioni
Il chip è progettato per gestire workload agentivi, inclusa l'esecuzione di compiti multi-step, la decodifica di contesti lunghi e l'uso di strumenti su scala cloud. Microsoft ha annunciato che servizi come Microsoft 365 Copilot e GitHub Copilot funzioneranno con il nuovo chip. Jim Kleewein, un technical fellow dell'azienda, ha affermato che parti di Microsoft 365 Copilot dovrebbero essere accelerate come risultato.
Collaborazione con Nvidia e AMD
Nonostante il passaggio ai chip Maia, Nvidia continuerà a far parte dell'infrastruttura di Microsoft. Per i workload di training, Microsoft collabora ancora con Nvidia e AMD, e le GPU di Nvidia sono ancora deployate nei data center esistenti dell'azienda, secondo CNBC. A differenza di offerte come le unità di elaborazione tensoriale di Google o i chip Trainium ed Inferentia di Amazon, Microsoft non ha reso disponibili gli acceleratori Maia a clienti esterni come una risorsa cloud noleggiabile.
Sviluppo e strategia
L'impegno di Microsoft nella creazione di chip personalizzati è in corso da diversi anni. All'inizio di quest'anno, si è riportato che Microsoft stava negoziando con TSMC per la capacità di produzione di oltre 300.000 unità Maia 300, con consegna prevista per il 2027, e mirando a una produzione eventuale di oltre un milione di unità. L'azienda ha introdotto il suo primo chip Maia nel 2023 e ha seguito con il Maia 200 a gennaio di quest'anno. Il CEO Satya Nadella ha dichiarato a luglio che il Maia 200 stava già alimentando modelli di OpenAI e superava altri silicio nella flotta di Microsoft del 30% in termini di costo-prestazioni.
Piani futuri
Microsoft mira a deployare la famiglia di chip Maia su scala multi-gigawatt nei suoi data center. L'azienda prevede di condividere ulteriori dettagli sulla sua strategia di IA durante il Microsoft Ignite 2026 a San Francisco il prossimo mese.