L'apertura degli standard nel settore delle fabbriche di IA

Mentre le fabbriche di IA crescono da megawatt a gigawatt, la loro costruzione richiede molto più che solo una computazione avanzata. Gli standard aperti stanno aiutando l'industria a scalare l'infrastruttura di IA in modo più veloce, efficiente e affidabile. Al vertice globale dell'Open Compute Project (OCP), che si svolge al San Jose McEnery Convention Center, NVIDIA ha annunciato nuove partnership e contributi volti a creare una base comune per l'infrastruttura di IA di prossima generazione.

Questi sforzi abbracciano l'intera fabbrica di IA, la rete di distribuzione elettrica che la alimenta e l'architettura a livello di rack al cuore del computing accelerato moderno. L'approccio di NVIDIA dimostra come il codesign estremo combinato con gli standard aperti stia accelerando la distribuzione, migliorando l'efficienza energetica e guidando le prestazioni in termini di token per watt.

NVIDIA e partner annunciano progressi nell'architettura aperta

Al vertice dell'OCP, NVIDIA e i suoi partner hanno fatto una serie di annunci significativi che evidenziano l'importanza dell'infrastruttura aperta per scalare le fabbriche di IA a livello mondiale:

NVIDIA e gli hyperscaler hanno pubblicato standard aperti per le fabbriche di IA di prossima generazione, inclusi gli standard di progettazione delle fabbriche di IA e la resilienza della rete elettrica
NVIDIA ha lanciato nuovi componenti software open source per NVIDIA DSX AI Factory
Meta e NVIDIA hanno fatto avanzare il networking di IA aperto con innovazioni NVIDIA Spectrum-X Ethernet SuperNIC e Spectrum-6
Visionbay ha presentato un design di fabbrica di IA a 800V DC per l'era Vera Rubin
NVIDIA e Cisco hanno annunciato lo standard Ultra-Dense Small Form Factor Pluggable (USFP), il primo modulo dell'industria per fabric di networking a 400Gb/s
NVIDIA e Google hanno annunciato il supporto Falcon Transport sui futuri SuperNIC NVIDIA ConnectX-10 e DPU BlueField

Ian Buck, vice president di hyperscale e high-performance computing presso NVIDIA, ha discusso davanti a un pubblico numeroso come l'infrastruttura aperta stia diventando un ingrediente critico per scalare le fabbriche di IA in tutto il mondo. Questi annunci sottolineano come il codesign estremo di NVIDIA combinato con gli standard aperti stia accelerando la distribuzione, migliorando l'efficienza energetica e guidando le prestazioni in termini di token per watt.

Le fabbriche di IA Vera Rubin avanzano con i contributi MGX Rack all'OCP

NVIDIA si è unita ai leader del settore nel contribuire al design di riferimento MGX AI data center di terza generazione attraverso l'Open DC Initiative dell'OCP. Combined con tecnologie di raffreddamento liquido aperte come MQD e MQDB, lo sforzo aiuta a trasformare i design di fabbriche di IA provati in standard industriali che altri possono adottare, produrre e scalare.

Per le fabbriche di IA NVIDIA Vera Rubin, la specifica MGX 1.2 aggiornata estende l'architettura aperta per le fabbriche di IA con raffreddamento liquido blind-mate a livello di rack, infrastruttura di interconnessione rack-scale interoperabile e una barra collettrice a 5.000A raffreddata a liquido progettata per sistemi di IA ad alta potenza. Aggiunge inoltre supporto nativo per apparecchiature da 19 pollici e design di rack a densità più elevata.

MGX 1.2 espande ulteriormente la modularità con:

Alloggiamenti I/O configurabili
Compute tray raffreddati a liquido senza ventilatori
Interfacce di potenza e raffreddamento standardizzate
Infrastruttura comune che aiuta i partner dell'ecosistema a costruire piattaforme di computing accelerato interoperabili

L'architettura migliora i tempi di assemblaggio, test e manutenzione per semplificare la produzione e il servizio sul campo al fine di abilitare una costruzione infrastrutturale più veloce ed efficiente. L'architettura supporta distribuzioni di rack fino a 250kW mentre semplifica la manutenibilità, la distribuzione e il riutilizzo dell'infrastruttura.

Il design del rack Vera CPU per l'era dell'agentic AI

La specifica del design del rack Vera CPU estende l'architettura aperta NVIDIA MGX oltre il computing accelerato, fornendo una piattaforma appositamente progettata per l'era crescente dell'agentic AI. Mentre NVIDIA Vera Rubin NVL72 funge da base per il training e l'inference su larga scala, il rack Vera CPU di NVIDIA è progettato per supportare il tool calling, l'orchestrazione e l'esecuzione in sandbox, aiutando gli agenti di IA a interagire con applicazioni, dati e servizi in tempo reale.

Costruito sulla terza generazione dell'architettura di rack NVIDIA MGX, il rack Vera CPU condivide gli stessi principi di progettazione a livello di rack che uniscono il computing, il networking, la potenza e il raffreddamento in una piattaforma modulare comune. Questo approccio consente ai partner di distribuire infrastrutture specializzate mentre traggono beneficio da un ecosistema condiviso, dall'integrazione semplificata e da una base coerente per le fabbriche di IA di prossima generazione.

NVIDIA lancia nuovi componenti software open source per DSX AI Factory

La piattaforma NVIDIA DSX AI Factory applica il codesign estremo per unificare il computing, il networking, la potenza, il raffreddamento, le strutture e il software, aiutando le fabbriche di IA a operare come un unico sistema ottimizzato, massimizzando l'output di IA entro i vincoli di infrastruttura disponibili.

Al centro di questo sistema unificato è DSX OS, il livello operativo aperto che trasforma l'architettura DSX in operazioni coordinate e ripetibili su scala. Al vertice dell'OCP, NVIDIA ha espanso DSX OS con componenti open source per la configurazione delle reti, la convalida dei cluster, la gestione dei rack e il provisioning di bare metal.

I nuovi componenti open source includono:

NVIDIA Config Manager: automatizza le configurazioni degli switch su scala, permettendo ai clienti di implementare, convalidare e mantenere fabric di rete delle fabbriche di IA coerenti con un intervento manuale minimo o nullo
NVIDIA Cluster Readiness Engine: aiuta a eliminare costosi crash di lavoro eseguendo test di stress dei cluster GPU con simulazioni di carichi di lavoro reali per garantire la salute dell'hardware prima che inizi l'addestramento
NVIDIA Rack Management Service: offre un'astrazione dell'hardware del rack e soluzioni operative che trattano i rack come unità di prima classe per una migliore gestione del firmware su scala della fabbrica di IA
Cluster API Provider per NVIDIA Infrastructure Controller: accelera il deployment di bare-metal e l'onboarding dei tenant, trasformando l'hardware di IA grezzo in cluster pronti per la produzione in ore invece che giorni

Sviluppati dall'esperienza di NVIDIA nel gestire NVIDIA DGX Cloud, questi componenti open source consentono ai provider cloud e ai partner software di integrare le capacità delle fabbriche di IA direttamente nelle loro piattaforme multi-tenant. Gli sviluppatori possono visitare la pagina GitHub di DSX AI Factory per esplorare e contribuire sia ai nuovi che ai componenti software open source esistenti della piattaforma NVIDIA DSX AI Factory.

NVIDIA e gli hyperscaler pubblicano standard aperti per le fabbriche di IA di prossima generazione

Affinché l'infrastruttura di IA possa scalare globalmente, ha bisogno di più che hardware avanzato: ha bisogno di una base comune su cui l'intero settore possa costruire. Al vertice dell'OCP, NVIDIA si è unita ad AMD, Google e Meta per pubblicare una nuova specifica aperta che stabilisce questa base. L'Open Data Center Specification v0.7 definisce un blueprint unificato per la progettazione di strutture di fabbriche di IA di prossima generazione, dall'architettura di potenza all'infrastruttura di raffreddamento al layout fisico.

L'OCP Grid Resilience Specification, pubblicata da Google, Meta, Microsoft e NVIDIA, stabilisce come l'infrastruttura di IA su larga scala dovrebbe comportarsi durante i disturbi della rete elettrica: rimanere connessa, rispondere automaticamente e ripristinarsi a un carico quasi totale in meno di due secondi.

Con questi standard ora aperti, i produttori di tutto il mondo hanno un obiettivo comune per cui costruire. I produttori di apparecchiature, i provider di colocation e gli operatori di data center possono iniziare a progettare, fabbricare e distribuire il livello di infrastruttura che alimenta le fabbriche di IA in costruzione a livello globale, senza aspettare le specifiche proprietarie dei singoli clienti.

Essendo compatibili con il design di riferimento NVIDIA DSX, queste specifiche forniscono un'implementazione convalidata e distribuibile di entrambe le specifiche, dal layout della struttura e dall'architettura di potenza al software che monitora e risponde ai segnali della rete in tempo reale. Per gli operatori che costruiscono fabbriche di IA Vera Rubin, ora c'è una linea retta dallo standard di comunità aperto a un sistema in esecuzione.

Visionbay.ai progetta una fabbrica di IA 800VDC per l'era Vera Rubin

Con la crescita delle fabbriche di IA diventando più grandi e potenti, una sfida incombe su tutte loro: fornire abbastanza potenza ai sistemi di computing accelerato che guidano la prossima generazione di IA. Al vertice dell'OCP, Visionbay ha svelato i piani per K-1, una piattaforma di fabbrica di IA di prossima generazione progettata attorno a un'architettura 800 VDC e costruita con future distribuzioni NVIDIA Vera Rubin in mente. Il progetto combina l'architettura di riferimento 800 VDC di NVIDIA con tecnologie di potenza e termiche di Vertiv per creare una base scalabile per l'infrastruttura di IA ad alta densità.

Il design affronta una sfida crescente dell'industria. Con l'espansione dei carichi di lavoro di training, inference e reasoning dell'IA, le densità di potenza dei rack continuano a salire. La distribuzione di potenza a bassa tensione tradizionale diventa sempre più difficile da scalare, richiedendo più rame, più cavi e più apparecchiature di conversione di potenza.

Adottando l'architettura 800 VDC di NVIDIA, K-1 crea un percorso verso un'infrastruttura di IA a densità più elevata preservando la flessibilità per le distribuzioni esistenti. Piuttosto che richiedere una transizione completa dal primo giorno, la piattaforma è progettata per implementare la distribuzione 800 VDC dove offre il maggior vantaggio, aiutando gli operatori a prepararsi per le future generazioni di computing accelerato senza una riprogettazione estensiva della struttura.

L'architettura è progettata attorno a centri di potenza a livello di cluster che centralizzano la conversione AC-to-DC e distribuiscono 800 VDC più vicino alle risorse di computing. L'approccio semplifica la distribuzione di potenza a valle, supporta l'espansione modulare e crea blocchi costitutivi ripetibili per la futura crescita della fabbrica di IA.

K-1 riflette anche la filosofia di progettazione a livello di sistema dietro alle fabbriche di IA NVIDIA, dove la potenza, il raffreddamento e il computing sono progettati insieme. Con supporto per l'infrastruttura raffreddata a liquido, la distribuzione di potenza scalabile e i futuri dispiegamenti di classe Vera Rubin, il progetto dimostra come i partner dell'ecosistema stanno traducendo l'architettura della fabbrica di IA di NVIDIA in infrastrutture distribuibili progettate per la prossima era del computing accelerato.

Meta e NVIDIA avanzano il networking di IA con Spectrum-6 e tecnologia multiplane

All'evento, Meta e NVIDIA hanno annunciato che Meta sta adottando switch Ethernet NVIDIA Spectrum-6 102.4Tb/s per costruire fabbriche di IA NVIDIA Vera Rubin più grandi e ad alte prestazioni su networking aperto. Spectrum-6 fornisce il doppio della capacità di switching e della larghezza di banda per corsia rispetto a Spectrum-4, e fornisce un fabric Ethernet lossless di IA a 200G per corsia, con elevate prestazioni e affidabilità.

Questa collaborazione rappresenta un importante passo avanti nell'evoluzione del networking di IA, dimostrando come i leader dell'industria stanno lavorando insieme per creare soluzioni di infrastruttura sempre più efficienti e scalabili. Meta e NVIDIA hanno ulteriormente avanzato il networking di IA aperto attraverso le innovazioni NVIDIA Spectrum-X Ethernet SuperNIC, progettate specificamente per le esigenze di networking delle fabbriche di IA di prossima generazione.

NVIDIA e Cisco annunciano lo standard USFP per il networking di IA

In un altro passo significativo verso la standardizzazione dell'infrastruttura di IA, NVIDIA e Cisco hanno annunciato l'Ultra-Dense Small Form Factor Pluggable (USFP