OpenAI lancia Jalapeño, il suo primo chip AI per l’inferenza LLM
OpenAI e Broadcom hanno svelato Jalapeño, il primo circuito integrato di OpenAI co-progettato da zero esclusivamente per l'inferenza dei modelli linguistici di grandi dimensioni (LLM). Il chip mira a ridurre la dipendenza della società da Nvidia e a tagliare i costi operativi di circa il 50%.
Chip War - Innovazione aperta
La data ufficiale del lancio fisico di Jalapeño è fissata al 24 giugno 2026, quando Sam Altman e Greg Brockman di OpenAI hanno ricevuto il primo esemplare da Hock Tan, CEO di Broadcom. Questo momento rappresenta un passo concreto verso una strategia hardware ambiziosa da parte di OpenAI, che finora non aveva disposto di un chip proprio.
Jalapeño è un ASIC (Application-Specific Integrated Circuit), ovvero un circuito progettato per un uso specifico, in questo caso l’esecuzione efficiente di modelli linguistici addestrati in precedenza. A differenza delle GPU, che presentano maggiore flessibilità, Jalapeño è ottimizzato unicamente per l’inferenza, un processo cruciale per la risposta agli utenti su servizi come ChatGPT, Codex e le API di OpenAI.
Un progetto co-creato per ottenere performance ottimali
Gli ingegneri di OpenAI hanno progettato l’architettura del chip basandosi sui pattern reali di lavoro, incluso l’accesso alla memoria, il movimento dei dati e i comportamenti di rete dei propri modelli. I test interni con l’architettura, come ad esempio sul modello GPT-5.3-Codex-Spark, hanno dimostrato risultati allineati alle aspettative in termini di efficienza energetica.
Le prestazioni per watt registrate fino a oggi, pur non definitive, indicano che Jalapeño potrebbe superare l’attuale standard di settore, anche se i benchmark ufficiali saranno resi noti solo nei prossimi mesi. Il tempo brevissimo per il tape-out del chip — solo nove mesi — è eccezionale per un ASIC ad alte prestazioni. Il progetto è stato possibile grazie a una collaborazione software-hardware serrata tra OpenAI e Broadcom, alla capacità produttiva di quest’ultima e all’utilizzo dei modelli esistenti per guidare l’ottimizzazione del circuito.
La manifattura e i partner coinvolti
La produzione fisica di Jalapeño è affidata a TSMC (Taiwan Semiconductor Manufacturing Company), già partner per chip di Apple, AMD e Nvidia. L’assemblaggio dei rack e dei sistemi è invece gestito da Celestica. Il deployment nei data center è previsto entro fine 2026, con Microsoft tra i partner principali, in una collaborazione a grande scala.
Economia e motivazioni strategiche
L’inferenza, processo al centro di tutti i servizi di OpenAI, si svolge miliardi di volte al giorno e costituisce un esborso significativo in termini di spesa e di uso delle risorse di calcolo. Il CEO di Broadcom, Hock Tan, ha dichiarato che Jalapeño potrebbe ridurre i costi operativi per l'inferenza del 50% rispetto alle GPU di Nvidia tradizionali. Questo, però, richiederà ulteriori test e una validazione da parte del mercato.
Fino a oggi, OpenAI era l’unico laboratorio AI di grandi dimensioni senza una sua architettura hardware proprietaria. Google utilizza i suoi TPU, Amazon ha Trainium, Microsoft la serie Maia e Meta i chip MTIA. Questa dipendenza da Nvidia aveva comportato costi elevati, tempi di consegna lunghi e una scarsa influenza sui tempi e le condizioni di contratto.
Impatto e futuro del mercato
La minaccia diretta a Nvidia nel breve termine non è grande, poiché rimane leader nel training dei modelli e nell’ecosistema CUDA. Tuttavia, la quota di mercato nei chip AI di Nvidia è già scesa sotto il 70% a causa dell’ascesa del silicio personalizzato. Se Jalapeño si rivelerà altrettanto efficace in produzione e se OpenAI sceglierebbe di renderlo disponibile per altri sviluppatori LLM — come suggerito dal suo design flessibile — potrebbe cambiare l’intera architettura del mercato dell’inferenza.
Questo sviluppo rappresenta quindi non solo un passo fondamentale per OpenAI, ma potrebbe avere conseguenze significative per l’intero settore AI, ridefinendo la divisione di mercato e la dipendenza da architetture esistenti.