Il 20 giugno, Jesse Zhang, CEO di Decagon, ha pubblicato una teoria provocatoria intitolata “Tutti si sbagliano sull’intelligenza artificiale open source nell’azienda.” L’articolo cerca di rispondere a una contraddizione che sta emergendo nell’economia attuale dell’AI: le implementazioni più maturi dell’AI stanno passando a modelli più leggeri, anche all’interno della stessa sua azienda. Tuttavia, le spese per i modelli costosi e all’avanguardia non sono diminuite per molto.
Un nuovo modo di pensare al rapporto tra modelli open source e avanzati
Nel suo ragionamento, Zhang spiega che i due tipi di modelli — quelli avanzati e quelli open source — non sono realmente in competizione. Invece di costituire una minaccia per i laboratori che creano modelli avanzati, l'aumento dei modelli open source sembra integrarsi con essi in un ciclo vitale. Secondo questa logica, i modelli costosi vengono utilizzati per dimostrare casi d’uso che, man mano che maturano, possono essere passati a modelli open source più economici.
Anche se nuovi casi d’uso continuano ad emergere, e alcuni passano a modelli open source, le spese per i modelli avanzati non scendono significativamente. Come afferma Zhang, “I laboratori avanzati continueranno a controllare la scoperta e l’open source a prendere sempre di più la produzione.”
Il ruolo dei dati: come si misura l’influenza dei modelli open source?
Nonostante Zhang non presenti molti dati per sostenere il suo punto di vista, non c’è mancanza di informazioni disponibili. Il dashboard AI Gateway di Vercel mostra che, nell’ultima settimana, DeepSeek ha superato la concorrenza per il volume di token, raggiungendo un terzo del carico complessivo passante attraverso l’infrastruttura dell’azienda. Z.ai, la struttura dietro il popolare modello GLM-5.2, è passata in un rispettabile quarto posto in breve tempo.
Tuttavia, scorrendo verso il fondo del report, si nota che Anthropic mantiene comunque oltre la metà della spesa complessiva sull’AI sulla piattaforma. Anche se le recenti modifiche includono aumenti di prezzo da parte stessa di Anthropic, la quota di mercato non è cambiata significativamente negli ultimi mesi.
OpenRouter e il ruolo dei modelli open source
La piattaforma OpenRouter presenta una visione simile, benché il mercato che serve sia più ampio e meno orientato all’azienda. In termini di utilizzo generale, DeepSeek V4 Flash è la vincitrice principale, processando 5.3 trilioni di token a settimana. Il modello all’avanguardia più popolare, Opus 4.8, gestisce poco più di 2 trilioni. OpenRouter non ordina i modelli in base alla spesa complessiva, ma annota che il costo medio del token per Opus 4.8 è circa 23 volte maggiore rispetto a V4 Flash.
Con un costo medio di $1.37 per milione di token per Opus, contro appena 6 centesimi per V4 Flash, questo significa che Opus continua a rappresentare la parte principale della spesa, nonostante i modelli open source crescano in popolarità e produttività.
Un nuovo arrivato minaccioso: il Nemotron di Nvidia
Un fattore che non viene considerato in questi dati è l’arrivo del Nemotron, il modello appena lanciato da Nvidia. Questo modello è ben posizionato per emergere grazie al notevole legame di Nvidia con il mercato, unito alla sua grande capacità di adattamento. I dati su Nemotron non sono ancora del tutto visibili, ma potrebbero significativamente influenzare il panorama esistente.
Che cosa significherebbe per i laboratori avanzati?
Sebbene queste cifre non provino pienamente la teoria di Zhang, mostrano che i laboratori avanzati, come Anthropic, non sono ancora in crisi a causa dell’aumento dell’utilizzo dei modelli open source. Una spiegazione potrebbe essere che la quantità di compiti affrontabili dall’intelligenza artificiale sta crescendo così rapidamente che i modelli di punta mantengono la loro dominanza semplicemente per essere usati nei primi stadi.
Un'altra possibilità è che, nonostante i clienti stiano migrando verso modelli open source, molti casi d'uso risultino talmente complessi che non possono essere interamente sostituiti da modelli più economici.
In sintesi: il mercato è in bilico
In questo modo, un’economia a due livelli sembra poter stabilizzarsi nell’economia dell’AI. Sebbene in settembre dell’anno scorso si parlasse dell’idea che i laboratori di base vendessero “café per Starbucks,” alcuni elementi di questa previsione si sono concretizzati: ad esempio, le implementazioni verticali dell’AI hanno iniziato ad utilizzare modelli leggeri, e l’economia delle startup basata su “avvoltori” di GPT è rimasta relativamente stabile.
Quali prospettive future?
Tuttavia, si comincia a vedere che, token per token, i fornitori avanzati continuino a dominare la parte più appetibile del mercato, grazie ai prezzi premium che riescono a mantenere. Questa tendenza sembra non cambiare molto presto.