Meta passa da "tokenmaxxing" a token managing, i costi interni dell'AI salgono a miliardi
Mentre le spese per AI di Meta raggiungono cifre miliardarie, l'azienda ha iniziato a cambiare il proprio approccio, passando da una cultura basata sull'uso massiccio e indiscriminato di token (chiamata internamente "tokenmaxxing") a un maggiore controllo e gestione. Secondo The Information, Meta ha segnalato un "aumento esponenziale" nell'utilizzo di AI e ha avvertito che i costi legati all'uso interno dell'intelligenza artificiale potrebbero raggiungere cifre miliardarie entro il 2026.
Nel 2027, Meta pianifica di attuare un sistema di gestione centrale basato su budget, attribuzioni e strumenti dedicati. Già oggi, una squadra di sviluppatori e ingegneri ha creato un cruscotto chiamato "AI Gateway", una piattaforma di monitoraggio unificata che tiene traccia dell'uso e delle spese correlate.
Il monitoraggio non si ferma qui. Meta sta introducendo allerte automatiche che vengono attivate in caso di improvvisi aumenti di costi. Inoltre, l’azienda sta incoraggiando i propri dipendenti a utilizzare strumenti proprietari come MetaCode, piuttosto che modelli competitivi esterni, ad esempio Anthropic’s Claude. Nonostante l’orientamento verso MetaCode, altri modelli AI rimarranno comunque accessibili per garantire flessibilità e scelta.
Un aspetto che emerge con forza è il dibattito interno sull’effettivo aumento di produttività generato dall’uso AI. In una divisione interna chiamata "Applied AI Engineering", Meta sta lavorando per migliorare MetaCode generando specifiche task di programmazione come dati di addestramento, in modo da rendere il modello più utile. In precedenza, Meta aveva incluso l’uso AI come "aspettativa fondamentale" nei modelli di valutazione, portando a una pratica chiamata "tokenmaxxing", dove i dipendenti aumentavano artificialmente l’uso dei token solo per segnare punteggi più alti in una classifica interna, chiamata "Claudeonomics". In poco più di 30 giorni, i token utilizzati toccarono i 73,7 trilioni.
Tuttavia, non tutti entusiasti. Il CTO di Meta, Andrew Bosworth, ha espresso la propria preoccupazione in un secondo memorandum, ribadendo che: "Nessuno dovrebbe usare gli strumenti AI solo per il fatto di usarli. Non sempre il movimento equivale a progresso, e il solo consumo di token non misura in alcun modo l'impatto generale." Gli strumenti di IA vanno utilizzati solo quando permettono "realmente di svolgere un lavoro migliore e più velocemente."
Meta non è l’unica azienda ad affrontare simili problematiche. Amazon ha avuto esperienze parallele con l'uso spropositato di token che si sono trasformati in costi fuori controllo. Il problema riscontrato da entrambe le aziende rientra in una tendenza più ampia: molte organizzazioni oggi si chiedono se l’Intelligenza Artificiale abbia davvero portato un miglioramento sostanziale di produttività. Sam Altman, CEO di OpenAI, ha recentemente sottolineato come il "controllo dei costi" fosse un problema enorme per i suoi clienti — una questione che potrebbe essere anche il risultato diretto di un aumento massiccio dei prezzi per l’utilizzo dei modelli di IA.