La frustrazione di un pioniere dell'intelligenza artificiale
Diogo Almeida è stato uno dei ricercatori principali di OpenAI che ha contribuito a costruire ChatGPT e, soprattutto, a inventare la tecnica di rinforzo dell'apprendimento dal feedback umano (RLHF), probabilmente la metodologia di addestramento dei modelli più responsabile dell'attuale era dell'intelligenza artificiale. Eppure, nonostante le notevoli capacità del sistema che aveva aiutato a creare, Almeida si trovava profondamente deluso.
In un'intervista a TechCrunch, Almeida ha espresso il suo disorientamento con una frase che cattura l'essenza del suo problema: "Abbiamo un fulmine in una bottiglia, eppure non è utile". Questa affermazione apparentemente paradossale nasconde una critica più profonda ai sistemi di intelligenza artificiale generativa che il mondo stava osannando. Il problema, ha continuato Almeida, risiedeva non nella mancanza di capacità, ma nella loro orientazione fondamentale. "Ho combattuto quel problema da allora. Mi è voluto un po' per arrivare alla conclusione: il problema è che stiamo ottimizzando per il linguaggio umano. Siamo stati incredibilmente bravi nel linguaggio umano per quattro anni, ma non è utile per l'automazione perché i computer parlano un linguaggio diverso".
Questa realizzazione, per quanto potesse sembrare controintuitiva in un momento in cui i modelli linguistici di grandi dimensioni erano celebrati come il culmine dell'intelligenza artificiale, rappresentava un punto di svolta cruciale nella carriera di Almeida. Non era una critica rivolta al suo stesso lavoro su RLHF, quanto piuttosto una consapevolezza che i sistemi ottimizzati per il linguaggio umano non erano necessariamente i migliori strumenti per ogni compito di automazione.
La fondazione di TypeSafe AI e la nascita di Jev
Due anni fa, circa, Almeida prese una decisione radicale: lasciò OpenAI per fondare TypeSafe AI, una startup con una missione chiara: risolvere il problema che lo aveva frustrato per anni. La visione non era quella di creare un altro modello linguistico di grandi dimensioni, bensì di sviluppare qualcosa di completamente diverso, un'intelligenza artificiale costruita secondo principi fondamentalmente diversi.
In questa settimana, TypeSafe AI ha rilasciato il suo prodotto principale: Jev, un modello basato sull'architettura transformer, ma con una differenza fondamentale rispetto ai modelli linguistici convenzionali. Jev non è un modello linguistico di grandi dimensioni (LLM) nel senso tradizionale. Non produce testo, non genera parole per completare prompt come fanno ChatGPT, Claude o Gemini. Invece, Jev produce probabilità, o come l'azienda le chiama, "decisioni calibrate".
Questa differenza metodologica apparentemente tecnica ha profonde implicazioni pratiche. Evitando completamente il linguaggio, Jev raggiunge risultati straordinari: il modello è incredibilmente economico da eseguire e incredibilmente veloce. Poiché gli utenti definiscono gli output in anticipo, il modello non può allucinare nel modo tradizionale in cui lo fanno i modelli linguistici. Un aspetto particolarmente significativo dal punto di vista economico è che i token di output sono completamente gratuiti, mentre i token di input sono misurati al miliardo, non al milione, rappresentando un'enorme riduzione dei costi operativi rispetto ai modelli tradizionali.
L'accoglienza trionfale degli sviluppatori
La risposta della comunità di sviluppatori a Jev è stata sorprendente e immediata. Il livello di interesse è stato così alto che TypeSafe AI ha brevemente perso la capacità di servire gli utenti attraverso la sua API a causa della straordinaria domanda. Questo non è un evento raro nella storia della tecnologia, ma in questo caso ha un significato particolare: suggerisce che gli sviluppatori hanno riconosciuto immediatamente il valore di un nuovo approccio all'intelligenza artificiale, diverso da quello prevalente nel mercato.
Jev è emerso come particolarmente utile per l'automazione del software. I sviluppatori di software hanno rapidamente visto in Jev un modo più economico e robusto di incorporare l'intelligenza nei loro codici, senza gli ostacoli e i costi associati ai modelli linguistici tradizionali.
Casi d'uso reali e risultati documentati
I vantaggi teorici di Jev sono rapidamente diventati tangibili grazie a diversi case study di sviluppatori che hanno deciso di testare il modello in scenari reali.
Pranit Sharma, un ingegnere software presso Vercel, un'azienda che sviluppa infrastrutture "agentic" (sistemi autonomi di intelligenza artificiale), ha documentato un caso di uso particolarmente interessante. Vercel stava utilizzando il modello ChatGPT Luna 5.6 di OpenAI per eseguire un classificatore allo scopo di rivedere i comandi per motivi di sicurezza. Quando Vercel ha sostituito il modello Luna di OpenAI con Jev, i risultati sono stati drammatici: il modello ha ottenuto risultati da 5 a 18 volte più velocemente, e con una maggiore accuratezza. Questo miglioramento combinato di velocità e precisione rappresenta un vantaggio competitivo significativo per qualsiasi azienda che dipende da classificatori in tempo reale.
Un altro sviluppatore, Nikhil Mudholkar, responsabile della tecnologia presso Bryo AI, ha condotto un test comparativo tra Jev e Gemini per la classificazione di email aziendali. Nel suo test, Gemini era leggermente più accurato, ma costava 10-20 volte di più. Tuttavia, ciò che ha veramente affascinato Mudholkar era una caratteristica specifica di Jev che Gemini non possedeva allo stesso livello: i punteggi di confidenza di Jev. Come ha espresso entusiasticamente nella sua valutazione: "è l'unico che restituisce una vera probabilità che lo rende ideale per automatizzare i flussi di lavoro!".
Questo aspetto è cruciale per comprendere perché Jev sta trovando accoglienza così favorevole. Non si tratta solo di velocità o costo — sebbene questi siano fattori importanti — ma della capacità di fornire una misura quantificabile dell'incertezza, qualcosa che gli sviluppatori possono effettivamente utilizzare per prendere decisioni programmatiche intelligenti.
Oltre la sostituzione: nuovi ruoli per l'intelligenza artificiale
Sebbene il ruolo più ovvio di Jev sia quello di sostituire i modelli linguistici in determinati casi d'uso, la sua utilità si estende molto oltre la semplice sostituzione. Almeida prevede che Jev sarà utilizzato per complementare e migliorare i modelli linguistici esistenti, agendo come un controllore intelligente del comportamento.
Un concetto particolarmente interessante è quello di usare agenti per monitorare altri agenti. Tradizionalmente, questo approccio diventa rapidamente molto costoso, poiché si sta essenzialmente eseguendo un'intelligenza artificiale di fascia alta per controllare un'altra intelligenza artificiale di fascia alta. Almeida sostiene che utilizzare Jev per questo compito ha molto più senso dal punto di vista economico. Vede gli utenti che distribuiscono Jev per tracciare le tracce degli agenti LLM e prevenire i cosiddetti "jailbreak", situazioni in cui un modello viene indotto a violare i suoi vincoli di allineamento.
Armin Ronacher, il responsabile della tecnologia di Earendil, un'azienda che sviluppa l'harness del modello open source Pi, ha offerto una prospettiva interessante su come questo può funzionare in pratica. "In fondo, delega il problema dell'allucinazione un po' all'utente", ha spiegato. "L'utente deve dire, okay, se questo ritorna solo con il 50% di probabilità, forse è un lancio di moneta, e lo ignoro. Ma se è il 95%, certo, allora posso fare qualcosa con esso". Questo trasferimento del controllo dell'incertezza all'utente finale, piuttosto che nasconderla o cercare di eliminarla artificialmente, rappresenta un cambio di paradigma nella progettazione dell'intelligenza artificiale.
Model routing: una nuova applicazione
Un'altra applicazione potenziale di Jev identificata da Ronacher è il "model routing", il routing intelligente dei modelli. L'idea è la seguente: in uno scenario ideale, si potrebbe avere un sistema che, dato un carico di lavoro specifico, predica intelligentemente quale modello sarebbe il più adatto per quel compito particolare. Questo sarebbe enormemente utile in ambienti dove vengono eseguiti più modelli e dove un dirigente intelligente potrebbe indirizzare i compiti al modello più appropriato ed efficiente.
Tuttavia, l'uso di un modello linguistico tradizionale per prendere tali decisioni di routing sarebbe straordinariamente costoso, specialmente se fatto in tempo reale per milioni di richieste. Il basso costo e la velocità di Jev rendono questa sorta di ordinamento in tempo reale finalmente possibile dal punto di vista economico.
William Stanley Jevons e il paradosso dell'abbondanza
La scelta del nome Jev non è casuale. Almeida ha denominato il modello in onore di William Stanley Jevons, un economista del diciannovesimo secolo. Perché? Jevons è famoso per il cosiddetto "paradosso di Jevons", un concetto economico che descrive come il calo del costo di una merce può portare a un aumento, non a una diminuzione, del suo consumo complessivo. Quando le cose diventano più economiche, vengono utilizzate più spesso e in più contesti.
Applicando questa logica economica storica al dominio dell'intelligenza artificiale, Almeida sta dichiarando esplicitamente la sua speranza strategica: poiché il costo dell'intelligenza diminuisce grazie a Jev, l'intelligenza dovrebbe essere distribuita più diffusamente. Non dovrebbe essere concentrata in mega-applicazioni controllate da grandi aziende tecnologiche, ma dovrebbe diventare un componente ubiquitario del software in generale.
La visione di un futuro distribuito
"Pensiamo che ci sarà solo software intelligente dappertutto in un modo che è emergente e distribuito", ha detto Almeida a TechCrunch, descrivendo la sua visione. "Molto più come l'inizio di internet di quanto non sia come le mega app che la gente sta cercando di costruire adesso".
Questa visione contrasta nettamente con la narrativa dominante nell'intelligenza artificiale contemporanea, dove grandi laboratori di ricerca (OpenAI, DeepMind, Anthropic, Meta) costruiscono modelli sempre più grandi e potenti che vengono poi messi a disposizione attraverso API controllate centralmente. Almeida sta proponendo un futuro diverso: uno in cui l'intelligenza è decentralizzata, incorporata direttamente negli strumenti e nelle applicazioni che le persone utilizzano quotidianamente, proprio come la connettività internet è diventata ubiquitaria.
L'architettura segreta: "System One model"
Almeida rimane reticente riguardo all'architettura precisa di Jev. Gli osservatori esterni sospettano che il modello sia costruito sulla base di un modello linguistico di peso aperto, ma l'azienda non ha confermato questa supposizione.
Ciò che TypeSafe AI ha rivelato è che Jev viene descritto come un "System One model", una terminologia presa in prestito dalla psicologia comportamentale e cognitiva, dove il "System One" rappresenta il pensiero rapido e intuitivo, mentre il "System Two" rappresenta il ragionamento lento e deliberativo. Jev è focalizzato sull'intuizione piuttosto che sul ragionamento, ed è specificamente focalizzato sul compito giusto. In altre parole, non tenta di essere universalmente bravo in tutto come fanno i modelli linguistici generali, ma è invece ottimizzato per fare una cosa molto bene.
La metodologia di addestramento di Jev è altrettanto innovativa. Almeida afferma che Jev è addestrato esclusivamente su dati sintetici utilizzando una tecnica che definisce "reinforcement learning from calibrated decisions", ovvero apprendimento per rinforzo da decisioni calibrate. Questa è una significativa deviazione dalla pratica standard di addestramento su dati umani reali, o almeno su dati che inizialmente derivano da fonti umane.
La scommessa sui dati sintetici
In un momento che rivela la fiducia di Almeida nella sua strategia, ha dichiarato a TechCrunch: "Abbiamo fatto una scommessa iniziale che faremo tutti i nostri dati, e questa è stata una delle migliori scommesse che abbia mai fatto nella mia vita — meglio del nostro lancio, secondo la mia opinione, meglio di RLHF".
Questa è una dichiarazione straordinaria. Almeida sta dicendo che la sua decisione iniziale di investire completamente nello sviluppo di una capacità interna per la generazione di dati sintetici di alta qualità è stata ancora più preziosa della tecnica RLHF che è diventata il fondamento dell'era moderna dell'intelligenza artificiale. Continua spiegando che metà della sua azienda è essenzialmente un laboratorio che "possiede completamente questo intero sottocampo di dati sintetici statisticamente ben compresi, e questo è diventato la mia gioia di vivere".
Questo focus sulla qualità e sulla controllabilità dei dati di addestramento è affascinante. Suggerisce che TypeSafe AI ha scoperto che la qualità e la proprietà dei dati di addestramento, per un compito specifico come quello che Jev affronta, è più importante dell'acc