Jev: un modello fino a 444 volte più economico e 193 volte più veloce

Diogo Almeida, ex ricercatore presso Google Brain e OpenAI, ha lanciato Jev, il nuovo modello di intelligenza artificiale sviluppato dalla sua start‑up TypeSafe AI. Secondo i test interni, Jev è fino a 444 volte più economico e 193 volte più rapido rispetto ai principali modelli concorrenti su alcuni scenari d'uso. Il costo dichiarato è di 0,042 dollari per milione di token in ingresso, mentre i token in uscita non generano alcun addebito: il servizio non fattura nemmeno le risposte prodotte.

La differenza di velocità nasce dal modo in cui Jev elabora le sequenze di token. Mentre i grandi modelli generano un token alla volta, Jev elabora tutti i token in parallelo. ChatGPT, ad esempio, scrive un frammento basandosi sul precedente, mentre Jev produce l’intera risposta in un’unica operazione. Questo gli consente di rispondere in 70‑500 millisecondi. Un confronto con il modello GPT‑5.6 Terra di OpenAI mostra che quest’ultimo impiega 8,566 secondi per una serie di domande, contro i 0,114 secondi di Jev.

Un modello che non redige frasi

Per raggiungere tali prestazioni, Jev non funziona come i tradizionali chatbot basati su linguaggio naturale. Invece di produrre risposte testuali fluide, Jev opera come un question‑answer a scelta multipla (QCM). Quando un utente invia una domanda accompagnata da opzioni di risposta, il modello assegna a ciascuna una probabilità e un indice di fiducia. Il risultato è una risposta strutturata, pensata soprattutto per sviluppatori e professionisti che devono classificare grandi volumi di dati.

Questa architettura ha anche un vantaggio sulla “hallucination” tipica dei grandi modelli linguistici. Poiché Jev può generare solo le risposte predefinite dall’utente, non è in grado di inventare contenuti non previsti. Tuttavia, può comunque commettere errori di selezione, scegliendo un’opzione sbagliata tra quelle fornite. Questo approccio contrasta con i recenti dérapages rivelati da OpenAI, in cui i modelli hanno prodotto affermazioni false o azioni non autorizzate.

Destinazione d’uso riservata ai professionisti

L’interfaccia di Jev è orientata a un pubblico tecnico. Le risposte, presentate come probabilità e punteggi di fiducia, richiedono una certa familiarità con l’interpretazione dei dati. Per i consumatori occasionali, la modalità di output può risultare difficile da decodificare, ma per gli sviluppatori è un valore aggiunto notevole, soprattutto per attività di classificazione, filtraggio o valutazione automatica di contenuti.

Per dimostrare la potenza del modello, TypeSafe AI ha messo Jev a giocare a Doom, il classico sparatutto del 1990. Jev non “vede” il gioco; riceve solo una descrizione testuale dello stato corrente e, nonostante ciò, è capace di prendere 10 decisioni al secondo. I primi feedback degli utenti evidenziano una rapidità senza precedenti: Jev riesce a navigare tra pagine e dataset molto più velocemente di qualsiasi altro modello tradizionale.

Principali caratteristiche tecniche

Costi: 0,042 $ per milione di token in ingresso, 0 $ per token in uscita.
Velocità di risposta: 70‑500 ms per generare l’intera risposta.
Modalità di output: scelta multipla con probabilità e punteggio di fiducia.
Architettura parallela: tutti i token vengono elaborati simultaneamente.
Riduzione delle allucinazioni: generazione limitata alle opzioni fornite dall’utente.

Prospettive future

Il lancio di Jev apre una nuova strada per le applicazioni aziendali di IA dove la velocità e il costo sono fattori critici. La capacità di classificare rapidamente enormi moli di dati con un margine di errore più controllato è particolarmente attraente per settori come il monitoraggio dei contenuti, l’analisi dei sentimenti e la revisione automatica di documenti. Tuttavia, la dipendenza da input predefiniti limita la flessibilità in scenari conversazionali più liberi.

Almeida prevede di ampliare le funzionalità di Jev includendo moduli di apprendimento continuo, in modo che il modello possa aggiornare le proprie probabilità in tempo reale sulla base del feedback degli utenti. Se questi sviluppi verranno realizzati con la stessa attenzione al costo e alla velocità, Jev potrebbe diventare lo standard de facto per le imprese che richiedono elaborazione rapida e affidabile di grandi quantità di informazioni testuali.