Introduzione
Supersonic Labs, un laboratorio di ricerca AI con sede in Brasile, ha annunciato il rilascio di Julia 1, un modello decisionale compatto progettato per operare su CPU standard. A differenza dei tradizionali chatbot, Julia 1 non genera testo, ma riceve un contesto, una domanda e da 2 a 20 risposte candidate, selezionando l’opzione più probabile e restituendo la probabilità associata a ciascuna.
Cosa fa Julia 1
Julia 1 supporta tre tipologie di decisione tramite una singola interfaccia:
- choice: scelta di un’etichetta tra 2‑20 opzioni descritte (classificazione, routing).
- score: restituzione dell’indice atteso su una scala ordinata (ad es. basso, medio, alto).
- noul: restituzione della probabilità che una affermazione sì‑no sia vera.
Le risposte vengono restituite nell’ordine delle opzioni fornite dal chiamante, includendo le probabilità softmax complete e mantenendo inalterati gli identificativi (ad es. billing). Il modello non produce testo libero.
Architettura e costi di training
Julia 1 è basata sull’encoder multilingue mmBERT‑small di JHU CLSP, che conta 140 M di parametri e copre più di 1.800 lingue. Supersonic Labs ha conservato l’encoder e il tokenizer, aggiungendo una testa decisionale addestrata su esempi formattati per decisioni. Il team specifica che il modello non è un “fine‑tuned” di Qwen.
Le specifiche tecniche includono:
- Capacità di gestire fino a 8 192 token combinati (i benchmark pubblicati hanno usato un limite di 1 024 token).
- Peso FP32 di 550,5 MiB.
- Costo totale di GPU cloud per l’addestramento: circa R$ 540 (US$ 104,08).
Una versione futura, Julia 2, sarà costruita su un’architettura di base sviluppata internamente dal laboratorio.
Risultati di benchmark
Il 24 settembre 2026 il modello è stato valutato su una GPU H200 BF16 con codifica rigorosa. Il confronto di riferimento è stato effettuato con TypeSafe’s Jev, utilizzando valori di riferimento dal protocollo di benchmark Jev.
| Task | Julia 1 | Riferimento Jev |
|---|---|---|
| Typed Decisions | 73,15 % (1 463/2 000) | 72,70 % |
| AG News (4 etichette) | 94 % | 91 % |
| DAIR Emotion (6 etichette) | 86 % | 48 % |
| Banking77 (72 etichette) | 64 % | 87 % (fallimento chiaro) |
| MASSIVE (18 scenari, 52 località) | 71,50 % macro‑accuracy 86,25 % pt‑PT 86,75 % en‑US | - |
Le prove pilota hanno usato solo 100 esempi per classificazione. Il 25 settembre, una replica su CPU ha confermato la maggior parte dei risultati: 72,55 % su Typed Decisions e 60 % su Banking77 con 3 abstention.
Latenza su dispositivo
Supersonic Labs ha pubblicato misurazioni di latenza per diversi dispositivi:
- Apple M4: mediana di 33,15 ms per decisione.
- Tablet Samsung SM‑X510 (via ONNX Runtime): mediana di 203 ms, picco RSS di 393,1 MB.
- Intel Core i5‑1235U (decisioni AG News): mediana di 107,83 ms.
- Stessa CPU per Banking77: 3 713,54 ms, poiché il modello deve restringere prima le 72 etichette.
Su X, @supersonicai ha affermato che Julia 1 è 5 volte più veloce di Jev su un laptop i5, ma la comparazione è da prendere con cautela poiché Jev è stato misurato come servizio hosted da Francia.
Confronto con i concorrenti più vicini
Tabella comparativa
| Caratteristica | Julia 1 | TypeSafe Jev | GLiNER2.5 Multi |
|---|---|---|---|
| Sviluppatore | Supersonic Labs | TypeSafe AI | Fastino |
| Accesso | Pesi open | API hosted, early access | Pesi open |
| Licenza | Apache 2.0 | Proprietaria | Apache 2.0 |
| Parametri | 144,3 M | Non divulgati | 287 M |
| Encoder di base | mmBERT‑small | Non divulgato | mDeBERTa‑v3‑base |
| Tipi di decisione | Choice, score, yes/no | Typed structured decisions | Classification, NER, relations, records |
| Opzioni per chiamata | 2‑20 (router per più) | Fino a 255 | - |
| Esecuzione locale su CPU | Sì | No | Sì |
| Prezzo per 1 M token (API prevista) | $0,025 | $0,042 | Gratuita (self‑hosted) |
| Pilot AG News | 94 % | 91 % | 70 % |
| Pilot DAIR Emotion | 86 % | 48 % | 44 % |
| Pilot Banking77 | 64 % | 87 % | 61 % |