Alchymia Labs ha annunciato oggi il lancio di Regent, un modello di linguaggio innovativo progettato per le carichi di lavoro di produzione che richiedono un'elevata affidabilità e dove il costo di una risposta errata è significativo. Questo modello open source, disponibile a https://alchymia-ai.github.io/Regent/, si distingue per la sua architettura rivoluzionaria e le sue funzionalità avanzate, che promettono di trasformare l'adozione dell'intelligenza artificiale in settori critici e mercati emergenti.

Regent è stato specificamente concepito per operare in ambienti in cui gli errori hanno un costo elevato e misurabile. Le sue caratteristiche principali includono un punteggio di fiducia generato in tempo reale per ogni parola, la capacità di analizzare questioni complesse prima di fornire una risposta, l'integrazione nativa di strumenti esterni e la piena funzionalità offline su hardware locale. Il modello è distribuito in versioni open source che vanno da 3 miliardi a 7 miliardi e fino a 50 miliardi di parametri. È prevista anche una versione commerciale su larga scala, denominata Grande Regent, che coprirà un intervallo da 70 miliardi fino a un trilione di parametri e sarà distribuita da Alchymia Groom.

Il primo modello africano a ridefinire gli standard globali

Un aspetto particolarmente notevole di Regent è che si tratta del primo modello di linguaggio di produzione sviluppato in Africa. A differenza di molte soluzioni esistenti, Regent non è una semplice ottimizzazione di un modello preesistente o una sovrapposizione all'API di un altro fornitore. La sua architettura è stata interamente riprogettata da zero con l'obiettivo dichiarato di competere con i migliori modelli globali nelle specifiche carichi di lavoro per cui è stato creato. Questa ambizione posiziona Regent come un attore significativo nel panorama globale dell'IA.

Regent si propone di affrontare due limitazioni strutturali fondamentali che hanno ostacolato l'adozione diffusa dell'IA. In primo luogo, le sfide legate alla responsabilità nei settori sensibili hanno frenato l'implementazione dell'IA. In secondo luogo, la dipendenza dal cloud e i costi associati hanno impedito un'adozione significativa nei mercati emergenti. Alchymia Labs ritiene che Regent possa superare questi ostacoli grazie al suo design intrinseco e alle sue capacità operative.

Un'architettura radicalmente diversa

Tutti i modelli di linguaggio all'avanguardia attualmente in produzione, tra cui giganti come GPT-5, Claude, Llama, Mistral e Gemini, sono costruiti sull'architettura Transformer, descritta per la prima volta in un articolo del 2017. Sebbene differiscano per scala e dati di addestramento, il motore sottostante rimane lo stesso. Regent, tuttavia, rompe con questa convenzione.

Regent non è un Transformer. È un modello dello spazio degli stati Mamba-2 con attenzione per query raggruppate (grouped query attention) a determinati livelli. Questo motore computazionale, fondamentalmente diverso, offre proprietà che i Transformer non possono fornire a nessuna scala. Queste includono:

Una memoria fissa, indipendentemente dalla lunghezza della conversazione.
Un input nativo di conoscenze strutturate.
Una valutazione della precisione in tempo reale integrata direttamente nell'architettura, piuttosto che aggiunta come strato di post-elaborazione.

Valutazione della precisione in tempo reale

L'affidabilità è al centro del design di Regent. I modelli di linguaggio attualmente in produzione generano un risultato e affidano la verifica a processi a valle, come la revisione umana, passaggi secondari del modello o controlli di coerenza tramite campionamento. Questi approcci comportano costi e latenza aggiuntivi, e nessuno di essi viene implementato al momento della generazione.

Regent, al contrario, genera un punteggio di fiducia per ogni parola, integrato nativamente nel testo. Quando questo punteggio scende al di sotto di una soglia configurabile, il modello interrompe la generazione. Recupera quindi le informazioni pertinenti dalla sua base di conoscenze strutturate e rigenera il testo dal punto di incertezza. Questo comportamento è intrinseco all'architettura e non è un'aggiunta post-elaborazione. È importante sottolineare che la funzionalità di valutazione della precisione aggiunge meno dello 0,1% al numero totale di parametri del modello e si esegue in una singola iterazione, senza alcun costo aggiuntivo di inferenza rispetto a un modello che ne è sprovvisto.

Ragionamento e richiamo di strumenti

La capacità di Regent di "pensare" prima di agire è un'altra caratteristica distintiva. Il modello analizza le domande complesse prima di rispondere. Quando una query richiede un ragionamento in più fasi, Regent genera un ragionamento interno, che è visibile all'utente. Questo processo può essere utilizzato per audit, debugging o controllo di conformità, fornendo trasparenza e responsabilità.

Inoltre, il modello effettua richiami nativi a strumenti esterni. Quando determina di aver bisogno di informazioni provenienti da un'API, un database o un motore di ricerca, emette una query strutturata, interrompe la generazione, riceve il risultato e quindi riprende l'esecuzione. Questo processo si basa su token dedicati all'interno dell'architettura stessa, eliminando la necessità di sistemi di plugin esterni che spesso possono introdurre complessità e vulnerabilità.

Allocazione computazionale adattativa

L'efficienza è un pilastro fondamentale del design di Regent. Il modello incorpora un "gate" adattativo a ogni strato di attenzione. Questo permette al modello di apprendere, per ogni token, se il suo circuito di attenzione è necessario per risolvere dipendenze a lungo raggio o se la sua rete ricorrente è sufficiente. Durante la generazione di routine, l'attenzione viene disattivata, riducendo il carico computazionale. In fase di ragionamento complesso, invece, l'attenzione è completamente attivata per garantire la massima accuratezza e profondità di analisi.

Il risultato di questa allocazione adattativa è un costo di inferenza ridotto in produzione, risposte più rapide per le query comuni e nessuna degradazione della qualità per le richieste complesse. Il modello alloca le sue risorse computazionali in base alle esigenze reali di ogni singolo token, massimizzando l'efficienza senza compromettere le prestazioni.

Conoscenze pratiche, senza formazione aggiuntiva

Una delle innovazioni più significative di Regent è la sua capacità di accettare conoscenze strutturate come input nativo per ogni query. Queste conoscenze vengono lette direttamente dal modello durante l'inferenza e non sono incorporate nei pesi durante l'addestramento. Questo approccio ha implicazioni rivoluzionarie per l'aggiornamento delle informazioni.

Quando le conoscenze si evolvono, il modello si adatta immediatamente alla query successiva. Ciò è cruciale in settori dove le informazioni cambiano rapidamente, come ad esempio:

Nuove interazioni farmacologiche.
Epidemie di malattie delle colture.
Frodi accertate.
Aggiornamenti delle regole AML/CFT (antiriciclaggio e finanziamento del terrorismo).
Modifiche all'elenco delle sanzioni.
Fluttuazioni del prezzo delle materie prime.
Codici di errore delle apparecchiature.
Aggiornamenti della storia clinica di un paziente.
Rischi su un itinerario.
Nuove decisioni giudiziarie.

Regent è quindi ideale per tutti i settori in cui le decisioni dipendono da informazioni aggiornate. Non è richiesta alcuna formazione aggiuntiva e non sono necessari aggiornamenti del modello. Per le organizzazioni che operano in ambienti clinici, di difesa, finanziari, agricoli o normativi in continua evoluzione, questa capacità distingue un'IA sempre aggiornata da un'IA che accusa mesi di ritardo. Altri modelli richiedono un riaddestramento che può richiedere mesi e costare milioni; Regent, invece, legge le nuove informazioni direttamente.

Per la maggior parte delle implementazioni aziendali che utilizzano attualmente la generazione aumentata dalla ricerca (RAG), Regent rappresenta un sostituto diretto. La RAG richiede un database vettoriale, una pipeline di integrazione, una strategia di segmentazione e una fase di ricerca che spesso omette elementi di contesto pertinenti o restituisce risultati irrilevanti. Regent elimina questo intero strato. Le conoscenze sono integrate nel modello in modo strutturato, tipizzato e valutato da un codificatore dedicato. Il modello distingue nativamente i fatti ad alta fiducia da quelli a bassa fiducia. In caso di incertezza, esegue una ricerca automatica nel grafo delle conoscenze nel punto di incertezza. Non sono più necessarie la ricerca vettoriale, il vincolo della finestra di contesto o il costo di reiniezione per query.

Deployment senza dipendenza dal cloud

I modelli di IA all'avanguardia attuali funzionano generalmente come servizi, con prezzi basati sui token e infrastruttura basata sul cloud. L'accesso continuo richiede una connessione internet e comporta costi di abbonamento denominati nelle principali valute. Questo modello può essere proibitivo per molte organizzazioni, specialmente nei mercati emergenti.

Regent, al contrario, è distribuito come pesi e codice. Le organizzazioni acquisiscono una licenza unica per il modello e lo distribuiscono sulla propria infrastruttura. Dopo il deployment, non vengono addebitati costi di inferenza. Il modello funziona completamente offline, garantendo autonomia e sicurezza dei dati. Le versioni da 3 e 7 miliardi di parametri sono compatibili con hardware dedicato, con un costo inferiore a 1.000 dollari. Le configurazioni più grandi possono essere distribuite su un singolo server, rendendo l'IA avanzata accessibile a una gamma più ampia di entità.

Questa strategia di deployment cambia radicalmente il modello economico per le organizzazioni in mercati dove la tariffazione delle API cloud non è economicamente sostenibile su larga scala. Tra questi figurano sistemi sanitari pubblici, ministeri, organizzazioni di assistenza legale, cooperative agricole e molte altre entità che possono ora sfruttare appieno il potenziale dell'IA senza la dipendenza e i costi del cloud.