Gianti modelli linguistici (LLM) sono noti per essere costosi, lenti e consumatori di energia, specialmente quando il contesto diventa più complesso. Tuttavia, il startup statunitense Subquadratic afferma di aver risolto questi problemi in un colpo solo, proponendo un modello di intelligenza artificiale che potrebbe essere fino a 56 volte più veloce rispetto a quelli esistenti. Gli esperti rimangono però scettici.
Token e Rechenaufwand: Come funzionano i grandi modelli linguistici
I grandi modelli linguistici, noti per il loro enorme numero di parametri e capacità di elaborare testi, si basano su token che vengono processati in sequenza. Ogni token richiede calcoli significativi e l'aumento del contesto porta a un aumento esponenziale dei costi. Questo fattore ha ostacolato il progresso, ma Subquadratic dice di aver superato l’ostacolo matematico che ha reso questi modelli inefficaci per anni.
Abitudini di consumare in modo sparsì
Secondo Subquadratic, il loro modello SubQ utilizza un approccio innovativo chiamato „Sparse Attention“. Questo approccio permette al modello di prestare attenzione solo a quei token ritenuti cruciali per comprenderne il contesto, riducendo così la quantità di dati da controllare e la conseguente richiesta di calcolo. Il risultato? Maggiore efficienza energetica e velocità.
„Quale token ha valore?“
Sebbene il concetto di „Sparse Attention“ sembri logico e non necessiti di ulteriori spiegazioni complesse, il dettaglio cruciale sta nella capacità di individuare i token rilevanti. Il CEO di Subquadratic, in un’intervista esclusiva, spiega che „questo è il segreto della nostra tecnologia“. La capacità di discernere rapidamente i token importanti potrebbe spiegare la differenza tra le performance di SubQ e quelle modelli linguistici tradizionali.
Test per valutarne la velocità e le performance
Per sostenere le proprie affermazioni, Subquadratic ha iniziato a pubblicare i risultati dei test indipendenti del suo modello. I dati indicano che SubQ è in grado non solo di gestire contesti molto grandi, ma anche di eseguire compiti complessi come il programmazione e l’analisi di centinaia di documenti con una velocità fino a dodici volte superiore a quella dei rivali. Sembra inoltre che le performance siano paragonabili a quelle dei grandi modelli di Google Deepmind, OpenAI e Anthropic.
Tuttavia, l'azienda ha ammesso di non aver rilasciato SubQ in maniera accessibile al pubblico per consentire test indipendenti. Questo aspetto ha sollevato ulteriori perplessità tra gli esperti. Dan McAteer, un ingegnere esperto di intelligenza artificiale, ha commentato: „SubQ è o il più grande progresso da quando è stato sviluppato il Transformer, o è una frode simile a quella di Theranos.“
Theranos e le promesse altrui
Per spiegare la potenziale portata delle asserzioni di Subquadratic, McAteer fa riferimento a Theranos, azienda fondata da Elizabeth Holmes. Theranos aveva affermato di aver creato un dispositivo medico per analisi del sangue rivoluzionario e di precisione elevata, ma era una completa burla. Holmes è oggi in carcere per attività fraudolente. Con questi paralleli, la comunita scientifica ha espresso una notevole cauzione verso qualsiasi affermazione non documentata in maniera chiara.
Il futuro dell’intelligenza artificiale
Sembrerebbe che Subquadratic abbia ottenuto risultati significativi, come mostrato da risultati iniziali e test indipendenti. Però, finché il modello sarà accessibile a tutti ed esposto a una valutazione dettagliata, il dibattito resterà acceso. Nonostante le promesse ambiziose, gli scetticismi persistono. La velocità, la riduzione dei costi e il risparmio energetico rimangono obiettivi fondamentali che spingono il campo dell’intelligenza artificiale verso nuovi orizzonti.