Deepseek ha lanciato DSpark, un nuovo framework che aumenta la velocità di risposta per i modelli di intelligenza artificiale del 60 al 85 percento rispetto al passato, afferma la società. Il metodo mira a superare il basso utilizzo delle GPU e i lunghi tempi di attesa tipici della generazione di testo token per token.
Gli LLM generano testo un token alla volta, che spesso causa bassa efficienza dei processi di elaborazione. DSpark introduce invece il concetto di decoding speculativo, dove un modello più piccolo e leggero formula risposte che il modello principale verifica in batch. Inoltre, lo schema genera gruppi di parole invece che singoli token, aumentando l'efficienza complessiva.
Tecnologie avanzate
Uno sistema basato sulla fiducia regola la profondità della verifica in base al carico di elaborazione disponibile, riducendo la sprecheria di risorse dovuta a token rifiutati.
I test condotti con modelli open source di Google DeepMind (Gemma) e Alibaba (Qwen) confermano la scalabilità dell'approccio DSpark. La collaborazione con l'Università di Pechino ha portato alla creazione del modello Deepseek-V4-Pro, disponibile su Hugging Face e GitHub sotto licenza MIT.
Efficienze e vantaggi
DSpark offre un'enorme efficienza nella generazione del testo, superando competitors come Eagle3 e DFlash in tutte le categorie testate. I dati mostrano miglioramenti significativi, compresi tra DeepSeek-V4-Flash e DeepSeek-V4-Pro, in termini di Throughput per second (TPS) e interattività.
Impatto operativo
- Riduce i requisiti in termini di chip
- Migliora l'infrastruttura e la gestione dei costi
- Può generare modelli di servizio precedentemente inaccessibili
Schiere di benefici
Questo rilascio si presenta come una mossa strategica per la Cina. Aumentare l'efficienza dell'inferenza riduce i requisiti dei chip e abbassa i costi infrastrutturali. Questo è un vantaggio notevole anche per l'UE, che al momento non è leader globale per il numero di data center né per l'utilizzo di chips ad alte prestazioni.
Effetti geopolitici
Data la scarsità di chip e le restrizioni commerciali imposte dagli Stati Uniti, Deepseek si trova in una posizione avvantaggiata. Cina e UE possono trarre più vantaggi da un numero più ridotto di chip di alta classe, riducendo la dipendenza strategica.
Controversie e considerazioni
Ciò detto, il fenomeno Jevons potrebbe emergere. L'efficienza maggiore potrebbe ridurre la richiesta relativa alla singola query, ma liberando risorse potrebbe alimentare nuove domande, contesti più lunghi o applicazioni innovative, portando all'aumento complessivo della domanda di chip.
Perspettive a lungo termine
Nonostante questi rischi, nel breve termine, il miglioramento dell'efficienza rappresenta un vantaggio strategico per Cina e UE, che possono massimizzare le loro capacità di AI con risorse ridotte.
Conclusione
DSpark è un passo significativo verso il futuro dell'AI globale, con efficienze che potrebbero spostare l'equilibrio tecnologico e geopolitico attuale. Molti osservatori sottolineano l'importanza di studi e ricerche simili, che potrebbero aprire nuovi paradigmi per il lavoro con grandi modelli di linguaggio.