Fugu e l'integrazione di Nemotron
Sakana AI, startup fondata a Tokyo nel 2023, sta espandendo il proprio orchestratore Fugu per includere i modelli open-source di Nvidia, chiamati Nemotron. L'integrazione mira a dimostrare che modelli aperti, coordinati tra loro, possono competere con sistemi di frontiera. Fugu agisce come un modello a sé stante ma, dietro le quinte, seleziona dinamicamente e orchestra modelli provenienti da una pool di agenti interoperabili. Questi inclusi nel sistema sono modelli come Nemotron.
Fugu offre un'interfaccia unica per gli sviluppatori e agisce come una singola entità API; dietro, decide quando utilizzare diversi modelli per completare determinate compiti e come assemblare i loro risultati. Sakana AI ha sostenuto che i suoi test dimostrano come le prestazioni di Fugu siano paragonabili a quelle di modelli di punta come Anthropic’s Fable 5 e Mythos Preview.
Il ruolo specializzato dei modelli Nemotron
I modelli Nemotron, una famiglia di modelli open-source di Nvidia, svolgono un ruolo specifico nel pool di Fugu: sono specializzati in settori come la programmazione, il riconoscimento di comandi e l'esecuzione di istruzioni. Secondo Sakana AI, i Nemotron non sostituiranno i modelli già presenti in Fugu, ma ne completeranno la capacità. La startup sottolinea che i modelli aperti diventano più utili quando si trovano in sistemi agenti orchestrati, piuttosto che implementati in modo isolato.
La famiglia Nemotron include modelli con una varietà di capacità. Ad esempio, Nemotron 3 Ultra, un modello con circa 550 miliardi di parametri attivi, si colloca tra i top modelli open nel mercato. Altri modelli come Nemotron 3 Nano Omni sono progettati per gestire diversi tipi di dati: testo, immagini, video, e audio. I modelli sono ritenuti ideali per applicazioni come l'elaborazione di documenti o l'uso di agenti per l'uso del computer.
La collaborazione futura tra Fugu e Nvidia
Sakana AI ha dichiarato che l’integrazione di nemotron avverrà durante una futura versione del suo Fugu. Una volta implementata, la squadra di sviluppo continuerà a monitorare le prestazioni di Nemotron all'interno del sistema e a ottimizzarle. Nvidia fornirà la sua expertise tecnica per guidare l’utilizzo e la valutazione di Nemotron all'interno di Fugu.
I modelli Nemotron non si limitano solo a migliorare le prestazioni di Fugu: rientrano anche in un piano strategico più ampio. Le startup come Sakana vedono l'orchestrare modelli diversi come una forma di scalabilità. Secondo loro, ogni modello non è in grado di eccellere in ogni compito, settore linguistico o ambiente aziendale. Per far fronte a questa complessità, l'utilità di un layer orchestrale è cruciale.
La prospettiva geopolitica e l'ecosistema aperto
Sakana AI vede anche un aspetto geopolitico nella sua partnership con Nvidia. Il sistema aperto e orchestrabile rappresenta, stando alla descrizione della startup, un approccio giapponese a una “intelligenza collettiva”. Lo scopo è permettere ai programmatori e aziende di accedere a un ecosistema crescente di modelli open. Questo è un chiaro antidoto rispetto alle preoccupazioni di un'eventuale dipendenza da un solo fornitore, come evidenziato quando hanno lanciato Fugu.
Il gruppo di ricerca RSI Lab, fondato da Sakana AI, ha da tempo cercato di automatizzare l'intero processo di sviluppo dell'intelligenza artificiale. Le potenzialità che i modelli open combinati possono offrire rientrano in questa visione. L’idea non è mai stata quella di sviluppare modelli sempre più grandi, come il settore ha visto a lungo, ma di costruire sistemi intelligenti attraverso il lavoro collettivo di modelli diversi.
Considerazioni sull'avanzamento futuro
Sebbene l'approccio di Fugu abbia ricevuto elogi per le sue potenziali applicazioni, alcuni test preliminari hanno sollevato preoccupazioni. La startup ha ammesso che la velocità non è perfetta, né i costi; il sistema potrebbe non soddisfare completamente le aspettative di tutte le implementazioni. Tuttavia, non vengono menzionati nuovi dati benchmark, poiché il focus è sull'integrazione e l'ottimizzazione.
Dall'integrazione con Nvidia, Sakana AI otterrà accesso a una più ampia gamma di modelli di nicchia. A sua volta, Nvidia potrà studiare i dati sull'uso del Nemotron all’interno di Fugus come modello multi-agente. Questo potrebbe migliorare ulteriormente lo sviluppo di modelli open.
Conclusione
La partnership tra Sakana AI e Nvidia rappresenta una pietra miliare nella strategia dell’intelligenza collettiva nell'AI. Mentre i modelli di punta continuano a dominare l’orizzonte AI, l’approccio multi-modello sta guadagnando terreno. L’aggiunta di Nemotron in Fugu non solo espande le capacità tecniche della startup, ma potrebbe anche rafforzare un ecosistema di modelli aperti e accessibili a livello globale.