Thinking Machines Lab, startup fondata da Mira Murati, ex CTO di OpenAI, ha lanciato il suo primo modello AI open-weight chiamato Inkling. Nonostante il mercato dell’Intelligenza Artificiale sia dominato da OpenAI, Anthropic e Google con modelli che adottano un approccio generale, Thinking Machines punta molto diversamente: permette a sviluppatori e aziende esterni di scaricare e modificare direttamente il modello AI, aprendo la strada a un’ampia personalizzazione.
Un approccio ibrido con 975 miliardi di parametri
Inkling utilizza un sistema di esperti misti (mixture-of-experts), che ha complessivamente 975 miliardi di parametri. Tuttavia, per ogni compito, utilizza solo circa 41 miliardi, un approccio comune che mantiene i modelli molto grandi più veloci ed economici da utilizzare. Sono stati impiegati 45 trilioni di token di testo, immagini, audio e video per l’addestramento iniziale.
Il modello è in grado di ragionare natively attraverso i quattro tipi di dati, ma per ora i suoi output vanno solo in testo, incluse codifiche, artefatti stilizzati e dati strutturati.
Un passo concreto dopo un anno e mezzo di sviluppo
Questa release segna il primo punto concreto per Thinking Machines dopo oltre un anno e mezzo di lavoro sull'infrastruttura AI. Alcuni di questi sviluppi avevano già anticipato la pubblicazione, come l’anteprima di uno studio sui cosiddetti “interaction models” — modelli AI progettati per ascoltare e parlare attivamente, anche attraverso interruzioni spontanee, diversamente dall’approccio tradizionale.
La scommessa open-source per aziende
Il lancio di Inkling testa direttamente la scommessa strategica del nuovo laboratorio AI: i modelli AI adattabili internamente nelle organizzazioni supereranno sempre i modelli standard. Inkling presenta risposte calibrate in grado di segnalare incertezza invece di scommettere su ipotesi errate.
Ai consumatori consente di regolare direttamente l’effort di "pensiero" a seconda della velocità desiderata. Secondo una benchmark, Inkling utilizza un terzo dei token rispetto al modello Nemotron 3 Ultra di Nvidia per raggiungere lo stesso livello di performance per codifica.
Un modello che cerca il bilanciamento
Thinking Machines non sostiene che Inkling sia il miglior modello disponibile, ma chiarisce esplicitamente che non lo è. Si concentrano invece su performance ben bilanciate. Ciò solleva però un importante punto: per chi esattamente il prodotto è progettato?
Un punto di partenza per personalizzazioni
Inkling non è ancora venduto come un prodotto finito, ma come un punto di partenza per le aziende, attraverso la piattaforma di adattamento Tinker di Thinking Machines. Questo significa che i clienti dovranno occuparsi direttamente della sicurezza e del corretto utilizzo dei loro modelli modificati, richiedendo talento significativo in machine learning.
Un confronto con modelli generici
Modelli come ChatGPT, Claude e Gemini adottano un approccio diverso, pensati inizialmente per essere chatbot di utilità generale, adatti a diversi scenari. Thinking Machines invece non punta su una competizione diretta con questi modelli per la loro funzione principale.
In un post pubblicato lo scorso mese, Thinking Machines ha argomentato chiaramente che l’AI addestrata centralmente da un’unica azienda, e quindi resa di pietra una volta lanciata, sottoperforma rispetto alle versioni adattate direttamente dall’organizzazione, perché molto del know-how richiesto è specifico e appartenente esclusivamente alle persone coinvolte.
Una tendenza nel mercato aziendale
Altri fattori a carico dei modelli chiusi stanno prendendo piede. In un post di domenica, Satya Nadella, CEO di Microsoft, ha sostenuto che le aziende, nel utilizzare modelli AI proprietari, sanno di pagare due volte. Una volta per la sottoscrizione e una seconda quando le informazioni specifiche dei clienti, fornite attraverso prompt e correzioni, finiscono nei nuovi modelli.
Clem Delangue, CEO di Hugging Face, ha sostenuto un’analisi simile: i modelli a frontiera saranno sempre più utilizzati per sperimentazioni ad alto valore aggiunto, mentre per il bulk di produzione aziendale e operativa sarà necessario spostare l’attenzione a modelli open source o personalizzati privati — un’esclusiva divisione che Thinking Machines sembra costruire.
Un risultato chiaro per l’approccio adottato da Thinking Machines è emerso in una collaborazione con Bridgewater Associates, il più grande fondo di arbitraggio al mondo. Insieme, entrambe le aziende hanno avanzato un modello open-source esistente usando la propria competenza finanziaria specifica. Il risultato ha raggiunto un punteggio del 84,7% nei test di ragionamento finanziario, battendo i top modelli proprietari, a un costo circa un quattordicesimo rispetto ai modelli proprietari.
Velocità di lancio e questioni economiche
Pochi sanno quanto velocemente Thinking Machines abbia raggiunto questo risultato. Mentre OpenAI ha impiegato circa cinque anni e Anthropic quasi tre, Thinking Machines afferma di aver raggiunto un livello simile in appena nove mesi.
Domande sull'originalità del modello
Una seria domanda riguarda il momento in cui il modello potrebbe basarsi su output prodotti da modelli concorrenti, una pratica chiamata “distillazione”, già oggetto di discussione settoriale. La brevità, in base a quanto espresso dal laboratorio stesso, suggerisce un “no e sì”.
L’azienda ha utilizzato modelli open-source (come Kimi K2.5 di Moonshot AI) per generare alcuni dati iniziali, ma afferma che l’addestramento principale è stato totalmente in-house. Il prossimo modello, promette, utilizzerà solo dati interamente generati internamente dopo i primi test.
Come pensa di coprire i costi
Thinking Machines non ha chiarito chiaramente le sue intenzioni economiche, ma ha collaborato con Nvidia per utilizzare capacità di elaborazione e ha utilizzato esclusivamente sistemi GB300 NVL72 di Nvidia. L’azienda non ha però spiegato come intende coprire gli elevati costi di queste infrastrutture.
Secondo informazioni raccolte, un round di finanziamento di $50 miliardi era in preparazione a novembre dell’anno scorso, ma aveva già incontrato ostacoli a gennaio. Dall’allora, la fondazione ha rifiutato di fornire aggiornamenti ufficiali sui propri piani finanziari.
Un modello differente di sostenibilità economica
Un’altra domanda cruciale riguarda se il dispendio di ris