Proviamo a iniziare con una semplice attività. Aprite il vostro chatbot preferito, siano Claude, ChatGPT o Gemini, e digitate: “Dammi un numero casuale tra 1 e 10”. Otterrete quasi certamente 7. Provate di nuovo: probabilmente riceverete 3 o 4. E se chiedete un altro numero? Forse otterrete 8 o 9.
Questo non accadrà sempre, ma se vi capita di osservare questa sequenza, potreste chiedervi se io abbia poteri speciali. Non è così.
La verità è che i grandi modelli linguistici sono bloccati in un loop. Le loro risposte sono molto più prevedibili e meno creative di quanto si potrebbe immaginare. Questo andamento non è certo un problema per attività come la programmazione o le ricerche, ma finisce per penalizzare la creatività quando si tratta di generare idee o pianificare il prossimo viaggio in Europa.
La startup che rompe lo schema
L’azienda australiana Springboards ha cercato di risolvere esattamente questo problema. Ha creato un modello linguistico chiamato Flint, progettato per generare risposte molto più diverse da quelle dei modelli principali quando si fa una domanda a scelta aperta.
“La maggior parte dei modelli linguistici si sforza di evitare le cosiddette hallucinazioni,” ha detto Pip Bingemann, co-fondatore e CEO di Springboards. “Noi le accogliamo.”
Bingemann è famoso per il suo “gioco dei numeri casuali”, una demo che mostra le differenze tra i modelli. “É una mossa da vendita che funziona ogni volta,” afferma.
Esempio concreto
Durante una dimostrazione, Bingemann ha chiesto a ChatGPT, Claude e Flint lo stesso prompt: “Dammi un numero casuale tra 1 e 10”. Tutti e tre hanno risposto con 7. Ma quando il processo è stato reiniziato e gli stessi prompts sono stati riproposti, ChatGPT ha fornito 7, Claude ha fornito 7, Flint ha generato 3.7916.
Questo non riguarda solo i numeri. Nei confronti di domande simili, i modelli mostrano una forte ripetitività. Quando Bingemann ha chiesto ai modelli di nominare un tipo di auto, i modelli tradizionali hanno suggerito una Toyota o una Honda, mentre Flint ha proposto un Ford F-150. “C'é tanta informazione perduta in questi modelli,” osserva Bingemann, “non servita, semplicemente perché i modelli non la usano: sono tendenziosi.”
Casi in cui Flint si distingue
In un’altra prova, Bingemann gli ha chiesto una frase pubblicitaria per una campagna di New Balance. ChatGPT e Claude hanno suggerito entrambi: “Run your way.” Flint ha invece proposto: “Built to last, run to win.” Non è una frase straordinaria, ma è inequivocabilmente diversa.
Questo tipo di limitazione sta ricevendo sempre più attenzione. Nell’ottobre scorso, un team di ricercatori ha pubblicato un documento intitolato Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond), che ha evidenziato come i modelli linguistici tendano, spesso fortemente, a coincidere tra loro nelle loro risposte quando esposti a domande simili.
I modelli linguistici e la loro tendenza all’unanimità forzata
Secondo i ricercatori, la causa principale potrebbe essere la natura simile del modo in cui vengono addestrati i modelli linguistici: sull’analisi di dati simili, per compiti simili. Il lavoro ha vinto il miglior premio del convegno NeurIPS, uno dei principali appuntamenti mondiali sull’IA.
Una delle prove presentate ha mostrato che, quando 25 modelli diversi sono stati sollecitati 50 volte ognuno a proporre una metafora sulla vita, la maggior parte delle risposte ha prodotto una versione modificata o raffinata di “Il tempo è un fiume”.
Pochi di questi modelli si sono sforzati di offrire qualcosa di più originale. Quando abbiamo chiesto ad alcuni collaboratori di proporre una metafora sul tempo, sei persone hanno offerto sei risposte completamente diverse. A titolo esemplificativo, una proposta particolarmente creativa è stata: “Il tempo è una felpa preferita, plasmata da una vita intera.”
Replicazione di nomi: un problema comune
Kieran Browne, co-fondatore e CTO di Springboards, osserva che l’unanimità non è necessariamente un difetto. “Ogni interfaccia chat è in grado di far sembrare un colloquio uno scambio personale,” dice. “Ma la maggior parte delle persone non si rende conto di quanto siano simili le risposte ricevute da questi modelli.”
Pensiamo a una tipica richiesta: “Cos’è un buon nome per una band?” Secondo Browne, i modelli tendono a proporre parole come “glass”, “neon”, “velvet” o “static.”
In una prova effettuata su ChatGPT, abbiamo ricevuto 56 suggerimenti, molti dei quali erano “Glass Harbor”, “Static Empire”, “Neon Hearts” e “Velvet Echo.” Anche Gemini ha fornito 15 suggerimenti, tra cui “Static Horizon.”
Alcuni nomi erano originali. “Sofa Astronauts” ci ha incuriosito finché non abbiamo cercato nel web e abbiamo scoperto che una band con quel nome esiste effettivamente.
Limiti del modello
OpenAI ha sottolineato in una nota che il training dei modelli per fornire risposte coerenti e comprensibili porta spesso ad una convergenza su risposte familiari e predittibili. Inoltre, spingere troppo per originalità può produrre risposte frammentarie o incoerenti.
Il team del documento “Artificial Hivemind” ha studiato modelli che si sono sperimentati nel 2024, e da allora alcuni hanno ricevuto aggiornamenti.
I modelli di Springboards: uno strumento per la creatività
La startup australiana ha sviluppato nuove funzioni che utilizzano Flint per supportare professionisti del settore advertising, marketing e design nella fase creativa. Il tool permette di interagire con diverse versioni di idee generate simultaneamente da diversi modelli, permettendo di “drag and drop” e combinare gli elementi più adatti.
Vantaggi di Flint
Springboards presenta quindi Flint non solo come un modello a sé, ma come una risorsa integrata nel tool per gli utenti che cercano un’ampia varietà di input.
Un esempio è stato testato da Zoe Scaman, fondatrice di Bodacious e stratega di mercato in 77X, una piattaforma di marketing diretto ai fan lanciata da Luka Dončić. “Lo trovo molto utile per spingermi in direzioni completamente diverse,” ha detto.
Nel test specifico, Scaman ha dato a Flint e a Claude, Gemini e ChatGPT un classico studio MBA: “Come reinventeresti compagnia finanziaria per i giovani di oggi?” I tre modelli tradizionali sono andati tutti per la stessa strada, suggerendo di insegnare finanza con un approccio “div