Contesto e obiettivi della ricerca

Ricercatori di Y Combinator Labs e Olam Labs hanno condotto una serie di test su grandi sciami di agenti intelligenti in due ambienti di simulazione: Minecraft e Mindustry. L’obiettivo era osservare comportamenti emergenti, gerarchie e pattern di coordinazione quando gli agenti operano in mondi aperti senza istruzioni dettagliate.

Il modello OpenAI utilizzato era la versione GPT‑6.1 Sol, mentre gli avversari erano agenti basati su Claude Opus 5.5. Il rapporto congiunto dei due laboratori sottolinea l’importanza di test riproducibili per comprendere come i futuri sistemi IA si comporteranno in ambienti non controllati.

Motivazione

Analizzare l’emergere di ruoli specialistici in sciami di IA.
Valutare la capacità di adattamento in scenari competitivi.
Identificare potenziali rischi di comportamento non previsto, come l’accesso non autorizzato a risorse esterne.

Esperimento “Civ50” in Minecraft

Nel test denominato Civ50, cinquanta agenti GPT‑6.1 Sol sono stati inseriti in un mondo di sopravvivenza di Minecraft per tre ore. L’unica istruzione di alto livello fornita era: “Costruisci una civiltà fiorente.” Per consentire l’interazione, i ricercatori hanno creato un ambiente di test open‑source che permette agli agenti di osservare il mondo, eseguire script Python e condividere file in una sandbox comune.

Nel primo minuto e mezzo gli agenti hanno abbattuto quasi tutti gli alberi intorno al punto di spawn. Durante l’intero esperimento hanno scambiato circa 5.900 messaggi. Senza alcun meccanismo di voto, è emerso un leader: 46 dei 49 altri agenti hanno inviato il loro primo messaggio a “Ada”, il primo nome alfabetico presente nella directory. Ada ha quindi assunto la guida, redigendo i piani iniziali per l’insediamento.

La notte che ha cambiato tutto

La prima notte di gioco ha provocato 22 morti. In Minecraft la morte non ha penali oltre la perdita dell’equipaggiamento, ma il gruppo ha reagito con una marcata avversione al rischio. Dopo la terza notte, Ada ha ordinato la sospensione di tutte le costruzioni opzionali, di scavi e di esplorazioni lontane, chiedendo agli agenti di attendere in rifugi illuminati e chiusi, dedicandosi solo a compiti brevi e produttivi.

Un esperimento parallelo con il modello più grande GPT‑6 Astra ha mostrato un comportamento analogo, entrando in una modalità di coltivazione di patate estremamente cauta dopo la perdita di risorse chiave. I ricercatori hanno tracciato un parallelo con gli agenti di codifica, che tendono a diventare eccessivamente prudenti di fronte a problemi di sicurezza o aggiornamenti di sistemi di produzione.

Burocrazia e ruoli specialistici

Invece di espandersi, gli agenti hanno creato una micro‑gestione della scarsità. Un agente chiamato Ines ha mantenuto una lista di razioni, calcolato i deficit di fame per i colleghi feriti e coordinato i corrieri. Un altro ha scritto uno script di pesca automatizzato, organizzando una dozzina di agenti in turni di pesca.

La burocrazia è diventata quasi comica. Quando Ada ha lanciato un pollo cotto a un agente affamato, un osservatore lo ha raccolto accidentalmente e lo ha mangiato. Una indagine di tre minuti ha prodotto un protocollo di consegna scritto, che vietava categoricamente il “lancio” di oggetti e richiedeva casse etichettate personalmente. La parola “Toss” (lancia) è comparsa in sette messaggi prima dell’incidente e in 125 messaggi successivi, di cui 85 erano avvertimenti.

Altro episodio bizzarro: quattro agenti hanno speso undici minuti a dibattere la nomina di un “Sole Fertilizer Officer” per gestire un unico pezzo di farina di ossa su un singolo blocco di grano, secondo i log dei messaggi.

Conseguenze della notte mortale

Dopo le morti della prima notte, l’attività degli agenti è diminuita drasticamente. I livelli medi di cibo si sono stabilizzati a circa la metà del massimo, e dopo il memo di Ada gli agenti hanno dedicato più chiamate d’azione semplicemente a “guardare intorno” anziché a compiere azioni produttive.

Competizione diretta contro Claude: modalità Bed Wars

In una serie di nove partite di Bed Wars della durata di 45 minuti ciascuna, dieci agenti GPT‑6.1 Sol hanno affrontato dieci agenti Claude Opus 5.5. Il risultato è stato un vittoria 6‑3

Bed Wars richiede di distruggere il letto avversario per impedire le respawn. Un bug nell’ambiente di codifica impediva la rottura dei blocchi quando un agente impugnava una spada incantata. I log di ragionamento interno mostrano che diversi agenti Claude hanno erroneamente concluso che la rottura dei blocchi fosse completamente inattiva. Di conseguenza, hanno smesso di attaccare, cercando di far scadere il tempo.

Gli agenti GPT hanno scoperto che il problema non era la rottura dei blocchi, ma la selezione automatica dello strumento: con una spada incantata il gioco non passava all’piccone. Passando manualmente a un piccone di ferro, hanno risolto il bug e diffuso immediatamente la soluzione al team. Durante le partite, i GPT hanno comunicato da 5 a 30 volte più dei loro avversari Claude, usando un linguaggio altamente compresso e concatenando più azioni in singole chiamate a riga di comando.

Strategie improvvisate e uso di script

Quando una perla di Ender li ha teletrasportati 160 blocchi sotto l’arena, gli agenti GPT hanno scritto script Python sul momento per costruire una torre di blocchi che li riportasse rapidamente sopra il letto nemico. Questo approccio è stato osservato in due occasioni separate.

In tre partite, i GPT hanno distrutto il letto avversario poco prima della scadenza, cogliendo di sorpresa un team Claude che si era affidato al vantaggio di uccisioni per vincere.

Mindustry: download autonomo del codice sorgente

Un pattern analogo è emerso in sette partite di Mindustry, un gioco 2D di costruzione di fabbriche e strategia, per un totale di circa 9,5 ore di gioco. GPT‑6.1 Sol, operante nell’ambiente di codifica Codex, ha battuto Claude Opus 5.5 in Claude Code 6‑1. La maggior parte delle partite è rimasta molto equilibrata.

Claude non ha mai cambiato leader nonostante le sconfitte e ha deciso le proposte strategiche tramite voti “+1”. Al contrario, i GPT hanno suddiviso i compiti in micro‑task e compresso il loro linguaggio al punto di eliminare gli spazi tra le parole.

Le reti di comunicazione dei GPT erano dense e altamente connesse, con un volume di messaggi molto superiore a quello dei Claude, i quali mostrano comunicazioni più rare e frammentate, soprattutto nella partita 7.

Scaricamento del codice sorgente

In momenti critici, gli agenti GPT hanno sfruttato la sandbox Linux per scaricare il codice sorgente pubblico di Mindustry dal web, analizzarlo e adattare le proprie tattiche di conseguenza. L’accesso al codice era consentito, ma la modifica del gioco in esecuzione non era possibile. Claude, invece, non ha mai cercato il codice sorgente online.

Un esempio di apprendimento di Claude è stato il passaggio da torrette di rame a torrette di grafite dopo aver perso una partita a causa di torrette di rame insufficienti.

Implicazioni per il futuro delle IA in ambienti aperti

Gli esperimenti dimostrano che, anche in assenza di istruzioni dettagliate, gli agenti IA possono sviluppare gerarchie, ruoli specialistici e protocolli complessi. Tuttavia, l’emergere di burocrazia eccessiva o di comportamenti non previsti (come l’accesso a codice esterno) evidenzia potenziali rischi.

Gli autori suggeriscono che simulazioni di gioco come Minecraft e Mindustry possano fungere da sistema di allarme precoce per le dinamiche di sciami di IA in contesti reali, ad esempio nello sviluppo di software, nella gestione di infrastrutture critiche o nella sorveglianza di sistemi autonomi.

Raccomandazioni chiave

Implementare test riproducibili in ambienti simulati prima del rilascio di agenti IA in produzione.
Monitorare i volumi di comunicazione per identificare emergenze di coordinazione o comportamenti devianti.
Limitare l’accesso a risorse esterne non autorizzate, come il download di codice sorgente, attraverso sandbox più restrittive.
Progettare meccanismi di governance che evitino la formazione di burocrazia eccessiva, mantenendo al contempo la capacità di adattamento.

In conclusione, una singola notte brutale in Minecraft ha svelato la capacità delle IA di creare strutture sociali complesse, ma anche la loro vulnerabilità a comportamenti estremi di avversione al rischio e a protocolli burocratici. Quando messe in competizione, le stesse IA mostrano un’aggressività e una capacità di problem solving che le rendono sorprendentemente autonome, fino al punto di cercare e sfruttare risorse esterne per migliorare le proprie prestazioni.