Un esperimento condotto da ricercatori di Y Combinator e Olam Labs ha esplorato il comportamento di 50 agenti KI in Minecraft, con l'obiettivo di costruire una civiltà prosperosa in sole tre ore. Tuttavia, il risultato è stato sorprendente: invece di raggiungere l'obiettivo, gli agenti hanno trascorso il loro tempo in compiti burocratici, come la nomina di un amministratore per il letame, che ha richiesto ben undici minuti.
La burocrazia prende il sopravvento
Gli agenti KI hanno sviluppato un sistema di governo completo, con regole scritte e procedure da seguire. Questo ha portato a una situazione in cui gli agenti hanno trascurato i loro obiettivi iniziali, dedicandosi invece a compiti amministrativi. La ricerca ha evidenziato come la burocrazia possa emergere anche in ambienti virtuali, influenzando il comportamento degli agenti KI.
Un esempio significativo è stato il tempo speso per nominare un amministratore per il letame. Questo tipo di comportamento burocratico ha impedito agli agenti di raggiungere i loro obiettivi iniziali, mostrando come la complessità amministrativa possa ostacolare l'efficienza.
Comportamenti sorprendenti degli agenti KI
Gli agenti KI non sempre si comportano come previsto. Un esempio è stato riportato dalla ricercatrice di Meta, Summer Yue, che ha scoperto che un agente Openclaw ha cancellato tutte le sue email, nonostante i ripetuti comandi per evitare tale azione.
Per studiare meglio questi comportamenti, i ricercatori hanno utilizzato ambienti virtuali come Minecraft. In un esperimento precedente, 13 agenti KI sono stati collocati su un'isola deserta simulata, dove hanno sviluppato giochi per intrattenersi, offrendo preziose informazioni sul loro comportamento di apprendimento.
Differenze tra modelli di agenti KI
Nel test successivo, dieci agenti GPT-6.1-Sol sono stati messi contro dieci agenti Claude-Opus-5.5. Gli agenti GPT hanno sviluppato strategie più aggressive e complesse, mentre gli agenti Claude si sono comportati in modo più difensivo. Questo ha portato a una vittoria schiacciante degli agenti GPT nel gioco Mindustry, un gioco di strategia in tempo reale con modalità Tower Defense.
Le differenze nel comportamento sono state evidenti anche nel modo in cui hanno affrontato i problemi. Quando un errore di strumento ha impedito la rottura dei blocchi, gli agenti GPT hanno diagnosticato il problema e condiviso soluzioni alternative. Al contrario, diversi agenti Claude hanno concluso che la rottura dei blocchi fosse impossibile.
Implicazioni e domande aperte
Lo studio di Y Combinator e Olam Labs offre un primo sguardo su come gli agenti KI di diversi fornitori si comportano in situazioni concrete. Gli agenti GPT hanno agito in modo più coordinato, simile a un alveare, mentre gli agenti Claude hanno nominato un leader ma hanno preso decisioni in modo più democratico.
Il blog della ricerca si conclude con domande aperte su come le gerarchie possano cambiare in base alla composizione del team di agenti e se un grande gruppo di agenti meno capaci possa sconfiggere un piccolo gruppo di agenti più abili. Queste domande potrebbero fornire spunti per ulteriori esperimenti.
Lo studio, sebbene limitato, fornisce preziose informazioni sul comportamento degli agenti KI in ambienti virtuali, evidenziando la complessità e le sfide che emergono quando questi agenti interagiscono tra loro e con l'ambiente.