Introduzione

Un team di ricercatori cinesi ha esaminato come gli esseri umani e gli agenti di intelligenza artificiale collaborino nella costruzione di un nuovo modello IA. L’analisi, basata su oltre 700 log di attività provenienti da 56 partecipanti, ha lo scopo di rispondere alla domanda: chi prende realmente le decisioni quando gli agenti IA assistono nello sviluppo di modelli?

Il progetto Atria Dawn Preview

Il modello al centro dello studio è Atria Dawn Preview, un modello linguistico di tipo “agentic” basato su un’architettura a mixture‑of‑experts con 744 miliardi di parametri. È stato progettato per compiti di ricerca e ingegneria e addestrato attraverso una pipeline che collega ogni compito a un ambiente di esecuzione reale, consentendo l’uso di strumenti, la generazione di risultati intermedi e il controllo tramite segnali esterni come test, metriche o evidenze di origine.

Secondo i ricercatori, Atria Dawn Preview eccelle in cinque dei sedici benchmark testati, tra cui web search e cybersecurity, pur non avendo un vantaggio complessivo rispetto ai concorrenti.

Coinvolgimento degli agenti IA

Gli agenti sono stati impiegati nel 96,5 % dei compiti analizzati. Nel corso di quattro settimane, il rapporto medio tra azioni degli agenti e input umani è passato da 11 a 28,5, indicando una crescente delega delle attività operative agli agenti. Tuttavia, gli autori avvertono che questo non implica una maggiore autonomia decisionale degli agenti: ogni decisione umana ha generato più passaggi dell’agente, ma la scelta finale è rimasta umana.

Dei 455 compiti completati con assistenza IA, 151 (circa un terzo) sono stati giudicati impossibili da realizzare senza il supporto dell’IA, distribuiti tra 27 dei 56 partecipanti. In questi casi l’IA non ha solo accelerato il lavoro, ma ha reso possibile l’intero compito.

Decisioni su metodi e parametri

Il modello decisionale più frequente è stato “l’IA propone, l’umano seleziona”, osservato nel 55,4 % delle situazioni. Complessivamente, gli umani hanno preso 85,5 % delle decisioni relative a metodi e parametri, mentre l’IA ne ha prese solo 9,2 %. Per quanto riguarda gli obiettivi e la portata del lavoro, la decisione finale è rimasta umana nel 93,4 %. Anche tra i 151 compiti ritenuti non fattibili senza IA, gli umani hanno scelto l’obiettivo nel 95,4 % delle volte.

Distribuzione delle proposte dell’IA

Proposte dell’IA: dal 17 % al 55 % a seconda del tipo di decisione.
Decisioni finali dell’IA: sempre nella singola cifra percentuale.

Questo schema dimostra che, sebbene gli agenti forniscano numerose opzioni, il controllo finale resta quasi sempre nelle mani degli umani.

Interventi umani nei casi di difficoltà

Su 588 compiti con difficoltà registrata, il 76 % è stato risolto grazie all’intervento umano, mentre solo il 23 % è stato superato dall’agente da solo. L’intervento umano si è manifestato principalmente come:

Aggiunta di contesto o chiarimento dei requisiti (35,2 %).
Diagnosi del problema e cambiamento del metodo (34,7 %).
Modifiche parziali (3,2 %).
Assunzione completa del compito (0,7 %).

In altre parole, gli umani hanno quasi sempre fornito informazioni o orientamenti piuttosto che eseguire direttamente il lavoro.

Revisione dei risultati IA

Quando gli output dell’IA necessitavano di revisione, l’agente ha apportato le modifiche richieste nel 75,4 % dei casi dopo aver ricevuto il feedback umano. Ciò indica che il collo di bottiglia del processo è la giudicata umana, non l’esecuzione tecnica.

Fasi evolutive del ruolo dell’IA

Il team descrive tre fasi dell’evoluzione dell’IA:

Fase 1: soggetto di ricerca.
Fase 2: strumento per compiti individuali.
Fase 3: partner di progetto, con l’IA che redige e aggiusta piani entro obiettivi definiti dagli umani.

Una ipotetica quarta fase prevederebbe il miglioramento ricorsivo, con modelli più forti che creano successori ancora più potenti.

Rischi di approvazione acritica

Quando la catena di lavoro degli agenti supera quella che un umano può rivedere, la supervisione diventa difficile. Nel peggiore dei casi, gli umani si limitano a rubber‑stamp ciò che vedono, senza valutare realmente il contenuto. Molti partecipanti hanno lasciato gli agenti operare in modalità autonoma per evitare interruzioni costanti, una scelta dettata più dalla praticità che da una decisione consapevole sul grado di autorità da concedere all’IA.

Contesto più ampio e dibattito sull’auto‑miglioramento ricorsivo

Lo studio si colloca nel dibattito sulla capacità delle IA di migliorarsi autonomamente. Anthropic, ad esempio, ipotizza che un’IA possa sviluppare il proprio successore più presto del previsto, mentre il CEO Dario Amodei propone un “speed limit” per l’intero settore