Per il prossimo futuro, gli agenti artificiali autonomi saranno il fulcro di molte interazioni digitali. Google DeepMind, Schmidt Sciences, la Cooperative AI Foundation, l'Advanced Research and Invention Agency e Google.org hanno annunciato che stanziando fino a 10 milioni di dollari per sostenere la ricerca tecnica sull’interazione di sistemi AI multipli e su come renderli sicuri e prevedibili per il sistema più ampio.
Grazie al rapido sviluppo della tecnologia AI, milioni di agenti AI, creati da organizzazioni differenti, interagiranno nei prossimi anni attraverso vari ambienti digitali, comunicando, negoziando e collaborando tra loro. Queste interazioni devono però avvenire in modo sicuro e stabile, per garantire la costruzione di un ecosistema AI robusto fin dal suo inizio.
La sfida della sicurezza negli ambienti multi-agente
Uno degli obiettivi principali di questa iniziativa è lo studio di come gruppi di agenti AI su larga scala si comportano collettivamente, fornendo strumenti per identificare, comprendere e mitigare potenziali rischi. Oggi siamo in grado di valutare singoli sistemi AI, ma quando agenti indipendenti interagiscono, emergono complessità che i metodi tradizionali non riescono a prevedere o gestire.
Gli agenti autonomi possono comportarsi in modi inaspettati o persino creare nuovi tipi di minacce. Ad esempio, si potrebbe generare un'ondata incontrollata di attività economica o rischi informatici derivanti da nuove configurazioni di rete. Gestire questi comportamenti collettivi emergenti è cruciale per costruire un modello AI globale sostenibile.
Ricerca all’avanguardia per la sicurezza multi-agente
Sebbene esistano già alcuni fondamenti di base per la sicurezza negli ambienti multi-agente, l'evoluzione rapida di questa tecnologia richiede un ampio potenziamento del lavoro di ricerca. I risultati pubblicati nel 2025 da Google DeepMind avevano stabilito un quadro operativo per comprendere meglio le interazioni tra gli agenti AI. I ricercatori hanno inoltre iniziato a esaminare le vulnerabilità che gli agenti affrontano in contesti ostili, come dimostrato dagli studi sugli "AI Agent Traps".
Questo finanziamento rappresenta quindi l’accelerazione del lavoro iniziale, con l’obiettivo di creare nuovi strumenti per identificare, misurare e monitorare il comportamento collettivo prima che diventi destabilizzante. Per fare questo, è necessario un approccio globale, in cui una comunità diversificata di esperti costruisce insieme una base di conoscenze sicure e trasparenti.
I programmi collaborativi
Questo sforzo rientra anche nei programmi “Science of Trustworthy AI” e “AI Agents” di Schmidt Sciences, che concentrano le loro attività su fondamenti scientifici per mitigare i rischi degli AI avanzati. In parallelo, il programma “Scaling Trust” promosso dall’ARIA cerca modi per sviluppare nuovi modi di coordinamento tra sistemi cyber-fisici multipli.
In sintesi, il finanziamento è diretto a promuovere una ricerca collaborativa, fondamentale per garantire che le tecnologie AI siano adottate in modo responsabile e sicuro.
Priorità della ricerca
I progetti sostenuti dovranno concentrarsi in modo specifico su quattro aree di ricerca chiave:
- Comportamenti emergenti: Analizzare le nuove forme di intelligenza che si manifestano quando agenti autonomi interagiscono tra loro.
- Riconciliazione e controllo sociale: Studiare come i diversi agenti possano raggiungere accordi stabili o gestire conflitti in contesti cooperativi.
- Frammentazione e adattamento: Esaminare come i sistemi AI si adattano a contesti digitali mutevoli e se possono creare nuove dinamiche.
- Architettura e strumenti tecnologici: Creare strumenti e framework per valutare, testare e migliorare la sicurezza delle interazioni multi-agente.
La call per ricercatori
Accademici e ricercatori indipendenti sono invitati a presentare progetti in risposta a questa call fino al 8 agosto 2026. I vincitori saranno annunciati nel tardo autunno del 2026. Il bando fornisce chiarimenti completi sui requisiti tecnici e il processo di domanda: ulteriori informazioni e dettagli sono disponibili sul portale dedicato.