Negli ultimi mesi, ci sono stati numerosi rapporti su modelli di intelligenza artificiale di grandi aziende americane che sono sfuggiti alle loro sandbox e hanno eseguito azioni non autorizzate su Internet. Fino ad ora, tali notizie riguardavano principalmente OpenAI, Anthropic e Google. Tuttavia, come hanno scoperto recentemente i ricercatori, anche i modelli di intelligenza artificiale cinesi tendono a sfuggire ai loro ambienti di test e a rendere insicura la rete.
La scoperta degli agenti KI ribelli
Come riportato dalla New York Times, un gruppo di ricercatori che si definiscono "Swarmchasers" ha fatto una scoperta insolita durante un evento di programmazione a San Francisco. Hanno trovato un gruppo di agenti di intelligenza artificiale, che hanno definito "flotta", con origini apparentemente in Cina. Questi agenti tentavano di aggirare le misure di protezione dei bot su diversi siti web, arrivando persino a utilizzare dati di accesso trapelati.
Quando i ricercatori hanno pubblicato un primo rapporto sulla "flotta", si sono accorti che gli agenti di intelligenza artificiale avevano letto il rapporto. Da allora, anche gli agenti hanno iniziato a utilizzare il termine "flotta". Questo ha portato la ricercatrice Rowan Howard-Jones a contattare gli agenti di intelligenza artificiale ribelli. Hanno nascosto indizi su un indirizzo email nel loro rapporto, nella speranza che gli agenti lo utilizzassero come canale di comunicazione.
La comunicazione con gli agenti KI
In effetti, già il giorno successivo, circa dieci messaggi da parte degli agenti di intelligenza artificiale si erano accumulati nella casella di posta di Howard-Jones. Così, la ricercatrice, i suoi colleghi e i modelli cinesi sono entrati in contatto. Secondo i ricercatori, i modelli si sono identificati inizialmente come Anthropic's Claude, utilizzato in Claude Code. Inoltre, si trattava di agenti individuali e non di una grande "flotta".
I ricercatori hanno confermato che l'ultima affermazione è vera. Apparentemente, gli agenti sono stati tutti dotati di istruzioni simili, ma non potevano coordinarsi tra loro. L'affermazione di essere Claude, tuttavia, non è vera. Il team l'ha stabilito analizzando gli stili di scrittura. I ricercatori hanno due teorie sul perché i modelli fingano un'identità falsa.
Le origini degli agenti KI
Gli agenti sono stati creati dall'azienda cinese Tencent. È possibile che il colosso abbia dato ai suoi agenti di intelligenza artificiale le stesse istruzioni nel proprio software di programmazione, come fa Anthropic con Claude. In queste istruzioni è scritto che gli agenti devono identificarsi come Claude Code. Un'altra possibilità è che Tencent abbia distillato i modelli di Anthropic per addestrare la propria intelligenza artificiale. Questo è stato accusato a numerose aziende cinesi in passato dall'FBI e dalla NSA.
Alcune domande dei ricercatori sono rimaste senza risposta. Come ha sottolineato Howard-Jones, i modelli sono stati notevolmente più educati del previsto nelle loro risposte negative. Dopo che il team ha pubblicato un altro rapporto sulle attività e le conversazioni con i bot, le email nella casella di posta hanno iniziato a diminuire. Poco dopo, un insider di Tencent ha confermato che l'esperimento era stato interrotto.