Contesto geopolitico e urgenza della questione

Negli ultimi dieci anni, le potenze mondiali hanno intensificato la corsa allo sviluppo di sistemi di intelligenza artificiale (IA) destinati a scopi militari. Gli Stati Uniti hanno investito più di 13 miliardi di dollari nel programma Joint AI Center, mentre la Cina ha dedicato circa 8 miliardi al suo progetto Intelligentized Warfare. Questa competizione ha sollevato timori su una possibile escalation automatizzata, dove decisioni letali potrebbero essere prese senza intervento umano.

Il vertice del 24 settembre, previsto tra Donald Trump e Xi Jinping, rappresenta il primo tentativo concreto di definire regole condivise su un tema che, fino a pochi mesi fa, era rimasto relegato a dichiarazioni generiche.

Le dichiarazioni di “controllo umano” nei documenti ufficiali

Dal 2024, sia Washington che Pechino hanno inserito nei propri documenti di difesa la frase controllo umano. Tuttavia, le interpretazioni differiscono su due assi fondamentali:

Tempistica dell’intervento: gli USA richiedono che un operatore umano approvi ogni decisione di fuoco, anche in scenari ad alta velocità. La Cina, invece, accetta un “controllo umano” limitato a fasi di programmazione e supervisione, ma permette l’autonomia operativa durante l’esecuzione.
Livello di fiducia nella tecnologia: il governo americano richiede prove di affidabilità dimostrate mediante test indipendenti, mentre la Cina si basa su valutazioni interne e su un “framework di fiducia” che può variare a seconda del contesto operativo.

Il canale di dialogo tecnico bilaterale

Dopo sette anni di incontri, il canale che riunisce esperti di IA e sicurezza nazionale di entrambi i Paesi ha proposto la creazione di un gruppo di lavoro sulla terminologia. L’obiettivo è definire in modo univoco cosa significhi “controllo umano”, evitando ambiguità che potrebbero tradursi in incidenti non intenzionali.

Il gruppo sarà composto da:

Rappresentanti del Dipartimento della Difesa statunitense e del Ministero della Difesa cinese.
Esperti indipendenti di etica dell’IA provenienti da università e think‑tank internazionali.
Operatori di sistemi d’arma autonomi attivi in scenari di test.

Proposte operative: hotline, linee rosse e regole di ingaggio

Il dialogo ha inoltre prodotto tre proposte concrete:

Hotline militare permanente: una linea diretta 24/7 per segnalare attività sospette di IA militare, con protocolli di risposta entro 30 minuti.
Linee rosse su specifici scenari di uso dell’IA, come l’impiego di droni armati in spazi aerei civili o l’uso di sistemi di riconoscimento facciale per targeting militare.
Regole di ingaggio che includono una “finestra di intervento umano” di almeno cinque secondi prima di un attacco automatizzato in ambienti ad alta intensità.

Implicazioni per la sicurezza globale

Se le due potenze riusciranno a convergere su una definizione comune, il rischio di una “corsa agli armamenti autonomi” potrebbe essere mitigato. Al contrario, la persistenza di interpretazioni divergenti aumenterebbe la probabilità di incidenti accidentali, come dimostrato dal caso del 2023, quando un drone autonomo cinese ha attraversato lo spazio aereo statunitense senza autorizzazione, provocando una risposta difensiva che rischiò di degenerare in un conflitto aperto.

Organizzazioni internazionali, come l’ONU e la NATO, hanno già espresso preoccupazione: l’agenzia per la sicurezza delle Nazioni Unite ha pubblicato un rapporto che indica che il 68 % degli esperti di difesa ritiene il “controllo umano” insufficiente se non accompagnato da meccanismi di verifica in tempo reale.

Azioni consigliate per i responsabili politici

Per trasformare le proposte in regole operative, i decisori dovrebbero:

Adottare una norma internazionale che definisca i parametri di “controllo umano” basata su benchmark tecnici verificabili.
Implementare test di interoperabilità congiunti, dove sistemi IA USA‑Cina siano sottoposti a scenari di simulazione controllata.
Creare un registro trasparente delle piattaforme IA militari, accessibile a organismi di controllo indipendenti.
Stabilire sanzioni proporzionali per violazioni delle linee rosse, includendo restrizioni sull’export di tecnologie critiche.
Promuovere programmi di formazione per gli operatori di sistemi autonomi, garantendo che la comprensione delle regole di ingaggio sia uniforme a tutti i livelli gerarchici.

Prospettive future e conclusioni

Il vertice del 24 settembre sarà cruciale: le dichiarazioni di principio potranno fungere da base per regole operative, ma la loro efficacia dipenderà dalla capacità dei due Paesi di superare le divergenze terminologiche e di instaurare meccanismi di verifica credibili. Una cooperazione concreta su hotline, linee rosse e gruppi di lavoro sulla terminologia potrebbe diventare un modello replicabile anche per altre nazioni emergenti nel campo dell’IA militare.

In ultima analisi, mantenere il controllo umano non è solo una questione di parole, ma di strutture di governance, trasparenza tecnologica e responsabilità condivisa. Solo attraverso un approccio multilaterale e basato su dati verificabili si potrà evitare che l’IA militare sfugga al controllo umano e minacci la stabilità internazionale.